
LLM API, 에이전트, MCP 서버를 위한 오픈소스 AI 게이트웨이
| 항목 / 지표 | ![]() | |
|---|---|---|
| 공식 도메인 | flex.ai | higress.ai |
| 가격 모델 | 무료+유료, 유료, 가격 문의 | 가격 문의 |
| 월간 방문 수 | 4.43만 (44,314) | 1.33만 (13,318) |
| 전월 대비 트래픽 변화량 | +6.73천 (+17.9%) | -2.91천 (-17.9%) |
| 주요 시장 및 점유율 | 🇺🇸 미국 (22.5%) | 🇨🇳 중국 (72%) |
| 월 직접 방문 수 | 1.64만 | 5.14천 |
| 사용자 평점 | 4.2 | 4.6 |
| 지원 플랫폼 | 웹사이트 | 웹사이트 |
오픈 모델부터 거버넌스된 에이전트까지, AI 구축·운영·확장을 한 번에
하나의 API 키와 OpenAI SDK 대체로 텍스트, 추론, 코딩, 비전, 임베딩, 음성 인식, 음성 합성, 이미지·비디오 생성까지 30개 이상의 오픈 모델에 접근합니다.
기업 컨텍스트와 도구에 연결하고 범위 지정 메모리, 도구 권한, 사람 승인, 감사 가능한 의사결정 기록을 갖춘 에이전트를 운영합니다.
공유 서버리스로 부족할 때 NVIDIA, AMD, Tenstorrent 용량을 예약해 VM, 파인튜닝, 프로덕션 추론에 사용할 수 있습니다.
AI Factory는 VPC, 온프레미스, 에어갭 배포를 지원하며 제로 데이터 보존, EU 리전, SOC 2 Type II와 GDPR 준수를 제공합니다.

LLM API, 에이전트, MCP 서버를 위한 오픈소스 AI 게이트웨이
통합 프로토콜 변환으로 100개 이상 모델 API에 요청을 라우팅하고, 모델 단위 폴백과 유연한 백엔드 스케줄링을 지원합니다.
기존 서비스를 빠르게 MCP 서버로 노출하고 프로토콜을 프록시·변환하며, 도구 호출에 인증, 트래픽 스케줄링, 파라미터 매핑을 적용합니다.
소비자별 토큰 사용량을 추적하고 초과 시 제한하며, 정확하거나 의미가 유사한 답변을 캐시해 토큰과 지연을 줄입니다.
외부 모델로 보내는 데이터의 프라이버시를 보호하고 사용자에게 반환되는 출력을 필터링하며, 표준 인증과 레이트 리미팅도 제공합니다.


Together AI is the AI Native Cloud — a full-stack platform for running, fine-tuning and training open-source models. It spans serverless inference APIs, dedicated endpoints, GPU clusters, post-training and storage, all backed by in-house systems research.
Together AI is the AI Native Cloud — a full-stack platform for running, fine-tuning and training open-source models. It spans serverless inference APIs, dedicated endpoints, GPU clusters, post-training and storage, all backed by in-house systems research.
무료 / 오픈소스실제 웹 작업을 수행하는 브라우저 에이전트와 스텔스 클라우드 브라우저
Nebius is an AI-focused cloud platform that gives teams non-virtualized NVIDIA GPU clusters, managed MLOps tooling, and a serverless inference layer so they can move from experiment to production on one stack.
MyClaw is a managed cloud hosting service for OpenClaw (formerly Clawdbot) agents. It gives you an always-on private AI agent with a cloud computer, preinstalled automation skills, daily backups and automatic updates, so you get a 24/7 assistant without touching a server.
MyClaw is a managed cloud hosting service for OpenClaw (formerly Clawdbot) agents. It gives you an always-on private AI agent with a cloud computer, preinstalled automation skills, daily backups and automatic updates, so you get a 24/7 assistant without touching a server.
무료 / 오픈소스OrcaRouter is an OpenAI-compatible AI gateway that grades every prompt and routes it to the best-value model, then layers on failover, guardrails, an agent firewall, and compliance tooling for production AI.
무료 / 오픈소스OrcaRouter is an OpenAI-compatible AI gateway that grades every prompt and routes it to the best-value model, then layers on failover, guardrails, an agent firewall, and compliance tooling for production AI.