LiteLLM registra 576.967 visitas mensais com crescimento de +7,9% mês a mês e preços Freemium, Preço sob consulta. Promptr registra 0 visitas mensais com crescimento de 0% e preços Pay-as-you-go.
Um gateway de IA de código aberto para mais de 100 provedores de LLM
Comprima prompts de LLM com uma chamada REST e reduza o custo em tokens
| Dimensão / Métrica | | |
|---|---|---|
| Domínio oficial | litellm.ai | promptr.dev |
| Modelo de preços | Freemium, Preço sob consulta | Pay-as-you-go |
| Visitas mensais | 576,97 mil (576.967) | 0 (0) |
| Variação de tráfego mensal | +42,48 mil (+7,9%) | 0 (0%) |
| Mercado principal e participação | 🇺🇸 Estados Unidos (27,9%) | 🌐 Global (—) |
| Visitas diretas / mês | 228,97 mil | 0 |
| Avaliação dos usuários | 4,8 | 3,6 |
| Plataformas suportadas | Site | Site |
Um gateway de IA de código aberto para mais de 100 provedores de LLM
Chame mais de 100 provedores e 1.800 modelos com um único formato de requisição e troque de modelo sem alterar o código da aplicação.
Emita chaves com escopo por time, projeto ou app, defina tetos mensais de gasto e veja quem gera uso e custo.
Distribua tráfego entre implantações, repita em caso de falha e recorra automaticamente a outro modelo quando um provedor cai.
Painéis com volume de requisições, tokens e custo por modelo, com integrações de log e análise.
Comprima prompts de LLM com uma chamada REST e reduza o custo em tokens
Envie seu prompt a um único endpoint REST e receba uma versão mais curta em texto puro, pronta para passar ao modelo.
O fornecedor relata até 40% menos custo de entrada no LLM, com um exemplo que mostra 45% de redução em um prompt de amostra.
Há exemplos prontos para copiar em curl, Python, JavaScript e C#, então a integração leva minutos, não dias.
Envolva seções em tags para excluí-las da compressão ou definir uma proporção específica para aquele bloco.
Oferece um catálogo massivo de modelos hospedados com acesso instantâneo, mas requer a confiança em uma plataforma de terceiros em vez de auto-hospedagem.
Oferece um catálogo massivo de modelos hospedados com acesso instantâneo, mas requer a confiança em uma plataforma de terceiros em vez de auto-hospedagem.
EspecializadoHosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
EspecializadoHosts high-performance open-weight models directly on dedicated serverless infrastructure, but does not route across external providers.
Oferece failover automatizado de modelos e governança de orçamento por meio de um gateway de API, mas com menos customização de código aberto.
Oferece failover automatizado de modelos e governança de orçamento por meio de um gateway de API, mas com menos customização de código aberto.
Grátis / Código abertoUnsloth is an open-source toolkit for running and training large language models locally. It provides faster, more memory-efficient fine-tuning, a local chat and agent environment with browser use, image and video generation, and an OpenAI-compatible API your existing tools can connect to.
Grátis / Código abertoUnsloth is an open-source toolkit for running and training large language models locally. It provides faster, more memory-efficient fine-tuning, a local chat and agent environment with browser use, image and video generation, and an OpenAI-compatible API your existing tools can connect to.
Unified LLM gateway with failover and analytics, but offers less robust open-source developer SDK support.
Unified LLM gateway with failover and analytics, but offers less robust open-source developer SDK support.
Oferece ferramentas avançadas de observabilidade corporativa e guardrails, mas carece da simplicidade do proxy auto-hospedado leve do LiteLLM.
Oferece ferramentas avançadas de observabilidade corporativa e guardrails, mas carece da simplicidade do proxy auto-hospedado leve do LiteLLM.
Oferece roteamento de IA gerenciado com vários provedores e rastreamento de custos, mas carece da flexibilidade nativa de código aberto do LiteLLM.
Grátis / Código abertoReduza o custo de tokens dos seus agentes de IA com compressão recuperável e roteamento inteligente de modelos
Grátis / Código abertoReduza o custo de tokens dos seus agentes de IA com compressão recuperável e roteamento inteligente de modelos
Grátis / Código abertoUma alternativa de código aberto para unificar provedores de LLM, mas apresenta um ecossistema menos extenso de integrações de middleware.
Grátis / Código abertoUma alternativa de código aberto para unificar provedores de LLM, mas apresenta um ecossistema menos extenso de integrações de middleware.
Grátis / Código abertoHoncho is an open-source memory layer for AI agents. It ingests messages, indexes them, and runs background reasoning so agents can recall who a user is, what happened before, and what to do next — across sessions, tools, and machines.
Grátis / Código abertoHoncho is an open-source memory layer for AI agents. It ingests messages, indexes them, and runs background reasoning so agents can recall who a user is, what happened before, and what to do next — across sessions, tools, and machines.
Grátis / Código abertoOpen-source request routing with built-in evaluations, but has a smaller community and fewer pre-built provider connectors.
Grátis / Código abertoOpen-source request routing with built-in evaluations, but has a smaller community and fewer pre-built provider connectors.
EspecializadoDestaca-se no cache de solicitações, monitoramento e análise de custos, mas funciona principalmente como um monitor de proxy em vez de um roteador.
EspecializadoDestaca-se no cache de solicitações, monitoramento e análise de custos, mas funciona principalmente como um monitor de proxy em vez de um roteador.
