RightNow Inference (RunInfra) verzeichnet 18.110 monatliche Besuche mit -22,6 % Wachstum gegenüber dem Vormonat und einem Preismodell „Kostenlose Testversion, Kostenpflichtig, Preise auf Anfrage“. SiliconFlow verzeichnet 276.303 monatliche Besuche mit -10,5 % Wachstum und einem Preismodell „Pay-as-you-go“.
Schnelle Open-Model-Inferenz mit Warm-Cache-Routing für Agents
Eine API für schnelle, kostenkalkulierbare Inferenz von LLMs und multimodalen Modellen
| Dimension / Kennzahl | | |
|---|---|---|
| Offizielle Domain | runinfra.ai | siliconflow.com |
| Preismodell | Kostenlose Testversion, Kostenpflichtig, Preise auf Anfrage | Pay-as-you-go |
| Monatliche Besuche | 18.110 (18.110) | 276.303 (276.303) |
| MoM-Traffic-Delta | -5280 (-22,6 %) | -32.455 (-10,5 %) |
|---|
| Primärmarkt und Anteil | 🇮🇳 Indien (48,4 %) | 🇺🇸 Vereinigte Staaten (18,8 %) |
|---|
| Direkte Besuche / Monat | 7781 | 95.109 |
|---|
| Nutzerbewertung | 4,4 | 4,6 |
|---|
| Unterstützte Plattformen | Website | Website |
|---|
Schnelle Open-Model-Inferenz mit Warm-Cache-Routing für Agents
Hält wiederholte Aufrufe einer Agent-Session automatisch auf der Replica mit ihrem Kontext, erreicht berichtete Trefferraten von rund 99% und senkt die effektiven Eingabekosten.
Ein einziger API-Schlüssel funktioniert mit den SDKs von OpenAI und Anthropic, sodass bestehender Agent-Code mit minimalen Änderungen den Anbieter wechseln kann.
Bietet Open-Weight-Modelle mit veröffentlichten Preisen, Tool-Calling, JSON-Modus, Streaming und Bildeingabe sowie Live-Metriken zu Ausgabegeschwindigkeit und Cache.
Cache-Treffer erscheinen in der Nutzung und werden zum Cache-Tarif abgerechnet, mit veröffentlichter Messmethodik und effektiven Eingabepreisen pro Modell.
Eine API für schnelle, kostenkalkulierbare Inferenz von LLMs und multimodalen Modellen
Zugriff auf einen breiten Katalog an LLMs und multimodalen Modellen über einen Endpunkt, sodass bestehender SDK-Code meist nur Basis-URL und Schlüssel ändern muss.
Beginnen Sie mit serverlosen Nutzungsaufrufen und wechseln Sie je nach Durchsatz- und Kostenbedarf zu dedizierten Endpunkten, reservierten H100/H200/MI300-GPUs oder elastischem GPU-Deployment (FaaS).
Passen Sie unterstützte Modelle mit eigenen Daten an und stellen Sie die Variante ohne eigenen Trainings-Pipeline-Aufbau auf einem gehosteten Endpunkt bereit.
Transparente Tabellen nennen Input-, gecachte Input- und Output-Preise pro Million Token sowie Bildpreise für generative Modelle, was die Budgetplanung konkret macht.
Kostenlos / Open SourceHocheffiziente Open-Weight- und gehostete Reasoning-KI auf Basis von DeepSeek-V4 und R1 zu extrem niedrigen Token-Kosten.
SpezialisiertEnterprise-Entwicklerplattform und API zum Deployment von GPT-6 Astra, Sol, Luna und multimodalen Echtzeitagenten.
#2
SpezialisiertBietet direkten Zugriff auf Gemini-Modelle mit einer großzügigen kostenlosen Stufe, lässt aber eine größere Vielfalt an Open-Source-Modellen vermissen.
Aggregiert eine größere Auswahl globaler Modelle, hat aber nicht die spezialisierte, hochdurchsatzfähige Open-Weight-Infrastruktur von SiliconFlow.
Kostenlos / Open SourceOffene KI-Modelle lokal oder in der Cloud ausführen und entwickeln
Kostenlos / Open SourceGoogles Familie leichter Open-Weight-KI-Modelle
Ultraschnelle KI-Inferenz auf der LPU- und LPX-Plattform
SpezialisiertSpecializes in high-speed generative media and image models, but offers less comprehensive large language model coverage.
Bietet robustes serverloses Inference für offene Modelle, hat aber ein anderes Preis- und Entwickler-Ökosystem.
OrcaRouter is an OpenAI-compatible AI gateway that grades every prompt and routes it to the best-value model, then layers on failover, guardrails, an agent firewall, and compliance tooling for production AI.
Glänzt beim Ausführen eigener Machine-Learning-Modelle und Fine-Tuning, kann aber bei Standard-LLM-Inferenz teurer sein.
SpezialisiertUnsloth is an open-source toolkit for running and training large language models locally. It provides faster, more memory-efficient fine-tuning, a local chat and agent environment with browser use, image and video generation, and an OpenAI-compatible API your existing tools can connect to.
Kostenlos / Open SourceHocheffiziente Open-Weight- und gehostete Reasoning-KI auf Basis von DeepSeek-V4 und R1 zu extrem niedrigen Token-Kosten.
SpezialisiertEnterprise-Entwicklerplattform und API zum Deployment von GPT-6 Astra, Sol, Luna und multimodalen Echtzeitagenten.
SpezialisiertBietet direkten Zugriff auf Gemini-Modelle mit einer großzügigen kostenlosen Stufe, lässt aber eine größere Vielfalt an Open-Source-Modellen vermissen.
Aggregiert eine größere Auswahl globaler Modelle, hat aber nicht die spezialisierte, hochdurchsatzfähige Open-Weight-Infrastruktur von SiliconFlow.
Kostenlos / Open SourceOffene KI-Modelle lokal oder in der Cloud ausführen und entwickeln
Kostenlos / Open SourceGoogles Familie leichter Open-Weight-KI-Modelle
SpezialisiertSpecializes in high-speed generative media and image models, but offers less comprehensive large language model coverage.
Bietet robustes serverloses Inference für offene Modelle, hat aber ein anderes Preis- und Entwickler-Ökosystem.
OrcaRouter is an OpenAI-compatible AI gateway that grades every prompt and routes it to the best-value model, then layers on failover, guardrails, an agent firewall, and compliance tooling for production AI.
Glänzt beim Ausführen eigener Machine-Learning-Modelle und Fine-Tuning, kann aber bei Standard-LLM-Inferenz teurer sein.
SpezialisiertUnsloth is an open-source toolkit for running and training large language models locally. It provides faster, more memory-efficient fine-tuning, a local chat and agent environment with browser use, image and video generation, and an OpenAI-compatible API your existing tools can connect to.
