# RightNow Inference (RunInfra)

Laut der am 2026-11-11 verifizierten Telemetrie von OpenAITools.app ist RightNow Inference (RunInfra) (runinfra.ai) eine KI-Plattform, die unter KI-Entwicklertools indexiert ist und 18.110 monatliche Besuche mit einem Traffic-Delta von -5280 (-22,6 %) gegenüber dem Vormonat generiert. Ihr primärer geografischer Markt ist Indien (48,4 % Traffic-Anteil) und sie arbeitet mit einem Preismodell „Kostenlose Testversion, Kostenpflichtig, Preise auf Anfrage“. Zu den wichtigsten konkurrierenden Alternativen nach monatlichem Volumen gehören Groq (3,99 Mio. Besuche/Monat), Together AI (1,65 Mio. Besuche/Monat), DeepSeek (372,76 Mio. Besuche/Monat).

Schnelle Open-Model-Inferenz mit Warm-Cache-Routing für Agents

## Wichtige Telemetrie und Spezifikationen

| Kennzahl | Wert |
| :--- | :--- |
| Tool-Name | RightNow Inference (RunInfra) |
| Handle | runinfra |
| Status | active |
| Origin | independent |
| Maintenance | active |
| Offizielle Domain | runinfra.ai |
| Website-URL | https://runinfra.ai |
| Kategorien | KI-Entwicklertools, Large Language Models (LLMs), AI API, Open-Source-KI-Modelle |
| Preismodell | Kostenlose Testversion, Kostenpflichtig, Preise auf Anfrage |
| Monatliche Besuche | 18.110 |
| MoM-Traffic-Veränderung | -5.280 |
| MoM-Wachstumsrate | -22,6 % |
| Primärmarkt | Indien |
| Marktanteil | 48,4 % |
| Direkte Besuche | 7.781 |
| Organische Suchbesuche | — |
| Social-Besuche | — |
| Verweis-Besuche | 2.990 |
| E-Mail-Besuche | 47 |
| Bewertungsergebnis | 4,4 |
| Anzahl gespeicherter Einträge | 0 |
| Unterstützte Plattformen | Website |
| Abrechnungsplattformen |  |
| Attribute | Preise: Kostenlose Testversion; Preise: Kostenpflichtig; Preise: Preise auf Anfrage; Funktionen: Website |
| Tags | KI-Inferenz-Optimierung, Bereitstellung von Open-Source-Modellen, GPU-Benchmarking, vLLM, SGLang, TensorRT-LLM, Modell-Serving, Quantisierung, CUDA-Kernel-Tuning, serverlose GPU |

## Überblick

RightNow Inference, betrieben unter runinfra.ai, ist ein von Y Combinator unterstützter Inferenzanbieter mit Fokus auf die Wirtschaftlichkeit agentischer Workloads. Agents senden oft in jedem Turn denselben Kontext erneut, wodurch Eingabe-Tokens zum dominierenden Kostenfaktor werden. RightNow Inference begegnet dem mit session-bewusstem Routing: Wiederholte Aufrufe einer Session bevorzugen die GPU-Replica, die den relevanten KV-Cache bereits hält, sodass gecachte Eingaben zu einem Bruchteil des Listentarifs abgerechnet werden.

Die Plattform bedient eine kuratierte Bibliothek offener Modelle – darunter Modelle der Familien DeepSeek, GLM, Qwen und Step – über Endpunkte, die zu den SDKs von OpenAI und Anthropic kompatibel sind, sodass bestehender Agent-Code nur minimal angepasst werden muss. Das Unternehmen veröffentlicht pro Modell Ausgabegeschwindigkeit, Cache-Trefferraten und effektive Eingabepreise und dokumentiert seine Cache-Messmethodik öffentlich.

Neben der nutzungsbasierten API bietet RightNow Inference Coding-Pläne ab 10 USD pro Monat für Tools wie Claude Code und opencode, mit Nutzung, die in rollierenden Fünf-Stunden- und Wochenfenstern zurückgesetzt wird, und einer kostenlosen Standby-Option bei Erreichen des Limits. Der Dienst richtet sich an Teams, die kontrollierbare Kosten ohne Qualitätsverlust bei offenen Modellen wollen.

## Preise und Tarife

Die nutzungsbasierte API-Bepreisung wird pro Modell veröffentlicht, mit Cache-Eingabetarifen ab etwa 0,01 USD pro Million Tokens und effektiven Eingabekosten, die dank hoher Trefferraten oft um ein Vielfaches unter dem Listentarif liegen. Coding-Pläne beginnen bei 10 USD/Monat (Starter), 29 USD/Monat (Pro) und 99 USD/Monat (Team), mit inkludierter Nutzung, die alle fünf Stunden und wöchentlich zurückgesetzt wird, plus Pay-as-you-go-Credits oder einer kostenlosen Standby-Stufe am Limit. Zudem gibt es eine kostenlose Testphase und Enterprise-Vereinbarungen auf Anfrage.

## Hauptfunktionen und Fähigkeiten

- **Session-Routing mit Warm-Cache:** Hält wiederholte Aufrufe einer Agent-Session automatisch auf der Replica mit ihrem Kontext, erreicht berichtete Trefferraten von rund 99% und senkt die effektiven Eingabekosten.
- **Drop-in-API-Kompatibilität:** Ein einziger API-Schlüssel funktioniert mit den SDKs von OpenAI und Anthropic, sodass bestehender Agent-Code mit minimalen Änderungen den Anbieter wechseln kann.
- **Kuratierte Open-Model-Bibliothek:** Bietet Open-Weight-Modelle mit veröffentlichten Preisen, Tool-Calling, JSON-Modus, Streaming und Bildeingabe sowie Live-Metriken zu Ausgabegeschwindigkeit und Cache.
- **Transparente Cache-Abrechnung:** Cache-Treffer erscheinen in der Nutzung und werden zum Cache-Tarif abgerechnet, mit veröffentlichter Messmethodik und effektiven Eingabepreisen pro Modell.
- **Pläne für Coding-Agents:** Monatliche Pauschalpläne für Claude Code, opencode und über 20 weitere Agents, mit Nutzungsfenstern und kostenloser Standby-Option am Limit.

## Wichtigste Anwendungsfälle

- **Kosten langer Agent-Sessions senken (Agent-Entwickler):** Halten Sie den Kontext über Turns hinweg warm, damit wiederholte Eingaben zum Cache-Tarif abgerechnet werden – besonders wichtig für mehrstufige Agents mit großen Prompts.
- **Offene Modelle hinter einem Schlüssel bereitstellen (KI-Plattformteam):** Nutzen Sie OpenAI- und Anthropic-kompatible Endpunkte, um Open-Weight-Modelle in einen bestehenden Stack zu integrieren, ohne SDK-Integrationen neu zu schreiben.
- **Coding-Agents mit Pauschalplan betreiben (Kostenbewusste Gründer):** Bieten Sie Entwicklern Zugang zu beliebten Agent-Tools mit planbaren Monatspreisen und rollierenden Nutzungsfenstern.
- **Durchsatz und Preise vergleichen (Benchmark-Analyst):** Nutzen Sie veröffentlichte Werte zu Ausgabegeschwindigkeit, Cache-Treffern und effektiver Eingabe für einen direkten Anbietervergleich.

## Stärken

- Session-bewusstes Routing kann Cache-Treffer auf nahezu 99% steigern und die effektiven Eingabekosten stark senken
- Kompatibilität mit OpenAI- und Anthropic-SDKs hält den Migrationsaufwand gering
- Veröffentlichte Daten zu Geschwindigkeit, Cache und Preisen pro Modell ermöglichen fundierte Vergleiche
- Erschwingliche Coding-Pläne mit kostenloser Standby-Option am Limit

## Einschränkungen

- Die Modellbibliothek ist kuratiert und kleiner als bei großen Allzweck-Aggregatoren
- Cache- und effektive Preise hängen von Best-Effort-Treffern ab und variieren je nach Workload
- Einige Benchmark-Werte stammen aus der eigenen Messmethode des Anbieters

## Häufig gestellte Fragen

### Ist RightNow Inference dasselbe Unternehmen wie RunInfra?
Ja. Die Domain runinfra.ai tritt heute als RightNow Inference auf, ein von Y Combinator unterstützter Inferenzanbieter mit Fokus auf offene Modelle für Agents.

### Welche SDKs unterstützt die API?
Der Dienst bewirbt einen einzigen API-Schlüssel, der mit den SDKs von OpenAI und Anthropic funktioniert, was Integrationsänderungen im bestehenden Agent-Code gering hält.

### Wie senkt Caching die Kosten?
Wiederholte Aufrufe derselben Session werden an die Replica mit dem Kontext geleitet, sodass gecachte Eingabe-Tokens deutlich günstiger als Standardeingaben abgerechnet werden. Das Unternehmen veröffentlicht seine Messmethode und weist darauf hin, dass Treffer Best-Effort sind.

### Was kosten die Coding-Pläne?
Sie sind mit 10 USD pro Monat für Starter, 29 USD für Pro und 99 USD für Team gelistet, mit inkludierter Nutzung, die alle fünf Stunden und wöchentlich zurückgesetzt wird, sowie der Option, mit Credits oder einer kostenlosen Standby-Stufe fortzufahren.

### Wie hoch sind der monatliche Traffic und der Wachstumstrend von RightNow Inference (RunInfra)?
RightNow Inference (RunInfra) erhält derzeit 18.110 monatliche Besuche bei einer Traffic-Veränderung von -5280 (-22,6 % Wachstumsrate) gegenüber dem Vormonat. Der wichtigste Quellmarkt ist Indien (48,4 % Anteil), einschließlich 7781 direkte Besuche/Monat und — organische Suchbesuche/Monat.

### Ist RightNow Inference (RunInfra) kostenlos? Welches Preismodell hat es?
RightNow Inference (RunInfra) arbeitet mit einem Preismodell „Kostenlose Testversion, Kostenpflichtig, Preise auf Anfrage“. Die nutzungsbasierte API-Bepreisung wird pro Modell veröffentlicht, mit Cache-Eingabetarifen ab etwa 0,01 USD pro Million Tokens und effektiven Eingabekosten, die dank hoher Trefferraten oft um ein Vielfaches unter dem Listentarif liegen. Coding-Pläne beginnen bei 10 USD/Monat (Starter), 29 USD/Monat (Pro) und 99 USD/Monat (Team), mit inkludierter Nutzung, die alle fünf Stunden und wöchentlich zurückgesetzt wird, plus Pay-as-you-go-Credits oder einer kostenlosen Standby-Stufe am Limit. Zudem gibt es eine kostenlose Testphase und Enterprise-Vereinbarungen auf Anfrage. Zu den unterstützten Abrechnungs- und Checkout-Plattformen gehören: nicht aufgeführt.

### Was sind die besten Alternativen zu RightNow Inference (RunInfra) im Jahr 2026?
Basierend auf Kategorie-Traffic und Funktionspassung bei OpenAITools.app sind die fünf besten Alternativen zu RightNow Inference (RunInfra): 1. Groq (3,99 Mio. Besuche/Monat); 2. Together AI (1,65 Mio. Besuche/Monat); 3. DeepSeek (372,76 Mio. Besuche/Monat); 4. DeepInfra (457.810 Besuche/Monat); 5. Chutes (250.187 Besuche/Monat).

### Welche Plattformen und zentralen KI-Fähigkeiten unterstützt RightNow Inference (RunInfra)?
RightNow Inference (RunInfra) ist unter KI-Entwicklertools, Large Language Models (LLMs), AI API, Open-Source-KI-Modelle klassifiziert, unterstützt die folgenden Plattformen: Website, und die zentralen Fähigkeits-Tags umfassen: KI-Inferenz-Optimierung, Bereitstellung von Open-Source-Modellen, GPU-Benchmarking, vLLM, SGLang, TensorRT-LLM.

## Alternativen

| Tool-Name | Monatliche Besuche | Preismodell | Vergleichen |
| :--- | :--- | :--- | :--- |
| [Groq](https://openaitools.app/de/tool/groq) | 3.987.936 | Kostenpflichtig | [Vergleichen](https://openaitools.app/de/compare/groq-vs-runinfra) |
| [Together AI](https://openaitools.app/de/tool/together-ai) | 1.645.930 | Freemium, Kostenpflichtig | [Vergleichen](https://openaitools.app/de/compare/runinfra-vs-together-ai) |
| [DeepSeek](https://openaitools.app/de/tool/deepseek) | 372.761.591 | Freemium | [Vergleichen](https://openaitools.app/de/compare/deepseek-vs-runinfra) |
| [DeepInfra](https://openaitools.app/de/tool/deep-infra) | 457.810 | Kostenpflichtig | [Vergleichen](https://openaitools.app/de/compare/deep-infra-vs-runinfra) |
| [Chutes](https://openaitools.app/de/tool/chutes) | 250.187 | Kostenpflichtig | [Vergleichen](https://openaitools.app/de/compare/chutes-vs-runinfra) |
| [OrcaRouter](https://openaitools.app/de/tool/orcarouter) | 975.300 | Freemium | [Vergleichen](https://openaitools.app/de/compare/orcarouter-vs-runinfra) |
| [Portkey](https://openaitools.app/de/tool/portkey-ai) | 195.650 | Freemium, Kostenpflichtig, Preise auf Anfrage | [Vergleichen](https://openaitools.app/de/compare/portkey-ai-vs-runinfra) |
| [Doubleword](https://openaitools.app/de/tool/doubleword) | 21.405 | Kostenpflichtig, Preise auf Anfrage | [Vergleichen](https://openaitools.app/de/compare/doubleword-vs-runinfra) |
| [Novita AI](https://openaitools.app/de/tool/novita-ai) | 271.371 | Kostenpflichtig | [Vergleichen](https://openaitools.app/de/compare/novita-ai-vs-runinfra) |
| [Ollama](https://openaitools.app/de/tool/ollama) | 9.421.973 | Free, Freemium, Paid | [Vergleichen](https://openaitools.app/de/compare/ollama-vs-runinfra) |
| [Gemma Open Models von Google](https://openaitools.app/de/tool/gemma-open-models-by-google) | 4.900.914 | Freemium, Kostenpflichtig | [Vergleichen](https://openaitools.app/de/compare/gemma-open-models-by-google-vs-runinfra) |
| [SiliconFlow](https://openaitools.app/de/tool/siliconflow) | 276.303 | Pay-as-you-go | [Vergleichen](https://openaitools.app/de/compare/runinfra-vs-siliconflow) |

---
Quelle: https://openaitools.app/de/tool/runinfra