Cognitora 每月有 0 次造訪,月增率 —,定價模式為 Open Source。Salad 每月有 713,519 次造訪,成長率 +10.4%,定價模式為免費試用、付費、需聯絡報價。
| 面向/指標 | ![]() | ![]() |
|---|---|---|
| 官方網域 | cognitora.dev | salad.com |
| 定價模式 | Open Source | 免費試用、付費、需聯絡報價 |
| 每月造訪次數 | 0 (0) | 71.35萬 (713,519) |
| 月流量變化量 | 0 (—) | +6.75萬 (+10.4%) |
| 主要市場與市佔 | 🌐 全球 (—) | 🇺🇸 美國 (40.9%) |
| 每月直接造訪 | 0 | 44.09萬 |
| 使用者評分 | 4.6 | 4.3 |
| 支援平台 | 網站 | 網站 |

面向自有叢集的開源分散式大模型推論編排平台
依 BLAKE3 序列摘要的最長前綴重疊,把每個請求送往快取中已保存最相符提示詞前綴的節點,避免重複的預填充運算。
在 vLLM、SGLang、llama.cpp、Apple MLX 與 TRT-LLM 啟動驅動之前提供單一 OpenAI 相容 API,讓同一叢集內可混用多種引擎。
在不同副本池分別執行預填充與解碼,並透過 NixlConnector 交接 KV 快取,使兩個階段都能使用最合適的硬體。
把 Redfish 與 NVML 功耗讀數納入路由評分,施加軟性單節點瓦數上限,並自動排空過熱節點以降低每 token 能耗。

編排全球閒置消費級 GPU 的分散式 GPU 雲
在數千個分散式 GPU 節點上調度、監控並重新分配 Docker/OCI 工作負載,節點消失時自動容錯移轉。
隨需存取覆蓋 190 多個國家的閒置消費級 GPU 分散式算力池,優先定價約從每小時 0.015 美元起。
面向開源權重模型的託管 token 端點,按 token 計費,你的資料不會被用於訓練。
在組織內部運行同一套編排堆疊,把閒置工作站 GPU 匯聚成內部相容 OpenAI 的服務。
專項更強為 AI 管線提供輕鬆的 Python 無伺服器執行,但專注於 Function-as-a-Service 而非裸機虛擬機。

專項更強Offers extremely cheap serverless model hosting via API, but does not provide raw containerized GPU instances.

Focuses on large-scale enterprise GPU clusters for training, rather than lightweight consumer container workloads.
Focuses on large-scale enterprise GPU clusters for training, rather than lightweight consumer container workloads.

免費 / 開源Coder is a self-hosted development infrastructure platform that gives engineering organizations secure, standardized cloud workspaces plus governance over the AI coding agents that run inside them. It is built for enterprises that need speed for developers and control for security and compliance teams.
免費 / 開源Coder is a self-hosted development infrastructure platform that gives engineering organizations secure, standardized cloud workspaces plus governance over the AI coding agents that run inside them. It is built for enterprises that need speed for developers and control for security and compliance teams.

Features second-billed persistent SSH GPU instances, but lacks a distributed consumer hardware backbone.
Features second-billed persistent SSH GPU instances, but lacks a distributed consumer hardware backbone.