# Cognitora vs Salad

Cognitora 每月有 0 次造訪，月增率 —，定價模式為 Open Source。Salad 每月有 713,519 次造訪，成長率 +10.4%，定價模式為免費試用、付費、需聯絡報價。

| 指標 | [Cognitora](https://openaitools.app/tw/tool/cognitora) | [Salad](https://openaitools.app/tw/tool/salad-gpu-cloud) |
| :--- | :--- | :--- |
| 網站網址 | https://cognitora.dev | https://salad.com |
| 分類 | AI Agent, AI API, AI 開發者工具 | AI 開發者工具, AI API, AI 逐字稿, Large Language Models (LLMs) |
| 定價模式 | Open Source | 免費試用、付費、需聯絡報價 |
| 每月造訪次數 | 0 | 713,519 |
| 月成長率 | — | +10.4% |
| 主要市場 | 全球 | 美國 |
| 直接造訪 | 0 | 440,915 |
| 評論分數 | 4.6 | 4.3 |
| 收藏數 | 0 | 1 |
| 支援平台 | 網站 | 網站 |

## Cognitora

Cognitora 是一套以 Rust 撰寫的開源大型語言模型分散式推論編排層。它本身不提供推論引擎，而是把你已經在跑的引擎——vLLM、SGLang、llama.cpp、Apple MLX、TRT-LLM 啟動驅動，以及預覽版自研引擎 cgn-infer——串接成同一個叢集，並以單一 OpenAI 相容閘道對外服務。你可以用它取代 NVIDIA Dynamo 之類的編排器；專案以支援更多引擎、無須 Kubernetes 即可裸機部署、把功耗納入排程，以及不依賴 Python 控制平面作為差異點。

其核心創新是 KV 感知路由。路由器依序列鏈式 BLAKE3 摘要的最長前綴重疊為節點評分，依據 agent 心跳所回報的快取宣告。在實際的 llama.cpp 執行中，該路由器在 p50 僅增加約 0.9–2.0 毫秒。除路由之外，平台也把預填充與解碼拆分到不同副本池（透過 NixlConnector 交接 KV 快取），維護具跨節點 QUIC 抓取的 RAM/SSD 分層 KV 快取，並提供可插拔的卸載後端，包括 nixl、lmcache、hicache 與 kvbm。

整體技術堆疊採模組化：cgn-router 負責路由，cgn-agent 在各節點監管引擎，cgn-kvcached 提供分層快取，cgn-metrics 彙整 Prometheus 指標並蒐集 Redfish/NVML 功耗，cgn-ctl 是管理命令列，另有可選的 Kubernetes operator 與預覽版原生引擎。能耗感知排程會自動排空過熱節點，閉環自動擴縮會依功耗讀數反應，而以 gossip 為基礎的服務探索則免除了 etcd 依賴。安全性方面支援可選 mTLS、附 SHA-256 校驗的發行檔，以及 OIDC 或分域 API 金鑰驗證。專案提供供 systemd 安裝使用的六個靜態二進位檔、Kubernetes 的 Helm chart，以及單一檔案 HTML 叢集儀表板，無須 Grafana 即可呈現吞吐量、延遲百分位、KV 使用率與每 token 焦耳數。

**價格與方案:** Cognitora 為開源專案，可自其程式庫安裝，官方未公布按席位或按 token 計價的方案。部署成本來自你自己的硬體，總支出取決於所運行的 GPU 與節點數量。

- **KV 感知請求路由:** 依 BLAKE3 序列摘要的最長前綴重疊，把每個請求送往快取中已保存最相符提示詞前綴的節點，避免重複的預填充運算。
- **引擎無關閘道:** 在 vLLM、SGLang、llama.cpp、Apple MLX 與 TRT-LLM 啟動驅動之前提供單一 OpenAI 相容 API，讓同一叢集內可混用多種引擎。
- **預填充／解碼分離:** 在不同副本池分別執行預填充與解碼，並透過 NixlConnector 交接 KV 快取，使兩個階段都能使用最合適的硬體。
- **能耗感知排程:** 把 Redfish 與 NVML 功耗讀數納入路由評分，施加軟性單節點瓦數上限，並自動排空過熱節點以降低每 token 能耗。
- **從裸機到 Kubernetes:** 可作為 systemd 下的六個靜態二進位檔部署而無須 Kubernetes，也可選用 kube-rs operator，以 InferenceCluster、ModelPool 與 RoutingPolicy CRD 進行宣告式管理。

**優勢:** 開源且可自架，沒有按 token 或按席位收取的授權費用; KV 感知路由能明顯減少叢集內重複的預填充工作; 支援多種引擎，不會把你綁在單一廠商的執行環境上; 無須 Kubernetes 即可在裸機運行，維運面較小

**限制:** 評估它需要紮實的大模型基礎設施知識與實際的 GPU 硬體; 若干主打能力已在主分支上，但尚未進入附標籤的發行版本; TRT-LLM 支援僅為啟動驅動，沒有預設配置方案，也沒有 CI 中的端到端 GPU 測試

[Profile (Markdown)](https://openaitools.app/tw/tool/cognitora.md)

## Salad

Salad 從另一個方向切入 GPU 算力成本問題。它不為新建資料中心融資，而是協調已經存在的供給：全球 PC 與工作站中閒置的消費級 GPU。自 2018 年以來，已有超過 45 萬張 GPU 參與該網路，目前報告顯示其每日活躍 GPU 超過 1.6 萬張，覆蓋 190 多個國家。價格從約每小時 0.015 美元起，官方將其定位為比超大規模雲廠商低最多 90%。

編排層是核心產品。Salad Container Engine 能把 OCI/Docker 容器調度到從未見過的節點上，進行驗證並透過 hypervisor 隔離，即時串流日誌，並在節點掉線的瞬間重新分配任務——這一點至關重要，因為可中斷的消費級硬體下線具有不可預測性。其專有的信任評分會為節點效能與可用性打分，優先定價機制則把低價的可中斷供給匹配給能夠承受中斷的工作負載。同一套引擎可運行在 Community Cloud、預留的 Salad Dedicated 硬體（首批包括 RTX PRO 6000 Blackwell），以及部署在你自己組織內部的 Private Cloud 上——在公司自有裝置內把閒置工作站 GPU 匯聚成相容 OpenAI 的 token 服務，資料不出企業裝置。

上層還有若干託管產品：面向開源權重模型的 OpenAI 相容 AI Gateway、Transcription API，以及用於住宅 IP 通道的 Gateway Service。官方公布了各工作負載的基準數據來支撐宣傳——例如每美元可生成 5,243 張 Flux.1-Schnell 圖像、在 CommonVoice 上達到 95.1% 準確率且每小時音訊僅 0.16 美元，以及 LLM 推理按 GPU 小時計費或按每百萬輸入 token 0.06 美元起計價。生產環境使用者包括 Civitai、Blend、Klyne.ai、Undetectable AI、Pareto 與 Datasembly。

**價格與方案:** SaladCloud 採用隨用隨付，無合約與最低消費：容器按秒計費，AI Gateway 按 token 計費，GPU 價格約從每小時 0.015 美元起並設有階梯式用量折扣。預留容量與企業合約可透過 Salad Dedicated 與 Private Cloud 取得，需聯繫報價。

- **Salad Container Engine:** 在數千個分散式 GPU 節點上調度、監控並重新分配 Docker/OCI 工作負載，節點消失時自動容錯移轉。
- **Community Cloud GPU 池:** 隨需存取覆蓋 190 多個國家的閒置消費級 GPU 分散式算力池，優先定價約從每小時 0.015 美元起。
- **相容 OpenAI 的 AI Gateway:** 面向開源權重模型的託管 token 端點，按 token 計費，你的資料不會被用於訓練。
- **運行在自有硬體上的 Private Cloud:** 在組織內部運行同一套編排堆疊，把閒置工作站 GPU 匯聚成內部相容 OpenAI 的服務。
- **依工作負載調校的 API:** 託管服務包括 Transcription API，以及把 Kubernetes Pod 調度到網路上的 Virtual Kubelet 支援。

**優勢:** 結構性低價——GPU 價格從每小時約 0.015 美元起; 同一套編排層覆蓋隨需、預留與私有基礎設施; 原生處理中斷，這在消費級硬體上尤其重要; 相容 OpenAI 的端點讓從其他廠商遷移更簡單

**限制:** 可中斷的消費級節點並不適合延遲敏感或常駐型工作負載; 分散式硬體的效能離散度高於統一的資料中心機架; 沒有傳統意義上的免費方案——成本直接隨用量成長

[Profile (Markdown)](https://openaitools.app/tw/tool/salad-gpu-cloud.md)

## 常見問題

### Cognitora 與 Salad 的每月流量相比如何？

Cognitora 每月有 0 次造訪，而 Salad 有 713,519。流量估算反映受眾規模，並非產品品質。

### 兩者的成長率相比如何？

Cognitora 的月增率為 —；Salad 為 +10.4%。

### 價格相比如何？

Cognitora：Open Source。Cognitora 為開源專案，可自其程式庫安裝，官方未公布按席位或按 token 計價的方案。部署成本來自你自己的硬體，總支出取決於所運行的 GPU 與節點數量。 Salad：免費試用、付費、需聯絡報價。SaladCloud 採用隨用隨付，無合約與最低消費：容器按秒計費，AI Gateway 按 token 計費，GPU 價格約從每小時 0.015 美元起並設有階梯式用量折扣。預留容量與企業合約可透過 Salad Dedicated 與 Private Cloud 取得，需聯繫報價。

## 替代方案

| # | 工具名稱 | 每月造訪次數 | 月成長率 | 定價模式 | Summary | Profile (Markdown) |
| :--- | :--- | :--- | :--- | :--- | :--- | :--- |
| 1 | [RunPod](https://openaitools.app/tw/tool/runpod) | 2,881,043 | +5.9% | 付費 | 提供可靠的專用與無伺服器 GPU 租賃，但缺乏 Salad 超低成本的點對點消費者硬體池。 | [.md](https://openaitools.app/tw/tool/runpod.md) |
| 2 | [Together AI](https://openaitools.app/tw/tool/together-ai) | 1,645,930 | +64.9% | 免費增值、付費 | 專門提供開源模型的託管式無伺服器推論 API，而非單純租賃 GPU 基礎設施。 | [.md](https://openaitools.app/tw/tool/together-ai.md) |
| 3 | [Vast.ai](https://openaitools.app/tw/tool/vast-ai) | 1,257,554 | +2.8% | 付費 | 提供價格更低廉的廣泛 P2P GPU 市集，但需要較多手動設定。 | [.md](https://openaitools.app/tw/tool/vast-ai.md) |
| 4 | [Browser Use](https://openaitools.app/tw/tool/browser-use) | 1,206,376 | +41.1% | 免費增值、付費、需聯絡報價 | 面對真實網頁任務的瀏覽器代理與隱身雲瀏覽器 | [.md](https://openaitools.app/tw/tool/browser-use.md) |
| 5 | [Modal](https://openaitools.app/tw/tool/modal-com) | 1,196,021 | +30.2% | 免費增值、需聯絡報價 | 為 AI 管線提供輕鬆的 Python 無伺服器執行，但專注於 Function-as-a-Service 而非裸機虛擬機。 | [.md](https://openaitools.app/tw/tool/modal-com.md) |
| 6 | [Nebius](https://openaitools.app/tw/tool/nebius) | 1,145,711 | +10.7% | 付費、需聯絡報價 | 提供企業級 NVIDIA GPU 叢集與託管式 ML 工具，但專業價格定位較高。 | [.md](https://openaitools.app/tw/tool/nebius.md) |
| 7 | [DeepInfra](https://openaitools.app/tw/tool/deep-infra) | 457,810 | -8.9% | 付費 | Offers extremely cheap serverless model hosting via API, but does not provide raw containerized GPU instances. | [.md](https://openaitools.app/tw/tool/deep-infra.md) |
| 8 | [FluidStack](https://openaitools.app/tw/tool/fluidstack) | 154,620 | +7.3% | 付費、需聯絡報價 | Focuses on large-scale enterprise GPU clusters for training, rather than lightweight consumer container workloads. | [.md](https://openaitools.app/tw/tool/fluidstack.md) |
| 9 | [Coder](https://openaitools.app/tw/tool/coder) | 149,417 | -12.8% | 免費試用、需聯絡報價、免費 | Coder is a self-hosted development infrastructure platform that gives engineering organizations secure, standardized cloud workspaces plus governance over the AI coding agents that run inside them. It is built for enterp | [.md](https://openaitools.app/tw/tool/coder.md) |
| 10 | [Thunder Compute](https://openaitools.app/tw/tool/thunder-compute) | 102,147 | -29% | Paid (per-minute instances, per-second sandboxes) | Features second-billed persistent SSH GPU instances, but lacks a distributed consumer hardware backbone. | [.md](https://openaitools.app/tw/tool/thunder-compute.md) |

---
來源：https://openaitools.app/tw/compare/cognitora-vs-salad-gpu-cloud

More Markdown: [分類](https://openaitools.app/tw/categories.md) · [流量排名](https://openaitools.app/tw/rankings.md) · [llms.txt](https://openaitools.app/tw/llms.txt)
