
자체 플릿을 위한 오픈소스 분산 LLM 추론 오케스트레이션
| 항목 / 지표 | ![]() | ![]() |
|---|---|---|
| 공식 도메인 | boat.dev | cognitora.dev |
| 가격 모델 | 무료 체험, 유료 | Open Source |
| 월간 방문 수 | 6.69만 (66,870) | 0 (0) |
| 전월 대비 트래픽 변화량 | +5.61만 (+520.8%) | 0 (—) |
| 주요 시장 및 점유율 | 🇺🇸 미국 (76.3%) | 🌐 글로벌 (—) |
| 월 직접 방문 수 | 3.78만 | 0 |
| 사용자 평점 | 4.6 | 4.6 |
| 지원 플랫폼 | 웹사이트 | 웹사이트 |

AI 에이전트 팩토리를 위한 영구 Ubuntu 클라우드 VM
각 샌드박스는 systemd, Docker, 데이터베이스, cron을 갖춘 완전한 Ubuntu 머신으로 Linux에서 실행되는 모든 것을 구동할 수 있습니다.
디스크 스냅샷에서 구성된 샌드박스를 몇 초 만에 복제하여 동일한 병렬 에이전트를 대량으로 실행합니다.
SSH와 SCP로 접속하거나 60fps 가상 데스크톱과 브라우저를 열어 웹 앱, IDE, 3D 장면을 확인합니다.
boat CLI(--json 출력 지원), HTTP API, Python 및 TypeScript SDK로 모든 것을 프로그래밍 방식으로 제어합니다.

자체 플릿을 위한 오픈소스 분산 LLM 추론 오케스트레이션
BLAKE3 시퀀스 다이제스트의 최장 접두사 일치를 사용해 가장 잘 맞는 프롬프트 접두사를 캐시에 보유한 노드로 각 요청을 보내 중복 프리필 연산을 피합니다.
vLLM, SGLang, llama.cpp, Apple MLX, TRT-LLM 스폰 드라이버 앞에 단일 OpenAI 호환 API를 제공해 한 클러스터 안에서 여러 엔진을 혼용할 수 있습니다.
프리필과 디코드를 별도 레플리카 풀에서 실행하고 NixlConnector로 KV를 인계하여 각 단계에 적합한 하드웨어를 사용할 수 있습니다.
Redfish와 NVML 전력 수치를 라우팅 점수에 반영하고 노드별 소프트 와트 상한을 적용하며 과열 노드를 자동 드레인해 토큰당 에너지를 줄입니다.

무료 / 오픈소스Together AI is the AI Native Cloud — a full-stack platform for running, fine-tuning and training open-source models. It spans serverless inference APIs, dedicated endpoints, GPU clusters, post-training and storage, all backed by in-house systems research.
무료 / 오픈소스Together AI is the AI Native Cloud — a full-stack platform for running, fine-tuning and training open-source models. It spans serverless inference APIs, dedicated endpoints, GPU clusters, post-training and storage, all backed by in-house systems research.
무료 / 오픈소스실제 웹 작업을 수행하는 브라우저 에이전트와 스텔스 클라우드 브라우저
Nebius is an AI-focused cloud platform that gives teams non-virtualized NVIDIA GPU clusters, managed MLOps tooling, and a serverless inference layer so they can move from experiment to production on one stack.
AI 에이전트를 위한 클라우드 브라우저와 웹 API

무료 / 오픈소스엔터프라이즈 팀을 위한 셀프 호스팅 클라우드 개발 환경과 AI 코딩 에이전트

무료 / 오픈소스코딩 에이전트가 백엔드 전체를 운영하도록 설계된 에이전트 네이티브 클라우드 인프라