OneTriangle 押注 KV 快取傳輸能大幅削減長上下文推論成本

這是一家 AI 推論新創，透過代管的 GPU 堆疊提供開放權重模型（DeepSeek V4 Flash、Qwen3.6 27B）的服務，同時開發跨模型 KV 快取傳輸技術，讓小模型對提示進行預填充，再由較大的模型從傳輸過來的快取進行解碼。

押注小模型能進行預填充，並將其 KV 快取交給大模型——以小型模型的成本取得大型模型的品質，而傳輸層將掌握推論經濟效益。

來自 Y Combinator 的 125,000 美元微型種子輪（2026 年 6 月）。

Hannah Chung（執行長）與 Medha Venkatapathy（技術長）為 MIT CSAIL 畢業生，於 2026 年與另外三名 MIT 工程師共同創辦 OneTriangle（最初名為 TrustAI），這些工程師的背景涵蓋 Google DeepMind、Jane Street 與 MIT Lincoln Laboratory。他們的前提是：推論已超越訓練，成為 AI 最大的運算成本，而對長上下文與代理工作負載而言，預填充在成本與延遲上都佔主導地位——這是每個服務團隊都在默默承擔的隱形成本。

OneTriangle 獲選進入 Y Combinator 2026 年夏季梯次，並於 2026 年 6 月募得 125,000 美元微型種子輪。8 月 18 日的一份研究報告指出，一項經學習的 Minitron 4B 至 Llama 3.1 8B 交接實驗顯示：在小型模型快取常駐的情況下，8,192 個 token 的提示讓較大模型在 38.25 毫秒內產生首個 token，相較於原生預填充的 302.69 毫秒（7.9 倍），在 32 個步驟中前一個 token 的一致率為 82.52%。該公司聲稱，相較於現行標準，預填充成本降低 20%，首個 token 生成時間加快 40%，並表示正將此技術上游貢獻至 vLLM。8 月 24 日，該公司在八張 H100 的堆疊上推出代管的 DeepSeek V4 Flash 服務，價格為每百萬輸入 token 0.15 美元、每百萬輸出 token 0.35 美元，另有延遲層級價格低 40%。

仍在營運但未經證實：代管模型服務已公開定價並運行，而快取傳輸技術仍處於研究階段；OneTriangle 自家的基準測試顯示，若計入小型模型的讀取，標題所稱的 7.9 倍首個 token 加速會降至 1.25 倍，且尚未公布任何獨立驗證或具名客戶。

押注結構性成本轉移：推論已超越訓練，成為 AI 最大的運算成本，而預填充在長上下文與代理工作負載中佔主導地位。

技術切入點：跨模型 KV 快取傳輸從未在生產環境中實際部署，因此一套可行的傳輸層可能掌握推論經濟效益。

上市速度：代管 DeepSeek V4 Flash 讓客戶在快取傳輸研究成熟期間先有具體產品可用。

創辦人適配度：具備 DeepMind 與 Jane Street 經驗的 MIT CSAIL 創辦人，正著手解決服務基礎設施問題。

生態系策略：將技術上游貢獻至 vLLM，可讓此技術觸及每個 vLLM 部署，而非僅限於 OneTriangle 自家的堆疊。

當所有人都轉售相同的開放權重時，服務效能就是唯一的切入點——但一項在端到端流程中效果縮水、且僅由自家基準測試的實驗室加速成果，尚不足以構成護城河。

截至 2026 年 8 月 24 日，OneTriangle 在八張 H100 上運行付費、公開定價的 DeepSeek V4 Flash 服務，並在其目錄中列出 Qwen3.6 27B，採用量計價且無訂閱制。KV 快取傳輸研究仍處於量產前階段：其最強的已發表成果是 Minitron 4B 至 Llama 的交接實驗，而該公司自家的報告指出，若計入小型模型的讀取，加速幅度會從 7.91 倍降至 1.25 倍。尚未公布任何客戶名稱、營收或獨立基準測試，而「最便宜、最快」的說法也尚未獲得獨立驗證。