開源 LLMOps 平台,以 Rust 打造的單一系統整合 LLM 閘道、可觀測性、評估、最佳化與實驗功能,並附帶商業化的 Autopilot 層。

押注於將閘道、可觀測性、評估與最佳化整合於單一開源技術堆疊,能讓 TensorZero 成為團隊在生產環境執行 LLM 的預設方式。

由 FirstMark 領投,Bessemer、Bedrock、DRW 與 Coalition 參與的 730 萬美元種子輪(2025 年 8 月宣布);創辦人動用不到一半,其餘返還

2024 年初於紐約由 Gabriel Bianconi(前 Ondo Finance 產品長)與 Viraj Mehta(卡內基美隆大學博士,專攻強化學習)創立。他們的前提是:LLM 應用本質上是強化學習問題——生產環境的呼叫會回傳回饋,而這些回饋應讓系統隨時間變得更便宜、更快速且更好。

2025 年 8 月,TensorZero 宣布由 FirstMark 領投,Bessemer、Bedrock、DRW 與 Coalition 參與的 730 萬美元種子輪。其 GitHub 儲存庫成為當週熱門排行榜第一,星數從約 3,000 躍升至 9,700 以上,README 宣稱採用者涵蓋前沿 AI 新創到《財星》10 強企業,這些企業合計處理約全球 LLM API 支出的 1%。該公司讓核心技術堆疊維持開源,OSS 版本不含付費功能,並在產品內推出 Autopilot——一個商業化的自動化 AI 工程師層。

結束營運:2026 年 6 月 12 日,團隊在無預警情況下將 GitHub 儲存庫封存為唯讀。執行長 Gabriel Bianconi 在 Hacker News 解釋,開源公司必須找到兩次產品市場契合——一次針對 OSS 專案,另一次針對商業產品——而付費層始終未能成為足以支撐公司的業務;團隊動用不到 730 萬美元的一半,且無負債,並將剩餘資金返還投資人。

LLM 工具生態原本破碎——閘道、評估、可觀測性與最佳化各自分開販售;TensorZero 將它們整合於單一技術堆疊,並具備可複利累積的資料與學習飛輪。

以 Rust 打造的閘道在 10,000+ QPS 下提供低於 1ms 的 p99 額外延遲,在規模化情境下相對 LiteLLM 等 Python 方案形成效能優勢。

核心維持開源且不含付費功能,降低了企業信任門檻,並協助推動那週登上熱門排行榜第一,驗證了需求。

關閉是有序的策略決定:創辦人判斷商業化的 Autopilot 層沒有產品市場契合,因此返還未動用的資金,而非將其燒盡。

護城河很淺:超大規模雲端業者與模型供應商持續將閘道與可觀測性打包進自家產品,而競爭對手 Langfuse 已於 2026 年 1 月被 ClickHouse 收購。

採用度與大額募資不等於一門生意:TensorZero 曾登上熱門排行榜第一、擁有 1.1 萬顆星與《財星》10 強用戶,但其付費層始終找不到買家——開源公司需要找到兩次產品市場契合。

截至 2026 年 6 月下旬,TensorZero 已不再營運:儲存庫以 Apache 2.0 授權封存為唯讀,官方網站聲明該專案不再維護,且尚無基金會或接棒者接手。創辦人將 730 萬美元種子輪中未動用的大部分返還投資人;曾在此技術堆疊上建構的團隊必須自行分支並維護,或遷移至 Langfuse(現屬 ClickHouse)、LiteLLM 或雲端原生路由器等替代方案。

追溯依據

參考來源

  1. TensorZero raises $7.3M seed round to build an open-source stack for industrial-grade LLM applications The AI Journal (PR Newswire) · aijourn.com ·
  2. TensorZero Secures $7.3M To Advance Enterprise LLM Infrastructure Open Source For You · opensourceforu.com ·
  3. TensorZero Shutdown: What Happened and What You Lose Future Stack Reviews · future-stack-reviews.com ·
  4. Warum gibt TensorZero trotz 7,3 Mio. auf? Markt zu eng. Dr. Web · drweb.de ·