TensorZero, GitHub #1 트렌딩에 올랐다가 문을 닫고 자본을 반환하다

LLM 게이트웨이, 관측성, 평가, 최적화, 실험을 하나의 Rust 기반 시스템으로 통합한 오픈소스 LLMOps 플랫폼으로, 상용 Autopilot 계층을 갖추고 있었다.

게이트웨이, 관측성, 평가, 최적화를 하나의 오픈소스 스택으로 통합하면 TensorZero가 팀들이 프로덕션에서 LLM을 운영하는 기본 방식이 될 것이라는 베팅이었다.

FirstMark가 주도하고 Bessemer, Bedrock, DRW, Coalition이 참여한 730만 달러 시드 투자(2025년 8월 발표); 창업자들은 절반 미만을 사용하고 나머지를 반환했다

2024년 초 뉴욕에서 Gabriel Bianconi(Ondo Finance 전 CPO)와 Viraj Mehta(강화학습에 집중한 CMU 박사)가 창업했다. 이들의 전제는 LLM 애플리케이션이 강화학습 문제라는 것이었다. 즉 프로덕션 호출이 피드백을 반환하고, 그 피드백이 시간이 지남에 따라 시스템을 더 저렴하고 빠르고 우수하게 만들어야 한다는 것이다.

2025년 8월 TensorZero는 FirstMark가 주도하고 Bessemer, Bedrock, DRW, Coalition이 참여한 730만 달러 시드 투자를 발표했다. GitHub 저장소는 그 주의 #1 트렌딩 저장소가 되어 약 3,000개에서 9,700개 이상의 스타로 급증했으며, README는 프런티어 AI 스타트업부터 글로벌 LLM API 지출의 약 1%를 옮기는 Fortune 10 기업까지 채택했다고 주장했다. 회사는 핵심 스택을 오픈소스로 유지하며 OSS에 유료 기능을 두지 않았고, 상용 자동화 AI 엔지니어 계층인 Autopilot을 제품 내에 출시했다.

사업 정리: 2026년 6월 12일 팀은 예고 없이 GitHub 저장소를 읽기 전용으로 보관 처리했다. CEO Gabriel Bianconi는 Hacker News에서 오픈소스 회사는 제품-시장 적합성을 두 번 찾아야 한다고 설명했다. 한 번은 OSS 프로젝트를 위해, 다시 한 번은 상용 제품을 위해서다. 유료 계층은 회사를 지탱할 사업이 되지 못했으며, 팀은 730만 달러 중 절반 미만을 사용했고 부채가 없었으며 나머지를 투자자들에게 반환했다.

LLM 도구는 파편화되어 있었다. 게이트웨이, 평가, 관측성, 최적화가 따로 판매되었고, TensorZero는 이를 하나의 스택으로 통합하며 데이터와 학습이 복리로 쌓이는 플라이휠을 갖추었다.

10,000+ QPS에서 p99 오버헤드가 1ms 미만인 Rust 게이트웨이는 규모에서 LiteLLM 같은 Python 기반 대안보다 성능 우위를 제공했다.

핵심을 오픈소스로 유지하고 유료 기능을 두지 않은 것은 기업의 신뢰 장벽을 낮추고 수요를 검증한 #1 트렌딩 주간을 이끄는 데 도움이 되었다.

종료는 질서 있는 전략적 판단이었다. 창업자들은 상용 Autopilot 계층에 제품-시장 적합성이 없다고 판단하여 자본을 소진하는 대신 사용하지 않은 자본을 반환했다.

해자는 얕았다. 하이퍼스케일러와 모델 공급업체가 게이트웨이와 관측성을 계속 번들로 제공했고, 경쟁사 Langfuse는 2026년 1월 ClickHouse에 인수되었다.

채택과 큰 투자 라운드가 사업을 의미하지는 않는다. TensorZero는 #1 트렌딩, 1.1만 스타, Fortune 10 사용자를 갖추었지만 유료 계층은 구매자를 찾지 못했다. OSS 회사는 제품-시장 적합성을 두 번 찾아야 한다.

2026년 6월 말 기준 TensorZero는 더 이상 운영되지 않는다. 저장소는 Apache 2.0에 따라 읽기 전용으로 보관되었고, 공식 사이트는 프로젝트가 더 이상 유지보수되지 않는다고 밝히고 있으며, 어떤 재단이나 후속 주체도 이를 인수하지 않았다. 창업자들은 730만 달러 시드 투자의 사용하지 않은 대부분을 투자자들에게 반환했다. 이 스택 위에 구축한 팀들은 직접 포크하여 유지보수하거나 Langfuse(현재 ClickHouse 산하), LiteLLM 또는 클라우드 네이티브 라우터 같은 대안으로 이전해야 한다.