档案库 · 开发与企业工具 · 产品决策 · 2023–2026
BerriAI 押注每个AI应用都需要网关；LiteLLM 星标突破5.1万
BerriAI 于2023年从自身集成痛点中提炼出 LiteLLM；这款开源AI网关到2026年已获得5.1万多个GitHub星标，代理请求超10亿次。
LiteLLM (BerriAI)
做的是什么生意
LiteLLM is an open-source AI gateway from BerriAI: a Python SDK and self-hostable proxy server that lets teams call 100+ LLM providers through one OpenAI-compatible interface, with cost tracking, guardrails, load balancing and logging.
启动资金：$1.6M seed round in 2023, co-led by Y Combinator with participation from Gravity Fund and Pioneer Fund.
起因
BerriAI was founded in 2023 by Ishaan Jaffer and Krrish Dholakia and accepted into Y Combinator's Winter 2023 batch. On 2023-08-24 YC publicly launched LiteLLM: an open-source package to call 100+ LLM APIs using the OpenAI format, with standardized inputs, outputs and exceptions, plus logging integrations. The team raised a $1.6M seed co-led by Y Combinator with Gravity Fund and Pioneer Fund.
经过
LiteLLM grew from a library into a category: the self-hostable Proxy Server (AI Gateway) added virtual keys, per-key and per-team budgets, spend tracking, routing with fallbacks and cooldowns, guardrails, an admin dashboard and, later, an MCP gateway for agentic tool access. Adoption compounded through open source — InfoWorld reported 20,000+ stars by mid-2025, and by mid-2026 the repo had roughly 51,500 stars, 1,372 tagged releases, 1B+ proxied requests and 240M+ Docker pulls, with production users including Netflix, Stripe, Lemonade, Rocket Money and Adobe. Founderland reported 50k+ stars and $7M ARR in August 2026, after the company navigated security challenges earlier that year.
结果
Still scaling: the repository remained live with frequent releases (v1.89.4, 2026-06-25), the gateway added agent (A2A) and MCP support, and the company offers LiteLLM Cloud as the commercial layer.
背景
LiteLLM 是 BerriAI 构建的开源AI网关，BerriAI 由 Ishaan Jaffer 和 Krrish Dholakia 于2023年创立，并入选Y Combinator 2023年冬季批次。该产品源自创始人自身的痛点：在构建“与你的数据聊天”的SaaS时，他们发现支持多个LLM后端——每个都有不同的SDK、认证模式、请求格式和错误模型——是巨大的工程负担。
他们的押注是，每个AI应用最终都会调用多个提供商，因此统一接口将成为标准基础设施。LiteLLM 于2023年8月24日通过YC发布，让开发者使用OpenAI格式调用100多个LLM API，供应商切换只需更改一行模型字符串，而非重写客户端。
采用率复合增长：InfoWorld报道，到2025年中GitHub星标超过2万；到2026年中，仓库约有5.15万个星标，9200个分叉和1372个标签发布，代理请求超过10亿次，Docker拉取超2.4亿次。提到的生产用户包括Netflix、Stripe、Lemonade、Rocket Money和Adobe。网关增加了虚拟密钥、预算、支出追踪、带故障转移的负载均衡、护栏、管理仪表板，以及后来的MCP和A2A代理支持。
公司于2023年筹集了160万美元种子轮，由Y Combinator联合领投，Gravity Fund和Pioneer Fund参投；创始人Land在2026年8月报道，星标超过5万，ARR达到700万美元。截至2026年9月，项目仍在扩展，LiteLLM Cloud为商业层，开源仓库几乎每日发布。
这件事要成立，得有什么
- 多提供商集成是普遍且重复的痛点——每个使用多个LLM的团队都在重建相同的翻译、错误处理和流式传输管道。
- 标准化为OpenAI格式使采用变得无摩擦：现有SDK和客户端代码只需更改基础URL或模型字符串即可继续工作。
- 开源核心将用户转化为贡献者和分发渠道，而企业控制（虚拟密钥、预算、护栏）创造了付费层级。
- 网关处于AI支出和流量的瓶颈位置，因此使用数据、路由和成本控制复合为可防御的基础设施地位。
可借鉴之处
一个平淡但关键的层可以复合为基础设施：标准化为开发者熟知的格式，保持核心开源，并通过控制层（密钥、预算、路由）实现商业化。
后续进展
截至2026年9月，LiteLLM 仍在扩展：GitHub仓库（BerriAI/litellm）活跃，频繁发布（据AI Wiki，2026-06-25的v1.89.4），约5.15万个星标，10亿多次代理请求和2.4亿多次Docker拉取，生产用户包括Netflix、Stripe、Lemonade、Rocket Money和Adobe。创始人Land在2026年8月报道，星标超过5万，ARR达到700万美元，并指出公司在该年早些时候应对了安全挑战。商业层为LiteLLM Cloud，同时支持通过Docker、Helm和Terraform自托管部署。
资料来源
- LiteLLM | AI Wiki
- LiteLLM Raises $1.6M Seed to Scale AI Gateway Platform
- BerriAI/litellm — The fastest, litest AI Gateway
发现哪里写错了？告诉我们。
轮到你了
你刚读完一家。说说你在做什么，看看谁在赌同一件事。
免费账号 · 3 次免费提问 · 不用绑卡