档案库 · AI 与模型 · 战略决策 · 2023–2026
Inferact 2026:vLLM 创造者将顶级开源服务引擎变成价值 8 亿美元的初创公司
伯克利的 vLLM 是服务于 LLM 的默认开源引擎(GitHub 星标约 9.06 万),于 2026 年 1 月分拆为 Inferact,获得 1.5 亿美元种子轮融资,估值 8 亿美元。
Inferact (vLLM)
做的是什么生意
Inferact builds and sells managed serving infrastructure around vLLM, the open-source engine from UC Berkeley used to run large language models fast and cheaply on GPUs, while continuing to fund development of the upstream open-source engine.
启动资金:About $300K before launch (including Sequoia backing, per Forbes reporting); then a $150M seed announced 2026-01-22 at an $800M valuation, co-led by a16z and Lightspeed with Databricks Ventures and the UC Berkeley Chancellor's Fund participating.
起因
vLLM began in 2023 inside Ion Stoica's Sky Computing Lab at UC Berkeley; its PagedAttention paper (SOSP 2023) showed that paging the attention cache like virtual memory cut memory waste and lifted serving throughput. As AI spending shifted from training models to running them, the research engine became a default way many teams served open LLMs.
经过
By late 2025 the project had roughly 80,000 stars and thousands of production users, but the maintainers had no company around it. Forbes reported in December 2025 that co-leader Simon Mo was pitching a raise of at least $160M despite minimal revenue and only about $300K raised to date. On 2026-01-22 the core team stepped out of stealth as Inferact with a $150M seed at an $800M valuation; co-founder Woosuk Kwon framed the goal as making serving AI 'as simple as spinning up a serverless database.'
结果
Inferact is live as of 2026-09-02: the founding maintainers remain in charge with Simon Mo as CEO, the round is funding a managed serverless vLLM platform plus continued upstream work, and no shutdown, pivot, or further raise has been reported.
背景
vLLM 是一个开源引擎,用于高效运行大型语言模型,于 2023 年在伊恩·斯托伊卡位于加州大学伯克利分校的 Sky Computing 实验室诞生。其 PagedAttention 技术将注意力缓存存储在非连续内存中,这与虚拟内存的技巧相同,从而减少了内存浪费并大幅提高了服务吞吐量。
vLLM 从一篇论文成长为许多团队服务开源模型的默认方式。截至 2026 年 9 月 1 日,一个自动更新的 AI 仓库排名统计了约 9.06 万星标和 2000 多名贡献者,彭博社报道现有用户包括 AWS 和亚马逊的购物应用。
维护者没有商业载体,福布斯在 2025 年 12 月报道他们正在募集至少 1.6 亿美元,尽管收入微薄且迄今仅筹集约 30 万美元。2026 年 1 月 22 日,他们以 Inferact 的身份推出,获得 1.5 亿美元种子轮融资,估值 8 亿美元,由安德森·霍洛维茨和光速创投共同领投,Databricks Ventures 和加州大学伯克利分校校长基金参投。
Inferact 的赌注在于价值位于引擎之上,而非引擎本身:它计划提供一个付费的无服务器 vLLM,在 Kubernetes 上自动完成资源调配、自动扩展、可观测性和恢复,同时上游 vLLM 保持开源并不断添加模型支持。截至 2026 年 9 月 2 日,公司已上线,并将本轮融资用于该平台。
这件事要成立,得有什么
- 服务而非训练成为 AI 的经常性成本,因此降低服务成本的引擎成为核心基础设施。
- vLLM 的安装基础为 Inferact 提供了竞争对手无法买到的分发渠道:约 9.06 万星标、2000 多名贡献者以及 AWS 规模的用户。
- 创始团队包括原始创造者和他们的伯克利实验室,正是让引擎变快的人。
- 保持核心开源消除了通常扼杀开源商业化的信任问题。
- 企业会为可靠性、自动扩展和运维付费,这正是 Inferact 正在构建的托管层。
可借鉴之处
开源采用本身不是一门生意;Inferact 将免费核心与付费托管层分离,投资者在产品收入之前就将团队和采用率估值到 8 亿美元。
后续进展
截至 2026 年 9 月 2 日,Inferact 仍然活跃并处于建设阶段。2026 年 1 月 22 日宣布的 1.5 亿美元种子轮融资用于在 Kubernetes 上运行的托管无服务器 vLLM,具有可观测性、故障排除和灾难恢复功能,同时公司继续投资于上游开源引擎,增加性能工作和新的模型架构。创始维护者领导公司,截至该日期,尚未有产品发布、转向、关闭或后续融资的报告。
资料来源
- Inference startup Inferact lands $150M to commercialize vLLM
- Inferact launches with $150M in funding to commercialize vLLM
- AI Inference Project vLLM Seeks US$160 Million With Minimal Revenue
- Github-Ranking-AI: most-starred AI repositories, auto-updated 2026-09-01
发现哪里写错了?告诉我们。
轮到你了
你刚读完一家。说说你在做什么,看看谁在赌同一件事。
免费账号 · 3 次免费提问 · 不用绑卡