OneTriangle押注KV缓存传输可大幅降低长上下文推理成本

一家AI推理初创公司，提供托管GPU栈上的开源权重模型（DeepSeek V4 Flash、Qwen3.6 27B），同时开发跨模型KV缓存传输技术，使小模型预填充提示词，大模型从传输的缓存中解码。

小模型预填充并将KV缓存交给大模型——以低成本获得大模型的品质，而传输层掌控推理经济学。

YC于2026年6月提供的12.5万美元微型种子轮。

Hannah Chung（CEO）和Medha Venkatapathy（CTO）是MIT CSAIL毕业生，于2026年与另外三位背景涵盖Google DeepMind、Jane Street和MIT Lincoln Laboratory的MIT工程师共同创立了OneTriangle（最初名为TrustAI）。他们的前提是：推理已超过训练成为AI最大的计算成本，而对于长上下文和智能体工作负载，预填充在成本和延迟上都占主导——这是每个服务团队都要付出的隐性税。

进入Y Combinator 2026年夏季班后，OneTriangle于2026年6月筹集了12.5万美元的微型种子轮。8月18日的一份研究笔记报告了一个学习的Minitron 4B到Llama 3.1 8B的交接：在8,192个令牌的提示词上，小模型缓存驻留时，大模型的第一个令牌达到时间为38.25毫秒，而原生预填充为302.69毫秒（快7.9倍），在32步中顶级令牌一致率为82.52%。公司声称预填充成本降低20%，首令牌时间比现有标准快40%，并表示正在将该技术上游合并到vLLM。8月24日，它在八块H100的堆栈上推出了托管的DeepSeek V4 Flash服务，价格为每百万输入令牌0.15美元，每百万输出令牌0.35美元，并有延迟队列，价格低40%。

已上线但未经证实：托管模型服务公开定价并运行，而缓存传输技术仍处于研究阶段；OneTriangle自己的基准显示，将小模型的读取计算在内时，7.9倍的首令牌加速降至1.25倍，且未公布独立验证或具名客户。

押注结构性成本转变：推理已超过训练成为AI最大的计算成本，预填充在长上下文和智能体工作负载中占主导。

技术切入点：跨模型KV缓存传输从未投入生产，因此可用的传输层能掌控推理经济学。

快速上市：托管DeepSeek V4 Flash为客户提供了具体产品，而缓存传输研究仍在成熟中。

创始人契合：MIT CSAIL创始人，具备DeepMind和Jane Street经验，攻克服务基础设施问题。

生态策略：将技术上游合并到vLLM，使该技术惠及每个vLLM部署，而不仅限于OneTriangle自己的堆栈。

当所有人都转售相同的开源权重时，服务性能是唯一的切入点——但实验室里的加速若端到端缩水且仅自测，则尚未成为护城河。

截至2026年8月24日，OneTriangle在八块H100上运行着付费且公开定价的DeepSeek V4 Flash服务，并在其目录中列出Qwen3.6 27B，采用按使用量计费，无订阅。KV缓存传输研究仍处于生产前阶段：其公布的最强结果是Minitron 4B到Llama的交接，该公司自己的笔记报告，当包含小模型的读取时，加速从7.91倍降至1.25倍。尚未公布客户名称、收入或独立基准，且“最便宜、最快”的声称未获独立验证。