d-Matrix 于 2019 年由 Sid Sheth 和 Sudeep Bhoja 在圣克拉拉创立,构建全栈 AI 推理平台:基于 SRAM 数字存内计算的 Corsair 加速卡、JetStream 网络、Aviator 软件以及 SquadRack 机架级系统。Corsair 由 Alchip 采用台积电 N6 工艺制造,使用 LPDDR5 而非 HBM,定位于与 GPU 集群一起运行 LLM 推理的解码阶段。Microsoft 的 M12 风险基金是投资方之一。

存内计算可以在推理成本上优于 GPU:将矩阵运算置于 SRAM 中,跳过 HBM,以每个 token 约 2 毫秒的速度运行解码,并销售与 GPU 集群互补的机架。

d-Matrix 于 2019 年由 Sid Sheth 和 Sudeep Bhoja 创立,旨在构建他们认为训练热潮之后将出现的硬件:大规模持续运行生成模型。2024 年 11 月脱离 stealth 模式时,已从 25 多名投资者处筹集了 1.54 亿美元,Temasek 领投 B 轮,Microsoft 的 M12 是投资方之一,Corsair 正在向早期客户提供样片,计划于 2025 年第二季度广泛供货。

公司利用 2025 年将声明转化为工程细节和资金。2025 年 8 月的 Hot Chips 大会上,ServeTheHome 详细介绍了 Corsair 板卡:基于台积电 N6 工艺的两个小芯片,每个芯片四个小芯片,2GB SRAM、每卡 256GB LPDDR5X、PCIe 5.0、每瓦 38 TOPS,在 Llama 3 70B 上每个输出 token 大约 2 毫秒。2025 年 11 月 12 日,d-Matrix 以 20 亿美元估值完成 2.75 亿美元 C 轮融资,总融资额达 4.5 亿美元,Temasek、Bullhound Capital 和 Triatomic Capital 共同领投,Qatar Investment Authority、EDBI 和 M12 参投,据 technode.global 报道。2026 年 4 月,它收购了 GigaIO 的数据中心业务以进行机架级集成,2026 年 6 月 9 日 Converge Digest 报道 Corsair 已进入全面量产,当年夏天开始向超大规模云、新型云和前沿 AI 实验室批量出货。

全面量产使 d-Matrix 从那些仅仅停留在基准测试层面的推理芯片初创公司中脱颖而出:Corsair 正在向未具名的优先客户批量出货,SquadRack 系统也同步销售,供应协议覆盖了产能爬坡。公司引用的独立测试表明,将 Corsair 与 GPU 配对可将推测解码的响应时间从约 24 秒缩短至不到 2 秒,但客户名称、价格和收入仍未公开,因此商业考验仍在前面。

每个输出 token 都受内存限制,因此存内计算部件减少权重获取流量,直击 LLM 服务的真实成本,而非峰值训练算力。

设计绕过了稀缺的供应链:带有 LPDDR5 的 SRAM 小芯片无需 HBM 或 CoWoS 封装,消除了 GPU 竞争对手排队的瓶颈。

与 GPU 互补使 d-Matrix 成为低风险选择:由于预填充由 GPU 承担,公司引用的独立测试显示,响应时间从约 24 秒降至不到 2 秒。

证据以可验证的步骤积累:2025 年 8 月的 Hot Chips 细节披露、2025 年 11 月 2 亿美元估值的 2.75 亿美元 C 轮融资,以及 2026 年 6 月的全面量产。

切入瓶颈环节,而不是旗舰领域:将训练留给 Nvidia,主张解码受内存限制,并构建一个可插入 GPU 集群的 SRAM 加速器——这个楔子已进入全面量产。

截至 2026 年 6 月,Corsair 已全面量产,当年夏天开始向未具名的超大规模云、新型云和前沿 AI 实验室批量出货,SquadRack 机架系统同步销售。风险在市场端:Nvidia 继续加速下一代 GPU 的解码性能,超大规模云继续自研芯片,而 d-Matrix 未披露客户名称或收入。GigaIO 收购和 Alchip 供应协议涵盖了集成和产能;测量到的延迟优势能否转化为重复订单,仍是待检验的问题。

从这里,追溯依据

参考来源

  1. d-Matrix Emerges From Stealth With Strong AI Performance And Efficiency Cambrian AI Research (Karl Freund) · cambrian-ai.com ·
  2. d-Matrix Corsair In-Memory Computing For AI Inference at Hot Chips 2025 ServeTheHome · servethehome.com ·
  3. Temasek backs US AI chipmaker d-Matrix's $275M funding technode.global · technode.global ·
  4. d-Matrix Ramps Corsair AI Inference Platform Converge Digest · convergedigest.com ·