d-Matrix 於 2019 年由 Sid Sheth 與 Sudeep Bhoja 在聖塔克拉拉創立,打造全端 AI 推論平台:基於 SRAM 數位記憶體內運算的 Corsair 加速卡、JetStream 網路、Aviator 軟體,以及 SquadRack 機櫃級系統。Corsair 由 Alchip 以台積電 N6 製程製造,採用 LPDDR5 而非 HBM,定位為與 GPU 叢集並行執行 LLM 推論的解碼階段。微軟的 M12 創投基金為投資者。

記憶體內運算可在推論經濟效益上勝過 GPU:把矩陣運算放進 SRAM、跳過 HBM、以每 token 約 2 毫秒執行解碼,並銷售可與 GPU 叢集互補的機櫃。

d-Matrix 於 2019 年由 Sid Sheth 與 Sudeep Bhoja 創立,為他們預期在訓練熱潮之後出現的需求打造硬體:以規模化方式持續運行生成式模型。該公司於 2024 年 11 月結束隱匿階段時,已從超過 25 名投資者募得 1.54 億美元,其中 B 輪由 Temasek 領投,微軟的 M12 為投資方之一,並正向早期存取客戶送樣 Corsair,預計於 2025 年第二季廣泛供貨。

該公司在 2025 年將宣稱轉化為工程揭露與資本。2025 年 8 月的 Hot Chips 大會上,ServeTheHome 詳述了 Corsair 板卡:兩顆晶片、每顆四個小晶片,採台積電 N6 製程,2GB SRAM,每張卡 256GB LPDDR5X,PCIe 5.0,每瓦 38 TOPS,在 Llama 3 70B 上每個輸出 token 約 2 毫秒。2025 年 11 月 12 日,d-Matrix 以 20 億美元估值完成 2.75 億美元 C 輪募資,總募資額達 4.5 億美元,由 Temasek、Bullhound Capital 與 Triatomic Capital 共同領投,Qatar Investment Authority、EDBI 與 M12 參與,據 technode.global 報導。2026 年 4 月,該公司收購 GigaIO 的資料中心業務,以進行機櫃級整合;2026 年 6 月 9 日,Converge Digest 報導 Corsair 已進入全面量產,自該年夏季起向超大規模雲端業者、新興雲端業者與前沿 AI 實驗室大量出貨。

全面量產使 d-Matrix 有別於一批止步於基準測試的推論晶片新創:Corsair 正大量出貨給未具名的優先客戶,SquadRack 系統同步出貨,供應協議涵蓋擴產。該公司引述獨立測試顯示,將 Corsair 與 GPU 搭配,可將推測解碼的回應時間從約 24 秒縮短至不到 2 秒,但客戶名稱、價格與營收仍未揭露,因此商業考驗仍在前方。

每個輸出 token 都受記憶體頻寬限制,因此能減少權重讀取流量的記憶體內運算元件,針對的是服務 LLM 的真實成本,而非訓練的峰值算力。

此設計避開稀缺的供應鏈:搭載 LPDDR5 的 SRAM 小晶片無需 HBM 或 CoWoS 封裝,移除了 GPU 競爭者排隊等待的瓶頸。

與 GPU 互補使 d-Matrix 成為低風險的採購選項:由於預填充(prefill)交由 GPU 處理,該公司引述的獨立測試顯示回應時間從約 24 秒降至不到 2 秒。

證據以可檢驗的步驟累積:2025 年 8 月的 Hot Chips 揭露、2025 年 11 月以 20 億美元估值完成的 2.75 億美元 C 輪募資,以及 2026 年 6 月的全面量產。

切入瓶頸,而非旗艦:把訓練留給 Nvidia,主張解碼受記憶體頻寬限制,並打造可插入 GPU 叢集的 SRAM 加速器——這個切入點達到了全面量產。

截至 2026 年 6 月,Corsair 已全面量產,自該年夏季起開始向未具名的超大規模雲端業者、新興雲端業者與前沿 AI 實驗室大量出貨,SquadRack 機櫃系統同步出貨。風險在市場端:Nvidia 持續在次世代 GPU 中加速解碼,超大規模雲端業者持續自研晶片,而 d-Matrix 既未揭露客戶名稱,也未揭露營收。GigaIO 收購案與 Alchip 供應協議涵蓋整合與產能;實測延遲優勢能否轉化為重複訂單,仍是未解的考驗。

追溯依據

參考來源

  1. d-Matrix Emerges From Stealth With Strong AI Performance And Efficiency Cambrian AI Research (Karl Freund) · cambrian-ai.com ·
  2. d-Matrix Corsair In-Memory Computing For AI Inference at Hot Chips 2025 ServeTheHome · servethehome.com ·
  3. Temasek backs US AI chipmaker d-Matrix's $275M funding technode.global · technode.global ·
  4. d-Matrix Ramps Corsair AI Inference Platform Converge Digest · convergedigest.com ·