業務內容
設計專為大型語言模型訓練與推論服務的處理器,並針對大型叢集規模化進行最佳化。
核心賭注
專為活化參數達 70 億以上的 LLM 打造、並具備適用大型叢集先進互連技術的晶片,在 LLM 訓練與推論上可望比 Nvidia GPU 快 10 倍。
起始資金
2023 年 12 月宣布的 2,500 萬美元種子輪,由 AI 天使投資人 Nat Friedman 與 Daniel Gross 領投;約 8,000 萬美元的 A 輪於 2024 年 11 月進行,由 Spark Capital 領投。
創立緣起
曾在 Google 參與 TPU 晶片設計的 Mike Gunter,以及為 TPU 撰寫 AI 軟體的 Reiner Pope,在 A 輪前兩年共同創辦 MatX,以緩解 AI 工作負載晶片短缺的問題。
事件經過
種子輪於 2023 年 12 月到位,出資者為經常共同投資的 Nat Friedman(前 GitHub 執行長)與 Daniel Gross(前 Apple 搜尋與 AI 相關業務)。The Information 於 2024 年 10 月報導 MatX 尋求 7,500 萬至 1 億美元;TechCrunch 隨後證實由 Spark Capital 領投約 8,000 萬美元。MatX 與 Spark 均拒絕置評。
必須成立的前提
創辦人從特定角度切入攻擊 Nvidia——鎖定超大參數 LLM 叢集——而非全面競爭。
Google TPU 的出身背景賦予團隊可信度,而種子輪後不到一年即完成 8,000 萬美元募資,使這份可信度更具體。
先進互連技術的主張瞄準的是擴展 AI 叢集的真正瓶頸,而不只是晶片原始速度。
本輪募資顯示,在 Nvidia 需求超過供給之際,AI 天使投資人與產業創投願意資助硬體領域的登月計畫。
可借鏡之處
專注於單一工作負載類別——在此即超大型 LLM——讓小團隊得以在互連技術論述成立的前提下,說服外界支持其晶片新創與巨頭競爭。
後續發展
截至 2024 年 11 月的報導,MatX 透過種子輪與 A 輪合計募得約 1.05 億美元,投後估值略逾 3 億美元,晶片仍在開發中。來源中未宣布任何產品出貨或客戶。
追溯依據
參考來源
- AI chip startup MatX, founded by Google alums, raises Series A at $300M+ valuation, sources say TechCrunch · techcrunch.com ·