PrismML 押注 1 位元 LLM 可放進手機；Bonsai 8B 已推出，Apple 正在洽談

一家打造 1 位元與三值大型語言模型的 AI 實驗室——Bonsai 8B 為 1.15GB、Bonsai 27B 為 3.9GB——可在智慧型手機、筆記型電腦與嵌入式系統上本機執行。

押注下一次 AI 躍進在於智慧密度：1 位元模型能在手機與邊緣裝置上提供接近全精度的推理能力，讓裝置端 AI 成為預設。

1,625 萬美元的 SAFE 與種子輪資金，來自 Khosla Ventures、Cerberus Ventures 與 Caltech，另有 Google 與 Caltech 提供的算力補助（2026 年 3 月宣布）。

由 Caltech 研究人員在 Babak Hassibi 教授帶領下創立，此前已多年投入壓縮神經網路而不損失推理能力的研究。該公司於 2026-03-31 結束隱身狀態，同時公布這筆 1,625 萬美元募資，並開源釋出 1 位元 Bonsai 8B（Apache 2.0），以 Google TPU 訓練。

Bonsai 8B 登上 Hacker News 首頁（430 分、153 則留言），並被廣泛報導為首個具商業可行性的 1 位元 LLM。2026-07-14，PrismML 釋出 Bonsai 27B，這是 Qwen3.6 27B 的 1 位元版本，佔用 3.9GB（三值版本為 5.9GB），可在 iPhone 17 Pro 上執行；edgen.tech 報導 Apple 正進行初步洽談，評估將該技術用於裝置端 Siri。

規模化：Bonsai 27B 以 Apache 2.0 授權在 Hugging Face 上提供，團隊正在招募人才，下一個是壓縮版 Gemma 模型；截至 2026 年 9 月，尚未有獨立的第三方基準測試公布。

對整個網路進行 1 位元量化，可將記憶體需求削減約 14 倍，同時基準測試平均分數仍能與 8B 全精度模型競爭。

裝置端執行可消除雲端延遲、隱私與成本方面的疑慮，開啟手機、機器人、穿戴式裝置與安全企業部署的空間。

Caltech 的智慧財產權，加上 Khosla、Cerberus 與 Google 的支持，讓一家隱身實驗室具備可信度與 TPU 算力，得以訓練完整的 1 位元系列。

若 Apple 採用這套壓縮技術於 Siri，裝置端推理將在一夜之間從開發者的新奇玩意，變成頂尖 OEM 的預設選項。

選擇能翻轉現有取捨的指標：PrismML 改為最佳化每 GB 的智慧，而非基準測試平均分數，把「能在手機上執行」變成現有業者無法迅速複製的賣點。

截至 2026-09-02，PrismML 已釋出 Bonsai 27B（1 位元、3.9GB）以及 8B/4B/1.7B 模型，全部以 Apache 2.0 授權在 Hugging Face 上提供，並支援 MLX 與 CUDA。edgen.tech 報導 Apple 正進行初步洽談，評估將該技術用於裝置端 Siri；執行長 Babak Hassibi 向 CNBC 表示，Apple 與其他公司都在評估這項技術。該公司正在招募人才，並表示下一個是壓縮版 Google Gemma 模型，之後是 27B 參數以上的工作。主要注意事項：基準測試為自行回報，截至該日期尚未有獨立的第三方測試公布。