业务是什么
一家AI实验室,构建1比特和三值大语言模型——Bonsai 8B(1.15GB)和Bonsai 27B(3.9GB)——可本地运行于智能手机、笔记本电脑和嵌入式系统。
押注的是什么
下一波AI飞跃是智能密度:1比特模型能在手机和边缘设备上实现接近全精度的推理,让端侧AI成为默认。
启动资金
获Khosla Ventures、Cerberus Ventures和加州理工的SAFE和种子轮融资1625万美元,并得到Google和加州理工的计算资源支持(2026年3月宣布)。
如何开始
由加州理工研究员在Babak Hassibi教授领导下创立,源于多年压缩神经网络而不损失推理能力的研究。公司于2026年3月31日携1625万美元融资和1比特Bonsai 8B(Apache 2.0)的开源发布从隐身模式亮相,模型在Google TPU上训练。
发生了什么
Bonsai 8B登上Hacker News首页(430分,153条评论),作为首款商业可行的1比特大模型获得广泛报道。2026年7月14日,PrismML发布Bonsai 27B,这是Qwen3.6 27B的1比特版本,占用3.9GB(三值版本5.9GB),可在iPhone 17 Pro上运行;edgen.tech报道Apple在早期洽谈,评估用于端侧Siri。
最终结果
扩展:Bonsai 27B以Apache 2.0许可在Hugging Face上提供,团队在招人,下一步是压缩Gemma模型;截至2026年9月,独立的第三方基准测试尚未发布。
成立的前提
全网络1比特量化将内存缩减约14倍,而基准测试平均分与8B全精度模型持平。
端侧执行消除了云延迟、隐私和成本障碍,打开手机、机器人、可穿戴设备和安全企业部署等场景。
加州理工的知识产权以及Khosla、Cerberus和Google的支持,为这家隐身实验室带来了信誉和TPU算力,以训练完整的1比特家族。
如果Apple采用该压缩用于Siri,端侧推理会从开发者的新奇事物一夜之间变成头部OEM的默认功能。
可以借鉴什么
选择能颠覆现有权衡的指标:通过优化每GB智能而非平均基准分,PrismML把“能装进手机”变成了竞争对手难以快速复制的卖点。
后续
截至2026年9月2日,PrismML已发布Bonsai 27B(1比特,3.9GB)以及8B/4B/1.7B模型,全部在Hugging Face上以Apache 2.0许可提供,支持MLX和CUDA。edgen.tech报道Apple在早期洽谈,评估该技术用于端侧Siri;CEO Babak Hassibi告诉CNBC,Apple和其他公司正在评估。公司正在招人,并表示下一步是压缩Google的Gemma模型,之后向27B以上参数推进。主要警示:基准测试为自家报告,截至该日期,独立第三方测试尚未发布。
从这里,追溯依据
参考来源
- Announcing 1-bit Bonsai: The First Commercially Viable 1-bit LLMs PrismML · prismml.com ·
- PrismML Launches World's First 1-Bit AI Model to Redefine Intelligence at the Edge Semiconductor Digest · semiconductor-digest.com ·
- PrismML shrinks 27B AI model to 3.9GB, drawing Apple's interest edgen.tech · edgen.tech ·
- Show HN: 1-Bit Bonsai, the First Commercially Viable 1-Bit LLMs Hacker News · news.ycombinator.com ·