档案库 · AI 与模型 · 战略决策 · 2026
PrismML押注1比特大模型可装进手机；Bonsai 8B发布，苹果接洽
加州理工衍生公司融资1625万美元，打造可装进手机的1比特大模型；Bonsai 27B可在iPhone上运行，苹果据报正在评估。
PrismML
做的是什么生意
An AI lab building 1-bit and ternary large language models — Bonsai 8B at 1.15GB and Bonsai 27B at 3.9GB — that run locally on smartphones, laptops and embedded systems.
启动资金：$16.25M in SAFE and seed funding from Khosla Ventures, Cerberus Ventures and Caltech, with compute grants from Google and Caltech (announced March 2026).
起因
Founded by Caltech researchers around Professor Babak Hassibi after years of work on compressing neural networks without losing reasoning ability. The company emerged from stealth on 2026-03-31 with the $16.25M round and the open-source release of 1-bit Bonsai 8B (Apache 2.0), trained on Google TPUs.
经过
Bonsai 8B hit the Hacker News front page (430 points, 153 comments) and drew broad coverage as the first commercially viable 1-bit LLM. On 2026-07-14 PrismML released Bonsai 27B, a 1-bit build of Qwen3.6 27B that occupies 3.9GB (ternary variant 5.9GB) and runs on an iPhone 17 Pro; edgen.tech reported Apple was in early talks to evaluate the technology for on-device Siri.
结果
Scaling: Bonsai 27B is available under Apache 2.0 on Hugging Face, the team is hiring, and a compressed Gemma model is next in the pipeline; independent third-party benchmarks had not been published as of September 2026.
背景
PrismML是加州理工的衍生公司，打造1比特和三值大语言模型，可本地运行于手机、笔记本电脑和边缘设备。其旗舰Bonsai 8B把82亿参数压缩进1.15GB——比16比特8B模型小约14倍——同时在标准基准测试中得分有竞争力。
其赌注是下一波AI飞跃在于智能密度而非参数规模：如果模型能在端侧运行，就消除了云延迟、隐私和成本等障碍，这些障碍让大多数强大AI只能待在数据中心。公司由加州理工研究员在Babak Hassibi教授领导下创立，于2026年3月31日带着1625万美元的SAFE和种子轮融资（来自Khosla Ventures、Cerberus Ventures和加州理工，外加Google TPU算力）走出隐身，并以Apache 2.0许可开源了Bonsai 8B。
Show HN发布登上前页，获得430分和153条评论。2026年7月14日，公司发布Bonsai 27B，这是Qwen3.6 27B的1比特版本，占用3.9GB，可在iPhone 17 Pro上运行；edgen.tech报道Apple在早期洽谈，评估该压缩技术用于端侧Siri。截至2026年9月，PrismML正在招人，有Gemma压缩在计划中，仍面临独立第三方基准测试未发布的公开问题。
这件事要成立，得有什么
- 全网络1比特量化将内存缩减约14倍，而基准测试平均分与8B全精度模型持平。
- 端侧执行消除了云延迟、隐私和成本障碍，打开手机、机器人、可穿戴设备和安全企业部署等场景。
- 加州理工的知识产权以及Khosla、Cerberus和Google的支持，为这家隐身实验室带来了信誉和TPU算力，以训练完整的1比特家族。
- 如果Apple采用该压缩用于Siri，端侧推理会从开发者的新奇事物一夜之间变成头部OEM的默认功能。
可借鉴之处
选择能颠覆现有权衡的指标：通过优化每GB智能而非平均基准分，PrismML把“能装进手机”变成了竞争对手难以快速复制的卖点。
后续进展
截至2026年9月2日，PrismML已发布Bonsai 27B（1比特，3.9GB）以及8B/4B/1.7B模型，全部在Hugging Face上以Apache 2.0许可提供，支持MLX和CUDA。edgen.tech报道Apple在早期洽谈，评估该技术用于端侧Siri；CEO Babak Hassibi告诉CNBC，Apple和其他公司正在评估。公司正在招人，并表示下一步是压缩Google的Gemma模型，之后向27B以上参数推进。主要警示：基准测试为自家报告，截至该日期，独立第三方测试尚未发布。
资料来源
- Announcing 1-bit Bonsai: The First Commercially Viable 1-bit LLMs
- PrismML Launches World's First 1-Bit AI Model to Redefine Intelligence at the Edge
- PrismML shrinks 27B AI model to 3.9GB, drawing Apple's interest
- Show HN: 1-Bit Bonsai, the First Commercially Viable 1-Bit LLMs
发现哪里写错了？告诉我们。
轮到你了
你刚读完一家。说说你在做什么，看看谁在赌同一件事。
免费账号 · 3 次免费提问 · 不用绑卡