PrismML、1ビットLLMはスマホに収まると賭ける。Bonsai 8Bを出荷、Appleと協議中

1ビットおよび三値の大規模言語モデルを構築するAIラボ。Bonsai 8Bは1.15GB、Bonsai 27Bは3.9GBで、スマートフォン、ノートPC、組み込みシステム上でローカルに動作する。

次のAIの飛躍は知能密度にあるという賭け。1ビットモデルはスマートフォンやエッジデバイス上でほぼフル精度の推論を実現でき、オンデバイスAIをデフォルトにする。

Khosla Ventures、Cerberus Ventures、CaltechからのSAFEおよびシード資金で1625万ドル。GoogleとCaltechからの計算資源助成も受けた（2026年3月発表）。

推論能力を失わずにニューラルネットワークを圧縮する研究に長年取り組んできたBabak Hassibi教授を中心とするCaltechの研究者らによって設立された。同社は2026年3月31日にステルス状態から脱し、1625万ドルのラウンドと、Google TPUで学習した1ビットBonsai 8B（Apache 2.0）のオープンソース公開を発表した。

Bonsai 8BはHacker Newsのトップページに掲載され（430ポイント、153コメント）、初の商業的に実用可能な1ビットLLMとして広く報道された。2026年7月14日、PrismMLはBonsai 27Bをリリースした。これはQwen3.6 27Bの1ビット版で、3.9GB（三値版は5.9GB）を占め、iPhone 17 Pro上で動作する。edgen.techは、AppleがオンデバイスSiri向けにこの技術を評価する初期協議を行っていると報じた。

規模拡大：Bonsai 27BはHugging FaceでApache 2.0の下で提供されており、チームは採用活動中で、次には圧縮したGemmaモデルがパイプラインに控えている。2026年9月時点で独立した第三者によるベンチマークは公開されていなかった。

ネットワーク全体にわたる1ビット量子化によりメモリを約14分の1に削減しつつ、ベンチマーク平均は8Bのフル精度モデルと競合する水準を維持すること。

オンデバイス実行によりクラウドの遅延、プライバシー、コストに関する反対意見が解消され、スマートフォン、ロボット、ウェアラブル、セキュアな企業導入への道が開けること。

Caltechの知的財産に加え、Khosla、Cerberus、Googleの支援が、ステルス状態のラボに信頼性と、1ビットファミリー全体を学習するためのTPU計算資源をもたらしたこと。

AppleがSiri向けにこの圧縮技術を採用すれば、オンデバイス推論は開発者向けの目新しさから、一夜にして大手OEMのデフォルトへと移行する。

既存勢力のトレードオフを覆す指標を選ぶこと。ベンチマーク平均ではなくGBあたりの知能を最適化することで、PrismMLは「スマホで動く」を、既存勢力がすぐには模倣できない特徴へと変えた。

2026年9月2日時点で、PrismMLはBonsai 27B（1ビット、3.9GB）と8B/4B/1.7Bモデルを公開しており、いずれもHugging FaceでApache 2.0、MLXとCUDAをサポートしている。edgen.techは、AppleがオンデバイスSiri向けにこの技術を評価する初期協議を行っていると報じ、CEOのBabak HassibiはCNBCに対し、Appleや他の企業が評価を行っていると語った。同社は採用活動中で、次は圧縮したGoogle Gemmaモデル、その後は27Bパラメータ超の取り組みだと述べている。主な注意点は、ベンチマークが自己申告であり、基準日時点で独立した第三者によるテストが公開されていなかったことだ。