PrismML parie que les LLM 1-bit tiennent sur téléphone ; Bonsai 8B est disponible, Apple en discussions

Un laboratoire d'IA qui construit des grands modèles de langage 1-bit et ternaires — Bonsai 8B à 1,15 Go et Bonsai 27B à 3,9 Go — qui s'exécutent localement sur smartphones, ordinateurs portables et systèmes embarqués.

Que le prochain saut de l'IA réside dans la densité d'intelligence : les modèles 1-bit peuvent fournir un raisonnement proche de la pleine précision sur téléphones et appareils en périphérie, faisant de l'IA embarquée la norme.

16,25 M$ en financement SAFE et d'amorçage de Khosla Ventures, Cerberus Ventures et Caltech, avec des subventions de calcul de Google et Caltech (annoncées en mars 2026).

Fondée par des chercheurs de Caltech autour du professeur Babak Hassibi après des années de travaux sur la compression des réseaux neuronaux sans perte de capacité de raisonnement. L'entreprise est sortie de la discrétion le 2026-03-31 avec le tour de 16,25 M$ et la publication en open source de Bonsai 8B 1-bit (Apache 2.0), entraîné sur des TPU de Google.

Bonsai 8B a atteint la une de Hacker News (430 points, 153 commentaires) et a fait l'objet d'une large couverture comme premier LLM 1-bit commercialement viable. Le 2026-07-14, PrismML a publié Bonsai 27B, une version 1-bit de Qwen3.6 27B qui occupe 3,9 Go (variante ternaire 5,9 Go) et tourne sur un iPhone 17 Pro ; edgen.tech a rapporté qu'Apple était en discussions préliminaires pour évaluer la technologie en vue d'un Siri embarqué.

Mise à l'échelle : Bonsai 27B est disponible sous Apache 2.0 sur Hugging Face, l'équipe recrute, et un modèle Gemma compressé est le prochain sur la liste ; aucun benchmark indépendant de tiers n'avait été publié en date de septembre 2026.

La quantification 1-bit sur l'ensemble du réseau réduit la mémoire d'environ 14x tandis que les moyennes de benchmark restent compétitives avec les modèles 8B en pleine précision.

L'exécution embarquée élimine les objections de latence, de confidentialité et de coût liées au cloud, ouvrant les téléphones, robots, objets portables et déploiements d'entreprise sécurisés.

La propriété intellectuelle de Caltech, plus le soutien de Khosla, Cerberus et Google, ont donné à un laboratoire discret la crédibilité et la puissance de calcul TPU nécessaires pour entraîner une famille complète de modèles 1-bit.

Si Apple adopte la compression pour Siri, le raisonnement embarqué passe du statut de nouveauté pour développeurs à celui de choix par défaut d'un grand fabricant du jour au lendemain.

Choisir la métrique qui renverse le compromis du titulaire : en optimisant l'intelligence par Go plutôt que les moyennes de benchmark, PrismML a transformé « tourne sur un téléphone » en un atout que les acteurs en place ne pouvaient pas copier rapidement.

En date du 2026-09-02, PrismML a publié Bonsai 27B (1-bit, 3,9 Go) et les modèles 8B/4B/1,7B, tous sous Apache 2.0 sur Hugging Face, avec prise en charge de MLX et CUDA. edgen.tech a rapporté qu'Apple était en discussions préliminaires pour évaluer la technologie en vue d'un Siri embarqué, et le PDG Babak Hassibi a déclaré à CNBC qu'Apple et d'autres entreprises l'évaluaient. L'entreprise recrute et indique qu'un modèle Google Gemma compressé est le prochain, suivi de travaux au-delà de 27 milliards de paramètres. La principale réserve : les benchmarks sont auto-déclarés, et aucun test indépendant de tiers n'avait été publié en date de référence.