PrismML setzt darauf, dass 1-Bit-LLMs auf Smartphones passen; Bonsai 8B ist verfügbar, Apple in Gesprächen

Ein KI-Labor, das 1-Bit- und ternäre große Sprachmodelle entwickelt – Bonsai 8B mit 1,15 GB und Bonsai 27B mit 3,9 GB –, die lokal auf Smartphones, Laptops und eingebetteten Systemen laufen.

Dass der nächste KI-Sprung die Intelligenzdichte ist: 1-Bit-Modelle können nahezu vollpräzises Reasoning auf Smartphones und Edge-Geräten liefern und so On-Device-KI zum Standard machen.

16,25 Mio. US-Dollar in SAFE- und Seed-Finanzierung von Khosla Ventures, Cerberus Ventures und Caltech, dazu Rechenressourcen-Zuschüsse von Google und Caltech (angekündigt im März 2026).

Gegründet von Caltech-Forschern um Professor Babak Hassibi nach jahrelanger Arbeit an der Komprimierung neuronaler Netze ohne Verlust der Reasoning-Fähigkeit. Das Unternehmen trat am 31.03.2026 aus dem Stealth-Modus hervor, mit der 16,25-Mio.-US-Dollar-Runde und der Open-Source-Veröffentlichung von 1-Bit-Bonsai 8B (Apache 2.0), trainiert auf Google-TPUs.

Bonsai 8B erreichte die Startseite von Hacker News (430 Punkte, 153 Kommentare) und erhielt breite Berichterstattung als erstes kommerziell nutzbares 1-Bit-LLM. Am 14.07.2026 veröffentlichte PrismML Bonsai 27B, einen 1-Bit-Build von Qwen3.6 27B, der 3,9 GB belegt (ternäre Variante 5,9 GB) und auf einem iPhone 17 Pro läuft; edgen.tech berichtete, Apple führe erste Gespräche, um die Technologie für On-Device-Siri zu prüfen.

Skalierung: Bonsai 27B ist unter Apache 2.0 auf Hugging Face verfügbar, das Team stellt ein, und als Nächstes steht ein komprimiertes Gemma-Modell in der Pipeline; unabhängige Benchmarks von Drittanbietern waren Stand September 2026 nicht veröffentlicht.

1-Bit-Quantisierung über das gesamte Netzwerk senkt den Speicherbedarf um etwa das 14-Fache, während die Benchmark-Durchschnitte mit 8B-Modellen voller Präzision wettbewerbsfähig bleiben.

Die Ausführung auf dem Gerät beseitigt Einwände wegen Cloud-Latenz, Datenschutz und Kosten und öffnet Smartphones, Roboter, Wearables und sichere Unternehmensbereitstellungen.

Caltech-IP plus Unterstützung von Khosla, Cerberus und Google verliehen einem Stealth-Labor Glaubwürdigkeit und TPU-Rechenleistung, um eine vollständige 1-Bit-Familie zu trainieren.

Wenn Apple die Komprimierung für Siri übernimmt, wird On-Device-Reasoning über Nacht von einer Entwickler-Neuheit zum Standard eines großen OEM.

Wähle die Kennzahl, die den Trade-off der etablierten Anbieter kippt: Indem PrismML statt Benchmark-Durchschnitten die Intelligenz pro GB optimierte, machte es aus „läuft auf einem Smartphone“ ein Merkmal, das etablierte Anbieter nicht schnell kopieren konnten.

Stand 02.09.2026 hat PrismML Bonsai 27B (1-Bit, 3,9 GB) sowie Modelle mit 8B/4B/1,7B veröffentlicht, alle unter Apache 2.0 auf Hugging Face, mit MLX- und CUDA-Unterstützung. edgen.tech berichtete, Apple führe erste Gespräche, um die Technologie für On-Device-Siri zu prüfen, und CEO Babak Hassibi sagte gegenüber CNBC, Apple und andere Unternehmen prüften sie. Das Unternehmen stellt ein und erklärt, als Nächstes folge ein komprimiertes Google-Gemma-Modell, danach Arbeit an Modellen mit mehr als 27B Parametern. Der wichtigste Vorbehalt: Die Benchmarks sind selbst berichtet, und unabhängige Tests von Drittanbietern waren zum Stichtag nicht veröffentlicht.