PrismML apuesta a que los LLM de 1 bit caben en los teléfonos; se lanza Bonsai 8B y Apple está en conversaciones

Un laboratorio de IA que construye modelos de lenguaje grandes de 1 bit y ternarios —Bonsai 8B con 1,15 GB y Bonsai 27B con 3,9 GB— que se ejecutan localmente en teléfonos inteligentes, portátiles y sistemas embebidos.

Que el próximo salto de la IA es la densidad de inteligencia: los modelos de 1 bit pueden ofrecer un razonamiento cercano a la precisión completa en teléfonos y dispositivos de borde, lo que convierte la IA en el dispositivo en la opción predeterminada.

16,25 M de dólares en financiación SAFE y semilla de Khosla Ventures, Cerberus Ventures y Caltech, con subvenciones de cómputo de Google y Caltech (anunciadas en marzo de 2026).

Fundada por investigadores de Caltech en torno al profesor Babak Hassibi tras años de trabajo en la compresión de redes neuronales sin perder capacidad de razonamiento. La empresa salió del modo sigiloso el 31/03/2026 con la ronda de 16,25 M de dólares y el lanzamiento de código abierto de Bonsai 8B de 1 bit (Apache 2.0), entrenado en TPU de Google.

Bonsai 8B llegó a la portada de Hacker News (430 puntos, 153 comentarios) y atrajo una amplia cobertura como el primer LLM de 1 bit comercialmente viable. El 14/07/2026, PrismML lanzó Bonsai 27B, una versión de 1 bit de Qwen3.6 27B que ocupa 3,9 GB (la variante ternaria, 5,9 GB) y funciona en un iPhone 17 Pro; edgen.tech informó de que Apple mantenía conversaciones preliminares para evaluar la tecnología para Siri en el dispositivo.

Escalado: Bonsai 27B está disponible bajo Apache 2.0 en Hugging Face, el equipo está contratando y un modelo Gemma comprimido es lo siguiente en la hoja de ruta; a septiembre de 2026 no se habían publicado evaluaciones comparativas independientes de terceros.

La cuantización de 1 bit en toda la red reduce la memoria aproximadamente 14 veces, mientras que los promedios de las evaluaciones comparativas se mantienen competitivos con los modelos de 8B de precisión completa.

La ejecución en el dispositivo elimina las objeciones de latencia, privacidad y costo de la nube, y abre teléfonos, robots, dispositivos portátiles y despliegues empresariales seguros.

La propiedad intelectual de Caltech junto con el respaldo de Khosla, Cerberus y Google dieron a un laboratorio en modo sigiloso credibilidad y cómputo de TPU para entrenar una familia completa de 1 bit.

Si Apple adopta la compresión para Siri, el razonamiento en el dispositivo pasa de novedad para desarrolladores a opción predeterminada de un gran fabricante de equipos originales de la noche a la mañana.

Elegir la métrica que invierte el equilibrio del incumbente: al optimizar la inteligencia por GB en lugar de los promedios de las evaluaciones comparativas, PrismML convirtió «funciona en un teléfono» en una característica que los incumbentes no podían copiar rápidamente.

A fecha de 02/09/2026, PrismML ha lanzado Bonsai 27B (1 bit, 3,9 GB) y los modelos 8B/4B/1,7B, todos bajo Apache 2.0 en Hugging Face, con soporte para MLX y CUDA. edgen.tech informó de que Apple mantenía conversaciones preliminares para evaluar la tecnología para Siri en el dispositivo, y el CEO Babak Hassibi declaró a CNBC que Apple y otras empresas la estaban evaluando. La empresa está contratando y afirma que lo siguiente es un modelo Google Gemma comprimido, seguido de trabajo con más de 27B parámetros. La principal advertencia: las evaluaciones comparativas son autodeclaradas y no se habían publicado pruebas independientes de terceros a la fecha de referencia.