Cactus Compute apuesta a que un diminuto modelo de 26M para llamadas a herramientas puede ejecutar agentes de IA en el teléfono

Cactus Compute construye un motor de inferencia de IA de código abierto y multiplataforma (Cactus) para teléfonos, dispositivos vestibles y robots, además de Cactus Chat y la familia de modelos Needle — modelos pequeños de llamadas a herramientas que se ejecutan completamente en el dispositivo.

Que las llamadas a herramientas, y no el razonamiento, son el cuello de botella para los agentes en el teléfono — un modelo destilado de 26M de parámetros puede encargarse de ello, de modo que la IA en el dispositivo no necesita modelos de escala frontera.

No divulgado; la empresa cuenta con el respaldo de Y Combinator Summer 2025 según su página de empresa en YC.

Los cofundadores Roman Shemet y Henry Ndubuaku se conocieron mediante el emparejamiento de cofundadores de YC en Londres; frustrados porque nada ejecutaba IA agéntica en teléfonos de bajo costo, construyeron Cactus, un motor de inferencia multiplataforma con bindings para Flutter, React Native y Kotlin que ejecuta modelos de Hugging Face localmente con respaldo en la nube. La empresa se fundó en 2025 y pasó por YC Summer 2025.

Needle surgió de una apuesta interna de la empresa: las llamadas a herramientas son recuperación y ensamblaje, no razonamiento, así que los modelos masivos son excesivos. El equipo preentrenó una «Simple Attention Network» de 26M de parámetros sin capas FFN sobre 200B de tokens en 16 TPU v6e en 27 horas, y luego la postentrenó durante 45 minutos con datos de llamadas a herramientas sintetizados por Gemini. El resultado fue un modelo de 14MB que logra 6.000 tok/s en prefill y 1.200 tok/s en decodificación en dispositivos de consumo, superando a FunctionGemma-270M, Qwen-0.6B, Granite-350M y LFM2.5-350M en llamadas a funciones de un solo disparo. Se lanzó con licencia MIT el 2026-05-12, atrajo 776 puntos y 211 comentarios en HN, y Gigazine señaló la salvedad de que los términos de la API de Gemini de Google prohíben la destilación.

Sigue activa y en expansión: a septiembre de 2026 el repositorio incluye Needle 2, un modelo de 45M de parámetros en un único binario de 14MB con Cactus Quants de 2 bits, llamadas a herramientas condicionadas por confianza y un artículo en arXiv (2607.18363); YC lista un equipo activo de 8 personas en San Francisco con los productos Cactus Engine, Needle y Cactus Hybrid.

Las llamadas a herramientas son recuperación y ensamblaje, no razonamiento: al aislar esa tarea, Cactus demostró que un modelo de 26M puede superar a rivales de 270M de parámetros en llamadas a funciones de un solo disparo — toda la apuesta.

El lanzamiento de código abierto con licencia MIT creó distribución instantánea: 776 puntos y 211 comentarios en HN en un día, mientras el motor propietario Cactus se mantuvo como la capa comercial.

La destilación abarató la apuesta: 27 horas de preentrenamiento más un postentrenamiento de 45 minutos con datos sintetizados — aunque Gigazine señaló que los términos de Gemini de Google prohíben la destilación.

Los bindings multiplataforma (Flutter, React Native, Kotlin) apuntaron a donde realmente se construyen las aplicaciones móviles, en lugar de apostar por los frameworks de IA específicos de plataforma de Apple y Google.

Acotar el problema hasta que un modelo diminuto gane: aislar las llamadas a herramientas del razonamiento, lanzar un modelo de 26M que supere a rivales de 270M y convertir un lanzamiento en HN de 776 puntos en distribución para el motor comercial.

A fecha de 2026-09-02, Cactus Compute sigue activa y en expansión: el repositorio de Needle incluye Needle 2, un modelo de 45M de parámetros en un único binario de 14MB con cuantización CQ2-bit, ~28MB de memoria de sesión, llamadas a herramientas condicionadas por confianza y un artículo en arXiv (2607.18363), y el equipo promociona alianzas comerciales desde el README. El directorio de YC lista un equipo activo de 8 personas en San Francisco con la línea de productos Cactus Engine, Needle y Cactus Hybrid (respaldo en la nube). Los montos de financiación no se divulgan más allá del respaldo de YC Summer 2025.