Cactus Compute aposta que um modelo minúsculo de 26M para chamada de ferramentas pode rodar agentes de IA em celulares

A Cactus Compute constrói um motor de inferência de IA de código aberto e multiplataforma (Cactus) para celulares, dispositivos vestíveis e robôs, além do Cactus Chat e da família de modelos Needle — modelos pequenos de chamada de ferramentas que rodam inteiramente no dispositivo.

Que a chamada de ferramentas, e não o raciocínio, é o gargalo para agentes em celulares — um modelo destilado de 26M de parâmetros consegue dar conta disso, de modo que a IA no dispositivo não precisa de modelos em escala de fronteira.

Não divulgado; a empresa tem apoio da Y Combinator Summer 2025, conforme sua página de empresa na YC.

Os cofundadores Roman Shemet e Henry Ndubuaku se conheceram pelo matching de cofundadores da YC em Londres; frustrados por nada rodar IA agêntica em celulares de baixo custo, criaram o Cactus, um motor de inferência multiplataforma com bindings para Flutter, React Native e Kotlin que roda modelos do Hugging Face localmente com fallback para a nuvem. A empresa foi fundada em 2025 e passou pela YC Summer 2025.

O Needle nasceu de uma aposta interna da empresa: a chamada de ferramentas é recuperação e montagem, não raciocínio, então modelos gigantes são exagero. A equipe pré-treinou uma 'Simple Attention Network' de 26M de parâmetros sem camadas FFN em 200B de tokens, em 16 TPU v6e, em 27 horas, e depois a pós-treinou por 45 minutos em dados de chamada de ferramentas sintetizados pelo Gemini. O resultado foi um modelo de 14MB fazendo 6.000 tok/s de prefill e 1.200 tok/s de decode em dispositivos de consumo, superando FunctionGemma-270M, Qwen-0.6B, Granite-350M e LFM2.5-350M em chamada de função de disparo único. Foi lançado sob licença MIT em 2026-05-12, atraiu 776 pontos e 211 comentários no HN, e o Gigazine observou o detalhe de que os termos da API do Gemini do Google proíbem a destilação.

Ainda ativa e em expansão: em setembro de 2026 o repositório entrega o Needle 2, um modelo de 45M de parâmetros em um único binário de 14MB com Cactus Quants de 2 bits, chamadas de ferramentas com portão de confiança e um artigo no arXiv (2607.18363); a YC lista uma equipe ativa de 8 pessoas em São Francisco com os produtos Cactus Engine, Needle e Cactus Hybrid.

A chamada de ferramentas é recuperação e montagem, não raciocínio: ao isolar essa tarefa, a Cactus mostrou que um modelo de 26M pode superar rivais de 270M de parâmetros em chamada de função de disparo único — a aposta inteira.

O lançamento de código aberto sob MIT criou distribuição instantânea: 776 pontos e 211 comentários no HN em um dia, enquanto o motor proprietário Cactus permaneceu como a camada comercial.

A destilação tornou a aposta barata: 27 horas de pré-treinamento mais um pós-treinamento de 45 minutos em dados sintetizados — embora o Gigazine tenha observado que os termos do Gemini do Google proíbem a destilação.

Bindings multiplataforma (Flutter, React Native, Kotlin) miravam onde os apps de celular de fato são construídos, em vez de apostar nos frameworks de IA específicos de plataforma da Apple e do Google.

Estreite o problema até um modelo minúsculo vencer: isole a chamada de ferramentas do raciocínio, entregue um modelo de 26M que supera rivais de 270M e transforme um lançamento de 776 pontos no HN em distribuição para o motor comercial.

Em 2026-09-02, a Cactus Compute está ativa e em expansão: o repositório do Needle entrega o Needle 2, um modelo de 45M de parâmetros em um único binário de 14MB com quantização CQ2 bits, ~28MB de memória de sessão, chamadas de ferramentas com portão de confiança e um artigo no arXiv (2607.18363), e a equipe anuncia parcerias comerciais a partir do README. O diretório da YC lista uma equipe ativa de 8 pessoas em São Francisco com a linha de produtos Cactus Engine, Needle e Cactus Hybrid (fallback para a nuvem). Os valores de financiamento não são divulgados além do apoio da YC Summer 2025.