Construye nuevas arquitecturas de modelos de IA que aplican la teoría de categorías al razonamiento estructurado, en lugar de escalar transformers

Que la teoría de categorías puede producir toda una clase de modelos que superen a los transformers: más pequeños, interpretables y capaces de razonar de verdad

2 millones de dólares de pre-semilla de Khosla en 2023 para probar la idea, y luego una Serie A de 33 millones de dólares en abril de 2024 (valoración no revelada)

George Morgan pasó cuatro años en Tesla como ingeniero sénior del piloto automático, empezando como becario, llegó a la conclusión de que la filosofía de solo escalar era errónea y se marchó en 2022 para fundar Symbolica

Khosla aportó 2 millones de dólares en 2023 —'Lo cumplió, de forma muy creíble'— y luego le dijo a Morgan que contratara a los mejores teóricos de categorías. Symbolica publicó su enfoque junto con investigadores de Google DeepMind y se lanzó el 9 de abril de 2024 con la ronda de 33 millones de dólares

Todos los grandes laboratorios estaban escalando transformers con entrenamientos que costaban cientos de millones; la apuesta de Symbolica es que la arquitectura, no la escala, es la siguiente palanca.

La convicción del fundador se forjó en Tesla, donde más escala seguía sin lograr resolver la conducción totalmente autónoma, la prueba de estrés más visible del pensamiento basado únicamente en la escala.

Khosla lo convirtió en una apuesta por etapas: 2 millones de dólares para probar primero las matemáticas, 33 millones solo después de que Morgan 'lo cumpliera, de forma muy creíble'.

Cuando un campo converge en una sola receta, la apuesta de mayor impacto es el outsider creíble que piensa que la receta misma es el cuello de botella.

En el momento del lanzamiento en abril de 2024, Symbolica decía que estaba construyendo una clase de modelos en lugar de un único modelo que superara a los transformers; la Serie A financia la contratación de teóricos de categorías y el avance de la arquitectura. La valoración no se reveló.

CONSULTA LAS PRUEBAS

Las fuentes

  1. Vinod Khosla is betting on a former Tesla autopilot engineer who quit to build small AI models that can reason Fortune · fortune.com ·