构建新的AI模型架构,将范畴论应用于结构化推理,而非扩展Transformer

押注范畴论能够催生出一整类超越Transformer的模型——更小、可解释、能够真正进行推理

2023年获得Khosla的200万美元种子前投资以验证该想法,随后于2024年4月获得3300万美元A轮融资(估值未披露)

George Morgan在特斯拉担任高级自动驾驶工程师四年,从实习生做起,认定唯规模论的理念是错误的,于2022年离职创立Symbolica

Khosla于2023年投入200万美元——“他兑现了,非常可信”——随后让Morgan招募最优秀的范畴论专家。Symbolica与Google DeepMind的研究人员共同发表了其方法,并于2024年4月9日以3300万美元融资正式亮相

每家主要实验室都在扩展Transformer,训练成本高达数亿美元;Symbolica的押注是:架构而非规模才是下一个杠杆。

创始人的信念在特斯拉锻造而成——在那里,更大的规模始终未能攻克完全自动驾驶,这是唯规模论思维最高调的压力测试。

Khosla将其转化为分阶段的押注:先投入200万美元验证数学,只有在Morgan“非常可信地兑现了”之后才投入3300万美元。

当一个领域趋同于某一种配方时,最高杠杆的押注是那个可信的局外人——他认为配方本身就是瓶颈。

截至2024年4月发布时,Symbolica表示它正在构建一类模型,而非单一击败Transformer的模型;A轮资金用于招募范畴论专家并推进该架构。估值未披露。

从这里,追溯依据

参考来源

  1. Vinod Khosla is betting on a former Tesla autopilot engineer who quit to build small AI models that can reason Fortune · fortune.com ·