档案库 · AI 与模型 · 产品决策 · 2024–2026
Exo Labs：将手机和Mac组成本地AI集群——47k星
Exo将日常设备变成点对点GPU，用于本地LLM，登顶GitHub Trending #1并收获47k星——未披露任何融资轮次。
Exo Labs
做的是什么生意
Open-source distributed inference engine that pools everyday devices (phones, laptops, Raspberry Pis, Macs) into one local cluster for running LLMs, with an OpenAI/Claude/Ollama-compatible API.
起因
Exo Labs was founded in March 2024 by Alex Cheema (Oxford physics, ex-trading infrastructure) and Mohamed Baioumy (Oxford-trained AI and robotics researcher) to 'democratize access to AI'. The runtime grew out of wanting to run research models on devices they already had, and hit the HN front page on 2024-07-16 with 439 points.
经过
Exo kept landing on GitHub Trending — all-languages #1 in Jan 2025 and again 2025-12-21–23 — and passed 47k stars by Sep 2026. Cheema demonstrated a ~$5,000 cluster of four Mac Mini M4s plus a MacBook Pro M4 Max running Qwen2.5Coder-32B at 18 tokens/sec and Nemotron-70B at 8 tokens/sec, versus a $25–30k H100. The project added a macOS app, RDMA over Thunderbolt 5, and OpenAI/Claude/Ollama API compatibility, with several companies already using it for local inference.
结果
Still live and pre-revenue as of 2026-09-01: under active development (last commit 2026-08-25) with 47.2k stars and no disclosed venture round.
背景
Exo是一个开源分布式推理引擎，将日常设备——手机、笔记本、树莓派和Mac——池化为一个本地集群，用于运行LLM，并提供与OpenAI/Claude/Ollama兼容的API。Exo Labs于2024年3月由Alex Cheema和Mohamed Baioumy创立，旨在“民主化AI访问”，源于创始人在已有硬件上运行研究模型的想法。
其赌注是：人们会在自己已有的设备集群上运行前沿开源模型，而不是租用云GPU。项目于2024年7月16日登上HN首页（439分，151条评论），多次登顶GitHub Trending——2025年1月和2025年12月21日至23日两次全语言第一——到2026年9月星标数超过47k。
成本对比让故事具体化：Cheema演示了一个约5000美元的集群（四台Mac Mini M4加MacBook Pro M4 Max）运行Qwen2.5Coder-32B，速度18tokens/秒，而单个H100要价2.5万至3万美元。Exo保持开源且无收入，截至2026年8月仍有活跃提交，多家公司将其用于本地推理，且未披露融资轮次。
这件事要成立，得有什么
- 这个赌注反直觉但有根据：池化设备在原始算力上无法与数据中心GPU相比，但在成本、隐私和所有权上胜出。
- 开源加强大的演示循环完成了分发：HN首页和多次Trending第一名替代了销售团队。
- 价格对比就是卖点：约5000美元集群对2.5万至3万美元H100，让每个读者都能看到取舍。
- 没有融资轮次让问题更诚实：公司仍在证明本地分布式推理是否是一门生意，而不仅仅是病毒式项目。
可借鉴之处
用人们已有的资产来攻克成本壁垒：Exo将闲置手机和Mac池化，而不是让用户购买GPU，开源让每一颗星都不需要销售电话。
后续进展
截至2026年9月1日，Exo保持开源，GitHub星标47.2k（全球排名第541），截至2026年8月仍在活跃开发；路线图聚焦于多Mac设置的Thunderbolt 5 RDMA集群，以及与OpenAI、Claude和Ollama兼容的仪表盘/API。公司未披露融资或收入；2024年11月表示多家公司已在使用Exo进行本地推理，并计划推出免费基准测试网站比较硬件配置。
资料来源
- Exo: Run your own AI cluster at home with everyday devices
- Exo Labs is Here! Enabling Powerful Open Source AI Models to Run Locally on Mac M4 Computers
- exo-explore/exo star history
发现哪里写错了？告诉我们。
轮到你了
你刚读完一家。说说你在做什么，看看谁在赌同一件事。
免费账号 · 3 次免费提问 · 不用绑卡