一个开源(Apache-2.0)的Swift和Metal推理引擎、命令行工具和原生Mac应用,可在任何Apple Silicon Mac(包括8GB内存机型)上以约2GB内存运行Google的指令调优模型Gemma 4 26B-A4B。

MoE模型的路由专家可以从SSD流式读取而不是占用RAM,使得26B参数模型在8GB Mac上仅需约2GB内存,而不是需要32GB工作站。

Andrey Mikhaylov是一位iOS和Metal工程师,热爱设备端AI,他希望运行一个其4位权重共14.3GB的模型,但无法容纳在8GB Mac的内存中。他于2026-07-29将TurboFieldfare作为Show HN发布,声称在8GB M2 MacBook Air上内存占用约2GB、速度5-6 token/s,在M5 MacBook Pro上达到31-35 token/s。

该讨论串迅速升温——919分和345条评论——维护者实时回答提问,分享测得的缓存命中率,并接受来自M1 MacBook和MacBook Neo硬件用户的社区结果。随后Creative AI News和德国网站ifun.de进行了报道;仓库记录了该设计背后的103次审计实验,以及一个可选的面向M2+ Mac的视觉伴侣包。截至2026-09-02,仓库显示约410个分叉。

截至2026-09-02,TurboFieldfare仍是一个独立研究项目:Apache-2.0代码,没有公司、资金或商业化;未来工作指向iPhone/iPad移植和更多低内存Mac支持。

内存而非计算是阻碍26B级模型进入消费级笔记本电脑的瓶颈。

Gemma 4 26B-A4B是混合专家模型,因此每个token仅有一小部分参数被激活,无需将全部权重驻留内存。

针对此单一工作负载,自定义Metal内核和模型专用运行时优于包装通用的MLX或llama.cpp。

快速的Apple SSD使磁盘带宽成为RAM容量的实用替代。

HN的开发者受众可以直接克隆、构建和基准测试代码,将发布声明转化为社区验证的结果。

为单一硬约束编写模型专用引擎可以胜过通用运行时,而发布真实的测量代码可以让单个工程师借助整个社区作为基准测试团队。

截至2026-09-02,TurboFieldfare仍在积极开发中:已完成103次审计实验、包含社区基准测试指南、提供loopback OpenAI兼容服务器和可选的视觉包,约410个分叉反映了活跃的社区。作者将其描述为独立研究项目,与Google无关,并将iPhone和iPad的移植列为主要未来工作。德国网站ifun.de将其视为该尺寸模型能在8GB Mac上运行的证明,同时指出权衡之处:基础硬件的输出较慢,且SSD速度很重要。

从这里,追溯依据

参考来源

  1. TurboFieldfare - Gemma 4 26B-A4B inference in about 2 GB of RAM GitHub (drumih/turbo-fieldfare) · github.com
  2. Run Gemma 4 26B on a Mac in 2GB RAM: TurboFieldfare Creative AI News · creativeainews.com
  3. Show HN: Open-source engine running Gemma 4 26B in 2 GB RAM on any M-series Mac Hacker News · news.ycombinator.com ·
  4. Lokale KI: Freie App bringt Googles Gemma 4 auch auf das MacBook Neo ifun.de · ifun.de