這門生意是什麼
一套開源(Apache-2.0)的 Swift 與 Metal 推論引擎、CLI 及原生 Mac 應用程式,可在任何 Apple Silicon Mac(包括 8GB 機型)上,以約 2GB 記憶體執行 Google 經指令微調的 Gemma 4 26B-A4B。
核心賭注
MoE 模型中被路由的專家可以從 SSD 串流載入,而非常駐於 RAM,讓 26B 參數的模型能在 8GB Mac 上以約 2GB 記憶體執行,而不必動用 32GB 工作站。
如何起步
Andrey Mikhaylov 是一位熱愛裝置端 AI 的 iOS 與 Metal 工程師,他想執行一個模型,但其 14.3GB 的 4 位元權重無法塞進 8GB Mac 的記憶體。他於 2026-07-29 在 Show HN 發表 TurboFieldfare,聲稱在 8GB M2 MacBook Air 上約使用 2GB 記憶體、速度為 5-6 tokens/s,而在 M5 MacBook Pro 上為 31-35 tokens/s。
後續發展
該討論串迅速竄紅——919 分、345 則留言——維護者即時回答問題,分享實測的快取命中率,並採納來自 M1 MacBook 與 MacBook Neo 硬體的社群結果。Creative AI News 與德國網站 ifun.de 隨後跟進報導;該儲存庫記錄了支撐此設計的 103 項經稽核實驗,另有一個供 M2 以上 Mac 使用的選用視覺配套套件。截至 2026-09-02,該儲存庫顯示約 410 個 fork。
最終結果
截至 2026-09-02,TurboFieldfare 仍是一個獨立研究專案:Apache-2.0 授權的程式碼,沒有公司、資金或商業化,未來工作指向 iPhone/iPad 移植版及更多低記憶體 Mac。
必須成立的前提
阻擋 26B 等級模型進入消費級筆電的障礙是記憶體,而非運算能力。
Gemma 4 26B-A4B 是混合專家模型,因此每個 token 只會觸發一小部分參數,完整的權重集合不必常駐。
客製化的 Metal 核心與針對特定模型的執行環境,在這項特定工作負載上勝過包裝通用型的 MLX 或 llama.cpp。
快速的 Apple SSD 讓磁碟頻寬成為 RAM 容量的實用替代方案。
HN 的開發者受眾能自行複製、建置並對程式碼進行基準測試,將發表時的宣稱轉化為社群驗證的結果。
可借鏡之處
針對單一嚴苛限制撰寫特定模型的引擎,可以勝過通用型執行環境;而發布真正經過實測的程式碼,能讓單一工程師借用整個社群作為基準測試團隊。
後續影響
截至 2026-09-02,TurboFieldfare 仍處於活躍的開源開發階段:103 項經稽核實驗、一份社群基準測試指南、一個回送式 OpenAI 相容伺服器,以及一個選用視覺套件,約 410 個 fork 反映出活躍的社群。作者將其描述為與 Google 無隸屬關係的獨立研究專案,並將 iPhone 與 iPad 移植版列為主要未來工作。德國網站 ifun.de 將其定位為此等規模的模型能在 8GB Mac 上執行的證明,同時指出取捨之處:在基礎硬體上的輸出是刻意為之,且 SSD 速度至關重要。
追溯依據
參考來源
- TurboFieldfare - Gemma 4 26B-A4B inference in about 2 GB of RAM GitHub (drumih/turbo-fieldfare) · github.com
- Run Gemma 4 26B on a Mac in 2GB RAM: TurboFieldfare Creative AI News · creativeainews.com
- Show HN: Open-source engine running Gemma 4 26B in 2 GB RAM on any M-series Mac Hacker News · news.ycombinator.com ·
- Lokale KI: Freie App bringt Googles Gemma 4 auch auf das MacBook Neo ifun.de · ifun.de