TurboFieldfare 2026：任意のMシリーズMacで2GBのRAMに載る26BのGemma

オープンソース（Apache-2.0）のSwiftおよびMetalによる推論エンジン、CLI、ネイティブMacアプリであり、Googleの命令チューニング済みGemma 4 26B-A4Bを、8GBのものを含む任意のApple Silicon Mac上で約2GBのRAMに載せて動作させる。

MoEモデルのルーティングされたエキスパートをRAMではなくSSDからストリーミングできれば、26Bパラメータのモデルを32GBのワークステーションではなく8GBのMac上で約2GBに載せて動作させられるという賭けだった。

オンデバイスAIを愛するiOSおよびMetalエンジニアのAndrey Mikhaylov氏は、4ビットの重み14.3GBが8GB Macのメモリに収まらないモデルを動作させたいと考えていた。同氏は2026-07-29にTurboFieldfareをShow HNとして投稿し、8GBのM2 MacBook Airで5〜6トークン/秒、M5 MacBook Proで31〜35トークン/秒という速度で、RAM使用量は約2GBだと主張した。

スレッドは大きな反響を呼び、919ポイントと345件のコメントを集め、メンテナーはリアルタイムで質問に答えて実測のキャッシュヒット率を共有し、M1 MacBookやMacBook Neoハードウェアからのコミュニティの結果を取り入れた。その後Creative AI Newsとドイツのサイトifun.deが取り上げた。リポジトリには設計の裏付けとなる103件の監査済み実験に加え、M2以降のMac向けのオプションのビジョンコンパニオンパックが記録されている。2026-09-02時点でリポジトリは約410フォークを示していた。

2026-09-02時点でTurboFieldfareは独立した研究プロジェクトのままであり、企業も資金もマネタイズもないApache-2.0のコードで、今後の作業はiPhone/iPadへの移植とより多くの低メモリMacに向けられている。

26Bクラスのモデルをコンシューマー向けノートPCから遠ざけていた壁は、演算能力ではなくメモリだった。

Gemma 4 26B-A4Bはmixture-of-expertsモデルであるため、トークンごとに発火するのはパラメータのごく一部であり、重みの全体を常駐させる必要はない。

カスタムのMetalカーネルとモデル専用のランタイムは、この特定のワークロードにおいて汎用のMLXやllama.cppをラップするものを上回った。

高速なAppleのSSDにより、ディスク帯域がRAM容量の実用的な代替となった。

HNの開発者層はコードを自分でクローンし、ビルドし、ベンチマークできたため、ローンチ時の主張がコミュニティによって検証された結果へと変わった。

一つの厳しい制約のためにモデル専用のエンジンを書くことは汎用ランタイムを上回りうるし、実際に計測したコードを公開すれば、一人のエンジニアがコミュニティ全体をベンチマークチームとして借りられる。

2026-09-02時点でTurboFieldfareは活発なオープンソース開発を続けており、103件の監査済み実験、コミュニティ向けベンチマークガイド、ループバックのOpenAI互換サーバー、オプションのビジョンパックを備え、約410フォークが活発なコミュニティを反映している。作者はこれをGoogleとの提携のない独立した研究プロジェクトと説明し、今後の主な作業としてiPhoneおよびiPadへの移植を挙げている。ドイツのサイトifun.deは、この規模のモデルが8GBのMacで動作できることの証明として位置づけつつ、トレードオフにも言及した。すなわち、ベースハードウェアでの出力は意図的に抑えられており、SSDの速度が重要だという点である。