사업 내용
구글의 명령어 튜닝된 Gemma 4 26B-A4B를 8GB 모델을 포함한 모든 애플 실리콘 Mac에서 약 2GB RAM으로 실행하는 오픈소스(Apache-2.0) Swift 및 Metal 추론 엔진, CLI, 네이티브 Mac 앱이다.
핵심 가설
MoE 모델의 라우팅된 전문가들을 RAM 대신 SSD에서 스트리밍하면, 26B 파라미터 모델을 32GB 워크스테이션이 아닌 8GB Mac에서 약 2GB로 실행할 수 있다는 것이다.
시작 경위
온디바이스 AI를 좋아하는 iOS 및 Metal 엔지니어 안드레이 미하일로프는 4비트 가중치가 14.3GB에 달해 8GB Mac의 메모리에 들어가지 않는 모델을 실행하고 싶었다. 그는 2026-07-29 Show HN에 TurboFieldfare를 게시하며, 8GB M2 MacBook Air에서 5-6 tokens/s로 약 2GB RAM을 사용하고 M5 MacBook Pro에서는 31-35 tokens/s라고 주장했다.
전개
이 스레드는 919점과 345개 댓글로 크게 주목받았고, 메인테이너는 실시간으로 질문에 답하며 측정된 캐시 적중률을 공유하고 M1 MacBook과 MacBook Neo 하드웨어에서 나온 커뮤니티 결과를 받아들였다. 이후 Creative AI News와 독일 사이트 ifun.de가 보도했으며, 저장소에는 설계 배경이 된 103건의 감사된 실험과 M2+ Mac용 선택적 비전 컴패니언 팩이 기록되어 있다. 2026-09-02 기준 저장소는 약 410개의 포크를 보였다.
최종 결과
2026-09-02 기준 TurboFieldfare는 독립적인 연구 프로젝트로 남아 있다: 회사, 자금, 수익화가 없는 Apache-2.0 코드이며, 향후 작업은 iPhone/iPad 포팅과 더 많은 저메모리 Mac을 향해 있다.
26B급 모델을 소비자용 노트북에서 배제시킨 장벽은 연산이 아니라 메모리였다.
Gemma 4 26B-A4B는 전문가 혼합(MoE) 모델이므로 토큰당 소량의 파라미터만 활성화되고 전체 가중치 집합이 상주할 필요가 없다.
커스텀 Metal 커널과 모델 전용 런타임이 이 특정 워크로드에서 범용 MLX나 llama.cpp를 감싸는 방식을 능가했다.
빠른 애플 SSD 덕분에 디스크 대역폭이 RAM 용량의 실용적 대안이 되었다.
HN의 개발자 독자층이 코드를 직접 클론하고 빌드하고 벤치마크할 수 있었기에, 출시 주장이 커뮤니티 검증 결과로 바뀌었다.
하나의 어려운 제약을 위해 모델 전용 엔진을 작성하는 것이 범용 런타임을 능가할 수 있으며, 실제로 측정된 코드를 공개하면 한 엔지니어가 커뮤니티 전체를 벤치마크 팀으로 빌려 쓸 수 있다.
후속 상황
2026-09-02 기준 TurboFieldfare는 여전히 활발한 오픈소스 개발 중이다: 103건의 감사된 실험, 커뮤니티 벤치마크 가이드, 루프백 OpenAI 호환 서버, 선택적 비전 팩이 있으며, 약 410개의 포크는 활발한 커뮤니티를 반영한다. 작성자는 이를 구글과 무관한 독립 연구 프로젝트라고 설명하며 iPhone 및 iPad 포팅을 주요 향후 작업으로 꼽는다. 독일 사이트 ifun.de는 이 크기의 모델이 8GB Mac에서 실행될 수 있다는 증거로 평가하면서도, 기본 하드웨어에서의 출력이 의도적으로 느리고 SSD 속도가 중요하다는 트레이드오프를 지적했다.
근거 확인하기
출처
- TurboFieldfare - Gemma 4 26B-A4B inference in about 2 GB of RAM GitHub (drumih/turbo-fieldfare) · github.com
- Run Gemma 4 26B on a Mac in 2GB RAM: TurboFieldfare Creative AI News · creativeainews.com
- Show HN: Open-source engine running Gemma 4 26B in 2 GB RAM on any M-series Mac Hacker News · news.ycombinator.com ·
- Lokale KI: Freie App bringt Googles Gemma 4 auch auf das MacBook Neo ifun.de · ifun.de