Repo-lab
AIツール

TurboFieldfare:8GBのMacでGemma 4 26Bを動かすSwift+Metal推論ランタイム

⭐ 1,531 stars GitHub →

TurboFieldfare:8GBのMacでGemma 4 26Bを動かすSwift+Metal推論ランタイム

AppleシリコンMac専用のカスタムSwift+Metal推論エンジン。Gemma 4 26Bパラメータモデルをわずか約2GBのRAMで動作させ、8GB搭載のMacBook Airでもローカルで大規模LLMが実行できる画期的なツール。OllamaやMLXとは異なる独自アーキテクチャでSSDストリーミング方式を採用。

GitHubで急上昇中の drumih/turbo-fieldfare をご紹介します。 スター数 1,531★ を獲得し、AI分野で注目されているツールです。


TurboFieldfareとは?ローカルLLMの常識を変える2GBランタイム

TurboFieldfareはdrumiH氏が開発したAppleシリコンMac専用の推論ランタイムで、Google DeepMindのGemma 4 26B-A4Bモデルをわずか約2GBのRAMで実行することを実現した。

通常、26Bパラメータ規模のモデルを動かすには14.3GB以上のメモリが必要だ。しかしTurboFieldfareは独自のアーキテクチャで、共有コア(1.35GB)とKVキャッシュだけをメモリに常駐させ、各トークン生成に必要な「Expertレイヤー」のみをSSDからストリーミング取得する。この設計により、8GB RAMのMacBook Airでも大規模モデルが動作する。

実測値はM2 MacBook Air(8GB)で5〜6トークン/秒、M5 Proで31〜35トークン/秒。最新リリース(v0.3、2026-07-29)ではApple10 GPU向けの長文プリフィル処理が最大2.4倍高速化されており、活発な開発が続いている。

こんな人におすすめ:

  • エンジニア向け: AppleシリコンMacでオフライン・プライベートなLLM環境を構築したいMLエンジニアやAI開発者。OpenAI互換サーバーとして既存ツールと即接続できる
  • 非エンジニア向け: プログラミング知識が必要なため、エンジニア専用ツールです。ただしMacアプリのGUIも用意されており、基本操作はコマンド不要

主な機能・特徴

SSDストリーミングによる超低メモリ動作

TurboFieldfareの核心技術は「Expert-on-Demand Streaming」だ。Gemma 4はMixture-of-Experts(MoE)アーキテクチャを採用しており、各トークン生成時に全パラメータの一部(アクティブパラメータは約3.88B)しか使わない。TurboFieldfareはこの特性を最大限に活用し、使わないExpertをSSDに置いたままトークンごとに必要分だけ読み込む。

3つの動作モード

モード 用途
ネイティブMacアプリ(TurboFieldfareMac) GUIでモデルダウンロード・推論実行
CLI(TurboFieldfareCLI) ターミナルでのチャット・バッチ処理
OpenAI互換サーバー(TurboFieldfareServer) Claude Code・Cursorなどのツールから接続

Apple Metal 4直接活用

OllamaやMLXのようなフレームワークのラッパーではなく、Metal 4カーネルを直接記述したネイティブ実装。不要な抽象レイヤーが存在せず、AppleシリコンのUnified Memoryアーキテクチャを最大限に活かした設計になっている。

ストリーミングインストーラー

モデルインストール時に中間チェックポイントをディスクに書き出さず、Hugging FaceからSSDへ直接ストリーミング展開する。これにより、インストール中に必要な一時ストレージを最小化できる。


使い方・始め方

インストールと初回セットアップ

まずリポジトリをクローンしてビルドする。Xcode 26とSwift 6.2が必要だ。

git clone https://github.com/drumih/turbo-fieldfare.git
cd turbo-fieldfare
swift build -c release
.build/release/TurboFieldfareMac

アプリが起動したら「Download」を選択してモデルをインストールする(約15GB、Hugging Faceからストリーミング取得)。完了後「Load Model」→プロンプト入力→「Generate」で推論開始だ。

CLIとOpenAI互換サーバー

MacアプリでインストールしたモデルをそのままCLIやサーバーでも使える。

# CLIチャット
.build/release/TurboFieldfareCLI

# OpenAI互換サーバー起動(デフォルト: localhost:8080)
.build/release/TurboFieldfareServer

サーバーモードでは、Claude CodeやCursorのような外部ツールのAPIエンドポイントをhttp://localhost:8080に向けるだけで接続できる。

サンプリングパラメータ設定

生成品質と速度のバランスをMacアプリの右ペインで調整できる。

パラメータ デフォルト値 説明
Temperature 0.2 低いほど確定的な出力
Top-K 64 候補トークン数
Top-P 0.95 核サンプリングの閾値

活用事例

フロントエンドエンジニアのオフライン開発環境

MacBook Air 8GBを携帯しながら出張・移動中でもインターネット接続なしにコード補完・リファクタリング提案を受けられる。APIコストがゼロで、入力したコードが外部に送信されない点がセキュリティ重視の企業エンジニアに支持されている。

Claude Code・Cursorとのローカルバックエンド連携

OpenAI互換サーバーモードを使えば、Claude CodeやCursorのカスタムモデル設定でhttp://localhost:8080を指定するだけでTurboFieldfareをバックエンドとして使用できる。有料APIの利用頻度を大幅に削減しながら、ローカルモデルで応答の速いアシスタントを実現できる。


OllamaやMLXとの違い・なぜ今このツールか

ローカルLLMの分野ではすでにOllama、MLX(Apple製フレームワーク)、LM Studioなどが普及している。TurboFieldfareはこれらと根本的に異なるアプローチを取っている。

Ollama・LM Studioとの違い: これらはllama.cppをベースにしており、モデル全体をメモリに展開することが前提だ。8GBのMacで26Bモデルを動かすことはできない。TurboFieldfareはSSDストリーミングという全く異なる方式でこの制約を突破している。

MLXとの違い: Apple公式のMLXはAppleシリコン向けに最適化されているが、やはりモデル全体をUnified Memoryに展開する設計だ。TurboFieldfareは「Gemma 4専用」という制約を設けることで、汎用フレームワークでは実現できない極限のメモリ最適化を達成している。

なぜ今か: 2026年はApple Intelligenceの登場でMacでのAI処理への注目が高まる中、Google DeepMindがリリースしたGemma 4が高品質なオープンモデルとして台頭した。TurboFieldfareはそのGemma 4を低スペックMacで動かす唯一のソリューションとして急速に注目を集めている。


こんな人に向いている

MLエンジニア・AI開発者

プライバシーを重視した実験環境が必要なMLエンジニア、または APIコストを抑えながらLLMを日常的に使いたい開発者に最適だ。macOS 26のOpenAI互換サーバーとして起動することで、既存の開発ワークフローに即座に組み込める。

Macユーザーのバックエンドエンジニア

サーバーサイドの設計やコードレビュー補助にLLMを活用したいが、有料APIの請求が気になるエンジニア。TurboFieldfareをローカルで動かせば、月額固定コスト「ゼロ」でAIアシスタントを常時利用できる。

セキュリティ重視の企業担当者

機密性の高いコードやドキュメントを扱うため、クラウドLLMサービスへの入力を避けたい担当者。完全オフラインで動作するため、データが外部に送信されることがない。


使う前に知っておきたいこと

動作要件(厳格な制約)

TurboFieldfareは以下の環境が必須であり、現時点では例外なく要件を満たす必要がある。

  • macOS 26以降: macOS 15(Sequoia)以前はサポートなし(コミュニティIssueで要望中)
  • Appleシリコン(M系チップ)必須: Intel Macは非対応
  • Metal 4必須: M2以降のチップが対象(M1の対応は未確認)
  • Swift 6.2 / Xcode 26: 最新の開発ツールが必要

ストレージとSSD速度

モデルの実行速度はSSDのシーケンシャルリード速度に依存する。高速なSSDほどトークン生成が速くなるが、MacBook Airの内蔵SSDはサーマルスロットリングで速度が落ちる場合がある。長時間の使用では本体が熱を持つことがある。

対応モデルはGemma 4のみ

現時点でサポートしているモデルはGemma 4 26B-A4B一択だ。LlamaやMistralなど他のモデルへの対応はロードマップに含まれていない。汎用ローカルLLMランナーとしてはOllamaやLM Studioが適しており、TurboFieldfareは「Gemma 4を8GBのMacで動かしたい」という特定のユースケース専用ツールだと理解しておく必要がある。

テキスト専用

画像・音声・動画の入力は一切サポートしていない。マルチモーダルが必要な場合は別のソリューションを探す必要がある。


関連ツール・おすすめサービス

  • Perplexity AI — AI検索・リサーチツール。TurboFieldfareで処理できない大量の最新情報検索はPerplexityが補完できる
  • DigitalOcean — GPUインスタンスも提供するクラウドプロバイダ。ローカルでは不足するリソースが必要な場合の選択肢

まとめ

TurboFieldfareはAppleシリコンMacという特定のプラットフォームに絞り込み、「Gemma 4を8GBのMacで動かす」というミッションに特化することで、従来のローカルLLMツールでは不可能だったメモリ効率を実現した。

macOS 26とApple Silicon専用という制約は大きいが、その環境を持つ開発者にとってはAPIコストゼロ・完全プライベート・高速なLLM環境を手に入れられる点で他に類を見ないツールだ。特にMacBook Air 8GBユーザーにとって、これほど大きなモデルをローカルで動かせる選択肢は現時点でTurboFieldfareのみといっても過言ではない。

GitHub でチェックする →


この技術を学ぶ

AI・機械学習に興味を持った方には、UdemyのAIオンラインコースもおすすめです。

毎日更新のGitHubツール情報

LINEで受け取って最新情報をキャッチアップしよう

友達追加する(無料)

関連記事

この記事が役に立ったらシェアしてください