Gemma 4 12B：16GBノートPCでマルチモーダルAIモデルを動かす

ノートPCに16GBのVRAMまたはユニファイドメモリがあれば（たとえばM1/M2/M3 ProのMacBook）、文字、画像、音声を同時に理解できるAIモデルを今すぐ動かせます。Googleが発表したばかりのGemma 4 12Bはまさにそのために生まれました。

Gemma 4 12Bとは

Gemma 4 12BはGoogle DeepMindが最新でオープンソース化したマルチモーダル大規模モデルで、パラメータ量は120億です。Gemma 4シリーズの一員で、エッジデバイス向けのE4Bと、より能力の高い26BのMixture of Expertsモデル（MoE）の中間に位置します。

いくつかの重要なデータ：

Gemma 4 12Bと26BのVRAM比較

従来のマルチモーダルモデルは、非テキスト入力を処理するために独立したビジョンエンコーダとオーディオエンコーダを必要とし、これらのエンコーダは追加のレイテンシとメモリオーバーヘッドをもたらします。Gemma 4 12Bは「エンコーダーレス」アーキテクチャを採用しました：

ビジョン処理：元の27層のビジョンTransformerを、わずか35Mパラメータの超軽量埋め込みモジュールで置き換えました。生のピクセルは1回の行列乗算と座標ルックアップを経て、LLMのバックボーンネットワークに直接入ります。

音声処理：オーディオエンコーダを完全に除去しました。16kHzの生音声信号は40ミリ秒の断片に切り分けられ、線形投影によってテキストトークンと同じ次元空間へ直接マッピングされます。

エンコーダーレスアーキテクチャ

これは、ビジョン、音声、テキストが同じ重みセットを共有することを意味します。LoRAファインチューニングでは、1回のフォワードパスで全モダリティを同時に更新できます。

RTX 4090での実測比較（タスク：サードパーティライブラリに一切依存しない、純手書きのHTML5 Canvas物理アニメーション）：

12Bは半分未満のVRAMで、ほぼ同等の品質をたたき出しました。16GBメモリのノートPCユーザーにとって、これは理想的なローカルマルチモーダルモデルです。

ollama run gemma4:12b

LM Studioで「gemma-4-12b」を検索すればダウンロードして実行できます。

litert-lm import --from-huggingface-repo=litert-community/gemma-4-12B-it-litert-lm gemma-4-12B-it.litertlm gemma4-12b
litert-lm serve

GoogleはすでにAI Edge GalleryをmacOSプラットフォームに公式移植し、Apple SiliconのGPU向けに低レベル最適化を施しています。チャットバブルの中でPythonコードを直接実行してグラフを描け、すべてオフラインで動きます。