Gemma 4 12B：ベンチマーク・VRAM要件・ローカルで動かす方法

Gemma 4 12B：ベンチマーク・VRAM要件・ローカルで動かす方法

Google DeepMindは2026年6月3日にGemma 4 12Bをリリースした。3日後、誰もが繰り返している数字はMMLU Proのスコア、77.2%だ。これは前年のGemma 3 27Bが同じテストで記録した67.6%を上回る。120億パラメータのモデルが27Bのフラッグシップを上回る？しかもメモリは半分以下で？そうなのだ。そしてライセンスも変わった。Gemma 4はApache 2.0で提供されるため、商用利用も問題ない、ただし書きなしだ。256Kトークンのコンテキストウィンドウを備え、量子化すればVRAMはおよそ6.6GBで動作する。この最後の部分こそ、私たちのほとんどにとっての核心だ：これはミドルレンジのGPUに収まるのだ。

主要ポイント

• Gemma 4 12B（2026年6月3日リリース）はMMLU Proで77.2%を記録し、前年のGemma 3 27B（67.6%）を上回る。
• Q4_K_MでVRAM約6.6GBで動作し、8GB GPUに収まる。約16GBあれば余裕を持って使える。
• Apache 2.0ライセンス（商用利用可）、256Kコンテキスト、ネイティブ音声＋画像入力、エンコーダーフリー設計。
• 実行は1コマンド：ollama run gemma4:12b（ダウンロード7.6GB）。

Gemma 4 12Bとは？

Gemma 4 12Bは、Google DeepMindが2026年6月3日にApache 2.0ライセンスでリリースした、120億パラメータのオープンウェイトモデルだ。エンコーダーフリーの統合マルチモーダルモデルで、テキスト・画像・ネイティブ音声が入力され、テキストが出力される。256Kトークンのコンテキストウィンドウを備え、140言語をサポートする。

実際に使うことになる命令チューニング済みのバリアントはgemma-4-12B-itという名前だ（「it」はinstruction-tunedの略で、チャット対応バージョンのこと）。総パラメータ数は119.5億なので、「12B」は少し切り上げている。学習データのカットオフは2025年1月だ。

ここが面白いところなのだが：Gemma 4 12Bは、ネイティブ音声入力を備えた初のミドルサイズGemmaだ。別の音声エンコーダーが後付けされているわけではない。生の波形がそのままモデルに投影される。画像も同じだ。この設計上の選択のおかげで、コンシューマー向けグラフィックカード1枚で動くほど小さく収まっている。なぜそうなるのかは、すぐ後で説明する。

先に全体像を知りたい？自分のマシンでオープンモデルを動かすガイドでは、ローカルLLM初心者のためのセットアップの基本をカバーしている。Googleの公式発表記事に全告知がある。

Gemma 4 12Bのスペック一覧

検証済みの情報をすべて1つの表にまとめた。推測なし。

サンプリングについて1点注意：理由がない限り、推奨のtemperature=1.0, top_p=0.95, top_k=64を守ろう。Gemmaモデルは低温度で奇妙な挙動をするので、他のモデルでそうするように反射的に0.2まで下げるのはやめよう。

エンコーダーフリー設計はどう動くのか？

エンコーダーフリーとは、画像や音声が言語モデルに届く前に変換する別のモデルが存在しないことを意味する。視覚パッチと生の音声波形は、薄い線形層を通じて直接共有埋め込み空間に投影される。ほとんどのマルチモーダルモデルは重い視覚エンコーダーをLLMに後付けする。Gemma 4 12Bはそれを省いており、だからこそ16GBに収まるのだ。

翻訳者とバイリンガルの人間に例えてみよう。古いアプローチは、画像をモデルが理解できる言語に変換する別の翻訳者（エンコーダー）を雇い、それを引き渡す。Gemma 4 12Bは生まれながらのバイリンガルだ。音声データも画像データも、かさばるエンコーダーではなく軽量な投影層を通じて、モデルの母国語を直接話す。

内部的には48層のハイブリッドアテンションだ。ほとんどの層は1024トークンのスライディングウィンドウ（低コストでローカル）を使い、そこに時折グローバルアテンション層が挟まり、コンテキスト全体を見る。この組み合わせにより、GPUを溶かすことなく256Kコンテキストを処理できる。

実用上のメリット：エンコーダーに使われるパラメータが少ないということは、VRAM予算のより多くが実際の推論に回るということだ。このトレードのおかげで、12Bモデルがこれほど自身のサイズを超えた性能を発揮できる。

Gemma 4 12Bのベンチマーク：実際の数字

見出しの主張は裏付けられた：Gemma 4 12Bは**MMLU Proで77.2%**を記録し、同じテストでGemma 3 27Bの67.6%を、VRAM半分以下で上回った。これらはGoogleによる公式の命令チューニング済み（-it）の数値であり、コミュニティの推定ではない。全セットを掲載する。

12Bモデルが今、MMLU Proで前年の27Bフラッグシップを上回る：77.2%対67.6%。これは、ハードウェアの計算を見直したくなるような世代間の飛躍だ。

正直な注意点を2つ。第一に、ダッシュはGoogleがその行についてGemma 3 27Bの数値を公開していないことを意味するため、セルは推測で埋めず空欄のままにしてある。第二に、ここにあるスコアはすべて命令チューニング済みモデルのものだ。ベースモデルの数値は異なる。これらはすべてHuggingFaceのモデルカードとDeepMindのモデルページで相互確認できる。

Gemma 4 12Bに必要なVRAMは？

Gemma 4 12BはQ4_K_M量子化でVRAM約6.6GBを必要とし、8GB GPUに収まる。余裕を持ったヘッドルーム、特に256Kコンテキストの一部を使いたい場合は、VRAMまたは統合メモリ16GBを目指そう。ノートPCで動く。MシリーズのMacは統合メモリ経由で問題なく扱える。

量子化とは、モデルの重みに対する圧縮にすぎない。精度の低い数値を使い、ファイルを小さくし、精度をわずかに落とす。一般的なレベルがどう対応するかを以下に示す。

このモデルを中心にハードウェアを選んでいるなら、私たちがベンチマークしたローカルLLMツールのまとめが、どのバックエンドが特定のカードから最も性能を引き出すかをカバーしている。短く言えば：12GBカードならQ4に余裕を持って収まり、8GBカードならコンテキストを控えめにすればQ4が動く。

Gemma 4 12Bの速度：実ハードウェア別のTokens/sec

どれくらい速い？それはカード、量子化、バックエンドに依存するため、1つの数字の代わりに、公開されているサードパーティの数値を1か所に集めた。これらはコミュニティのテスターやベンダーが報告したもので、各ソースに帰属する。私たち自身のラボの数値ではない。

公開データが今まさに実際に何と言っているか、率直に伝えよう。runaiathomeは、6GBのRTX 3060上でモデルが約6.6GBのQ4_K_Mフットプリント内で動作することを確認しており、これが現時点で最も具体的な公開ハードウェアレポートだ。apxmlのスペックシートとOllamaのライブラリページは、24GBのRTX 4090上でQ4にてモデルがローカルにサーブされることを確認しており、リアルタイムチャットの領域に余裕を持って収まるが、そのカードについての正確な持続tok/sの数値はまだ公開されていない。Apple Siliconのgemma4:12b-mlxバリアントは存在し動作するが、信頼できるtok/sの数値はリリース3日目の時点ではまだ出てきていない。

これがあなたにとって何を意味するか、ティア別に：RTX 3060のような6GBカードでは、ロードしてローカルチャットで動くことを期待できるが、コンテキストウィンドウは控えめに保とう。24GBのRTX 4090でQ4_K_Mなら、公開レポートはリアルタイムチャットの領域に余裕を持って収まるとしている。Apple Siliconでは、MLXビルドは動くがベンチマークの数値はまだぽつぽつとしか出てきていない。

これらは公開されたサードパーティの数値であり、私たち自身のラボの数値ではないため、目安として扱ってほしい。tok/sはプロンプト長、コンテキストサイズ、バックエンドのバージョンに依存する。ソース：Ollamaライブラリページ、apxml、runaiathome。今後2週間でコミュニティのベンチマークが増えるにつれ、この表を更新していく。

Gemma 4 12Bをローカルで動かすには？

最短ルート：Ollamaをインストールし、1コマンド実行して完了。ollama run gemma4:12bは7.6GBのモデルを取得し、チャットプロンプトに落とす。設定ファイルもPython環境も不要。もっとコントロールしたい場合やApple Siliconを使っている場合は、以下に4つの他のルートがある。

1. Ollama（手軽なデフォルト）。 2行で取得して実行：

ollama pull gemma4:12b
ollama run gemma4:12b

2. GGUFを使ったllama.cpp。 特定の量子化が欲しい場合は、llama.cppをHuggingFace上のGGUFに向けよう。GGUFはllama.cppが量子化済み重みに使うファイル形式だ：

llama-cli -hf unsloth/gemma-4-12b-it-GGUF:Q4_K_M -p "Explain encoder-free models in one paragraph."

3. Apple SiliconでのMLX。 MシリーズのMacには、CUDAの代わりにAppleのフレームワークを使う専用MLXビルドがある：

ollama run gemma4:12b-mlx

4. LM Studio（GUI、ターミナル不要）。 デスクトップアプリがいい？LM Studioを開き、検索タブを押してgemma 4 12bと入力。Q4_K_MのGGUFを選んでダウンロード。LM Studioが残りを処理する。ローカルサーバーのトグルも含まれる。

5. API経由でクエリ。 Ollamaはポート11434でOpenAI互換のエンドポイントを公開するため、既存のコードはベースURLを1行差し替えるだけで動く：

curl http://localhost:11434/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gemma4:12b",
    "messages": [{"role": "user", "content": "Summarize the 256K context window in one sentence."}]
  }'

CLIで動くようになったら、おそらく本物のインターフェースが欲しくなるだろう。Open WebUIでChatGPTスタイルのUIにラップするのは約5分でできる。これらすべてが初めて？ローカルLLMセットアップの完全ガイドから始めよう。公式のサンプリング推奨と実行ルートについては、ai.google.devとOllamaのドキュメントを参照。

Gemma 4 12Bにはどの量子化を使うべきか？

ほとんどの人にとって、Q4_K_Mが賢明なデフォルトだ：VRAM約6.6GB、ほぼフル品質、8GB GPUに収まる。16GB以上あって最高の忠実度が欲しいなら、Q8にステップアップしよう。そして今使える中でGBあたり最高の品質が欲しいなら、新しいQAT Q4_0チェックポイントを見よう。

ここに、まだ誰も織り込んでいない鮮度のアングルがある。2026年6月5日、リリースのわずか2日後、GoogleはQuantization-Aware-Training（QAT）Q4_0チェックポイントを新しいモバイル形式とともにリリースした。QATとは、モデルが量子化を前提に学習されていることを意味し、Q4のフットプリントでほぼFP（ほぼフル精度）の品質を維持する。同じ約6.6GBで、標準のポストトレーニングQ4より精度損失が明らかに少ない。VRAMに制約があるが品質に敏感なら、それがあなたの選択だ。

クイック判断ガイド：

• 8GBカード、シンプルにしたい： Q4_K_M。
• 8GBカード、そのサイズで最高品質が欲しい： QAT Q4_0。
• 16GB以上のカード、最高忠実度が欲しい： Q8。
• その中間、少しVRAMに余裕： Q5_K_M。

GoogleのQAT発表で彼らの論理を読める。要点：Q4_K_Mで十分、QAT Q4_0は同じサイズでより良い、そして精度がメモリより重要ならQ8が必要、ということだ。

Gemma 4 12B vs Gemma 3 12B vs Qwen 3.5：アップグレードする価値はあるか？

ある。Apache 2.0ライセンス、ネイティブ音声入力、256Kコンテキストウィンドウ、またはMMLU Proの飛躍を気にするなら、Gemma 3 12Bからのアップグレードは価値がある。Qwen 3.5に対しては、より接戦だ。Gemma 4 12Bはライセンスの寛容さとネイティブ音声で勝るが、Qwen 3.5はいくつかの12Bクラスベンチマークの行を取る。見出しではなく、実際のニーズで選ぼう。

ライセンスの変更だけで、多くのチームにとってGemma 3 12Bから移行する正当な理由になる。Gemma 3は利用制限付きのGoogleカスタムライセンスで提供されていた。Gemma 4はまっさらなApache 2.0だ。商用の理由でGemmaを控えていたなら、そのブロッカーはなくなった。

Qwen 3.5に対しては、自分に正直になろう。Qwen 3.5は本当に強く、特定の推論・コーディングの行でGemma 4 12Bをわずかに上回る。音声入力と寛容なライセンスがあなたのリストにないなら、コミットする前に自分のタスクで両方をベンチマークしよう。より広いフィールドについては、Gemma 4 12Bがベストなオープンモデルの中でどこに位置するかを参照。そしてApache 2.0なので、UnslothでApache 2.0のままファインチューニングでき、ライセンスの頭痛はない。

Gemma 4 12Bを使うべきでない時

はるかに大きなモデルでしか得られないフロンティアレベルの推論が必要な場合、Qwen 3.5があなたのワークロードが依存する特定のベンチマークの行で勝る場合、またはプロジェクトがリリース3日目でまだ成熟しつつある音声ツールに大きく依存する場合、Gemma 4 12Bをスキップしよう。これは優れた12Bモデルであり、魔法ではない。

Gemma 4 12Bは常に正しい選択とは限らない。フロンティアレベルの推論が必要なら、より大きなモデルが今でも勝つ。ネイティブ音声サポートは本物で印象的だが、周辺のツール、ライブラリ、ヘルパーユーティリティ、フレームワーク統合はリリースから数日で、ところどころ粗い。今週音声重視のプロダクトをリリースするなら、賭ける前に徹底的にテストしよう。

さらに正直ないくつかの失格条件。エージェントに組み込むなら、エージェント的な振る舞いはモデルによって異なるため、まず自分のタスクでツール呼び出しの信頼性を確認しよう。エッジがロングコンテキストなら、生のウィンドウサイズがより良い出力に等しいと仮定するのではなく、256Kコンテキストウィンドウを最大限に活かすようにしよう。そしてローカル実行を超えて本番サービングに移るなら、ローカルを超えた本番サービングのパスがvLLMとSGLangをカバーする。Gemma 4 12Bのようなオープンモデルを本番でデプロイしているなら、私たちがお手伝いできる。

著者について

Mert Batur GurbuzはTechsy.ioの共同創業者で、チームはB2Bクライアント向けにAIエージェント、自動化システム、音声/SDRパイプラインを提供している。バーミンガム大学で学び、Techsyチームが実際に本番で使っているLLMツールのスタックについて執筆している。LinkedInでつながろう。

ツールを選ぶのは簡単な半分だ。実際のプロダクトの中で確実に動くようにするところで、ほとんどのチームはつまずく。そしてそれこそ、私たちのAIインテグレーションチームがクライアントのために構築しているものだ。RAGパイプラインからカスタムエージェントまで。

よくある質問

Gemma 4 12Bをローカルで動かすには？

Ollamaをインストールし、ollama run gemma4:12bを実行する。これで7.6GBのモデルを取得し、チャットプロンプトが開く。Python環境も設定ファイルも不要。代わりにグラフィカルなアプリが欲しいなら、LM Studioも使える：モデルブラウザでgemma 4 12bを検索し、Q4_K_Mビルドをダウンロードしよう。

Gemma 4 12BのVRAM・ハードウェア要件は？

Gemma 4 12BはQ4_K_M量子化でVRAM約6.6GBを必要とし、8GB GPUに収まる。余裕を持ったヘッドルーム、特にロングコンテキストを使う場合は、VRAMまたは統合メモリ16GBを目指そう。統合メモリ経由のMシリーズMacを含むノートPCで動作する。

Gemma 4 12Bは16GBノートPCで動くか？

はい、余裕で動く。Q4_K_Mでモデルは約6.6GBを使うため、16GBマシンには十分な空きがある。Apple Siliconノートでは、統合メモリがgemma4:12b-mlxビルド経由でうまく処理する。16GBならQ8量子化にステップアップして、より高い忠実度を得ることもできる。

Gemma 4 12Bは実際にLlamaやQwen 3.5より良いのか？

何を測るかによる。Gemma 4 12BはApache 2.0ライセンス、ネイティブ音声入力、256Kコンテキストウィンドウで勝り、MMLU Proで強力な77.2%を記録する。しかしQwen 3.5はいくつかの12Bクラスの推論・コーディングの行を取る。判断する前に、自分のタスクで両方をベンチマークしよう。

Gemma 4 12BはGemma 3 12Bより良いのか？

はい。Gemma 4 12Bは寛容なApache 2.0ライセンスに移行し、ネイティブ音声入力を追加し、コンテキストウィンドウを256Kトークンに倍増させ、MMLU Proで意味のある改善を記録する。ライセンスの変更だけで、Gemma 3のカスタム規約でブロックされていた商用プロジェクトにとってアップグレードの正当な理由になる。

Gemma 4 12Bにはどの量子化を使うべきか？

Q4_K_Mが約6.6GBでほぼフル品質の賢明なデフォルトだ。同じサイズで最高品質が欲しいなら、2026年6月5日にリリースされた新しいQAT Q4_0チェックポイントを使おう。Q4のフットプリントでほぼフル精度の品質を維持する。16GB以上があり最高の忠実度が必要な場合のみQ8を使おう。

Gemma 4 12Bは商用利用で無料か？

はい。Gemma 4 12BはApache 2.0ライセンスで提供され、Gemma 3のカスタムGemmaライセンスの利用制限なしに商用利用を許可する。商用プロダクトの構築、ファインチューニング、再配布が可能だ。このライセンス変更は、チームがGemma 3からアップグレードしている最大の理由の1つだ。

Gemma 4 12Bは本当に音声入力をサポートするのか？

はい。Gemma 4 12Bはネイティブ音声入力を備えた初のミドルサイズGemmaだ。エンコーダーフリー設計のおかげで、生の音声波形が別の音声エンコーダーなしで直接モデルに投影される。とはいえ、周辺のツールはリリースから数日なので、本番で音声重視の機能をリリースする前に慎重にテストしよう。

Gemma 4 12BはRTX 4090でどれくらい速い？

公開されているサードパーティのレポートは、24GBのRTX 4090上でQ4_K_MのGemma 4 12Bをリアルタイムチャットの領域に余裕を持って収まるとしているが、リリース3日目の時点で正確な持続tokens/secの数値はまだ公開されていない。速度はプロンプト長、コンテキストサイズ、バックエンドのバージョンで変わるため、初期の数値は目安として扱おう。

Gemma 4 12Bはどこからダウンロードする？

命令チューニング済みモデルはHuggingFaceにgoogle/gemma-4-12B-itとしてあり、Ollamaでollama run gemma4:12b（ダウンロード7.6GB）で取得できる。LM Studioユーザーはアプリのモデルブラウザでgemma 4 12bを検索できる。特定の量子化については、GGUFファイルがUnslothのようなコミュニティリポジトリから入手できる。