Gemma 4 12B: Benchmarks, Requisitos de VRAM e Como Correr Localmente

Gemma 4 12B: Benchmarks, Requisitos de VRAM e Como Correr Localmente

A Google DeepMind lançou o Gemma 4 12B a 3 de junho de 2026. Três dias depois, o número que toda a gente repete é a pontuação no MMLU Pro: 77,2%. Isso supera o Gemma 3 27B do ano passado, que conseguiu 67,6% no mesmo teste. Um modelo de 12 mil milhões de parâmetros a pontuar acima de um flagship de 27B? Com menos de metade da memória? Sim. E a licença também mudou. O Gemma 4 vem com Apache 2.0, pelo que o uso comercial está liberado, sem asteriscos. Traz uma janela de contexto de 256K tokens e corre em aproximadamente 6,6 GB de VRAM depois de quantizado. Essa última parte é a história toda para a maioria de nós: isto cabe numa GPU de gama média.

Pontos-Chave

• O Gemma 4 12B (lançado a 3 de junho de 2026) marca 77,2% no MMLU Pro, superando o Gemma 3 27B do ano passado (67,6%).
• Corre com ~6,6 GB de VRAM em Q4_K_M, cabendo numa GPU de 8GB; ~16GB dá folga confortável.
• Licença Apache 2.0 (uso comercial OK), contexto de 256K, entrada nativa de áudio + imagem, arquitetura sem encoder.
• Um comando para o correr: ollama run gemma4:12b (download de 7,6 GB).

O Que É o Gemma 4 12B?

O Gemma 4 12B é um modelo de pesos abertos com 12 mil milhões de parâmetros da Google DeepMind, lançado a 3 de junho de 2026 sob licença Apache 2.0. É um modelo multimodal unificado, sem encoder: texto, imagem e áudio nativo entram, texto sai. Traz uma janela de contexto de 256K tokens e suporta 140 idiomas.

A variante com ajuste de instruções que vais efetivamente correr chama-se gemma-4-12B-it (o "it" é a abreviatura de instruction-tuned, a versão pronta para chat). Tem 11,95B de parâmetros no total, pelo que "12B" é um arredondamento por excesso. Os dados de treino vão até um cutoff de janeiro de 2025.

Aqui está a parte que o torna interessante: o Gemma 4 12B é o primeiro Gemma de dimensão média com entrada de áudio nativa. Não há um encoder de áudio separado acoplado. As formas de onda brutas são projetadas diretamente no modelo. O mesmo para imagens. Essa escolha de design é o que o mantém pequeno o suficiente para correr numa única placa de consumo, e já explicamos porquê daqui a pouco.

Queres primeiro a visão geral? O nosso guia sobre correr modelos abertos na tua própria máquina cobre o básico da configuração se és novo em LLMs locais. O post oficial de lançamento da Google tem o anúncio completo.

Especificações do Gemma 4 12B Num Relance

Tudo verificado, numa tabela. Sem suposições.

Uma nota sobre a amostragem: mantém o recomendado temperature=1.0, top_p=0.95, top_k=64 a menos que tenhas uma razão para não o fazer. Os modelos Gemma comportam-se de forma estranha a temperaturas baixas, por isso não reduzas reflexivamente para 0.2 como farias com outros modelos.

Como Funciona a Arquitetura Sem Encoder?

Sem encoder significa que não há um modelo separado a converter imagens ou áudio antes de chegarem ao modelo de linguagem. Os patches de visão e as formas de onda de áudio brutas são projetados diretamente no espaço de embedding partilhado através de camadas lineares finas. A maioria dos modelos multimodais acopla um encoder de visão pesado ao LLM. O Gemma 4 12B salta isso, e é por isso que cabe em 16GB.

Pensa nisto como um tradutor versus uma pessoa bilingue. A abordagem antiga contrata um tradutor separado (o encoder) para converter imagens numa linguagem que o modelo entenda, e depois entrega o resultado. O Gemma 4 12B é bilingue de nascença. Os dados de áudio e imagem falam a língua nativa do modelo diretamente, através de uma camada de projeção leve em vez de um encoder volumoso.

Sob o capô, são 48 camadas com atenção híbrida. A maioria das camadas usa uma janela deslizante de 1024 tokens (barata, local), intercalada com camadas ocasionais de atenção global que veem o contexto inteiro. Essa mistura é como consegue lidar com um contexto de 256K sem derreter a tua GPU.

O ganho prático: menos parâmetros gastos em encoders significa que mais do teu orçamento de VRAM vai para o raciocínio real. É essa troca que permite a um modelo de 12B desempenhar tão acima do esperado.

Benchmarks do Gemma 4 12B: Os Números Reais

O título confirma-se: o Gemma 4 12B marca 77,2% no MMLU Pro, superando os 67,6% do Gemma 3 27B no mesmo teste, com menos de metade da VRAM. Estes são números oficiais da variante com ajuste de instruções (-it) da Google, não estimativas da comunidade. Aqui está o conjunto completo.

Um modelo de 12B agora supera o flagship de 27B do ano passado no MMLU Pro: 77,2% vs 67,6%. É o tipo de salto geracional que te faz rever as contas do hardware.

Duas ressalvas honestas. Primeiro, os travessões significam que a Google não publicou um número do Gemma 3 27B para essas linhas, pelo que as células ficam em branco em vez de serem preenchidas com suposições. Segundo, todas as pontuações aqui são do modelo com ajuste de instruções. Os números do modelo base são diferentes. Podes verificar tudo isto no model card do HuggingFace e na página de modelos da DeepMind.

Quanta VRAM Precisa o Gemma 4 12B?

O Gemma 4 12B precisa de cerca de 6,6 GB de VRAM com quantização Q4_K_M, o que significa que cabe numa GPU de 8GB. Para folga confortável, especialmente se quiseres usar uma parte desse contexto de 256K, aponta para 16GB de VRAM ou memória unificada. Corre num portátil. Os Macs com chip M lidam bem com ele através da memória unificada.

Quantização é simplesmente compressão para os pesos do modelo. Números de menor precisão, ficheiro mais pequeno, precisão ligeiramente menor. Aqui está como os níveis comuns se distribuem.

Se estás a escolher hardware à volta deste modelo, o nosso resumo das ferramentas de LLM local que testámos cobre quais backends extraem mais de uma dada placa. A versão curta: uma placa de 12GB corre Q4 com espaço de sobra, uma placa de 8GB corre Q4 se mantiveres o contexto modesto.

Velocidade do Gemma 4 12B: Tokens/seg em Hardware Real

Quão rápido é? Isso depende da tua placa, da tua quantização e do teu backend, por isso, em vez de um único número, reunimos os valores publicados por terceiros num só lugar. Estes são reportados por testadores da comunidade e fornecedores, atribuídos a cada fonte. Não são números do nosso próprio laboratório.

Vou ser direto contigo sobre o que os dados públicos realmente dizem neste momento. O runaiathome confirmou o modelo a correr numa RTX 3060 de 6GB dentro do seu footprint de ~6,6 GB em Q4_K_M, que é o relatório de hardware publicado mais concreto até agora. A ficha técnica do apxml e a página da biblioteca Ollama confirmam que o modelo serve localmente numa RTX 4090 de 24GB em Q4, confortavelmente em território de chat em tempo real, mas um valor preciso de tok/s sustentado ainda não foi publicado para essa placa. A variante gemma4:12b-mlx para Apple Silicon existe e corre, mas números fiáveis de tok/s ainda não surgiram três dias após o lançamento.

O que isto significa para ti, por nível: numa placa de 6GB como a RTX 3060, espera que carregue e corra para chat local, apenas mantém a janela de contexto modesta. Numa RTX 4090 de 24GB em Q4_K_M, os relatórios publicados colocam-no confortavelmente em território de chat em tempo real. Em Apple Silicon, o build MLX corre mas os números de benchmark ainda estão a chegar aos poucos.

Estes são valores publicados por terceiros, não números do nosso próprio laboratório, por isso trata-os como indicativos. Os teus tok/s dependem do comprimento do prompt, do tamanho do contexto e da versão do backend. Fontes: a página da biblioteca Ollama, apxml e runaiathome. À medida que mais benchmarks da comunidade chegarem nas próximas duas semanas, atualizaremos esta tabela.

Como Correr o Gemma 4 12B Localmente?

O caminho mais curto: instala o Ollama, corre um comando, feito. ollama run gemma4:12b descarrega o modelo de 7,6 GB e coloca-te num prompt de chat. Sem ficheiros de configuração, sem ambiente Python. Se queres mais controlo ou estás em Apple Silicon, há quatro outros caminhos abaixo.

1. Ollama (o padrão fácil). Descarrega e corre em duas linhas:

ollama pull gemma4:12b
ollama run gemma4:12b

2. llama.cpp com um GGUF. Se queres uma quantização específica, aponta o llama.cpp para um GGUF no HuggingFace. GGUF é o formato de ficheiro que o llama.cpp usa para pesos quantizados:

llama-cli -hf unsloth/gemma-4-12b-it-GGUF:Q4_K_M -p "Explain encoder-free models in one paragraph."

3. MLX em Apple Silicon. Os Macs com chip M têm um build MLX dedicado que usa o framework da Apple em vez de CUDA:

ollama run gemma4:12b-mlx

4. LM Studio (GUI, sem terminal). Preferes uma aplicação de desktop? Abre o LM Studio, vai ao separador de pesquisa e escreve gemma 4 12b. Escolhe um GGUF Q4_K_M e descarrega. O LM Studio trata do resto, incluindo um toggle de servidor local.

5. Consulta-o pela API. O Ollama expõe um endpoint compatível com OpenAI na porta 11434, pelo que código existente funciona com uma troca de base-URL de uma linha:

curl http://localhost:11434/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gemma4:12b",
    "messages": [{"role": "user", "content": "Summarize the 256K context window in one sentence."}]
  }'

Depois de o teres a correr na CLI, provavelmente vais querer uma interface a sério. Podes envolvê-lo numa UI estilo ChatGPT com o Open WebUI em cerca de cinco minutos. Novo em tudo isto? Começa com o nosso guia completo de configuração de LLM local. Para as recomendações oficiais de amostragem e caminhos de execução, vê ai.google.dev e a documentação do Ollama.

Que Quantização Deves Usar para o Gemma 4 12B?

Para a maioria das pessoas, Q4_K_M é o padrão sensato: cerca de 6,6 GB de VRAM, qualidade quase total, e cabe numa GPU de 8GB. Se tens 16GB ou mais e queres máxima fidelidade, sobe para Q8. E se queres a melhor qualidade por gigabyte disponível neste momento, vê os novos checkpoints QAT Q4_0.

Aqui está o ângulo de frescura que ninguém ainda integrou. A 5 de junho de 2026, apenas dois dias após o lançamento, a Google lançou checkpoints QAT Q4_0 (Quantization-Aware-Training) juntamente com um novo formato móvel. QAT significa que o modelo foi treinado com a quantização em mente, pelo que mantém qualidade quase-FP (quase de precisão total) com um footprint Q4. Os mesmos ~6,6 GB, com perda de precisão notavelmente menor que o Q4 pós-treino padrão. Se tens VRAM limitada mas és sensível à qualidade, essa é a tua escolha.

Guia rápido de decisão:

• Placa de 8GB, queres simplicidade: Q4_K_M.
• Placa de 8GB, queres a melhor qualidade nesse tamanho: QAT Q4_0.
• Placa de 16GB+, queres máxima fidelidade: Q8.
• Pelo meio, um pouco de VRAM extra: Q5_K_M.

Podes ler o raciocínio da Google no anúncio do QAT. A conclusão: Q4_K_M é bom, QAT Q4_0 é melhor ao mesmo tamanho, e só precisas de Q8 se a precisão importar mais que a memória.

Gemma 4 12B vs Gemma 3 12B vs Qwen 3.5: Vale a Pena o Upgrade?

Sim, o upgrade do Gemma 3 12B vale a pena se te importas com a licença Apache 2.0, entrada de áudio nativa, a janela de contexto de 256K ou o salto no MMLU Pro. Contra o Qwen 3.5, é mais equilibrado. O Gemma 4 12B ganha na permissividade da licença e no áudio nativo, mas o Qwen 3.5 leva a melhor em algumas linhas de benchmarks da classe 12B. Escolhe com base nas tuas necessidades reais, não no título.

Só a mudança de licença justifica a saída do Gemma 3 12B para muitas equipas. O Gemma 3 vinha com a licença personalizada da Google com restrições de uso; o Gemma 4 é diretamente Apache 2.0. Se estavas à espera por razões comerciais para usar o Gemma, esse bloqueio desapareceu.

Contra o Qwen 3.5, sê honesto contigo mesmo. O Qwen 3.5 é genuinamente forte e supera o Gemma 4 12B em certas linhas de raciocínio e programação. Se a entrada de áudio e uma licença permissiva não estão na tua lista, faz benchmarks de ambos na tua própria tarefa antes de te comprometeres. Vê onde o Gemma 4 12B se posiciona entre os melhores modelos abertos para o panorama mais amplo. E como é Apache 2.0, podes fazer fine-tuning sob Apache 2.0 com o Unsloth sem dores de cabeça de licenciamento.

Quando NÃO Usar o Gemma 4 12B

Salta o Gemma 4 12B se precisas de raciocínio de fronteira que só um modelo muito maior oferece, se o Qwen 3.5 ganha na linha de benchmark específica de que a tua carga de trabalho depende, ou se o teu projeto depende muito de ferramentas de áudio que ainda estão a amadurecer três dias após o lançamento. É um excelente modelo de 12B, não é mágico.

O Gemma 4 12B nem sempre é a escolha certa. Se precisas de raciocínio de fronteira, um modelo maior ainda ganha. O suporte de áudio nativo é real e impressionante, mas as ferramentas circundantes — bibliotecas, utilitários auxiliares, integrações com frameworks — têm dias de idade e são rudimentares em alguns pontos. Se estás a lançar um produto com muito áudio esta semana, testa a fundo antes de apostares nele.

Mais alguns desqualificadores honestos. Se estás a integrá-lo num agente, confirma primeiro a fiabilidade do tool-calling nas tuas tarefas, já que o comportamento agêntico varia por modelo. Se a tua vantagem é o contexto longo, garante que aproveitas ao máximo a janela de contexto de 256K em vez de assumires que o tamanho bruto da janela equivale a melhor output. E se estás a passar de execuções locais para serving em produção, o caminho de serving em produção além do local cobre o vLLM e o SGLang. Se estás a implementar modelos abertos como o Gemma 4 12B em produção, podemos ajudar.

Sobre o Autor

Mert Batur Gurbuz é Co-Fundador da Techsy.io, onde a equipa lança agentes de IA, sistemas de automação e pipelines de voz/SDR para clientes B2B. Estuda na University of Birmingham e escreve sobre a stack de ferramentas de LLM que a equipa da Techsy realmente usa em produção. Liga-te no LinkedIn.

Escolher uma ferramenta é a metade fácil. Fazê-la correr de forma fiável dentro de um produto real é onde a maioria das equipas trava, e é exatamente isso que a nossa equipa de integração de IA constrói para clientes, desde pipelines RAG a agentes personalizados.

Perguntas Frequentes

Como corro o Gemma 4 12B localmente?

Instala o Ollama e depois corre ollama run gemma4:12b. Isso descarrega o modelo de 7,6 GB e abre um prompt de chat. Não é preciso ambiente Python nem ficheiros de configuração. Se preferes uma aplicação gráfica, o LM Studio também funciona: pesquisa gemma 4 12b no navegador de modelos e descarrega um build Q4_K_M.

Quais são os requisitos de VRAM e hardware para o Gemma 4 12B?

O Gemma 4 12B precisa de cerca de 6,6 GB de VRAM com quantização Q4_K_M, pelo que cabe numa GPU de 8GB. Para folga confortável, especialmente ao usar o contexto longo, aponta para 16GB de VRAM ou memória unificada. Corre em portáteis, incluindo Macs com chip M através da memória unificada.

O Gemma 4 12B corre num portátil de 16GB?

Sim, facilmente. Em Q4_K_M o modelo usa aproximadamente 6,6 GB, deixando bastante espaço numa máquina de 16GB. Em portáteis Apple Silicon, a memória unificada lida bem com ele através do build gemma4:12b-mlx. Podes até subir para quantização Q8 em 16GB para maior fidelidade.

O Gemma 4 12B é realmente melhor que o Llama ou o Qwen 3.5?

Depende do que medes. O Gemma 4 12B ganha na licença Apache 2.0, na entrada de áudio nativa e na janela de contexto de 256K, e marca uns fortes 77,2% no MMLU Pro. Mas o Qwen 3.5 leva a melhor em algumas linhas de raciocínio e programação da classe 12B. Faz benchmarks de ambos na tua própria tarefa antes de decidires.

O Gemma 4 12B é melhor que o Gemma 3 12B?

Sim. O Gemma 4 12B passa para a licença permissiva Apache 2.0, adiciona entrada de áudio nativa, duplica a janela de contexto para 256K tokens e regista uma melhoria significativa no MMLU Pro. Só a mudança de licença justifica o upgrade para projetos comerciais que estavam bloqueados pelos termos personalizados do Gemma 3.

Que quantização devo usar para o Gemma 4 12B?

Q4_K_M é o padrão sensato, com cerca de 6,6 GB e qualidade quase total. Se queres a melhor qualidade nesse mesmo tamanho, usa os novos checkpoints QAT Q4_0 lançados a 5 de junho de 2026, que mantêm qualidade quase de precisão total com footprint Q4. Usa Q8 apenas se tens 16GB+ e precisas de máxima fidelidade.

O Gemma 4 12B é gratuito para uso comercial?

Sim. O Gemma 4 12B vem com a licença Apache 2.0, que permite uso comercial sem as restrições de uso da licença Gemma personalizada do Gemma 3. Podes construir produtos comerciais, fazer fine-tuning e redistribuí-lo. Essa mudança de licença é uma das maiores razões pelas quais as equipas estão a fazer upgrade do Gemma 3.

O Gemma 4 12B suporta mesmo entrada de áudio?

Sim. O Gemma 4 12B é o primeiro Gemma de dimensão média com entrada de áudio nativa. Graças ao seu design sem encoder, as formas de onda de áudio brutas são projetadas diretamente no modelo sem um encoder de áudio separado. Dito isto, as ferramentas circundantes têm dias de idade, por isso testa cuidadosamente antes de lançares funcionalidades com muito áudio em produção.

Quão rápido é o Gemma 4 12B numa RTX 4090?

Relatórios publicados por terceiros colocam o Gemma 4 12B em Q4_K_M confortavelmente em território de chat em tempo real numa RTX 4090 de 24GB, embora um valor preciso de tokens/seg sustentado ainda não tenha sido publicado três dias após o lançamento. A velocidade varia com o comprimento do prompt, o tamanho do contexto e a versão do backend, por isso trata os valores iniciais como indicativos.

Onde descarrego o Gemma 4 12B?

O modelo com ajuste de instruções está no HuggingFace como google/gemma-4-12B-it, ou podes descarregá-lo pelo Ollama com ollama run gemma4:12b (um download de 7,6 GB). Utilizadores do LM Studio podem pesquisar gemma 4 12b no navegador de modelos da aplicação. Para quantizações específicas, ficheiros GGUF estão disponíveis em repositórios da comunidade como o Unsloth.