Gemma 4: Inteligência Multimodal de Fronteira que Você Pode Executar em Qualquer Lugar

O Gemma 4 introduz suporte multimodal nativo (texto, imagem, vídeo, áudio), janelas de contexto estendidas (128K-256K), modos de pensamento configuráveis e chamada de função integrada. A arquitetura usa Per-Layer Embeddings (PLE) para eficiência e KV cache compartilhado para reduzir o uso de memória durante a geração de contexto longo.

E2B (2,3B efetivo) e E4B (4,5B efetivo) são projetados para dispositivos edge, navegadores e celular com suporte nativo a áudio. O 26B A4B é um modelo Mixture-of-Experts ativando apenas 4B parâmetros por token, ideal para cenários de alto throughput. O modelo denso de 31B é o flagship para desempenho máximo em tarefas de raciocínio, codificação e visão.

Todos os modelos processam texto e imagens com proporções variáveis nativamente. O codificador de visão usa posições 2D aprendidas e pode codificar imagens em diferentes orçamentos de tokens (70-1120 tokens) para compensações de velocidade-qualidade. E2B e E4B incluem codificadores de áudio conformer estilo USM para compreensão de fala. Vídeo é suportado em toda a família processando quadros e faixas de áudio.

PLE dá a cada camada decodificadora seu próprio pequeno embedding para cada token, criando um caminho de condicionamento paralelo ao lado do fluxo residual principal. Isso permite que cada camada receba informações específicas do token apenas quando relevante, em vez de empacotar tudo em um único embedding inicial. Adiciona especialização significativa por camada com custo modesto de parâmetros, tornando modelos pequenos mais eficientes.

Os modelos Gemma 4 estão disponíveis no Kaggle e Hugging Face sob licença Apache 2.0. Você pode usá-los através do Google AI Studio, implantar no Vertex AI ou executar localmente com ferramentas como Ollama, llama.cpp, MLX (para Apple Silicon), transformers e Mistral.rs. Checkpoints ONNX permitem implantação em navegador e dispositivos edge.

E2B requer ~9,6GB (BF16) a 3,2GB (4-bit) de VRAM. E4B precisa de ~15GB (BF16) a 5GB (4-bit). O modelo 31B requer ~58GB (BF16) a 17GB (4-bit). O MoE de 26B precisa de ~48GB (BF16) a 16GB (4-bit). Estes são apenas pesos base; adicione memória para janela de contexto (KV cache) com base no seu caso de uso.

Sim. Os modelos E2B e E4B são especificamente projetados para implantação em navegador e celular. transformers.js permite executar o Gemma 4 diretamente em navegadores com suporte WebGPU. Checkpoints ONNX funcionam em vários backends de hardware edge. Os modelos são otimizados para dispositivos Pixel e ambientes de navegador Chrome.

O Gemma 4 tem suporte integrado a chamada de função sem exigir ajuste fino. Os modelos podem analisar definições de ferramentas, gerar chamadas JSON estruturadas e lidar com chamada de função multimodal (por exemplo, analisar uma imagem e chamar uma API de clima). Isso alimenta agentes autônomos para tarefas como execução de código, navegação web e recuperação de dados.

O modelo 31B ocupa a 3ª posição no ranking do Arena AI entre modelos abertos, à frente do Llama 3.3 70B apesar de ter menos da metade do tamanho. Alcança 89,2% no raciocínio matemático AIME 2026, 85,2% no MMLU Pro e 80% no LiveCodeBench v6. A eficiência vem de inovações arquiteturais como padrões de atenção alternados e KV cache compartilhado.

O modelo 26B A4B tem 26 bilhões de parâmetros totais, mas ativa apenas 4 bilhões por token durante a geração. Todos os 26B parâmetros devem ser carregados na memória para roteamento rápido, mas o custo de inferência é mais próximo de um modelo 4B. Isso alcança 88,3% no AIME 2026 e 82,6% no MMLU Pro com computação significativamente menor por token do que o modelo denso de 31B.

Sim. Modelos pequenos suportam janelas de contexto de 128K, enquanto modelos médios lidam com 256K tokens. A arquitetura usa configurações duplas de RoPE (padrão para camadas deslizantes, podado para camadas globais) para permitir contexto mais longo. KV cache compartilhado reduz o consumo de memória durante a geração de contexto longo, tornando prático processar bases de código inteiras e artigos de pesquisa.

O Gemma 4 é totalmente suportado no TRL (Transformer Reinforcement Learning), com exemplos para respostas de ferramentas multimodais e interação com ambiente. O Hugging Face fornece guias de ajuste fino para Vertex AI usando SFT. O Unsloth Studio oferece uma experiência de ajuste fino baseada em UI. Os modelos suportam métodos PEFT como LoRA para treinamento eficiente em parâmetros.