Gemma 4: Inteligência Multimodal de Fronteira que Podes Executar em Qualquer Lugar

O Gemma 4 introduz suporte multimodal nativo (texto, imagem, vídeo, áudio), janelas de contexto alargadas (128K-256K), modos de pensamento configuráveis e chamada de funções integrada. A arquitetura utiliza Per-Layer Embeddings (PLE) para eficiência e cache KV partilhada para reduzir o uso de memória durante a geração de contexto longo.

E2B (2,3B efetivo) e E4B (4,5B efetivo) são concebidos para dispositivos edge, navegadores e móveis com suporte de áudio nativo. O 26B A4B é um modelo Mixture-of-Experts que ativa apenas 4B parâmetros por token, ideal para cenários de alto débito. O modelo denso de 31B é o principal para desempenho máximo em tarefas de raciocínio, codificação e visão.

Todos os modelos processam texto e imagens com proporções variáveis nativamente. O codificador de visão utiliza posições 2D aprendidas e pode codificar imagens em diferentes orçamentos de tokens (70-1120 tokens) para compromissos velocidade-qualidade. E2B e E4B incluem codificadores de áudio conformer estilo USM para compreensão de fala. O vídeo é suportado em toda a família através do processamento de frames e faixas de áudio.

O PLE dá a cada camada de descodificador o seu próprio pequeno embedding para cada token, criando um caminho de condicionamento paralelo ao lado do fluxo residual principal. Isto permite que cada camada receba informação específica do token apenas quando relevante, em vez de empacotar tudo num único embedding inicial. Adiciona especialização significativa por camada a um custo modesto de parâmetros, tornando os modelos pequenos mais eficientes.

Os modelos Gemma 4 estão disponíveis no Kaggle e Hugging Face sob licença Apache 2.0. Podes usá-los através do Google AI Studio, implementar no Vertex AI ou executar localmente com ferramentas como Ollama, llama.cpp, MLX (para Apple Silicon), transformers e Mistral.rs. Checkpoints ONNX permitem implementação em navegador e dispositivos edge.

E2B requer ~9,6GB (BF16) a 3,2GB (4-bit) VRAM. E4B precisa de ~15GB (BF16) a 5GB (4-bit). O modelo 31B requer ~58GB (BF16) a 17GB (4-bit). O 26B MoE precisa de ~48GB (BF16) a 16GB (4-bit). Estes são apenas pesos base; adiciona memória para janela de contexto (cache KV) com base no teu caso de uso.

Sim. Os modelos E2B e E4B são especificamente concebidos para implementação em navegador e móvel. O transformers.js permite executar o Gemma 4 diretamente em navegadores com suporte WebGPU. Checkpoints ONNX funcionam em vários backends de hardware edge. Os modelos são otimizados para dispositivos Pixel e ambientes de navegador Chrome.

O Gemma 4 tem suporte integrado de chamada de funções sem necessitar de ajuste fino. Os modelos podem analisar definições de ferramentas, gerar chamadas JSON estruturadas e lidar com chamada de funções multimodal (por exemplo, analisar uma imagem e chamar uma API meteorológica). Isto alimenta agentes autónomos para tarefas como execução de código, navegação web e recuperação de dados.

O modelo 31B ocupa o 3.º lugar na tabela de classificação Arena AI entre modelos abertos, à frente do Llama 3.3 70B apesar de ter menos de metade do tamanho. Alcança 89,2% no raciocínio matemático AIME 2026, 85,2% no MMLU Pro e 80% no LiveCodeBench v6. A eficiência vem de inovações arquiteturais como padrões de atenção alternados e cache KV partilhada.

O modelo 26B A4B tem 26 mil milhões de parâmetros totais mas ativa apenas 4 mil milhões por token durante a geração. Todos os 26B parâmetros devem ser carregados na memória para encaminhamento rápido, mas o custo de inferência é mais próximo de um modelo de 4B. Isto alcança 88,3% no AIME 2026 e 82,6% no MMLU Pro com computação significativamente menor por token do que o modelo denso de 31B.

Sim. Os modelos pequenos suportam janelas de contexto de 128K, enquanto os modelos médios lidam com 256K tokens. A arquitetura utiliza configurações RoPE duplas (padrão para camadas deslizantes, podadas para camadas globais) para permitir contexto mais longo. A cache KV partilhada reduz o consumo de memória durante a geração de contexto longo, tornando prático processar bases de código inteiras e artigos de investigação.

O Gemma 4 é totalmente suportado no TRL (Transformer Reinforcement Learning), com exemplos para respostas de ferramentas multimodais e interação com ambiente. O Hugging Face fornece guias de ajuste fino para Vertex AI usando SFT. O Unsloth Studio oferece uma experiência de ajuste fino baseada em UI. Os modelos suportam métodos PEFT como LoRA para treino eficiente em parâmetros.