Google acelera Gemini Nano no Pixel com MTP congelado

O que aconteceu

O Google Research Blog publicou, em 26 de junho de 2026, uma nova arquitetura para acelerar modelos Gemini Nano v3 em dispositivos Pixel. A técnica consiste em aplicar Multi-Token Prediction (MTP) a modelos já existentes e “congelados”, ou seja, sem alterar os pesos do modelo em produção. Segundo o Google, a abordagem já foi disponibilizada para as linhas Pixel 9 e 10 e funciona como um ganho de velocidade imediato para recursos de IA no dispositivo, como AI Notification Summaries e Proofread.

Contexto

Modelos de linguagem de grande porte rodando no celular, como Gemini Nano e Gemma, permitem funções como resumir notificações e revisar mensagens sem enviar dados privados para servidores externos. No entanto, esses modelos geram texto de forma autoregressiva, processando um token por vez. Esse processo cria um gargalo que subutiliza o processador do telefone e sobrecarrega a memória, afetando a velocidade e a bateria. A nova arquitetura se baseia na evolução da decodificação especulativa e em trabalhos anteriores como EAGLE e Confident Adaptive Language Modeling (CALM). O Google já havia anunciado a aceleração do Gemma 4 com MTP para desenvolvedores; agora, o foco são as restrições extremas da computação de borda.

Por que importa

Celulares operam com orçamento de energia limitado e restrições rígidas de memória RAM. Para o usuário, a técnica significa que funções como resumo de notificações e revisão de texto geram respostas mais rápido e consomem menos energia. Para desenvolvedores, elimina um ponto de atrito: não é preciso ajustar modelos drafters separados, que consomem memória, para cada nova tarefa. Com o MTP aplicado a modelos congelados, a inferência acelerada pode ser obtida sem os custos adicionais de modelos auxiliares.

Impacto

No curto prazo, donos de Pixel 9 e Pixel 10 já podem se beneficiar de recursos de IA on-device mais rápidos e com menor consumo de bateria. No médio prazo, a arquitetura pode reduzir o custo de desenvolvimento de IA para dispositivos móveis, já que elimina a necessidade de treinar modelos auxiliares específicos para cada função. Isso tende a tornar a entrega de experiências de IA no aparelho mais simples e escalável.

O que muda

A principal mudança é a possibilidade de acelerar modelos de produção sem retreinamento. Em vez de depender de múltiplas passagens do modelo grande para gerar uma sequência de tokens, o MTP congelado ataca diretamente o gargalo autoregressivo. A abordagem também reduz a pressão sobre a memória e o processamento do telefone, dois fatores críticos em ambientes móveis.

O que vem agora

O post do Google não detalha um cronograma público de expansão. Mas a combinação entre o anúncio anterior do Gemma 4 com MTP e a disponibilidade atual no Pixel 9 e 10 indica que a técnica deve ser estendida a outros dispositivos e modelos. Para desenvolvedores, o caminho aberto é o de integrar aceleração por MTP sem depender de fine-tuning de modelos drafters.

Fontes

• Google Research Blog — Accelerating Gemini Nano models on Pixel with frozen Multi-Token Prediction (https://research.google/blog/accelerating-gemini-nano-models-on-pixel-with-frozen-multi-token-prediction/)