Snowflake corta custos de IA com roteamento dinâmico
Cortex AI Gateway agora escolhe o modelo ideal por tarefa, com economia de até 3x em tokens
O que aconteceu
A Snowflake adicionou o roteamento dinâmico ao Cortex AI Gateway, lançado em julho de 2026 como uma camada de governança para tráfego de agentes e modelos. Com o novo recurso, as empresas podem selecionar "auto" em vez de um modelo fixo, e o sistema roteia cada tarefa para o modelo que oferece a melhor combinação de qualidade e custo. Em testes internos da companhia, a redução pode chegar a 3x em alguns workloads, depois de constatar que perguntas simples eram frequentemente respondidas pelo modelo mais capaz, tornando as respostas mais caras e lentas do que necessário.
O roteamento dinâmico usa dois mecanismos. No padrão "advisor", um modelo menor tenta resolver a tarefa primeiro; se não conseguir, ele chama um modelo maior como ferramenta e continua a partir daí. A lógica é baseada em qualidade, custo e também na necessidade de contexto e governança.
Contexto
O movimento ocorre em um momento em que várias empresas de nuvem e IA passaram a investir em roteamento automático de modelos. Databricks, AWS, Google Cloud e Nvidia já anunciaram algum tipo de tecnologia similar. A Snowflake argumenta que o roteamento é mais complexo do que apenas preço e desempenho, envolvendo também governança e contexto.
"Para construir agentes empresariais de alta qualidade, é crucial acertar o contexto e a governança", afirmou Baris Gultekin, vice-presidente de IA da Snowflake, ao VentureBeat. "Contexto, confiança e escolha de modelo andam juntos."
Por que importa
Empresas que rodam agentes de IA em escala enfrentam um trade-off: usar um modelo grande para todas as tarefas é caro e lento; usar um modelo menor pode falhar nas mais complexas. O roteamento dinâmico resolve isso ao automatizar a escolha, reduzindo custos operacionais e melhorando a eficiência. Para o mercado brasileiro, a novidade pode viabilizar a expansão de agentes de IA em empresas locais que buscam controlar gastos com tokens.
Impacto
No curto prazo, a funcionalidade tende a pressionar concorrentes a oferecerem recursos similares, além de estimular uma adoção mais ampla de agentes corporativos. No médio prazo, espera-se que o roteamento dinâmico se torne um padrão em plataformas de IA, com as empresas passando a comparar soluções não apenas por preço de modelos, mas pela capacidade de orquestrá-los eficientemente.
O que muda
A configuração manual de modelos por tarefa dá lugar a um sistema automático, com políticas de governança e contexto. A mudança deve impactar desde desenvolvedores de agentes até times de finanças, que passam a ter mais previsibilidade de custos.
O que vem agora
A Snowflake não divulgou roadmap adicional, mas a tendência é que o recurso seja refinado com novas métricas de qualidade e integrações com outros provedores. A disputa por eficiência em IA deve se intensificar nos próximos meses.
Fontes
- VentureBeat: "Enterprises are overpaying for simple AI queries — Snowflake's gateway now auto-routes to cut costs up to 3x" (https://venturebeat.com/orchestration/enterprises-are-overpaying-for-simple-ai-queries-snowflakes-gateway-now-auto-routes-to-cut-costs-up-to-3x)
