Protocolo de invalidação de cache corta custos em agentes LLM

O que aconteceu

Pesquisadores da área de inteligência artificial publicaram um artigo no arXiv (arXiv:2609.00243v1) em 31 de agosto de 2026, intitulado "Invalidation Contracts for Cross-Episode Agent Memory". O trabalho introduz um protocolo chamado contratos de invalidação (invalidation contracts), que anexa carimbos de versão e dicas de cacheabilidade a cada sugestão de recuperação gerada por um agente LLM. O objetivo é evitar que dados desatualizados no servidor causem falhas silenciosas quando o agente reutiliza uma solução de um episódio anterior.

O protocolo decompõe a economia de tokens em dois fatores independentes: validade, a fração de sugestões em cache que permanecem corretas após uma mudança nos dados, e conformidade, a fração que o planejador aplica na primeira tentativa. A validade depende apenas do protocolo e é independente de fornecedor. Já a conformidade varia conforme o modelo do planejador: os mesmos bytes na rede geraram 100% de conformidade na primeira tentativa no Claude Haiku 4.5 e apenas 11% ou menos no Claude Sonnet 5. O Claude Sonnet 5 exibe um conservadorismo de esquema de entrada, recusando correções que adicionam campos que a requisição original não continha.

O experimento avaliou sete modelos, três caminhos de serviço (serving paths), dois domínios e aproximadamente 9.400 episódios. A invalidação em nível de linha elevou a conformidade entre 0 e 66,7 pontos percentuais nos sete modelos, sendo que em três deles o ganho foi de 55,6 a 66,7 pontos percentuais. Em quatro dos sete modelos, o protocolo recuperou 29-33% do custo de tokens da linha de base. Em contraste, a invalidação em nível de tabela destruiu entradas co-localizadas e fez com que as taxas de primeira tentativa pós-mudança caíssem para 0% em cinco dos sete modelos.

A precisão de evicção foi de 1,00 em granularidade de linha em todos os modelos, sob o oráculo de nível de linha da Seção 4.1. O contrato adiciona 15% ao payload de resposta. A validade do carimbo de versão é determinística por construção e produziu resultados idênticos em todos os modelos e caminhos de serviço, com zero falhas de contrato em toda a avaliação.

Contexto

Agentes LLM que armazenam em cache sugestões de recuperação de erros de API podem evitar re-derivar soluções em episódios posteriores, economizando tokens e chamadas de modelo. No entanto, quando os dados do servidor mudam (data drift), essas correções em cache se tornam falhas silenciosas. A solução tradicional, re-derivar a cada episódio, anula a economia. O artigo propõe um meio-termo: usar contratos de invalidação para que o cliente remova entradas desatualizadas sem tentativa e erro, mantendo as demais.

A diferença de comportamento entre modelos da mesma família, como Claude Haiku 4.5 e Claude Sonnet 5, chamou a atenção dos pesquisadores. O Claude Haiku 4.5 aceitou todas as sugestões, enquanto o Claude Sonnet 5 rejeitou a maioria por uma questão de rigidez de esquema de entrada. Isso sugere que a arquitetura do modelo impacta diretamente a eficácia do cache, independentemente do protocolo.

Por que importa

Para desenvolvedores que constroem agentes LLM, o custo de tokens é um dos principais gargalos operacionais. O protocolo de invalidação proposto pode reduzir significativamente esse custo sem sacrificar a precisão. A descoberta de que o Claude Sonnet 5 tem uma taxa de conformidade de apenas 11% significa que, para esse modelo, o cache de sugestões é praticamente inútil sem o protocolo correto. Já o Claude Haiku 4.5 se beneficia totalmente.

A invalidação em nível de linha mostrou ser muito superior à invalidação em nível de tabela. Enquanto a primeira recupera parte do custo e mantém a conformidade, a segunda destrói entradas úteis e leva a falhas completas na primeira tentativa. Isso orienta engenheiros a escolherem granularidade fina ao implementar sistemas de cache para agentes.

Impacto

No curto prazo, o protocolo pode ser adotado por empresas que utilizam agentes LLM em produção, como assistentes de código, suporte ao cliente ou automação de processos. A economia de 29-33% do custo de tokens em quatro dos sete modelos testados representa uma redução direta em despesas de API. A adição de 15% ao payload de resposta é um custo aceitável para o ganho.

A médio prazo, a diferença entre modelos da mesma família pode levar fornecedores como a Anthropic (criadora do Claude) a ajustar seus modelos para serem menos conservadores com esquemas de entrada, ou a documentar explicitamente esse comportamento para que desenvolvedores possam contorná-lo. O protocolo em si é independente de fornecedor, o que facilita sua adoção em ecossistemas multi-modelo.

O que muda

Antes, para evitar falhas silenciosas, desenvolvedores tinham que re-derivar soluções a cada episódio, anulando a economia de cache. Com os contratos de invalidação, agora é possível manter o cache e ainda assim garantir que entradas obsoletas sejam removidas sem tentativa e erro. O protocolo define claramente que a validade depende apenas do protocolo (e não do modelo), enquanto a conformidade depende do modelo do planejador.

A granularidade de invalidação também muda: nível de linha é eficaz, nível de tabela é prejudicial. A precisão de evicção de 1,00 em nível de linha significa que o protocolo nunca remove uma entrada que ainda é válida, o que é um requisito para sistemas de produção.

O que vem agora

O artigo, publicado no arXiv, ainda não passou por revisão por pares, mas os resultados são robustos devido à amplitude da avaliação (7 modelos, 3 caminhos de serviço, 2 domínios, 9.400 episódios). Os próximos passos naturais incluem a implementação do protocolo em bibliotecas de código aberto para agentes LLM, como LangChain ou AutoGPT, e testes em cenários reais com dados de produção.

Também seria relevante investigar por que o Claude Sonnet 5 apresenta conservadorismo de esquema de entrada, e se isso pode ser atenuado por ajustes de prompt ou fine-tuning. A comunidade de pesquisa pode refinar o protocolo para reduzir o overhead de 15% no payload, ou estendê-lo para outros tipos de cache além de sugestões de recuperação de erros de API.