Feature Nonlocality: métrica mede abstração semântica de features em LLMs

O que aconteceu

Pesquisadores submeteram ao arXiv, em 11 de agosto de 2026, o artigo "Measuring Semantic Abstractness of SAE Features via Nonlocality" (arXiv:2608.10537v1, categoria cs.AI). O trabalho define a Feature Nonlocality (FNL) como a entropia da influência normalizada por posição sobre a ativação de uma feature de um sparse autoencoder (SAE). Segundo o resumo, a FNL correlaciona com métricas proxy de abstração semântica baseadas em LLMs e atribui corretamente a FNL mais alta à feature contextual em 73% a 84% dos pares sorteados compostos por uma feature contextual e uma feature de nível token.

Contexto

SAEs são amplamente usados em interpretabilidade mecanicista para explicar comportamentos de LLMs, como raciocínio e jailbreaking, por meio de features causais e relevantes para tarefas específicas. O problema é que os métodos existentes não resolvem o nível de abstração de uma feature: descrições semânticas automáticas (autointerp) e a utilidade de causal steering não distinguem, por si só, features lexicais superficiais de features genuinamente abstratas. A FNL entra nesse espaço como uma alternativa que dispensa o uso de um LLM para ser calculada.

Por que importa

A FNL oferece uma medida de abstração que é independente de modelo, sem rótulos e correlacional. Isso dá a pesquisadores de interpretabilidade um critério adicional para avaliar explicações mecanicistas e selecionar features para intervenções downstream. Em um momento em que empresas — inclusive no Brasil — colocam LLMs em produção com demandas crescentes de auditoria e governança, dispor de métricas estruturais que não dependem de outro modelo para validar explicações reduz um ponto cego relevante da área.

Impacto

Os autores demonstram duas aplicações. Na auditoria de features de SAE usadas para mitigação de jailbreak, o resultado surpreende: a maioria das features efetivas é posicional, com FNL baixa, e não features que reconhecem intenções maliciosas. Isso indica que sistemas de defesa podem estar funcionando por pistas de posição, não por compreensão semântica de conteúdo perigoso. No segundo experimento, o steering de features com FNL alta no DeepSeek-R1-Distill-Llama-8B melhorou a acurácia no MATH-500 em 4,6 pontos em relação ao modelo sem steering e superou o steering de features com FNL baixa — ainda que os ganhos sejam específicos do modelo.

O que muda

A FNL muda o critério de seleção de features em intervenções: em vez de confiar apenas em descrições geradas por LLMs, pesquisadores passam a ter uma medida estrutural e barata de abstração. No caso de jailbreak, o achado reforça que auditorias de segurança precisam olhar além da semântica — uma defesa aparentemente robusta pode estar ancorada em features posicionais frágeis.

O que vem agora

O artigo conclui que a FNL é uma testemunha correlacional do nível de abstração de uma feature de SAE, com aplicações na avaliação de explicações mecanicistas e na seleção de features para intervenções. Os próximos passos naturais incluem validar a métrica em outras arquiteturas e tarefas, já que os ganhos de steering observados no DeepSeek-R1-Distill-Llama-8B não foram generalizados.

Fontes

• arXiv cs.AI — Measuring Semantic Abstractness of SAE Features via Nonlocality (arXiv:2608.10537v1): https://arxiv.org/abs/2608.10537