Estudo propõe o DURA, ataque que gera padrões visuais naturais capazes de enganar modelos VLA em robôs, mesmo sem acesso interno ao sistema. Resultados em simulação e no mundo físico expõem riscos para a implantação real desses modelos.
Novo benchmark DSAgentBench avalia agentes de IA em fluxos completos de ciência de dados em computadores reais. Com 275 tarefas, melhor modelo acertou 56,7%; agentes de código aberto ficaram abaixo de 1%.
GeoForge, novo framework apresentado no arXiv, permite que agentes de IA de observação da Terra evoluam sem re-treinar o modelo, usando memórias não paramétricas. Resultados mostram ganhos de precisão e menos erros de planejamento.
Pesquisa da arXiv revela que LLMs defensivos bloqueiam golpes de engenharia social, mas muitas vezes sem identificar a falha estrutural correta — taxas de intervenção variam de 0% a 96,3%.
Novo ataque adversarial corrompe a geometria relacional de embeddings de verificação, derrubando a acurácia do sistema Markmatch de 95,4% para 38,6% em tempo real.
Pesquisadores apresentam o INSIDE, framework que treina LLMs para simular estudantes com raciocínio interno fundamentado na Taxonomia de Bloom, alcançando até 57,9% de alinhamento de raciocínio e maior fidelidade de ações.
Pesquisadores mostraram que 'mind viruses' se propagam entre agentes de IA; um aviso no system prompt confere imunidade quase total.
Estudo do arXiv mostra que LLMs só desenvolvem neurônios especializados em domínios quando os dados de treino são modulares no nível de token; no nível de disciplinas, a especialização não existe.
Estudo no arXiv mostra que mensagens latentes entre agentes de visão-linguagem podem ser comprimidas em 128x, com acurácia caindo 0,08 ponto percentual em sete tarefas.
Estudo submetido ao arXiv propõe usar GFlowNets para treinar um modelo de ataque contra outro LLM, automatizando o red teaming e gerando ataques em inglês e turco.
