Carros autônomos com IA herdam preconceitos de motoristas humanos, aponta pesquisa

O que aconteceu

Pesquisadores publicaram no arXiv, em 31 de agosto de 2026, o artigo intitulado "LLM-Driven Autonomous Vehicles Inherit Human Driver Biases in Pedestrian Yielding: Results and Implications From A New Benchmark". O trabalho propõe duas novas metodologias de teste de viés para modelos de linguagem de grande escala (LLMs) e modelos visuais-linguagem (VLMs) usados na tomada de decisão de veículos autônomos (AVs). Os testes são chamados "All Else Being Equal" e "Self-Consistency". Aplicados a cenários de cedência de passagem a pedestres, os resultados mostram que tanto LLMs quanto VLMs tomam decisões influenciadas por gênero, etnia, religião, deficiência, idade, tom de pele e status socioeconômico do pedestre.

O estudo, disponível no arXiv (arXiv:2609.00192), destaca que, embora o tipo e o grau de viés variem de modelo para modelo, existem padrões comuns. Os autores argumentam que a análise de viés deve fazer parte da avaliação de veículos autônomos, especialmente porque estudos psicológicos já demonstraram que motoristas humanos têm preconceitos, como taxas mais baixas de cedência a pedestres negros nos Estados Unidos.

Contexto

A tendência recente em pesquisa de veículos autônomos é usar modelos de IA de propósito geral, chamados de modelos de "senso comum", para guiar decisões. No entanto, o grau em que esses modelos herdam vieses humanos ao dirigir ainda era pouco estudado, segundo os autores do artigo. O trabalho preenche essa lacuna ao conectar evidências da psicologia sobre vieses de motoristas humanos com a nova geração de modelos de IA.

A pesquisa de 2026 se baseia em estudos anteriores que mostram vieses raciais no trânsito — por exemplo, motoristas nos EUA tendem a parar menos para pedestres negros. Os autores agora demonstram que esse padrão se repete em sistemas de IA que usam modelos de linguagem para processar cenas de trânsito e decidir se devem ou não parar.

Por que importa

A confiança pública em veículos autônomos pode depender não apenas do sucesso técnico, mas também da imparcialidade de suas decisões, afirmam os pesquisadores. Se um carro autônomo for mais propenso a atropelar pedestres de determinada etnia, gênero ou idade, a aceitação social será prejudicada. Além disso, o viés pode ter consequências legais e éticas graves.

O estudo levanta questões sobre o paradigma de "senso comum" em IA. Os autores sugerem que ou o paradigma precisa ser revisado ou os problemas de viés downstream devem ser enfrentados diretamente. Isso significa que a indústria de veículos autônomos pode precisar repensar como treina e valida seus modelos.

Impacto

No curto prazo, o artigo fornece uma metodologia concreta para detectar vieses em LLMs e VLMs aplicados à direção autônoma. Os testes "All Else Being Equal" e "Self-Consistency" podem ser adotados por empresas como Waymo, Tesla e Cruise para auditar seus sistemas.

A médio prazo, se os vieses não forem corrigidos, veículos autônomos poderão reproduzir e até amplificar desigualdades sociais no trânsito. Por exemplo, um pedestre idoso ou com deficiência pode ter menos chances de receber a preferência de passagem, aumentando o risco de acidentes.

O que muda

O estudo muda a forma como se avalia a segurança de veículos autônomos: não basta testar a capacidade técnica de evitar colisões; é preciso verificar se as decisões são justas. A pesquisa também pressiona as empresas de IA a revisar os dados de treinamento e os algoritmos de "senso comum" para eliminar vieses discriminatórios.

Os autores disponibilizam o artigo no arXiv, permitindo que a comunidade acadêmica e a indústria repliquem os testes. O trabalho já está indexado na categoria cs.AI (Inteligência Artificial) do arXiv.

O que vem agora

Os pesquisadores sugerem que trabalhos futuros devem expandir os testes para mais modelos e cenários, além de investigar métodos para mitigar os vieses identificados. Eles também recomendam que agências reguladoras, como a NHTSA nos EUA, incorporem testes de viés nos requisitos de aprovação de veículos autônomos.

O artigo conclui que a confiança pública em AVs exige transparência e justiça algorítmica, e que o paradigma de "senso comum" precisa ser repensado para evitar que preconceitos humanos sejam perpetuados por máquinas.