Ética em inteligência artificial: princípios e dilemas reais

Em 2018, a Reuters revelou que a Amazon desativou um sistema interno de triagem de currículos.

O modelo havia sido treinado com dez anos de contratações da própria empresa, um histórico concentrado em homens nos cargos técnicos.

O sistema passou a penalizar currículos que traziam a palavra "women's" e a favorecer candidatos com perfil parecido com o dos já aprovados.

Nenhum engenheiro escreveu a regra "rejeite mulheres".

Esse caso resume o núcleo da ética em inteligência artificial.

O dano raramente nasce de código escrito com má intenção.

Nasce de decisões de projeto: qual dado entra no treino, qual métrica mede sucesso, quem revisa a saída antes de ela virar consequência para alguém. ## Os quatro princípios que se repetem em quase toda carta de ética Governos, empresas e organismos internacionais convergiram para um conjunto pequeno de valores.

Eles aparecem, com nomes diferentes, em quase todo documento sério sobre o tema. **Transparência e explicabilidade.** O sistema precisa ser compreensível para quem é afetado por ele.

Um modelo que nega crédito e não consegue dizer por quê deixa o cidadão sem defesa.

A dificuldade aparece nos modelos de deep learning, cuja lógica interna não é legível nem por quem os construiu. **Justiça e não discriminação.** O resultado não pode penalizar grupos por raça, gênero, renda ou origem.

Aqui mora a armadilha estatística: remover a variável "gênero" do modelo não elimina o viés, porque CEP, escola e histórico de compras funcionam como proxies dela. **Responsabilidade e prestação de contas.** Alguém precisa responder quando o sistema erra.

Sem essa definição, o dano se dissolve entre fornecedor, cliente e operador. **Privacidade e proteção de dados.** Coletar o mínimo necessário e garantir que a informação não seja usada para fins que o titular não autorizou. ## Onde os princípios entram em choque Ética em IA fica interessante quando dois valores corretos apontam para lados opostos.

Um caso claro é a explicabilidade contra a privacidade.

Para justificar uma decisão automatizada de crédito, o banco pode precisar expor quais dados pesaram.

Se entre esses dados há informação sensível de saúde ou de terceiros, explicar o modelo invade a privacidade de outra pessoa.

Outro choque é acurácia contra equidade.

Em saúde, um modelo pode ser mais preciso no geral e errar mais justamente num subgrupo minoritário, porque há menos dados sobre ele.

Ajustar o modelo para reduzir essa disparidade costuma derrubar a métrica global.

A pergunta ética é: qual erro a instituição está disposta a tolerar, e para quem.

Há ainda o dilema do reconhecimento facial.

Ele funciona bem o bastante para identificar manifestantes e, ao mesmo tempo, erra mais em rostos negros e femininos, como apontam estudos de pesquisa em visão computacional.

A decisão de usar ou banir a tecnologia não é técnica.

É política. ## O que já saiu do discurso e virou regra Em novembro de 2021, a UNESCO aprovou uma recomendação sobre ética da inteligência artificial adotada por 193 países.

O texto estabelece valores e princípios comuns e serve como referência para leis nacionais, embora não tenha poder de sanção.

A União Europeia foi além com o AI Act, aprovado pelo Parlamento Europeu em março de 2024.

A lei classifica sistemas por nível de risco, proíbe práticas consideradas inaceitáveis e impõe obrigações de documentação e auditoria para aplicações de alto risco, como triagem de crédito e recrutamento.

No Brasil, o debate gira em torno do PL 2338/2023, que propõe uma estrutura de direitos para quem é afetado por sistemas de IA e responsabilidades para quem os opera.

A Lei Geral de Proteção de Dados já cobre parte do terreno ao exigir transparência e revisão de decisões automatizadas que afetem interesses do titular.

O padrão que emerge é o de risco proporcional.

Quanto maior o impacto de uma decisão sobre a vida de alguém, mais documentação, teste e supervisão humana a lei tende a exigir. ## Perguntas que aparecem com frequência **Ética em IA é o mesmo que regulamentação?** Não.

Ética é o conjunto de valores que orienta a decisão antes de a lei existir.

Regulamentação transforma parte desses valores em obrigação com sanção.

A lei chega anos depois do problema. **Quem responde quando um sistema de IA causa dano?** Depende do arranjo.

Fornecedor, operador e cliente podem dividir a responsabilidade conforme o grau de controle de cada um.

A tendência das novas leis é exigir que essa divisão esteja documentada antes de o sistema entrar em operação, e não definida depois do estrago. **Empresa sem obrigação legal deveria se preocupar?** Sim, por dois motivos práticos.

Modelos treinados com dados enviesados geram passivos jurídicos e de reputação.

E um sistema que ninguém consegue auditar também não pode ser corrigido quando falha.