Viés racista na inteligência artificial

Imagem: X Renata Souza.

Era para ser uma só brincadeira. Quem não gosta da Pixar? Mas, ao tentar usar o filtro da animação, a inteligência artificial (IA) atravessou o caminho da Deputada Renata Souza, do Rio de Janeiro, com seu viés racista.

Para usar o filtro Pixar, basta pedir para o Bing, da Microsoft, gerar uma imagem com a descrição indicada. Renata pediu “uma mulher negra, de cabelos afro, com roupas de estampa africana num cenário de favela”. Tenho visto muitos amigos transformados em cartazes fofos do estúdio da Disney. Mas a resposta para a deputada não foi exatamente “fofa”.

A IA gerou uma mulher negra, sem estampas africanas, e com arma em punho. O racismo algorítmico se fez para quem quiser ver.

Tecnologia não é neutra

Este é um bom exemplo de como a tecnologia pode acirrar preconceitos e desigualdades. A tecnologia não é neutra, como muitos podem pensar. Qualquer produção humana carrega uma visão de mundo de quem a produziu. A tecnologia pode ser usada pelo bem da população, para promover inserção social, fomentar conhecimento, alavancar a empregabilidade. Mas também pode ser o inverso.

Documentário Coded Bias

Quando tomei conhecimento do caso da Deputada Renata, lembrei do documentário Coded Bias, lançado em 2020, dirigido pela cineasta e ativista americana Shalini Kantayya. O filme parte de uma situação inusitada: Joy Budamwini, estudante de doutorado em Computação no MIT, uma garota negra, não conseguia ser reconhecida por um sistema de reconhecimento facial. Ela só conseguia resposta do “sistema” quando usava uma máscara branca.

A partir daí o filme mostra não apenas que esse tipo de tecnologia está impregnada de preconceitos porque é, na grande maioria dos casos, criada por homens brancos, mas também como o uso indiscriminado desse tipo de identificação está servindo também para um controle social em países que, contraditoriamente, exaltam as liberdades e os direitos individuais. O filme mostra, por exemplo, que algumas grandes empresas de tecnologia usam a inteligência artificial para selecionar currículos e que elas descartam logo de cara um certo “perfil” de funcionário.

Tecnologia deve ser regrada

Acrescentaria ainda, como mau uso da tecnologia, a substituição descontrolada de mão de obra humana. No mundo do trabalho, as inovações implementadas devem ser regradas pelo poder público, de modo a garantir que prevaleçam os interesses sociais, e não apenas empresariais. Acrescentaria também a necessidade de regular a internet e as redes sociais, de modo a conter a propagação de notícias falsas e discursos de ódio.

O caso da Deputada Renata não é brincadeira. Ele acende um debate importante sobre um “sistema” que está entranhado na vida da população global. Um sistema que carrega um potencial discriminatório silencioso e extremamente perigoso.

Carolina Maria Ruy é jornalista e coordenadora do Centro de Memória Sindical.

Veja aqui o trailer de Coded Bias