Estudo aponta que IA aumenta em até 69% associação de homens negros e latinos à criminalidade

A inteligência artificial (IA) está cada vez mais presente em escolas, empresas e processos criativos. Nos últimos anos, a popularização dos grandes modelos de linguagem (LLMs), capazes de compreender e gerar textos, impulsionou o uso de ferramentas como ChatGPT e Claude em diferentes setores da economia.

Com mais de 47 mil ferramentas de IA disponíveis, segundo a plataforma There’s An AI For That (TAAFT), o mercado global da tecnologia deve movimentar US$ 617 bilhões em 2026, de acordo com a consultoria Statista.

Ao mesmo tempo em que cresce, porém, a indústria enfrenta desafios que vão além da capacidade tecnológica. O avanço dos sistemas de IA tem intensificado o debate sobre vieses algorítmicos e discriminação. Um estudo publicado no GitHub, por exemplo, constatou que imagens de homens negros e latinos tiveram probabilidade até 69% maior de serem classificadas como “criminosos” por modelos multimodais de inteligência artificial.

Diante da falha na curadoria por trás dos developers, Cáren Cruz, CEO da Pittaco Consultoria, plataforma de imagem, comunicação e transformação identitária, explica que a discussão não começa com a inteligência artificial generativa, mas sim de um processo iniciado há quase uma década em ‘tecnologias de análise facial’.

“Ainda em 2017, a pesquisadora Joy Buolamwini, do ‘MIT Media Lab’, vinha denunciando falhas nos sistemas de visão computacional a partir da sua própria experiência como mulher negra. Em 2018, ao lado da pesquisadora Timnit Gebru, ela publicou o estudo Gender Shades, que demonstrou como as tecnologias comerciais de análise facial apresentavam índices de erro muito maiores ao analisar mulheres de pele mais escura do que homens de pele mais clara”, revela.

Esse padrão se repetiu mesmo apesar dos avanços da IA, sobretudo quando se fala em representação de pessoas negras em ‘ferramentas’ de geração de imagens. Embora muitas delas consigam ‘produzir’ imagens com qualidade visual, iluminação adequada, nitidez, acabamento e apresentação visual elaborada, Cáren explica que a qualidade estética não vem acompanhada da preservação dos traços fenotípicos, da aparência original e da identificação visual da pessoa retratada.

“São frequentes os relatos de ruído na precisão da imagem gerada. Mesmo quando os comandos são específicos e partem de fotos reais, a inteligência artificial pode alterar o tom da pele, modificar a textura do cabelo, suavizar traços faciais, mudar o formato do nariz, da boca, do rosto, das expressões e de elementos fundamentais para o reconhecimento da pessoa. O resultado pode parecer alinhado a um padrão visual socialmente aceito, mas falha em um ponto crucial: preservar a aparência, os traços fenotípicos e a identificação visual”, comenta.

Esteriótipos

Para Cáren, o maior desafio segue em retratar pessoas negras sem embranquecer, suavizar, distorcer ou reduzi-las a estereótipos visuais. “Quando a ferramenta altera características fundamentais de uma pessoa negra, ela não está apenas cometendo uma falha de precisão; está reproduzindo uma lógica histórica em que determinados traços são tratados como algo a ser corrigido, neutralizado ou aproximado de um padrão dominante. A tecnologia não nasce neutra. Ela aprende a partir de bancos de dados, imagens, descrições e repertórios que também carregam desigualdades históricas. Se esses dados foram construídos com baixa diversidade racial, ou se representam pessoas negras de forma limitada, estereotipada ou pouco plural, a ferramenta tende a reproduzir estas limitações no resultado final. Ou seja, os vieses presentes na sociedade também podem ser incorporados aos sistemas que hoje mediam a nossa presença digital”, explica.

Diversidade racial como parte estratégica da inovação tecnológica

Somando mais de 18 anos no mercado de ‘consultoria identitária’ para negócios, a CEO da Pittaco afirma que a ‘diversidade’ tem um papel central na construção das tecnologias de inteligência artificial. Com a presença cada vez mais consolidada em diferentes setores da economia e da sociedade, Cáren alerta que essas ferramentas precisam considerar a pluralidade das aparências negras e sua nuance fenotípica, cromática, cultural, territorial e estética.

“Na minha própria experiência como ‘consultora de imagem identitária’, participei de um grupo focal em que diferentes profissionais deveriam analisar amostragens de pele a partir de regiões do país. Dentro da proposta apresentada pela instituição, a pele negra aparecia distribuída em apenas 6 tons. No entanto, quem trabalha com imagem, aparência e identidade sabe que essa redução não abraça a complexidade das peles negras, especialmente em um país como o Brasil”, destaca Cáren.