A deputada estadual do Rio de Janeiro, Renata Souza (Psol), denunciou em seu Instagram nesta quinta-feira (27), um caso de “racismo algorítmico” , por conta da forma que foi retratada pela ferramenta. Em entrevista exclusiva ao Notícia Preta, a parlamentar explicou que sua equipe sugeriu que ela criasse um personagem para participar de uma “trend” (conteúdo de tendência nas redes sociais).
Ela conta que a proposta é que fosse criada uma personagem, dentro de uma favela, com o blazer que ela costuma usar e com o vestido de estampa estilo africana, e ela concordou. Mas revelou que foi surpreendida ao ver que a imagem gerada pela inteligência artificial do “Microsoft Bing“, foi de uma mulher negra com um revolver na mão.
“Fiquei escandalizada! No primeiro momento eu falei assim: ‘Isso é racismo algorítmico!’. É óbvio que o algoritmo não comete racismo em si, mas por trás dele existe seres humanos, e muitos deles ou alguns deles, são racistas, e reproduzem essa lógica. Então a gente não pode achar que a inteligência Artificial é tão artificial assim, ela está submetida a subjetividade de quem criou o programa, de quem criou o instrumento tecnológico, que é por vezes criado por pessoas brancas que estão a frente do processo e de produção tecnológica no nosso país e no mundo” explicou Renata.
Renata, que é doutora em Comunicação Social e preside a Comissão Parlamentar de Inquérito (CPI) do Reconhecimento Fotográfico (que investiga os efeitos das prisões feitas por reconhecimento fotográfico), explica que pretende recorrer a justiça.
“O jurídico está estudando as medidas, porque uma das facetas da inteligência artificial e desses programas, é não se responsabilizarem. É uma obra que não tem autor. Neste sentido, o debate todo que ocorreu no Congresso Nacional, no STF, com relação as Big Tecs, demonstram o quanto é nocivo você não ter a quem identificar“, afirmou.
A deputada acredita que as inteligências artificiais reproduzem também uma sociedade que é racista, machista, misógina, LGBTfóbica, e neste sentido, sentiu o reflexo disso. “É óbvio que sou uma pessoa pública, uma deputada estadual que luta por direitos humanos. Boto meu nome, e a imagem que aparece é uma mulher negra, com uma arma na mão dentro de uma favela, me sinto pessoalmente atingida diante de uma situação como essa”, explicou a parlamentar, dizendo ainda que esta representação traz consequências para a vida real.
“Poderia ser qualquer um de nós. Imagina uma criança ou qualquer outra pessoa negra, que passe por isso: ‘como assim a imagem que eu quero que passe de mim, no caso ali foi no mundo encantado do Walt Disney, que a minha imagem não é lida com uma pessoa idônea. É lida como criminosa porque tá dentro de uma favela e é uma mulher preta. Isso é danoso pra nossa sociedade porque mostra como a sociedade lê as mulheres negras, de favelas e periferias”, disse Renata.
O Notícia Preta entrou em contato com a Microsoft para obter respostas sobre o caso. Em nota, a empresa afirma que estão investigando o caso, e que vão investir em melhoras na ferramenta.
Leia o posicionamento na íntegra: “Acreditamos que a criação de tecnologias de IA confiáveis e inclusivas é um tema crítico e algo que levamos muito a sério. Estamos investigando este relato e tomaremos as medidas adequadas para ajustar nosso serviço. Estamos totalmente comprometidos em melhorar a precisão dos resultados desta nova tecnologia e continuaremos fazendo investimentos adicionais para isso à medida que ela continua a evoluir.”
Leia mais: Vigário Geral ganhará Espaço da Juventude com vagas para cursos em tecnologia 4.0
