A banda americana Dutch Interior revelou um erro da IA do Instagram em uma de suas músicas. O gerador de textos da rede social, que utiliza inteligência artificial, associou o conteúdo dos músicos a supremacia branca, movimento ideológico que históricamente exalta e defende ideias racistas em torno da crença do que chamam de “superioridade do homem branco”.
Um dos integrantes da banda afirma que a falsa acusação surgiu como sugestão de busca nos comentários de uma publicação, recurso esse que ainda não foi disponibilizado no Brasil. A publicação do vídeo em questão já passava das 90 mil visualizações quando o erro foi detectado. No texto gerado pela IA, o Instagram afirmou que o nome da banda estaria supostamente associada a supremacia branca.
A rede ainda alegou que alguns serviços de streamings haviam removidos os conteúdos do grupo musical e que o nome da banda mudaria a partir disso, por medo de associação a ideologias de extrema direita. No entanto, a ideia não se sustentou e o Instagram ainda errou a nacionalidade da banda, que não é holandesa apesar de na tradução livre se chama “interior holandes”. Os integrantes da banda lamentam o ocorrido.
“A Meta AI inventou uma polêmica falsa sobre nossa banda e a promoveu no instagram para milhares de pessoas” disse um dos integrantes
Sem citar fontes do conteúdo disseminado, a Meta pediu desculpas e afirmou que corrigiu o erro assim que tomou conhecimento da problemática. “Como qualquer sistema, a IA generativa pode não retornar as respostas que pretendemos. Estamos constantemente buscando feedback sobre a meta AÍ e nossos modelos para aprimorá-los ao longo do tempo.” diz pronunciamento.
IA no Brasil
O pacote Meta IA foi lançado no Brasil em outubro do ano passado e rapidamente virou febre entre os internautas, inclusive por conta dos equívocos registrados durante buscas dos usuários na ferramenta, como erros de interpretação textual, cálculos matemáticos e até criação de imagens inusitadas.
Algumas polêmicas também foram acumuladas nos últimos anos em ferramentas parecidas, um dos casos mais alarmantes foi o da deputada estadual Renata Souza (Psol), que denunciou um caso de “racismo algorítmico” ao tentar criar uma imagem dela mesma em uma favela e receber da ferramenta pertencente a “microsoft Bing”, uma mulher negra armada. O caso foi noticiado pelo Notícia Preta em outubro de 2023, na época, a empresa classificou a criação de IA confiável como um tema crítico.
