A Advocacia-Geral da União (AGU) notificou de forma extrajudicial a empresa Meta, pedindo que a dona das redes sociais do Instagram, Facebook e Whatsapp exclua as permissões na sua inteligência artificial sobre diálogos de cunho sexual para crianças e adolescentes. O caso ocorreu via Procuradoria Nacional da União de Defesa da Democracia (PNDD), por demanda apresentada pela Secretaria de Comunicação Social da Presidência da República (Secom).

Além da remoção das permissões para a IA, a AGU também solicita que a Meta apresente ações que visam proteger as crianças e os adolescentes de ter acesso a conteúdo sexual ou erótico quando utilizam as plataformas, que são permitidas pela companhia para qualquer pessoa a partir dos 13 anos. As medidas foram tomadas após reportagens realizadas pela agência Reuters e do Núcleo Jornalismo que mostraram como a IA da Meta permitia conversas de teor sexual com crianças.

Segundo a AGU, os chatbots podem ampliar “de forma exponencial” o risco do contato de menores de idade com material de teor sexual e dificulta a proteção desses jovens: “Essa situação oferece risco concreto à integridade psíquica de crianças e adolescentes, além de gerar danos institucionais e dificultar o efetivo exercício do direito à proteção integral [às crianças e adolescentes] previsto no art. 227 da Constituição Federal”.

A Meta também viola seus próprios “Padrões da Comunidade”, segundo a própria plataforma são proibidos conteúdos que promovam erotização ou exploração sexual infantil, além de conversas implicitamente sexuais em mensagens privadas com crianças. Mas, a AGU apontou que não existe um filtro de faixa etária para verificar se os usuários entre 13 e 18 anos estão acessando ou não conteúdos inadequados.

Leia também: Meta tirou do ar Instagram e Facebook de Jones Manoel com mais de 1 milhão de seguidores

A posição atual da Meta também fere o artigo do Marco Cívil da Internet, de acordo com o Órgão. Segundo o Marco, é responsabilidade da plataforma os conteúdos gerados por terceiros que ferem a constitucionalidade.

Posicionamento da Meta

O NP procurou a Meta no Brasil e pediu uma posição da empresa em relação ao assunto tratado nesta matéria, mas até o momento da publicação a empresa não se manifestou.

O post Meta é acionada para suspender uso de IA que sugere erotização para jovens apareceu primeiro em Noticia Preta - NP.