A AGU notificou extrajudicialmente Meta, pedindo a adoção de medidas para impedir a criação de chatbot no Meta AI Studio com características infantis e erotizadas e que estão disponíveis para os usuários dos aplicativos da holding. A Advocacia-Geral da União pede também a exclusão de bots já existentes e que tenham essa natureza.
A AGU cita exemplos de chatbots testados pela Agência Núcleo, “tendo-se evidenciado o desenvolvimento de conversas de teor erótico com IAs que simulam ser crianças”.
“Tais chatbots têm potencialidade de alcançar um público cada vez mais amplo nas plataformas digitais, especialmente nas redes sociais da Meta, ampliando de forma exponencial o risco do contato de menores de idade com material sexualmente sugestivo e potencialmente criminoso. Essa situação oferece risco concreto à integridade psíquica de crianças e adolescentes, além de gerar danos institucionais e dificultar o efetivo exercício do direito à proteção integral previsto no art. 227 da Constituição Federal”, escreve a advocacia-geral.
Vazamento de documentos de Meta
A ação extrajudicial da AGU chega logo após vazamento de um documento interno da Meta, detalhando políticas sobre o comportamento de assistentes com inteligência artificial e que mostrava que a holding tinha políticas sobre o comportamento de chatbots de IA que permitiam que suas personas “envolvessem uma criança em conversas de cunho romântico ou sensual”, gerassem informações médicas falsas e ajudassem usuários a argumentar que pessoas negras são “menos inteligentes que pessoas brancas”. As informações foram obtidas pela Reuters.
No documento, a AGU pede que Meta indisponibilize todos os chatbots que utilizam linguagem infantil para propagar conteúdo sexual e que a empresa esclareça quais medidas estão sendo adotadas em seus aplicativos Facebook, Instagram e WhatsApp, para garantir a proteção de crianças e adolescentes, inclusive medidas para que nãos e tenha mais acesso ao conteúdo sexual ou erótico.
A AGU realça inclusive que os chatbot violam não somente a Constituição Federal como também as políticas da companhia, que proíbe erotização infantil ou exploração sexual infantil, além de conversas implicitamente sexuais em mensagens privadas com crianças.
Na ação extrajudicial, a AGU lembra ainda que o STF estabeleceu a responsabilização parcial dos provedores de aplicações de internet sobre conteúdos publicados por terceiros.
