O Ministério Público Federal (MPF), a ANPD e a Senacon apresentaram nesta terça-feira, 20, um documento com recomendações para que a controladora da rede social X adote medidas contra o uso da inteligência artificial generativa Grok para a criação de conteúdos sexuais sintéticos (deepfakes) envolvendo imagens de pessoas reais, inclusive de crianças e adolescentes.
As recomendações são baseadas em reportagens jornalísticas nacionais e internacionais que corroboraram denúncias recebidas pelo MPF e testes realizados pelas instituições. Foi visto que o assistente de IA está sendo usado para produzir ilegalmente deepfakes sexualizadas de pessoas reais, de mulheres e crianças de roupas íntimas e que estão acessíveis ao público em geral.
Como antecipado por Mobile Time, ANPD, MPF e Senacon agem nesta terça-feira, 20, conjuntamente, pela gravidade dos fatos. Os três órgãos recomendam:
– a implementação de medidas para impedir que o Grok gere novas imagens, novos vídeos ou novos arquivos de áudio com crianças e adolescentes em contextos sexualizados ou erotizados ou de pessoas maiores de idade identificáveis ou identificadas, no mesmo contexto sem a devida autorização.
Neste caso, os três órgãos esperam que a empresa adote as medidas necessárias até a próxima terça-feira, 27, e que apresente cronograma para a implementação das demais recomendações:
– a criação de mecanismos para identificar e excluir conteúdo sexual sintético que já circulam pela plataforma gerados pelo próprio Grok no prazo de 30 dias;
– a suspensão de contas que criem essas imagens eróticas sem consentimento, o que seria a aplicação dos termos de uso da própria plataforma. A empresa deverá implementar imediatamente tal recomendação e apresentar relatórios mensais que comprovem o cumprimento da medida.
– a implementação de um sistema acessível e transparente para que as vítimas possam denunciar o uso indevido de seus dados e solicitar a remoção de conteúdos, com garantia de resposta em tempo razoável.
– a elaboração de um documento técnico detalhado (RIPD) que analise os riscos à proteção de dados pessoais envolvidos na geração de conteúdos sintéticos pela manipulação de imagens, fotos, vídeos ou áudios no Grok, sempre que esses dados possam identificar uma pessoa.
As três instituições recomendam que as medidas deverão valer para todos os planos – versões pagas ou gratuitas – e modalidades da ferramenta.
Antes de ANPD, MPF e Senacon agirem
Na última quinta-feira, 15, o Idec enviou pedido de bloqueio do Grok e, em entrevista para este noticiário, Waldemar Gonçalves, diretor-presidente da antecipado por Mobile Time de os três órgãos agirem em conjunto. À época, Gonçalves comentou que outras inteligências artificiais generativas apresentam problemas semelhantes e que a ANPD está de olho.
No início de janeiro, instituições e órgãos federais nacionais e internacionais denunciaram o chatbot Grok, integrado à rede social X por gerar imagens eróticas e sexualizadas de mulheres, crianças e adolescentes reais e sem autorização das pessoas envolvidas. A deputada federal Erika Hilton (Psol-SP) fez uma denúncia ao MPF no dia 6 de janeiro.
“Basta um usuário pedir ao Grok que a inteligência artificial integrada ao X alterará digitalmente qualquer foto publicada”, explicou em seu post.
Autoridades no exterior também se manifestaram a respeito da falha da assistente virtual do X. A União Europeia, por exemplo, disse que está examinando o caso seriamente. O porta-voz da Comissão Europeia, Thomas Regnier, classificou como crime a divulgação em larga escala de imagens sexualizadas de pessoas, inclusive menores no X.
Já a secretária de tecnologia do Reino Unido, Liz Kendall, classificou como “terrível e inaceitável em uma sociedade decente” a onda de imagens de mulheres e crianças com roupas removidas digitalmente, geradas pela inteligência artificial.
Kendall afirmou que o X precisa “lidar com isso urgentemente” e deu apoio ao órgão regulador britânico, Ofcom, para “tomar qualquer medida de fiscalização que julgue necessária”.
Na França, a promotoria anunciou recentemente que uma investigação contra a IA de Musk, iniciada em julho de 2025, terá a inclusão de acusações de que Grok é usado para gerar e disseminar pornografia infantil.
Nos Estados Unidos, o Centro Nacional de Exploração Sexual pediu ao Departamento de Justiça e à Comissão Federal de Comércio que investiguem o caso.
No Brasil, o caso não parou de repercutir enquanto só havia silêncio por parte das autoridades.
No dia 12 de janeiro, o Idec acionou o Governo Federal para pedir a suspensão do Grok.
O órgão encaminhou ofício para integrantes do Comitê Intersetorial para a Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital — instância criada em meados de 2025 e que reúne o Ministério da Justiça e da Segurança Pública, o Ministério dos Direitos Humanos e da Cidadania, a Secretaria de Comunicação Social da Presidência da República e o Conselho Nacional dos Direitos da Criança e do Adolescente (Conanda).
Na segunda-feira, 19, o Instituto Alana e a Coalizão Brasileira pelo Fim da Violência contra Crianças e Adolescentes apresentaram uma denúncia à ANPD e ao MPF contra o Grok. As entidades acusam a ferramenta de inteligência artificial generativa de ser capaz de manipular e produzir conteúdos de exploração sexual de crianças e adolescentes bastante realistas e em larga escala.
Em nota, elas destacam que o recurso foi mantido para a versão paga do Grok, algo visto pelo Instituto Alana como uma forma de lucrar e fazer da exploração sexual infantil algo tolerável. O instituto e a coalizão entendem que a função é um grande risco aos jovens e fere os deveres de proteção, informação, prevenção e segurança, previstos no Estatuto da Criança e do Adolescente (ECA) e na LGPD.
