A Comissão Europeia (CE) abriu uma nova investigação contra o Grok, da xAI, referente a uma função que possibilita manipular vídeos e imagens sexualmente, inclusive de crianças e adolescentes. A ideia é verificar se o X, rede social onde a inteligência artificial opera, realmente atuou para mitigar riscos de disseminação de conteúdo ilegal no bloco.
Em nota publicada nesta segunda-feira, 26, a comissão informou que também expandiu o processo referente à gestão de riscos nos sistemas de recomendação do X — hoje baseado na IA —, em andamento desde 2023, conforme a Lei de Segurança de Dados (DSA). A ação já multou a empresa em 120 milhões de euros (R$ 752,4 milhões) por conta do selo azul, uma autenticação que poderia ser paga.
De acordo com a DSA, o X é responsável por avaliar e mitigar quaisquer riscos potenciais em seus serviços ofertados na União Europeia (UE). Em casos que ficam constados que as plataformas não combateram conteúdo ilegal e desinformação, ou descumpriram regras de transparência, há a possibilidade de multa em até 6% da receita global anual da empresa.
No entender da CE, os riscos associados à implementação da ferramenta “parecem ter se materializado, expondo os cidadãos da UE a sérios prejuízos”. A investigação visa mitigar esse cenário, sobretudo em relação à disseminação de conteúdo ilegal, violência de gênero e consequências negativas tanto mentais quanto físicas. A partir disso, a comissão fará um relatório avaliativo.
A vice-presidente executiva para soberania tecnológica, segurança e democracia da comissão, Henna Virkkunen, condenou a disseminação de deepfake de conteúdo sexual e ressaltou que, com as investigações, a CE saberá se a empresa realmente cumpriu suas obrigações legais ou não.
O anúncio pode fragilizar ainda mais a relação entre Estados Unidos e União Europeia. Na Casa Branca, há um entendimento de que tanto a multa quanto as investigações contra o Grok são um ataque à liberdade de expressão. Desde o início do ano, o presidente estadunidense, Donald Trump, vem elevando o tom contra o bloco, especialmente em relação à anexação da Groenlândia por parte dos EUA.
Investigações contra o Grok em outros países
Além da investigação que acontece no bloco econômico europeu, o Grok enfrenta ações no Reino Unido, no Brasil e na França. Na Índia, foi emitido um alerta severo contra a IA, destacando que ela está criando imagens sexualizadas ilegalmente. Na Indonésia e na Malásia, autoridades proibiram temporariamente o funcionamento da IA.
Em território britânico, a ação está sendo conduzida pela Ofcom, órgão regulador de comunicação do país, desde o início de janeiro, quando solicitou esclarecimentos à X. Por aqui, a investigação está nas mãos do Ministério Público Federal (MPF). Na última terça-feira, 20, o ministério, junto à ANPD e à Senacon, apresentou um documento com recomendações para que o X adotasse medidas contra o uso da IA para a geração de conteúdos sexuais sintéticos. Uma das propostas recomenda que o Grok tenha mecanismos para impedir seu uso para a produção dessas mídias, a qual deve ser implementada até terça-feira, 27. Além disso, foram exigidos:
- Mecanismos para identificar e excluir conteúdos sexuais que estão circulando na X;
- Suspensão de contas que criaram essas imagens e apresentação de relatórios mensais sobre;
- Fácil acesso para denúncias, com garantia de resposta em prazo razoável;
- Análise de riscos para dados pessoais envolvidos em imagens, fotos, áudios e vídeos gerados pelo Grok.
Na França, o caso foi incluído em outra investigação contra a inteligência artificial, que acontece desde julho de 2025. Enquanto nos Estados Unidos, onde fica a sede da empresa, o Centro Nacional de Exploração Sexual pediu ao Departamento de Justiça e à Comissão Federal de Comércio que investiguem o caso.
De acordo com o Center for Countering Digital Hate (CCDH), organização estadunidense que combate o ódio e a desinformação na internet, entre os dias 29 de dezembro de 2025 e 8 de janeiro de 2026, o Grok gerou ao menos 3 milhões de imagens sexualizadas, sendo 23 mil de crianças.
Ilustração produzida por Mobile Time com IA.
