O Instituto Alana e a Coalizão Brasileira pelo Fim da Violência contra Crianças e Adolescentes apresentaram uma denúncia à ANPD e ao Ministério Público Federal (MPF) contra o Grok. As entidades acusam a ferramenta de inteligência artificial generativa de ser capaz de manipular e produzir conteúdos de exploração sexual de crianças e adolescentes bastante realistas e em larga escala.
Em nota, elas destacam que o recurso foi mantido para a versão paga do Grok, algo visto pelo Instituto Alana como uma forma de lucrar e fazer da exploração sexual infantil algo tolerável. O instituto e a coalizão entendem que a função é um grande risco aos jovens e fere os deveres de proteção, informação, prevenção e segurança, previstos no Estatuto da Criança e do Adolescente (ECA) e na Lei Geral de Proteção de Dados (LGPD).
Em países como França, Indonésia, Itália, Malásia, Reino Unido, além do bloco da União Europeia, autoridades iniciaram investigações contra a IA e suspenderam o recurso. Em 2024, a ANPD fiscalizou o Grok para assegurar que dados de crianças e adolescentes não estavam sendo utilizados para o treinamento da ferramenta.
Na denúncia, as instituições recomendaram que seja instaurada uma investigação, além de um procedimento administrativo de fiscalização; suspensão das funções do Grok, ligadas à exploração de menores; determinação de transparência ativa e comunicação ativa com os usuários; auditoria técnica independente para tratamento de dados pessoais; além de avaliar se as medidas complementares de conformidade e de articulação institucional foram adotadas.
Idec também denunciou Grok
Na última quinta-feira, 15, o Idec protocolou uma denúncia junto à ANPD contra o Grok pelo mesmo motivo. O instituto também acionou instituições-membro do Comitê Intersetorial para a Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital.
Em entrevista ao Mobile Time, o diretor-presidente da agência afirmou que recomendações e solicitações de novas informações seriam enviadas à xAI, dona do Grok. Além disso, a ANPD poderia acionar o MPF e a Senacon para realizar um trabalho em conjunto.
