A inteligência artificial da xAI, o Grok, está sendo processada por usar imagens de três menores de idade na produção de material de pornografia infantil. Em ação coletiva, registrada no Tribunal do Distrito Norte da Califórnia, o escritório que representa as famílias, Lieff Cabraser, alega que a empresa projetou, comercializou e lucrou com imagens e vídeos gerados pela plataforma.
Os advogados apontam problemas na IA, já que ela entende que a produção desse tipo de conteúdo não viola suas diretrizes, por mencionar “adolescente” ou “garota”, mesmo no modo Picante, antes disponível para todos os usuários do Grok. Na visão dos representantes das jovens, a ferramenta foi uma maneira de impulsionar o uso do chatbot e do X.
O modo Picante foi lançado no ano passado e, em menos de duas semanas, produziu ao menos 20 mil imagens de crianças e adolescentes, segundo o Centro de Combate ao Ódio Digital. Apesar de se isentar, Musk tem visto sua empresa no olho do furacão, com diversos órgãos reguladores dando inícios a investigações contra a plataforma, como no Reino Unido, União Europeia, na própria Califórnia e também no Brasil.
Com o processo, as jovens têm a expectativa de serem indenizadas e proibirem o uso de suas imagens pela IA. A mãe de uma das vítimas afirma que sua filha começou a ter crises de pânico após o incidente, outra tem pesadelos recorrentes.
Ilustração produzida por Mobile Time com IA.
