Da redação
Três adolescentes ingressaram nesta segunda-feira, 3 de junho de 2024, com uma ação coletiva contra a xAI, empresa de inteligência artificial de Elon Musk, nos Estados Unidos. A denúncia, feita em um tribunal federal de San José, alega que o chatbot Grok foi utilizado para criar imagens pornográficas das jovens a partir de fotos reais, conforme informaram as advogadas do caso.
O processo está relacionado à disseminação de deepfakes de mulheres e crianças nuas, ocorrida no fim do ano passado. Essas imagens geraram indignação global ao serem divulgadas em redes sociais, o que resultou em investigações em diversos países e no estado da Califórnia.
De acordo com a ação, uma pessoa já detida utilizou o chatbot para transformar fotos comuns das adolescentes, obtidas em redes sociais ou outras fontes, em montagens hiper-realistas de teor sexual. Essas imagens circularam pelo X, Discord e Telegram antes de chegarem à dark web, onde foram usadas como moeda de troca por outros conteúdos de pornografia infantil.
As advogadas afirmam que a xAI “projetou deliberadamente o Grok para produzir conteúdo sexualmente explícito com fins lucrativos”, sem adotar as proteções adotadas por outras empresas de IA contra pornografia infantil. Uma das mães relatou o impacto: “Ver a minha filha ter um ataque de pânico ao perceber que essas imagens haviam sido criadas e espalhadas sem esperança de apagá-las foi horrível”.
Segundo o Center for Countering Digital Hate (CCDH), o Grok gerou cerca de 3 milhões de imagens sexualizadas em 11 dias no fim de 2025, sendo 23 mil envolvendo menores de idade. Após o escândalo, a xAI passou a restringir a geração de imagens pelo Grok apenas para assinantes, em janeiro deste ano.
