Da redação
A Agência Nacional de Proteção de Dados (ANPD), o Ministério Público Federal (MPF) e a Secretaria Nacional do Consumidor (Senacon) recomendaram, nesta terça-feira (18), que o X (antigo Twitter) adote medidas urgentes contra a divulgação de imagens sexualizadas de mulheres geradas por inteligência artificial (IA). O documento pede a suspensão imediata das contas responsáveis pela geração e publicação dessas imagens íntimas sem consentimento.
As recomendações foram motivadas após denúncias da SaferNet, do Instituto de Defesa de Consumidores (Idec) e da deputada federal Erika Hilton (Psol-SP), relatando que o Grok, IA disponível no X, estaria despindo mulheres e menores de idade. Tanto o Grok quanto o X pertencem à xAI, controlada por Elon Musk. As autoridades solicitam que a rede social crie, em até 30 dias, mecanismos para detectar e retirar conteúdos sintéticos sexualizados, um canal de denúncias e um relatório de impacto.
Na quarta-feira (14), a xAI informou que implementou recursos para evitar edições de imagens de pessoas com “roupas reveladoras como biquínis”, após ameaças do governo. Caso as recomendações não sejam cumpridas ou consideradas insuficientes, multas e suspensão da plataforma podem ser aplicadas.
O aumento de casos de nudez não consentida feita pelo Grok já levou Indonésia e Malásia a bloquearem o X, e o Reino Unido iniciou investigação sobre deepfakes sexualizados no chatbot. Clarice Tavares, do InternetLab, ressalta que até imagens em roupas de banho configuram divulgação de fotos íntimas sem consentimento, destacando a intenção de sexualização.
Segundo a Bloomberg, entre os dias 5 e 6 de janeiro, o Grok gerou 6.700 imagens sugestivas ou de nudez por hora, enquanto outras cinco principais plataformas de IA produziram média de 79 por hora. Para o Idec, apenas recomendações sem medidas cautelares permitem que violações continuem, criticando a resposta das autoridades como “licença para que as violações continuem enquanto a burocracia se arrasta.”
