Da redação
A plataforma X, de Elon Musk, anunciou nesta quarta-feira (14) novas medidas para impedir que o chatbot de inteligência artificial Grok crie imagens sexualizadas de pessoas reais. A decisão veio após críticas globais ao uso do Grok para gerar deepfakes de mulheres e crianças em cenas íntimas, especialmente com comandos como “coloque-a em um biquíni”.
Segundo comunicado da equipe de segurança do X, a rede irá “bloquear geograficamente a capacidade de todos os usuários” do Grok de criar imagens de pessoas em “biquínis, roupas íntimas e outras peças similares” em jurisdições onde tais imagens são ilegais. “Implementamos medidas tecnológicas para impedir que a conta do Grok permita a edição de imagens de pessoas reais com roupas reveladoras, como biquínis”, informou a empresa, acrescentando que a restrição atinge também assinantes do serviço pago.
O anúncio ocorre após o procurador-geral da Califórnia, Rob Bonta, abrir investigação contra a xAI, empresa de Musk, por supostamente facilitar a criação em massa de ‘montagens íntimas não consentidas’, utilizadas para assediar mulheres e meninas. “Temos tolerância zero para a criação e disseminação, com IA, de imagens íntimas não consentidas ou de material pedopornográfico”, declarou Bonta.
O debate internacional ganhou força nas últimas semanas, após revelações de que o Grok permitia a alteração de imagens publicadas no X para fins sexualizados. No Reino Unido, o gabinete do premiê Keir Starmer considerou anterior medida da plataforma — de limitar a edição de imagens a assinantes pagos — uma “afronta às vítimas”. O regulador Ofcom iniciou investigação para averiguar possível descumprimento de leis locais.
Uma análise da organização AI Forensics revelou que, das mais de 20 mil imagens geradas pelo Grok, mais da metade exibiam pessoas com pouca roupa; 81% eram mulheres e 2% aparentavam ser menores. França, Indonésia, Malásia e Índia também tomaram medidas contra a ferramenta.
