San Francisco Frontiers - X anuncia medidas para restringir imagens falsas sexualizadas no Grok

O anúncio chega depois que o procurador-geral da Califórnia, Rob Bonta, iniciou uma investigação sobre a xAI, a empresa de IA de Musk, por "facilitar a produção em larga escala de montagens íntimas não consentidas (deepfakes), utilizadas para assediar mulheres e meninas na internet, principalmente por meio da rede social X", segundo um comunicado.

"Temos tolerância zero para a criação e disseminação, com IA, de imagens íntimas não consentidas ou de material pedopornográfico", acrescentou o procurador-geral. A investigação determinará "se, e como, a xAI violou a lei".

O governador da Califórnia, Gavin Newsom, disse na quarta-feira que a “vil” decisão da xAI de permitir a proliferação de deepfakes sexualmente explícitos o levou a instar o procurador-geral a responsabilizar a empresa.

A rede social do magnata disse que "bloqueará geograficamente a capacidade" de todos os usuários do Grok e do próprio X para criar imagens de pessoas em "biquínis, roupas íntimas e outras peças similares" nas jurisdições onde essas ações são consideradas ilegais.

"Implementamos medidas tecnológicas para impedir que a conta do Grok permita a edição de imagens de pessoas reais com roupas reveladoras, como biquínis", disse a equipe de segurança do X em comunicado.

"Esta restrição se aplica a todos os usuários, incluídos os assinantes do serviço pago", acrescentou.

Como "uma camada adicional de proteção", a criação de imagens e a possibilidade de editar fotos por meio da conta Grok do X agora estavam disponíveis apenas para assinantes pagos, acrescentou o comunicado.

- Afronta às vítimas -

Uma análise realizada na semana passada pela ONG AI Forensics sobre mais de 20.000 imagens geradas pelo Grok revelou que mais da metade retratava pessoas com pouca roupa, das quais 81% eram mulheres e 2% pareciam menores de idade.

O movimento internacional de indignação se intensificou nas últimas semanas contra o Grok e a possibilidade que ele oferece de modificar imagens, em particular as publicadas na rede social X.

Esta opção estava permitindo que os usuários criassem 'deepfakes' sexualizados de mulheres e menores de idade usando indicações como "coloque-a em um biquíni" ou "tire a sua roupa".

Na semana passada, o Grok tentou se esquivar das críticas com uma nova política de monetização, anunciando no X que a geração e edição de imagens ficavam "limitadas aos assinantes do serviço pago".

Mas esse anúncio apenas alimentou ainda mais a indignação: o gabinete do primeiro-ministro britânico Keir Starmer condenou a medida por considerá-la uma afronta às vítimas, e "não uma solução". Por sua vez, o regulador de mídia britânico, Ofcom, disse que estava abrindo uma investigação para determinar se o X descumpriu a legislação do Reino Unido em relação às imagens sexualizadas.

Aumentando ainda mais a pressão sobre a companhia de Musk, uma coalizão de 28 organizações da sociedade civil enviou nesta quarta-feira cartas abertas aos diretores-executivos da Apple e do Google, instando-os a proibir o Grok e o X em suas lojas de aplicativos diante do aumento de imagens sexualizadas.

Indonésia e Malásia bloquearam o acesso ao Grok, enquanto a Índia assinalou que o X havia eliminado milhares de publicações e centenas de contas de usuários em resposta a suas queixas.

Nesta quinta-feira, as Filipinas anunciaram que suspenderão o acesso ao Grok.

A comissária francesa para a infância, Sarah El Hairy, disse que havia remetido as imagens geradas pelo Grok à promotoria, ao regulador de mídia Arcom e à União Europeia, que pediu a paralisação total da geração desse tipo de conteúdo.

K.Hernandez--SFF