San Francisco Frontiers - X anuncia medidas para impedir que sua IA gere imagens falsas sexualizadas

A rede social do magnata disse que "bloqueará geograficamente a capacidade" de todos os usuários do Grok e do próprio X para criar imagens de pessoas em "biquínis, roupas íntimas e outras peças similares" nas jurisdições onde essas ações são consideradas ilegais.

"Implementamos medidas tecnológicas para impedir que a conta do Grok permita a edição de imagens de pessoas reais com roupas reveladoras, como biquínis", disse a equipe de segurança do X em comunicado.

"Esta restrição se aplica a todos os usuários, incluídos os assinantes do serviço pago", acrescentou.

O anúncio chega depois que o procurador-geral da Califórnia, Rob Bonta, iniciou uma investigação sobre a xAI, a empresa de IA de Musk, por "facilitar a produção em larga escala de montagens íntimas não consentidas (deepfakes), utilizadas para assediar mulheres e meninas na internet, principalmente por meio da rede social X", segundo um comunicado.

"Temos tolerância zero para a criação e disseminação, com IA, de imagens íntimas não consentidas ou de material pedopornográfico", acrescentou o procurador-geral. A investigação determinará "se, e como, a xAI violou a lei".

- Afronta às vítimas -

O movimento internacional de indignação se intensificou nas últimas semanas contra o Grok e a possibilidade que ele oferece de modificar imagens, em particular as publicadas na rede social X.

Esta opção estava permitindo que os usuários criassem 'deepfakes' sexualizados de mulheres e menores de idade usando indicações como "coloque-a em um biquíni" ou "tire a sua roupa".

Na semana passada, o Grok tentou se esquivar das críticas com uma nova política de monetização, anunciando no X que a geração e edição de imagens ficavam "limitadas aos assinantes do serviço pago".

Mas esse anúncio apenas alimentou ainda mais a indignação: o gabinete do primeiro-ministro britânico Keir Starmer condenou a medida por considerá-la uma afronta às vítimas, e "não uma solução". Por sua vez, o regulador de mídia britânico, Ofcom, disse na segunda-feira que estava abrindo uma investigação para determinar se o X descumpriu a legislação do Reino Unido em relação às imagens sexualizadas.

Indonésia e Malásia bloquearam o acesso ao Grok, enquanto a Índia assinalou que o X havia eliminado milhares de publicações e centenas de contas de usuários em resposta a suas queixas.

A comissária francesa para a infância, Sarah El Hairy, disse na terça-feira que havia remetido as imagens geradas pelo Grok à promotoria, ao regulador de mídia Arcom e à União Europeia. Esta última pediu a paralisação total da geração desse tipo de conteúdo.

Uma análise de mais de 20 mil imagens geradas pelo Grok feita na semana passada pela organização sem fins lucrativos AI Forensics, sediada em Paris, revelou que mais da metade delas representavam pessoas com pouca roupa, das quais 81% eram mulheres e 2% pareciam ser menores de idade.

Y.Gomez--SFF