San Francisco Frontiers - Brasil ordena a X medidas contra el contenido sexual generado con IA

Varios países han iniciado procedimientos legales contra la plataforma tras la indignación internacional respecto a esta herramienta, que permite a los usuarios pedir que se desnude a personas reales a partir de fotos o vídeos.

X debe implementar "de forma inmediata medidas aptas para impedir la producción, a partir de Grok, de contenido sexualizado o erotizado de niños, niñas y adolescentes, así como de adultos que no hayan expresado su consentimiento", dijeron la fiscalía brasileña, la agencia de protección de datos ANPD y la secretaría de defensa del consumidor Senacon.

Las entidades dieron a la plataforma cinco días para cumplir con la determinación, bajo penas de multa y acciones judiciales.

Según las autoridades brasileñas, tras un llamado de atención a finales de enero, X afirmó "haber eliminado miles de publicaciones y suspendido centenares de cuentas" y anunció nuevas medidas de seguridad.

Pero exámenes técnicos encontraron una "persistencia de fallas" que permite que este tipo de contenidos se generen y circulen en la plataforma, agregaron. Denunciaron que X "no fue transparente en su respuesta".

X había anunciado a mediados de enero una limitación de su herramienta de IA en los países donde la creación de este tipo de imágenes es ilegal, aunque todavía se desconoce exactamente dónde está en vigor dicha limitación.

Grok, de la empresa xAI de Musk, permitió que los usuarios modificaran imágenes reales de personas con instrucciones simples como "ponla en bikini" o "quítale la ropa".

Según el Centro para Combatir el Odio Digital (CCDH, en inglés), un observatorio que investiga los efectos dañinos de la desinformación en internet, el chatbot generó un estimado de tres millones de imágenes sexualizadas de mujeres y menores en cuestión de días.

No es la primera vez que la plataforma de Elon Musk enfrenta problemas en Brasil.

En 2024, el antiguo Twitter fue suspendido 40 días en el gigante suramericano por orden del Supremo Tribunal Federal al no apegarse a una serie de decisiones judiciales relacionadas con la lucha contra la información falsa.

D.Parker--SFF