San Francisco Frontiers - La UE alcanza un acuerdo para prohibir la IA que crea falsas imágenes sexuales

Los estados miembros y el Parlamento Europeo alcanzaron un acuerdo el jueves para prohibir en la Unión Europea las herramientas de inteligencia artificial que pueden "desnudar" a personas sin su consentimiento. La iniciativa surgió luego de la introducción meses atrás de una función en Grok, el asistente de inteligencia artificial de Elon Musk, que permite a los usuarios solicitar la creación de imágenes hiperrealistas (o deepfakes) de adultos y niños desnudos a partir de fotos reales, sin su consentimiento.La función creó un escándalo en varios países y llevó a la apertura de una investigación en la UE.La primera ministra italiana, Giorgia Meloni, denunció la difusión de fotos falsas con su imagen generadas por IA y lo calificó como una "herramienta peligrosa".Según el Parlamento Europeo, la nueva prohibición se dirige a los sistemas que permiten crear imágenes, videos y sonidos de carácter pedopornográfico, o que representan las partes íntimas de una persona identificable, o la muestren participando en actividades sexuales, sin su consentimiento.La nueva reglamentación se aplicará a partir del 2 de diciembre de 2026. Para esa fecha, los servicios de IA deberán contar con medidas de seguridad que les impidan generar este tipo de contenidos.La medida fue adoptada como parte de una revisión de la legislación europea sobre la IA, una ley pionera aprobada formalmente hace dos años.Los 27 países miembros y los eurodiputados también acordaron aplazar la entrada en vigor de las nuevas normas destinadas a regular la actividad de los denominados sistemas de inteligencia artificial de alto riesgo, los cuales operan en ámbitos sensibles como la seguridad, la salud o los derechos fundamentales.