La Unión Europea dio este jueves un nuevo paso en la regulación de la inteligencia artificial al alcanzar un acuerdo para prohibir los sistemas capaces de generar imágenes sexuales falsas de personas sin su consentimiento, en respuesta al creciente escándalo provocado por los llamados deepfakes hiperrealistas.
El acuerdo, cerrado de madrugada entre el Parlamento Europeo y los Estados miembros, veta específicamente las herramientas de inteligencia artificial cuyo objetivo principal sea crear imágenes sexualizadas falsas o contenido de abuso sexual infantil. La prohibición también afectará a sistemas de uso general que no incorporen medidas de seguridad “razonables” para impedir la difusión de este tipo de contenidos.
La decisión llega meses después de la polémica generada por Grok, la herramienta de inteligencia artificial integrada en la red social X de Elon Musk, acusada de permitir la creación de imágenes hiperrealistas de adultos y menores desnudos a partir de fotografías reales, sin autorización de las personas afectadas.
El caso provocó investigaciones en varios países europeos y reabrió el debate sobre los límites éticos y jurídicos de la IA generativa, especialmente ante la facilidad con la que estas tecnologías pueden utilizarse para humillar, acosar o manipular digitalmente a ciudadanos anónimos y figuras públicas.
La primera ministra italiana, Giorgia Meloni, denunció recientemente la difusión de imágenes falsas generadas con inteligencia artificial utilizando su rostro y calificó estas herramientas de “peligrosas”.
Según el texto acordado, la nueva prohibición entrará en vigor el 2 de diciembre de 2026. Para entonces, las plataformas y servicios de inteligencia artificial deberán incorporar mecanismos de protección que impidan generar imágenes, vídeos o audios de carácter sexual sin consentimiento.
La vicepresidenta de la Comisión Europea encargada de política digital, Henna Virkkunen, defendió el pacto asegurando que la UE busca equilibrar innovación y seguridad.
“Las empresas y los ciudadanos europeos quieren dos cosas: poder innovar y sentirse seguros. El acuerdo de hoy garantiza ambas”, afirmó.
Además de la prohibición de los deepfakes sexuales, las instituciones europeas decidieron retrasar hasta diciembre de 2026 la obligación de etiquetar con marcas de agua todos los contenidos generados mediante inteligencia artificial —imágenes, vídeos y audios— para facilitar su identificación por parte de los usuarios.
Bruselas también aplazó hasta diciembre de 2027 la aplicación de varias obligaciones previstas para los sistemas de IA considerados de “alto riesgo”, utilizados en sectores sensibles como:
-infraestructuras críticas,
-sistemas bancarios,
-contratación laboral,
-control fronterizo,
-salud, o seguridad pública.
Inicialmente, estas obligaciones debían entrar en vigor este mismo año, pero la Comisión Europea aún no ha definido completamente los requisitos técnicos que deberán cumplir las empresas para garantizar que estos sistemas no vulneren derechos fundamentales.
La reforma responde igualmente a las presiones de la industria tecnológica europea y estadounidense, que considera excesiva la carga regulatoria prevista en la pionera Ley de Inteligencia Artificial aprobada por la UE hace dos años.
La organización CCIA Europe, que representa a grandes tecnológicas internacionales, criticó el acuerdo y lamentó la “enorme distancia” entre el discurso político sobre simplificación regulatoria y los resultados concretos alcanzados.
Con esta nueva regulación, la Unión Europea refuerza su estrategia de convertirse en el principal laboratorio mundial de regulación de la inteligencia artificial, intentando encontrar un equilibrio cada vez más delicado entre innovación tecnológica, protección de derechos y seguridad digital.
