La UE acuerda prohibir las imágenes sexuales creadas con IA sin consentimiento
BRUSELAS, 7
La presidencia del Consejo de la UE y los negociadores del Parlamento Europeo han alcanzado este miércoles un acuerdo provisional para modificar parte de la ley europea de Inteligencia Artificial (IA), que incluirá nuevas prohibiciones sobre contenidos sexuales generados sin consentimiento y retrasará algunas de las obligaciones previstas en la normativa comunitaria.
En concreto, el pacto prohíbe los sistemas de IA destinados exclusivamente a generar imágenes sexuales o íntimas sin el permiso de las personas implicadas, así como material de abuso sexual infantil creado mediante esta tecnología, y obligará además a las empresas que desarrollan modelos de inteligencia artificial de uso general a introducir «medidas de seguridad razonables» para impedir la difusión de este tipo de contenidos.
La reforma llega meses después de la controversia provocada por la circulación masiva en redes sociales de imágenes íntimas manipuladas con inteligencia artificial, especialmente a través de herramientas integradas en plataformas digitales como Grok, el asistente de IA vinculado a la red social X.
«Una mayor claridad sobre los ‘deepfakes’ no consentidos y el material de abuso infantil aportará más seguridad jurídica y permitirá saber qué protección puede esperarse» ha señalado en rueda de prensa el eurodiputado irlandés Michael McNamara, que ha reconocido además el creciente impacto de las llamadas aplicaciones de «nudificación», capaces de alterar imágenes reales para mostrar a personas desnudas o semidesnudas sin su consentimiento.
En este contexto, McNamara ha explicado que la prohibición se aplicará a imágenes que expongan «partes íntimas» de personas identificables y ha admitido que la interpretación dependerá del grado de exposición del contenido generado artificialmente.
«La gente es libre de hacer lo que quiera con sus propias imágenes o con imágenes de otras personas si existe consentimiento explícito», ha señalado el eurodiputado, que ha insistido en que la normativa busca actuar frente a contenidos difundidos sin autorización de las personas afectadas.
Además, las instituciones europeas han acordado posponer hasta el 2 de diciembre de este año las obligaciones de transparencia para materiales generados artificialmente, como imágenes, vídeos o audios creados mediante IA, que deberán incorporar mecanismos que permitan a los usuarios identificar este tipo de contenidos.
El pacto aplaza también hasta el 2 de diciembre de 2027 parte de las obligaciones previstas para sistemas de IA de alto riesgo, como los utilizados en ámbitos sensibles como sanidad, educación, banca, contratación de personal, control fronterizo o gestión de infraestructuras críticas.
En el caso de los sistemas integrados en productos, como dispositivos médicos o maquinaria industrial, las nuevas exigencias comenzarán a aplicarse a partir del 2 de agosto de 2028.
Inicialmente, la legislación europea contemplaba la entrada en vigor de estas obligaciones en un plazo más corto, pero las instituciones europeas han acordado retrasarlas hasta 16 meses al considerar que todavía no están disponibles todos los estándares técnicos y herramientas necesarios para aplicar plenamente la normativa.
El acuerdo forma parte del paquete legislativo europeo de simplificación digital ‘Omnibus VII’, con el que la Comisión Europea busca reducir cargas administrativas y facilitar la aplicación de la normativa comunitaria, especialmente para pequeñas y medianas empresas.
En este contexto, el texto amplía algunas de las exenciones regulatorias previstas inicialmente para pymes a compañías de mediana capitalización reducida y retrasa hasta agosto de 2027 el plazo para que los Estados miembro creen entornos nacionales de pruebas regulatorias para sistemas de inteligencia artificial.
Asimismo, el pacto introduce cambios para evitar que determinados productos industriales tengan que cumplir requisitos duplicados cuando ya estén sujetos a otras normas europeas específicas.
Esta medida afectará, entre otros, a dispositivos médicos, juguetes, ascensores, maquinaria o embarcaciones y permitirá limitar parte de las exigencias de la ley europea de IA cuando existan obligaciones equivalentes en la legislación sectorial correspondiente.
Las instituciones europeas también han acordado mantener la obligación de que las empresas registren determinados sistemas en la base de datos europea incluso cuando consideren que están exentos de la clasificación de alto riesgo.
El texto restablece además el criterio de «estricta necesidad» para el uso de categorías especiales de datos personales empleados para detectar y corregir posibles sesgos en sistemas de inteligencia artificial.
Otra de las modificaciones aclara las competencias de la Oficina Europea de IA para supervisar modelos de propósito general cuando tanto el modelo como el sistema hayan sido desarrollados por el mismo proveedor, aunque mantiene excepciones en ámbitos como control fronterizo, autoridades judiciales, fuerzas de seguridad o entidades financieras, donde seguirán siendo competentes las autoridades nacionales.
CL0
