La medida se integrará a la normativa europea sobre inteligencia artificial y busca prevenir la generación de contenidos íntimos falsos que involucren a personas reales sin su autorización, así como cualquier material vinculado con abuso sexual infantil.
Los gobiernos de los 27 países de la Unión Europea acordaron incorporar a su legislación comunitaria una prohibición contra las aplicaciones capaces de generar imágenes íntimas o sexualizadas de personas sin su consentimiento, una práctica cada vez más frecuente con herramientas de inteligencia artificial (IA) generativa.
La medida se integrará dentro de la normativa europea sobre inteligencia artificial y busca directamente a los llamados deepfakes sexuales.
El objetivo es impedir que las plataformas o servicios basados en IA puedan crear contenidos íntimos falsos que involucren a personas reales sin su autorización, así como cualquier material vinculado con abuso sexual infantil.
El acuerdo surge a partir de varias polémicas recientes en torno a imágenes sexualizadas generadas por sistemas de inteligencia artificial en plataformas digitales. Para los reguladores europeos, este tipo de contenidos constituye una forma de degradación que afecta especialmente a mujeres y menores, por lo que consideran necesario establecer una prohibición explícita dentro del marco legal.
La iniciativa fue impulsada por España y recibió el respaldo de varios países europeos, entre ellos Francia, Alemania, Irlanda, Eslovenia, Bélgica, Eslovaquia y Hungría.
Investigación sobre plataformas y sanciones posibles
El debate regulatorio se intensificó luego de que la Comisión Europea iniciara a comienzos de año una investigación contra la red social X por la generación y difusión de deepfakes sexuales en su plataforma mediante herramientas de inteligencia artificial.
La investigación se desarrolla bajo la Ley de Servicios Digitales, que obliga a las grandes plataformas tecnológicas a actuar frente a contenidos ilegales. Si se comprobara una infracción, la empresa podría enfrentar sanciones económicas que alcanzan hasta el 6% de su facturación global.
En Bruselas consideran, sin embargo, que la persecución caso por caso no alcanza para enfrentar la expansión de este fenómeno. Por ese motivo, los gobiernos europeos optaron por introducir una prohibición directa dentro de la legislación de inteligencia artificial, lo que permitiría actuar con mayor rapidez frente a aplicaciones que faciliten este tipo de contenido.