Los países de la Unión Europea han acordado este viernes solicitar la prohibición de los sistemas de inteligencia artificial que faciliten la creación de imágenes sexualizadas sin consentimiento y la generación de pornografía infantil. Esta decisión se inscribe en el proceso legislativo actual que busca simplificar la regulación europea. La adopción definitiva de esta medida dependerá de las negociaciones con el Parlamento para la reforma de la Ley de IA, que se prevé inicie a principios de abril.
La enmienda, impulsada por España, propone que el reglamento europeo prohíba las prácticas de IA relacionadas con la generación de contenido sexual e íntimo no consentido, así como el material de abuso sexual infantil, según el comunicado del Consejo. Un modelo de IA que permita la creación de tales imágenes sería vetado en la UE.
Este acuerdo surge tras la controversia que tuvo lugar a finales de diciembre y enero en la red social X, donde se viralizaron miles de imágenes sexualizadas de mujeres reales alteradas con IA, un proceso conocido como deepfake. Los usuarios de X generaron tres millones de imágenes sexualizadas en un periodo de 11 días, incluyendo más de 33.000 de menores, según datos del Centro para Contrarrestar el Odio Digital. La propuesta española recibió el respaldo de Francia, Alemania, Irlanda, Eslovenia, Bélgica, Eslovaquia y Hungría, según fuentes del Ministerio para la Transformación Digital y de la Función Pública.
La propuesta abarca todos los sistemas capaces de generar, manipular o reproducir imágenes, vídeos o audios realistas que incluyan partes íntimas o que identifiquen a personas en actividades sexuales sin el consentimiento expreso de la persona afectada. La polémica generada por Grok llevó a Elon Musk, fundador de xAI, a restringir la creación de estas imágenes a usuarios de pago en X y a modificar las políticas de su sistema de IA. Sin embargo, Grok sigue permitiendo este tipo de imágenes bajo ciertos supuestos, según su propio modelo.
Las políticas de Grok permiten la creación de imágenes de personas famosas en contextos mediáticos, pero prohíben las imágenes explícitamente sexuales de estas figuras. Además, la herramienta ofrece la opción de geobloquear por país o región este tipo de imágenes, permitiendo decidir en qué lugares se pueden realizar estas actividades.
El proceso legislativo que ha llevado a esta decisión está vinculado a un programa de simplificación de la normativa, especialmente en el ámbito de la inteligencia artificial, cuya evolución constante requiere una adaptación continua. Se espera que a los cambios en la regulación de la IA se sumen normas digitales que impacten la regulación de datos, incluido el reglamento base conocido como GDPR, que entró en vigor en 2018.
¿Cómo afectará esta nueva regulación a la innovación en el campo de la inteligencia artificial en Europa?
.
.
.
RESUMEN BASADO EN EL ARTÍCULO PUBLICADO EN El País EL fecha no especificada. Leer original