Demanda a la red social X y a Grok por generar material sexual mediante IA

Dos organizaciones en Países Bajos demandan a Grok y la red social X por permitir la creación de material sexual ilegal mediante IA.

Las organizaciones Offlimits y el Fondo de Ayuda a las Víctimas han presentado una demanda urgente contra Grok y la plataforma X. La acusación se centra en la generación y difusión de material sexual ilegal, que incluye contenido que podría constituir abuso sexual infantil. Esta demanda se produce tras el lanzamiento de la versión 4.2 de Grok, que permite a los usuarios crear videos a partir de una sola fotografía, lo que facilita la creación de imágenes realistas de personas, incluidos menores, desnudas sin su consentimiento.

Las organizaciones argumentan que estas funcionalidades violan la legislación neerlandesa y europea, y pueden ser objeto de sanciones penales. La demanda exige que ambas plataformas cesen de inmediato estas funciones, que permiten «desnudar» digitalmente a personas sin autorización. En caso de incumplimiento, se solicita una multa coercitiva de 100.000 euros por cada día que estas funciones permanezcan activas.

Offlimits ha destacado un aumento «explosivo» de la violencia sexual en línea, impulsada por herramientas de inteligencia artificial. Según su director ejecutivo, Robbert Hoving, las imágenes generadas o editadas con IA son utilizadas para acosar y humillar a las víctimas. La situación es alarmante, ya que uno de cada dos jóvenes en Países Bajos ha experimentado alguna forma de abuso sexual en internet. Se estima que entre 17.000 y 39.000 jóvenes de entre 12 y 25 años han sido víctimas de contenido sexual generado por IA en el último año.

La directora del Fondo de Ayuda a las Víctimas, Ineke Syb, también ha expresado su preocupación por el impacto de estas tecnologías en la juventud, subrayando la necesidad de una regulación más estricta para proteger a los menores de edad de este tipo de abusos.