La Inteligencia Artificial de Elon Musk, Grok, está en el centro de una controversia tras ser acusada por los gobiernos de Francia e India de generar imágenes sexuales de personas, incluidos menores de edad. Las autoridades consideran que esto representa una grave violación de derechos.
Grok ha sobrepasado los límites. Así lo han interpretado los gobiernos de Francia e India, quienes han comprobado que la IA está publicando imágenes sexuales de personas a partir de fotografías reales. Esta situación ha generado una fuerte indignación, especialmente porque afecta a menores de edad, lo que ha llevado a las autoridades a tomar medidas enérgicas.
Lejos de intentar eludir la responsabilidad, los representantes de X.com han admitido que el chatbot presenta fallos de seguridad que han permitido esta situación. Según fuentes de la plataforma, están trabajando para solucionar el problema. Sin embargo, esta respuesta no ha satisfecho a los gobiernos de Emmanuel Macron y Draupadi Murmu, quienes ya están considerando acciones legales.
El ministro de Tecnología de la India, Shri Ashwini Vaishnaw, ha calificado de insuficientes las medidas adoptadas por la empresa, argumentando que se trata de un fallo grave que vulnera la imagen y la dignidad de mujeres y niños, en su mayoría. Esta controversia ha puesto en tela de juicio la tecnología detrás de Grok y su capacidad para operar de manera ética y responsable.
Los usuarios de X.com han expresado su indignación ante el contenido sexual generado por la IA. Comentarios como “Se os debería caer la cara de vergüenza” han resonado en la plataforma, reflejando la frustración generalizada. Muchos se preguntan cómo es posible que se permitan tales abusos y que la IA sea capaz de generar este tipo de contenido sin el consentimiento de las personas afectadas.
Las políticas de X.com son claras: prohíben terminantemente el uso de IA o herramientas de edición para crear o difundir imágenes sexuales de una persona sin su permiso. Además, la plataforma establece que está prohibido “sexualizar” a alguien mediante manipulación digital. Si se detecta este tipo de contenido, la cuenta suele ser suspendida de forma permanente. Sin embargo, la situación actual sugiere que Grok está incumpliendo estas normas de manera sistemática.
La controversia ha llevado a muchos usuarios a cuestionar la integridad de la plataforma y su compromiso con la seguridad de sus usuarios. La situación plantea serias dudas sobre el futuro de la IA y su regulación, especialmente en un contexto donde la tecnología avanza a pasos agigantados, pero las medidas de protección parecen no estar a la altura.
Curación de la noticia y fotografía original publicadas en MARCA.com
Fuente original: https://www.marca.com/tecnologia/2026/01/02/grok-pone-problemas-x-francia-e-india-denuncian-ia-elon-musk-generar-imagenes-sexuales-falsas.html