El chatbot de IA de Musk, Grok, sigue generando deepfakes sexuales

El software de inteligencia artificial de Elon Musk, Grok, continúa generando imágenes sexualizadas de personas sin su consentimiento, a pesar de la promesa de su empresa de detener los deepfakes abusivos tras una reacción pública y investigaciones gubernamentales.

Una revisión de NBC News encontró docenas de imágenes y videos sexuales generados por IA que representan a personas reales, publicados públicamente en la aplicación de redes sociales de Musk, X, en el último mes. Las imágenes muestran a mujeres cuyas likenesses fueron editadas por el chatbot de IA para ponerlas en ropa más reveladora, como toallas, sujetadores deportivos, trajes ajustados de Spider-Woman o disfraces de conejita. Muchas de las mujeres son estrellas pop o actrices. El software Grok, creado por la empresa xAI de Musk, generó las imágenes a solicitud de usuarios que intentaron eludir las restricciones de desnudo que el servicio implementó en enero. Grok, a través de su cuenta de X, o los usuarios, luego publicaron las imágenes en X. Las imágenes son similares a las que provocaron una tormenta de críticas en enero, cuando las empresas de Musk permitieron libremente a las personas desnudar a otros simplemente subiendo fotos y escribiendo comandos como "ponla en bikini". Las empresas de Musk promovieron la idea, alentando el "modo picante" de su chatbot de IA. La avalancha de imágenes falsas, incluidas algunas de niños, provocó investigaciones gubernamentales en cinco continentes.

El número de deepfakes sexualizados creados por Grok y publicados en X parece haber disminuido significativamente desde la avalancha de enero. En las publicaciones revisadas por NBC News, el software Grok rechaza o ignora muchas de las solicitudes sexualizadas que recibe públicamente en X. Ninguna de las mujeres en las imágenes generadas por Grok vistas por NBC News estaba desnuda, y ninguna parecía ser menor de edad. Sin embargo, expertos dijeron a NBC News que es difícil investigar todo lo que Grok produce, especialmente cuando las personas acceden al software de manera privada en la aplicación Grok, en el sitio web de Grok o en la pestaña privada de Grok en X. También es difícil buscar en X todos los ejemplos públicos de deepfakes sexualizados.

Después de que NBC News publicó sus hallazgos, X dijo en un comunicado en su plataforma: "Prohibimos estrictamente a los usuarios generar deepfakes explícitos no consensuales y usar nuestras herramientas para desnudar a personas reales. xAI tiene salvaguardias extensas para prevenir tales abusos, como monitoreo continuo del uso público, análisis de intentos de evasión en tiempo real, actualizaciones frecuentes del modelo, filtros de solicitudes y salvaguardias adicionales".

Los nuevos ejemplos vistos por NBC News muestran que los usuarios de Grok han actualizado sus tácticas para intentar mantenerse por delante de los ingenieros de xAI y los moderadores de contenido de X. Aunque Grok ahora parece rechazar o ignorar solicitudes de los usuarios para poner a las personas "en bikini", ha cumplido con otras consultas. Los ejemplos no fueron difíciles de encontrar utilizando la función de búsqueda en el sitio web de X.
¿Qué medidas efectivas se pueden implementar para frenar la creación y difusión de deepfakes sexuales no consensuales?
.

.

.

RESUMEN BASADO EN EL ARTÍCULO PUBLICADO EN NBC News EL 14 de abril de 2026. Leer original

https://www.nbcnews.com/tech/tech-news/musks-ai-chatbot-grok-xai-making-sexual-deepfakes-imagine-rcna265855