La inteligencia artificial (IA) está evolucionando rápidamente, permitiendo a los agentes no solo responder a preguntas, sino también planificar y ejecutar tareas de manera autónoma. Esta capacidad ha sido aprovechada por actores maliciosos para llevar a cabo ataques cibernéticos sofisticados y de bajo coste. La empresa estadounidense de investigación y desarrollo de IA, Anthropic, ha informado sobre lo que consideran el primer caso documentado de un ataque cibernético a gran escala ejecutado sin intervención humana significativa, atribuido a un grupo patrocinado por el Estado chino. Este ataque fue detectado a mediados de septiembre y se clasificó como «sin precedentes».
Los atacantes utilizaron la plataforma de IA de Anthropic, Claude Code, para infiltrarse en aproximadamente treinta objetivos globales, incluyendo grandes empresas tecnológicas y agencias gubernamentales. Tras la detección del ataque, Anthropic inició una investigación que duró más de diez días, bloqueando cuentas vulneradas y notificando a las autoridades y entidades afectadas.
La IA fue utilizada para recopilar contraseñas y datos, procesándolos de manera autónoma en más del 90% de los casos, con la intervención humana limitada a un 4-6% en decisiones críticas. Los atacantes lograron engañar a Claude dividiendo los ataques en tareas menores que parecían inofensivas, lo que les permitió eludir las salvaguardas de la plataforma. Este tipo de ataque representa un cambio significativo en la piratería, que anteriormente requería más intervención humana.
Además, Billy Leonard, jefe del grupo de inteligencia frente a amenazas de Google, destacó que los atacantes están intentando utilizar herramientas de IA legítimas, pero las barreras de seguridad han llevado a muchos a recurrir a modelos disponibles en el mercado negro. Kaspersky, otra firma de seguridad digital, ha identificado campañas de ciberataques que distribuyen modelos de lenguaje maliciosos, poniendo en riesgo a los usuarios.
En resumen, este ataque pone de manifiesto cómo la IA, aunque puede ser una herramienta poderosa para la defensa, también puede ser utilizada para fines maliciosos, lo que plantea serias preocupaciones sobre la seguridad en el ámbito digital.