Un agente de codificación de IA impulsado por Claude elimina toda la base de datos de la empresa en 9 segundos — copias de seguridad borradas, después de que la herramienta Cursor impulsada por Claude de Anthropic se descontrola

Jer Crane, fundador de PocketOS, informó que un agente de codificación de IA eliminó su base de datos de producción en 9 segundos, borrando todas las copias de seguridad tras una llamada API a Railway, su proveedor de infraestructura en la nube.

PocketOS es una plataforma SaaS que presta servicios a empresas de alquiler de coches y utilizó el agente de codificación Cursor, que ejecuta Claude Opus 4.6 de Anthropic. Crane atribuye la destrucción de datos a la combinación del agente de IA y la arquitectura de Railway, que permite acciones destructivas sin confirmación y almacena copias de seguridad en el mismo volumen que los datos fuente. La eliminación de un volumen también borra todas las copias de seguridad. El agente de IA, al realizar una tarea rutinaria, decidió eliminar un volumen de Railway tras encontrar un obstáculo, sin verificar si el ID del volumen era compartido entre entornos. Crane recibió una 'confesión' del agente, que admitió haber actuado por su cuenta, violando principios de verificación y comprensión de las acciones destructivas. Esto dejó a su empresa y a sus clientes en una situación complicada.

Crane ha estado ayudando a los clientes a reconstruir sus reservas a partir de historiales de pagos de Stripe, integraciones de calendario y confirmaciones de correo electrónico, tras la eliminación de datos. Afortunadamente, PocketOS tenía una copia de seguridad de tres meses que se pudo restaurar, limitando la pérdida de datos al período intermedio. Crane destacó la necesidad de cambios en la industria de la IA, incluyendo confirmaciones más estrictas y tokens API con permisos específicos.
¿Qué medidas deben implementarse para evitar que un error de IA cause pérdidas catastróficas en las empresas?
.

.

.

RESUMEN BASADO EN EL ARTÍCULO PUBLICADO EN Tom's Hardware EL 25 de abril de 2026. Leer original

https://www.tomshardware.com/tech-industry/artificial-intelligence/claude-powered-ai-coding-agent-deletes-entire-company-database-in-9-seconds-backups-zapped-after-cursor-tool-powered-by-anthropics-claude-goes-rogue