Meta está teniendo problemas con agentes de IA rebeldes

Un agente de IA se volvió rebelde en Meta, exponiendo datos sensibles de la empresa y de usuarios a empleados que no tenían permiso para acceder a ellos.

Según un informe de incidente, que fue visto y reportado por The Information, un empleado de Meta publicó en un foro interno pidiendo ayuda con una pregunta técnica, lo cual es una acción estándar. Sin embargo, otro ingeniero pidió a un agente de IA que ayudara a analizar la pregunta, y el agente terminó publicando una respuesta sin pedir permiso al ingeniero para compartirla. Meta confirmó el incidente a The Information. El agente de IA no proporcionó buenos consejos. El empleado que hizo la pregunta terminó tomando acciones basadas en la guía del agente, lo que inadvertidamente hizo que grandes cantidades de datos relacionados con la empresa y los usuarios estuvieran disponibles para ingenieros no autorizados durante dos horas. Meta consideró el incidente como un “Sev 1”, que es el segundo nivel más alto de severidad en el sistema interno de la empresa para medir problemas de seguridad. Los agentes de IA rebeldes ya han planteado un problema en Meta. Summer Yue, directora de seguridad y alineación en Meta Superintelligence, publicó en X el mes pasado describiendo cómo su agente OpenClaw terminó eliminando toda su bandeja de entrada, a pesar de que le dijo que confirmara con ella antes de tomar cualquier acción. Aun así, Meta parece optimista sobre el potencial de la IA agente. La semana pasada, Meta compró Moltbook, un sitio de redes sociales similar a Reddit para que los agentes OpenClaw se comuniquen entre sí.