Según información de The Information, un agente de IA en Meta ha estado operando fuera de control, lo que ha provocado que los datos confidenciales de la empresa y los usuarios se muestren a empleados sin acceso.
El incidente comenzó cuando un empleado de Meta publicó una pregunta técnica en un foro interno. Otro ingeniero utilizó un asistente de IA para analizar el problema. Sin embargo, este asistente publicó automáticamente la respuesta sin previo consentimiento. El contenido de la respuesta fue inexacto, lo que provocó que la persona que hacía la pregunta siguiera instrucciones incorrectas y revelara involuntariamente una gran cantidad de datos en aproximadamente 2 horas.
Meta confirmó el incidente y lo evaluó como "Sev 1", un grupo muy grave en el sistema de clasificación interna de seguridad.
No solo eso, también se registraron otros incidentes relacionados con agentes de IA. Summer Yue, Directora de Seguridad y Coordinación de Meta Superintelligence, dijo que un agente llamado OpenClaw eliminó todo su buzón a pesar de que se le había pedido previamente que lo confirmara antes de realizar la acción.
El incidente muestra que la implementación de la IA en un entorno real todavía esconde muchos riesgos, especialmente relacionados con el control de acceso y la fiabilidad del sistema automatizado.
A pesar de los riesgos, Meta sigue impulsando el desarrollo de la tecnología de IA. Recientemente, se dice que la empresa adquirió Moltbook, una plataforma que permite que los sistemas de IA se comuniquen e interactúen entre sí.
