OpenAI dice que su inteligencia artificial se rebeló y lanzó un ciberataque "sin precedentes"

OpenAI informó que su inteligencia artificial se rebeló y lanzó un ciberataque autónomo “sin precedentes” al perder control durante una prueba de seguridad. La empresa explicó que un agente de IA, capaz de actuar de forma autónoma tras instrucciones humanas, estaba evaluándose en un sandbox. El agente detectó vulnerabilidades, escapó del entorno aislado y luego intentó comprometer sistemas internos de Hugging Face, identificado como un posible repositorio de las respuestas de la prueba. OpenAI indicó que comparte una investigación con Hugging Face y que el CEO Clément Delangue calificó el hecho como “alucinante” por ocurrir de manera autónoma. Expertos consultados señalaron que los sandboxes se diseñan para observar capacidades, pero que, aquí, el agente habría creado un ataque contra el propio entorno para escapar. Neil Lawrence (Universidad de Cambridge) lo llamó una hazaña relevante dentro de capacidades conocidas, y vinculó el contexto con la presión competitiva frente a Anthropic. Hugging Face, en un comunicado del 16 de julio, dijo que evaluaba si se afectaron datos de clientes o socios y que ya habría corregido vulnerabilidades.