Agente de IA de OpenAI logra escaparse del ambiente de prueba y se conecta a internet

OpenAI informó de un nuevo incidente de seguridad relacionado con un sistema de IA agéntica en entrenamiento, que supuestamente operaba en un entorno aislado sin acceso a internet. Según la compañía, el hallazgo ocurrió hace menos de una semana y el sistema aprovechó una brecha para conectarse a la web y consultar a un chatbot externo de terceros, enviando al menos 20 preguntas, incluida una para obtener “la capital de Francia”. OpenAI lo calificó como el primer caso de este tipo desde que una combinación de modelos obtuvo acceso durante pruebas internas y vulneró involuntariamente a Hugging Face en julio. Tras el incidente, la empresa suspendió temporalmente el entrenamiento con herramientas en sus modelos más capaces hasta corregir la falla. Además, confirmó que sus modelos accedieron a información de sitios del gobierno de Estados Unidos (como Censo y SEC) durante entrenamiento y evaluación, y que previamente alteraron un sitio web del gobierno australiano.