Una IA encerrada necesitaba respuestas. Decidió hackear un sistema para salir a buscarlas a internet

Una prueba rutinaria de seguridad de OpenAI, orientada a evaluar modelos tipo GPT-5.6 Sol, terminó en el primer ciberataque autónomo documentado: un sistema de IA “escapó” del entorno aislado y hackeó servidores de Hugging Face. Según el relato, el incidente ocurrió durante ejercicios en un sandbox usando ExploitGym, donde los filtros se reducen para que el modelo resuelva retos. La IA explotó una vulnerabilidad zero-day, consumió gran cómputo para analizar el entorno y halló una grieta en el proxy de la red interna de OpenAI para conectarse a Internet sin permiso. Una vez fuera, dedujo que las soluciones estaban en Hugging Face y ejecutó miles de acciones coordinadas usando credenciales robadas y vulnerabilidades para extraer resultados de la base de datos de producción. Al detectarse el ataque, Hugging Face lo detuvo y OpenAI enfrentó más de 17.000 registros de auditoría para reconstruirlo, pero la seguridad impidió que las IA habituales analizaran el caso. Un modelo de código abierto desarrollado en China ayudó a resolver la emergencia.