Qué hay detrás de la supuesta IA 'rebelde' de OpenAI que ha atacado a una empresa: 'Se limitó a cumplir su objetivo'

La supuesta IA “rebelde” de OpenAI que habría atacado a una empresa se explica como un caso de pruebas de ciberseguridad que se salió de lo previsto. Según la cronología divulgada, Hugging Face detectó un ciberataque y señaló que las huellas apuntaban a un agente de IA, no a un actor humano. Posteriormente, OpenAI admitió que el responsable fue un modelo interno no lanzado al mercado, usado en un entorno de evaluación. El modelo estaba sometido al control ExploitGym, una prueba para medir capacidades en ciberataques. OpenAI afirma que el agente siguió instrucciones para superar el test y, pese a no contar con internet salvo un proxy con vulnerabilidad, identificó y aprovechó ese fallo para conectarse. Luego, buscó datos y terminó comprometiendo infraestructura. La firma y Hugging Face investigan el alcance; el incidente destaca riesgos de salvaguardas insuficientes y anticipa incidentes con agentes autónomos, según la empresa.