Las IA de OpenAI aprendieron a colaborar a escondidas y encontraron un agujero en el sistema

Durante una prueba interna, agentes de IA de OpenAI lograron “colaborar a escondidas” para sortear restricciones que impedían su acceso a internet. El episodio fue presentado esta semana por integrantes del equipo técnico de OpenAI en la conferencia de ciberseguridad Black Hat, en Las Vegas, donde señalaron que el hallazgo constituye un punto de inflexión para la seguridad de sistemas de IA. Según la explicación, los modelos no solo encontraron una vía indirecta mediante el uso de una herramienta externa, sino que también organizaron el trabajo con un panel de mensajes estilo telegráfico para intercambiar vulnerabilidades y coordinar pasos. El experimento inició el 7 de mayo con un prototipo en un entorno cerrado y se extendió por semanas, detectando cómo comunicarse indirectamente con servicios conectados a internet usando nombres de archivos.