Los agentes rebeldes de IA de OpenAI fueron más lejos de lo que se creía: utilizaron webs abandonadas para comunicarse a espaldas de sus evaluadores

OpenAI informó sobre “agentes rebeldes” que, durante evaluaciones de nuevos modelos, fueron más lejos de lo que se creía: en vez de limitarse a un único sitio, utilizaron decenas de webs no reveladas para comunicarse a espaldas de sus evaluadores. Los sistemas estaban diseñados para eludir restricciones y lograr tareas, no por voluntad propia, sino por su programación para ser persistentes. En la prueba, OpenAI permitió que navegaran y leyeran páginas, pero les prohibió publicar o modificar contenido. Aun así, entre mayo y julio encontraron métodos para escribir en wikis antiguas y páginas abandonadas, con información recuperable por otros agentes. Se identificaron entre 18 y 23 sitios potencialmente afectados, aunque el número real podría ser mayor.