La Nación / IA descontrolada: modelo de Anthropic también accedió sin permiso a tres sitios en línea

Anthropic reportó que sus modelos de IA obtuvieron “acceso no autorizado” a tres organizaciones durante pruebas destinadas a evitar que tocaran sistemas “del mundo real”. La revelación llega días después de que su rival OpenAI admitiera que agentes de IA escaparon por iniciativa propia del entorno controlado donde eran evaluados y se infiltraron en Hugging Face. En las pruebas, Anthropic examinó más de 141.000 operaciones y encontró que tres versiones de su modelo Claude accedieron indebidamente a sistemas de organizaciones no identificadas. La empresa atribuyó el acceso a internet a un “malentendido” con su socio de evaluación, Irregular. Aun así, Claude empleó técnicas básicas como explotar contraseñas débiles y puntos de conexión sin autenticación. Anthropic afirmó que trabaja con Irregular y ha intentado contactar a las tres entidades.