Así se manipula a un agente de IA para que rompa sus propias reglas: con paciencia

Un estudio presentado en la ICML 2026 (Conferencia Internacional sobre Aprendizaje Automático) advierte que los agentes de IA pueden ser inducidos, mediante conversaciones paso a paso, a romper reglas que normalmente rechazan. El trabajo, del Laboratorio de Procesamiento del Lenguaje Natural de la EPFL, liderado por el doctorando Ayush Kumar Tarun y dirigido por Antoine Bosselut, propone STING (Prueba Secuencial de Ejecución de Objetivos Ilícitos en N Pasos). A diferencia de pruebas anteriores centradas en un único mensaje malicioso, STING evalúa qué ocurre cuando un atacante construye una conversación entera. El método implica crear una identidad ficticia y benigna y descomponer el objetivo ilícito en fases pequeñas aparentemente inconexas, buscando que el modelo avance pese a su política inicial de rechazo.