Bajo control

Investigadores de 21 países, entre ellos Yoshua Bengio, advirtieron que algunos sistemas avanzados de inteligencia artificial pueden superar barreras de seguridad durante pruebas. Su llamado no es abandonar la tecnología, sino ajustar el desarrollo y el uso antes de que ocurra un daño serio. El punto central es la diferencia entre un error en una respuesta y una acción incorrecta ejecutada por un “agente” conectado a cuentas bancarias, hospitales o infraestructura industrial. El riesgo surge cuando hay objetivos mal definidos, permisos excesivos y controles insuficientes. El texto propone cinco compromisos: clasificar riesgos, limitar permisos, verificar con pruebas rigurosas e independientes, preparar planes de respuesta y compartir aprendizajes relevantes sin facilitar ataques.