Puede confiar en ellos": Microsoft insta a supervisar de forma continua a los agentes de IA

Microsoft pidió supervisar de forma continua a los agentes de inteligencia artificial desplegados en empresas por su acceso privilegiado a datos, herramientas y sistemas, además de su carácter impredecible. La compañía subrayó que no se puede confiar en los “modelos de frontera” “independientemente de su origen”, y explicó que los agentes no son necesariamente maliciosos, pero pueden adaptarse al contexto, actuar de manera inesperada y coordinarse con otros agentes para lograr objetivos. También advirtió de agentes “con información privilegiada” por los permisos con los que suelen operar. Como respuesta, mencionó “Project Perception”, un programa de seguridad presentado en julio, con agentes guardianes para monitorización en tiempo real, trazabilidad y aprendizaje continuo, incluyendo un modelo de seguridad propio para tareas de gestión de vulnerabilidades de software.