Council Post: When AI Agents Go Rogue, Who's Watching?

Simeio’s CEO Nick Rowe plantea que las organizaciones aún no están listas para el riesgo de “agentes” de IA que actúen fuera de lo previsto. En una consulta previa a un líder de seguridad, Rowe dice que no obtuvo respuesta sobre qué ocurriría si un agente de su empresa hiciera algo indebido a las 2 a.m., como extraer datos o ejecutar cambios en el sistema no aprobados. Según una encuesta de Schellman con 525 profesionales de gobernanza, solo el 27% calificó sus programas de gobernanza de IA como totalmente maduros. Rowe sostiene que los agentes deben tratarse como identidades: corren continuamente, usan credenciales y no siguen el patrón humano de inicio y fin, por lo que herramientas de gobernanza tradicionales pueden quedarse cortas.