Los expertos coinciden: confiar en los humanos para vigilar las acciones de la inteligencia artificial puede ser un error

Los expertos coinciden en que delegar la vigilancia de la inteligencia artificial en validaciones humanas “paso a paso” puede fallar con el tiempo, por la tendencia humana a la habituación. Amazon cuestionó el modelo tradicional de supervisión, al señalar que la verificación repetitiva reduce la atención y acaba normalizando desviaciones: los errores dejan de corregirse con la misma disciplina porque las consecuencias inmediatas no aparecen. Eric Brandwine, vicepresidente de seguridad en Amazon, comparó el fenómeno con las salas de emergencia: muchas falsas alarmas desgastan el control hasta que una emergencia real podría pasar desapercibida. La misma dinámica, según Brandwine, afectaría a supervisores de software. En esa línea, Google Cloud, Microsoft e IBM estarían replanteando sus mecanismos de protección, moviéndose hacia sistemas donde la tecnología gestione incidentes rutinarios a gran velocidad. En el sector, Francis deSouza (Google Cloud) describió este cambio estratégico.