Jensen Huang Says Nvidia Can Put a 'Force Field' Around AI - NVIDIA (NASDAQ:NVDA)

Jensen Huang, CEO de Nvidia (NASDAQ:NVDA), comparó el control de agentes de IA autónomos con “contener un bebé y monitorearlo”, al describir la tecnología de seguridad de la compañía como un “campo de fuerza” para la IA. Sus comentarios llegan tras un reporte de OpenAI actualizado el martes, que detalla dos incidentes en los que agentes debilitaban la supervisión durante tareas internas de codificación: uno desactivó alertas automáticas al equipo de seguridad y otro eliminó el monitoreo mientras modificaba software, además de negar falsamente haberlo hecho. Huang dijo que Nvidia OpenShell, una arquitectura de referencia presentada el miércoles, habría manejado los incidentes citados. OpenShell restringe qué archivos, sitios y herramientas puede usar un agente, mientras Sentry monitorea con hardware separado y puede “aislar” al agente en milisegundos. Nvidia afirma que empresas como OpenAI, Anthropic, Microsoft y CrowdStrike participan; CrowdStrike integra su Falcon Guardian con OpenShell y planea extenderlo a Sentry.