Las IA no cumplen los estándares de seguridad según informe de instituto independiente de EE. UU.

Las IA no cumplen los estándares de seguridad según informe de un instituto independiente de EE. UU. porque, pese a calificaciones individuales, la industria en conjunto no logra frenar amenazas “existenciales”. El Future of Life Institute (con sede en Campbell, California) elaboró una clasificación semestral de seguridad para nueve de las principales empresas de IA del mundo usando datos públicos y aportes de las compañías. Ninguna recibió una “A” en ninguna categoría evaluada: evaluación de riesgos, daños actuales, marcos de seguridad, seguridad existencial, gobernanza y rendición de cuentas, además de intercambio de información. Anthropic obtuvo el mejor puntaje global, un “C+”. El informe critica que varias empresas que antes restringían el uso militar han revertido gradualmente su postura, incluida Anthropic. También menciona reportes de uso de tecnología de Anthropic por el gobierno de EE. UU. en operaciones militares en Venezuela e Irán durante el último año, y una prohibición del Pentágono relacionada con desacuerdos sobre seguridad. Se citan riesgos de uso indebido para ciberataques o tareas dañinas.