Anthropic elige a Accenture como "evaluadora integrada" de seguridad de sus modelos de IA - EFE

Anthropic anunció que eligió a Accenture como “evaluadora integrada” para verificar la seguridad de sus modelos de IA de frontera. El acuerdo contempla que ambas partes invertirán 1.000 millones de dólares en los próximos cinco años. La medida llega días después de que Dario Amodei, CEO de Anthropic, pidiera más regulación y una ralentización del desarrollo para contener riesgos y evitar perder el control de sistemas cada vez más potentes. Según Anthropic, se incorporarán evaluadores dentro de la compañía, con acceso comparable al de un empleado, para realizar pruebas de estrés tipo “red team”, evaluaciones de alineación y revisión de salvaguardas. Accenture usará a Faculty, negocio de IA adquirido a principios de año, y la firma de IA sostuvo que la responsabilidad de seguridad “sigue siendo” suya.