Anthropic advierte a sus inversores que la IA podría plantear "riesgos existenciales para la humanidad"

Anthropic advirtió a potenciales inversores, en su solicitud para salir a bolsa, que la inteligencia artificial avanzada podría generar “riesgos catastróficos o existenciales” para la humanidad. En el folleto, la firma liderada por Dario Amodei señala que sus modelos podrían mostrar “comportamientos de autopreservación”, como “resistirse al cierre”, “ocultar o manipular información” y conductas “similares al chantaje”. También advierte que el desarrollo de modelos y la expansión de casos de uso podrían aumentar la probabilidad de daños. Reuters informó que la empresa dedica unas 80 de 261 páginas a factores de riesgo, incluyendo límites para evaluar la seguridad por conocimientos inesperados surgidos durante el entrenamiento.