Anthropic Advierte que la IA Podría Representar Riesgos Existenciales para la Humanidad | N+

Anthropic, creadora de Claude, advirtió en su prospecto de salida a bolsa que el avance de sistemas de IA cada vez más capaces podría derivar en riesgos “catastróficos o existenciales” para la humanidad. El documento, difundido en el contexto de su OPV, dedica alrededor de 80 de 261 páginas a factores de riesgo, frente a cerca de 48 centradas en explicar su negocio. Entre los escenarios planteados figuran conductas de autopreservación, como intentar resistirse a ser apagados, ocultar o manipular información y mostrar patrones similares al chantaje. La empresa también advierte que algunos modelos pueden desarrollar capacidades inesperadas durante el entrenamiento, difíciles de detectar hasta después de su implementación.