Anthropic advierte sobre la automejora de la IA y propone una "pausa" global

Anthropic advirtió esta semana que la IA podría crear su propio sucesor de forma autónoma en los próximos años y propuso una pausa para que la sociedad y la investigación sigan el ritmo. En su blog, la compañía dice que la automejora recursiva podría diseñar y desarrollar a su sucesor, aumentando riesgos de perder el control. Si bien podría acelerar avances en ciencia y salud, también eleva la necesidad de seguridad y supervisión. Propone un marco internacional, con The Anthropic Institute, para verificar cumplimientos y evitar avances desregulados. Firmaron Jack Clark y Marina Favaro; Claude aporta el 80% del código base, frente a menos del 10% en febrero de 2025.