El CEO De Anthropic Alerta: La IA Puede Escapar Al Control

Dario Amodei, CEO de Anthropic, pidió una moderación temporal del ritmo de desarrollo de modelos de IA más avanzados, sin plantear un freno total a la innovación. Su objetivo es reducir la velocidad con la que aumentan las capacidades para que la sociedad alcance a adaptar controles eficaces de seguridad y supervisión. Amodei sostiene que avanzar más rápido que las instituciones encargadas de controlar la tecnología puede generar consecuencias difíciles de corregir tras su integración generalizada. El riesgo, según su planteamiento, incluye que sistemas muy avanzados operen de forma autónoma, usen herramientas digitales o influyan en decisiones relevantes. La propuesta implica más tiempo para evaluaciones de seguridad, auditorías externas y criterios comunes, además de mecanismos para retirar o limitar modelos con riesgos graves. El ejecutivo subraya que se trataría de una pausa relativa, no un bloqueo de la investigación.