Anthropic pide un acuerdo global para frenar la IA antes de que se mejore sola

Anthropic propone un mecanismo global para frenar o pausar el desarrollo de IA si los sistemas pueden auto-mejorarse sin intervención humana, evitando una evolución descontrolada. La startup señala que ya escribe más del 80% de su código mediante su IA Claude, cifra que subió de un dígito inferior en febrero de 2025. La propuesta busca un acuerdo entre laboratorios líderes, con condiciones verificables de activación y supervisión externa, equivalente a un tratado internacional, y no una pausa unilateral. El contexto es notablemente relevante porque Anthropic avanzó su salida a bolsa, presentando un folleto confidencial en Estados Unidos; su valoración reciente rondó los 965.000 millones de USD tras una nueva ronda de financiación. Los autores advierten que la automejora recursiva aún no ha ocurrido, pero la prevención proactiva podría evitar escenarios incontrolables. El incentivo de incumplimiento es alto, por lo que el marco de verificación sería crucial para ganar confianza pública y regulatoria.