Altman pide reglas mundiales para la IA ante el temor a perder el control de los modelos más avanzados

Sam Altman, consejero delegado de OpenAI, pidió estándares internacionales de seguridad para la IA ante el rápido aumento de capacidades de los modelos y el “mosaico” regulatorio entre países. La propuesta surge tras el debate de la industria sobre ralentizar de forma coordinada el desarrollo de sistemas avanzados. OpenAI sostiene que la regulación puede aprender de sectores como la aviación o las finanzas: acuerdos técnicos comunes, intercambio de información y cooperación sin renunciar a la soberanía nacional. Para impulsar el proceso, plantea que Estados Unidos lidere mediante el Centro de Estándares e Innovación en Inteligencia Artificial (CAISI) con institutos de seguridad de Reino Unido, Francia, Alemania, Japón, Corea del Sur, Singapur, Canadá y Australia. Los criterios buscarían medir capacidades, detectar incidentes graves y definir cuándo frenar temporalmente sistemas especialmente potentes. Altman y OpenAI destacan el riesgo asociado a la auto-mejora recursiva, y aclaran que hoy no existe una auto-mejora totalmente autónoma, aunque los agentes ya aceleran trabajo de I+D.