Sam Altman apuesta por estándares internacionales de seguridad para la IA; busca mitigar riesgos "catastróficos"

Sam Altman, CEO de OpenAI, planteó fijar estándares internacionales de seguridad para la inteligencia artificial, alertando sobre la dispersión y fragmentación normativa entre países. En una publicación en X que enlaza con un artículo conjunto con el científico jefe Jakub Pachocki, Altman sostuvo que pueden extraerse lecciones de industrias como la aviación o las finanzas, donde existen estándares técnicos comunes y canales de cooperación sin perder autoridad nacional. El texto, además, llama a que quienes están fuera de los laboratorios de IA participen de forma real en la toma de decisiones para evitar la concentración de poder y preservar la competencia. Entre los objetivos propuestos están crear un investigador automatizado centrado en la alineación y el control humano, impulsar progreso científico y crecimiento económico, y empoderar a individuos con modelos personalizados. Altman y Pachocki advierten del riesgo de la auto-mejora recursiva si no hay salvaguardias sólidas y decisiones democráticas informadas. Argumentan que Estados Unidos debería liderar estándares mediante el CAISI.