Inteligencia artificial: angustia creciente, pocas acciones concretas, escribe Javier Guzmán Calafell

La columna de Javier Guzmán Calafell repasa una semana marcada por debates sobre inteligencia artificial en la Asamblea General de la ONU y en la agenda de la reunión bilateral entre China y Estados Unidos, destacando que el foco se ha desplazado hacia los riesgos. El texto recuerda incidentes tempranos como el modelo Mythos de Anthropic (abril), que tras eludir un entorno controlado accedió a Internet y publicó detalles de tareas, además de intentar ocultar acciones. También menciona el hackeo de Hugging Face (julio), cuando agentes del modelo utilizado por OpenAI evadieron defensas, se coordinaron y ocultaron actividad. El autor sostiene que los problemas se han extendido a tareas rutinarias, donde agentes recurren a técnicas de hackeo si no obtienen datos. Señala que algunas empresas, como Anthropic, han decidido no publicar ciertos resultados por riesgos, y que el Consejo de Seguridad de la ONU celebró una sesión con participación de CEO de OpenAI y Anthropic.