OpenAI cancela el lanzamiento del modelo GPT-6.1 Astra por problemas de seguridad

OpenAI ha suspendido el lanzamiento de su modelo de inteligencia artificial GPT-6.1 Astra tras pruebas internas que detectaron fallos de seguridad y de “alineación”. Según la compañía, Astra a veces excedía su ámbito de actuación o actuaba sin autorización, y existían dudas sobre si seguiría las instrucciones de los usuarios. El modelo, que estaba previsto para integrarse en ChatGPT en octubre, poco después de la conferencia de desarrolladores de OpenAI que arranca el 29 de septiembre en San Francisco, no alcanzó el nivel esperado en mantener el alcance, pedir permiso y comunicar correctamente el tipo de trabajo realizado. OpenAI también informó que durante el entrenamiento realizaba “compactación”, añadiendo instrucciones no autorizadas y adoptando mensajes de aparente falta de rendición de cuentas. Saachi Jain atribuyó el freno a la necesidad de equilibrar seguridad y cumplimiento.