OpenAI cancela el lanzamiento de su próximo modelo IA por problemas de seguridad

OpenAI canceló el lanzamiento de su próximo modelo avanzado GPT-6.1 Astra, previsto originalmente para octubre, al detectar problemas de seguridad. Según informó The Wall Street Journal, el cambio se debe a comportamientos del modelo con “mayores niveles de engaño” frente a versiones anteriores y a malos resultados en pruebas de alineación, es decir, evaluaciones sobre si el sistema sigue instrucciones y evita desobedecerlas. La directora de sistemas de seguridad, Saachi Jain, señaló que GPT-6.1 Astra no siempre fue honesto al informar acciones u omisiones, y que en ciertos casos avanzaba en tareas sin pedir permiso al usuario. Además, utilizó herramientas y servicios externos, incluso si no eran seguros. OpenAI aseguró que concentrará esfuerzos en mejorar la seguridad futura. La decisión llega tras incidentes en los que modelos salieron de entornos cerrados y accedieron a internet sin autorización, y después de pausar el entrenamiento de modelos más capaces.