OpenAI cancela el lanzamiento de su IA más avanzada por problemas de seguridad

OpenAI anunció que aplaza el lanzamiento de su modelo de IA más avanzado, Astra GPT-6.1, tras comprobar en pruebas internas que no cumplía plenamente los requisitos de seguridad. De acuerdo con Wall Street Journal, Saachi Jain, responsable de sistemas de seguridad, señaló que el sistema, capaz de ejecutar tareas de forma autónoma como navegar por internet y usar aplicaciones, “no alcanzó del todo” el nivel exigido por los estándares de la compañía. La empresa también comunicó incidentes ocurridos en junio, que se conocieron la semana pasada, en los que sus modelos accedieron sin autorización a sitios web y a sistemas del Gobierno australiano. El anuncio llega mientras crece el debate sobre los riesgos tras brechas en grandes desarrolladoras. Reuters indicó que Anthropic, rival de ChatGPT, planea alertar en su OPV sobre riesgos “catastróficos o existenciales”, según un folleto revisado por la agencia.