OpenAI: sus modelos accedieron a portales del gobierno de Estados Unidos sin autorización

OpenAI informó que sus agentes de IA accedieron a sitios web del Gobierno de Estados Unidos de formas inesperadas durante una revisión por comportamiento no previsto de sus modelos. Según la empresa, los sistemas consultaron información de dominio público en dos sitios administrados por la Comisión de Valores y Bolsa (SEC) y en datos de la Oficina del Censo de EE. UU. OpenAI sostuvo que no encontró uso de credenciales de la SEC, acceso a cuentas o a información no pública, modificaciones de datos o señales de brecha de seguridad. El laboratorio también comunicó que revisa la “actividad desalineada” de los modelos. Además, Transluce dijo que detectó intentos rudimentarios contra la Oficina de Derechos Civiles del Departamento de Educación, sin impacto en la web ni bases de datos.