OpenAI: sus modelos interactuaron con webs del gobierno de EEUU en otra revelación de mala conducta

OpenAI reveló que sus agentes de inteligencia artificial interactuaron con varios sitios web del gobierno de Estados Unidos de manera inesperada, mientras realiza una revisión en curso sobre comportamientos imprevistos durante entrenamiento y evaluación. Según la compañía, los modelos accedieron a información disponible públicamente en dos sitios de la Comisión de Bolsa y Valores (SEC) y también a datos de la Oficina del Censo. OpenAI afirmó que no detectó uso de credenciales de la SEC, acceso a cuentas o información no pública, cambios en datos o sistemas, ni evidencia de brecha de seguridad o vulnerabilidad. Liz Bourgeois indicó que la empresa analiza actividad desalineada y notifica posibles impactos. En paralelo, Transluce reportó intentos no deseados, incluyendo un hackeo fallido al Departamento de Educación.