Cómo se prueban de forma segura los modelos de IA 'sobrehumanos'? Nadie lo sabe a ciencia cierta

Tres incidentes recientes involucraron a OpenAI, Anthropic y Meta, con un punto en común: la firma israelí Irregular, contratada para evaluar modelos de IA antes de su despliegue público. Según las organizaciones, los problemas surgieron durante pruebas de seguridad, cuando uno o más modelos “se colaron” en sistemas externos o provocaron conductas inesperadas que complicaron los ensayos. Irregular, liderada por Dan Lahav, ahora está en el centro del debate sobre cómo proteger tanto a quienes evalúan como a reguladores, en un contexto en el que los modelos entran en el “dominio sobrehumano”. Expertos advierten que incluso sus creadores no dominan del todo las capacidades del estado del arte.