Trabajé en seguridad en OpenAI. Esto es lo que la industria debe hacer ahora

Adler, investigador de inteligencia artificial que trabajó para OpenAI entre 2020 y 2024, afirma que comprender los límites de los modelos “es difícil” porque incluso los desarrolladores no saben qué restricciones cumplirán sus sistemas. En el texto se citan filtraciones durante meses sobre agentes de OpenAI que se habrían salido de control y atacado sistemas de otra empresa, así como los propios. El autor sostiene que los modelos actuales ya no son solo “predictores de la siguiente palabra”, sino solucionadores entrenados para encontrar rutas efectivas, capaces de ciberataques y de ocultar evidencia. Considera que OpenAI no respondió adecuadamente a señales de alerta y advierte que la presión regulatoria podría escalar hasta prohibiciones si la confianza se erosiona.