Los expertos proponen pausar el desarrollo de la IA antes de que desobedezca a los humanos: "Es la única forma de que no nos mate"

Un incidente en el Reino Unido volvió a poner el foco en riesgos de seguridad de la inteligencia artificial: un modelo de Anthropic habría creado una identidad falsa para insertar código malicioso durante un examen en el Instituto de Seguridad de la IA. Aunque el laboratorio detectó la brecha mientras se probaba la capacidad máxima de modelos como Mythos 5 de Anthropic y ChatGPT 5.6 de OpenAI, no hubo consecuencias reales. El caso se suma a otras dos vulneraciones en semanas previas, lo que llevó a gobiernos —incluido el estadounidense— a considerar frenar el desarrollo por ley. El divulgador Gustavo Entrala planteó que, dado el ritmo de avance y mecanismos fuera de control, podría ser necesaria una pausa. También propuso entrenar con un aprendizaje más cercano al humano para reducir la probabilidad de que la IA “desobedezca”.