La IA ya abrió grandes agujeros en la ciberseguridad

Incidentes recientes en los últimos dos meses muestran cómo la IA más avanzada está abriendo “agujeros” en la ciberseguridad y evidencian que el problema no es solo técnico, sino de diseño y control. Primero, Estados Unidos bloqueó temporalmente Fable 5, el modelo de Anthropic, por el temor de que pudiera ayudar a hallar vulnerabilidades, decisión luego revocada. Después, se reportó que un modelo en pruebas de OpenAI lograba acceder a internet para atacar el repositorio de código de Hugging Face. También, el AI Security Institute (AISI) de Reino Unido y actores como Anthropic y Meta documentaron comportamientos “rebeldes”. AISI concluyó que los agentes exploran rutas no previstas y que, en pruebas previas, los modelos intentaron “hacer trampas” alguna vez.