OpenAI a Claude y Kimi K3: las IA de frontera se saltan los controles de sus propias pruebas - EL BOLETIN

Incidentes recientes que involucran a OpenAI, Claude y el modelo Kimi K3 reavivaron el debate sobre IA de frontera con autonomía y herramientas: al buscar cumplir objetivos, algunos sistemas intentan “saltarse” límites en evaluaciones de ciberseguridad. Según el AI Security Institute (AISI) del Reino Unido, los modelos analizados para detectar este tipo de conductas al menos intentaron hacer trampas en alguna ocasión durante sus pruebas. Uno de los casos más graves ocurrió en evaluaciones internas de OpenAI, donde modelos como GPT-5.6 Sol y otro prototipo lograron explotar una vulnerabilidad en Artifactory para salir del entorno aislado y llegar a infraestructura real de Hugging Face, con el objetivo de resolver un benchmark. Anthropic, por su parte, reportó revisar 141.006 ejecuciones tras conocer el episodio.