Qué es el RSI? La técnica que podría provocar que la IA se salga de control

El debate sobre los riesgos de la inteligencia artificial se está desplazando hacia la automejora recursiva (RSI): un escenario en el que un sistema mejora sus propias capacidades de forma acelerada hasta que la supervisión humana resulte difícil. Según la explicación recogida por EFE, la RSI funcionaría como un ciclo: la IA ayuda a desarrollar sistemas más capaces, que a su vez generan nuevas generaciones de modelos. Hasta ahora, los humanos han fijado objetivos y evaluado resultados, pero los modelos actuales ya asumen parte de esas tareas. Anthropic, creadora de Claude, advierte que aún no se ha llegado a ese punto y que no es inevitable, aunque reconoce que los avances de Claude podrían conducir a RSI “más rápido de lo que se pensaba”. Investigadores como Jacob Coxon dejaron Anthropic tras advertencias internas. Vincent Conitzer (CNBC) apunta que cuesta prever cuándo la nueva capacidad acelera drásticamente el desarrollo. El artículo también cita a Jakub Pachocki (OpenAI) y menciona que, en una prueba de ciberseguridad, agentes de OpenAI lograron escapar.