Qué es el RSI? La técnica que podría provocar que la IA se salga de control

El debate sobre inteligencia artificial dejó de centrarse solo en lo que pueden hacer los sistemas y pasó a la posibilidad de que evolucionen con menor supervisión humana mediante la “automejora recursiva” (RSI). La idea es que una IA ayude a crear sistemas más capaces, que luego generan nuevas generaciones de modelos, cerrando un ciclo en el que decide qué mejorar, qué diseñar y qué experimentos realizar, evaluando resultados y aplicando el aprendizaje a una versión más avanzada. Anthropic, creadora de Claude, afirma que ese punto aún no se ha alcanzado y que no es inevitable. También advirtió que el avance ocurre “más rápido de lo que se pensaba”. El texto destaca el rol de los “agentes” de IA, capaces de usar herramientas, ejecutar código y operar durante periodos prolongados. OpenAI y expertos como Vincent Conitzer advierten sobre la dificultad de medir cuándo esa capacidad acelera drásticamente el desarrollo.