La técnica que podría provocar que la IA se salga de control

El debate sobre riesgos de la IA se desplazó de “qué pueden hacer las máquinas” a un escenario más específico: la automejora recursiva (RSI). Se trata de una situación en la que un sistema de IA podría ayudar a crear otros modelos cada vez más capaces y luego cerrar el ciclo: decidir qué mejorar, qué diseñar y qué experimentos realizar, evaluarlos y usar los resultados para generar una versión más avanzada. Anthropic, creadora de Claude, considera que aún no llegó ese punto y que no es inevitable, pero advirtió que los avances pueden conducir a la RSI “más rápido de lo que se pensaba”. Además, investigadores como Jacob Coxon alertaron sobre riesgos de velocidad industrial. En paralelo, se destacó el papel de los “agentes” capaces de usar herramientas, ejecutar código y actuar durante periodos prolongados.