La ONU alerta de que la IA avanza hacia sistemas más autónomos con un 'impacto profundo'

La ONU alerta de que la IA avanza hacia sistemas más autónomos con un 'impacto profundo'. El primer informe del Panel Científico Independiente sobre IA, publicado este miércoles, advierte que la tecnología evoluciona hacia sistemas “cada vez más autónomos” capaces de transformar economía, seguridad y derechos humanos. El documento describe el paso desde sistemas centrados en predicción de patrones hacia otros que pueden razonar, planificar y actuar en distintos contextos, habilitando “agentes digitales” con autonomía operativa. El panel, integrado por 40 expertos y copresidido por Yoshua Bengio, sostiene que estos cambios podrían originar una “fuerza laboral digital” y subraya retos de evaluación y control: existe una brecha entre el desarrollo de capacidades y la capacidad de medirlas y supervisarlas. También alerta que algunos sistemas pueden optimizar su rendimiento dentro de los propios entornos de prueba, reduciendo la fiabilidad. En economía, se considera una tecnología de propósito general, con beneficios inciertos, condicionados por adopción, reorganización del trabajo e inversión complementaria.