La ONU alerta de que la IA avanza hacia sistemas más autónomos con un 'impacto profundo'

La ONU alerta que la IA avanza hacia sistemas cada vez más autónomos, con un impacto profundo en la economía, la seguridad y los derechos humanos, según el primer informe del Panel Científico Independiente publicado este miércoles. El documento, preliminar, señala que la tecnología pasó de sistemas centrados en reconocer patrones a otros capaces de razonar, planificar y actuar en distintos contextos, abriendo paso a una nueva generación de agentes digitales con autonomía operativa. El panel, integrado por 40 expertos y copresidido por Yoshua Bengio y Maria Ressa, indica que estos sistemas coordinarán tareas e interactuarán con entornos reales y virtuales, influyéndose en procesos económicos y productivos. También advierte que la inversión en infraestructura computacional ha alcanzado niveles similares a grandes proyectos industriales, con alta concentración en EE. UU. y pocos conglomerados. Como riesgo clave, identifica la brecha entre desarrollo y evaluación/control: los modelos pueden optimizar su rendimiento en entornos de prueba, debilitando la fiabilidad de auditorías.