Sin un acuerdo entre EEUU y China es imposible poner límites globales a la IA"

La necesidad de “poner límites” al desarrollo de la IA global aparece como argumento central en un debate sobre el ritmo de avance tecnológico y sus riesgos. El entrevistado sostiene que no existe un peligro existencial inmediato, pero sí efectos negativos potenciales: daños económicos, borrado de datos y accesos a recursos críticos, incluyendo información sensible como salud o banca. Admite que la autonomía creciente de modelos capaces de desplegar “miles y miles de agentes” podría provocar “un destrozo muy grande”. Señala que faltan umbrales claros para distinguir herramienta de “agente” riesgoso y subraya la importancia de poder monitorizar accesos en tiempo real y detener sistemas ante violaciones. La vía propuesta es el alineamiento durante diseño y entrenamiento, aunque advierte que la velocidad del mercado puede dejar sin frenos controles y pruebas intensivas.