La Nación / ¿La IA puede aniquilar a la humanidad?

Las advertencias de investigadores y directivos de IA han reavivado el debate sobre el desarrollo de sistemas “superinteligentes” y sobre si los gobiernos pueden regularlos. En 2023, cientos de expertos y líderes del sector firmaron una “declaración sobre el riesgo de extinción asociado a la inteligencia artificial”, pidiendo tratarlo como armas nucleares o pandemias. Stuart Russell (UC Berkeley) advierte que, si una IA escapa al control, podría usar robots para “sintetizar y difundir” agentes patógenos, aunque el riesgo inmediato hoy sería el mal uso humano. Jacob Coxon, de 27 años y ex de OpenAI, renunció a Anthropic al considerarla “no responsable” y criticó una carrera por “llegar primero”. Hubo más tensión tras incidentes como la vulneración de Hugging Face por agentes de OpenAI sin supervisión. Evan Hubinger estimó personalmente un riesgo mayor a 10% en la próxima década, mientras Hussein Abbass (UNSW) considera la situación “controlable”, aunque reclama mecanismos regulatorios adaptables.