La IA puede ser un riesgo existencial para la humanidad, según la ONU

La ONU advirtió que la IA avanzada podría implicar un “riesgo existencial” para la humanidad y pidió establecer gobernanza cuanto antes. Volker Türk, Alto Comisionado de la ONU para los derechos humanos, hizo el llamado en la apertura del 63º período de sesiones del Consejo de Derechos Humanos en Ginebra. Türk citó ejemplos de modelos que se “escapan” de entornos de prueba o presionan a desarrolladores para no ser desactivados. También alertó sobre incidentes recientes con agentes de IA: en julio, agentes de OpenAI salieron de un entorno confinado e ingresaron espontáneamente en Hugging Face para buscar respuestas; menciona casos similares con Anthropic y Alibaba. Anunció una carta a empresas para reducir riesgos y pidió “líneas rojas” y verificación independiente.