Consejo de Seguridad de la ONU debatirá amenazas de la IA; participarán líderes de Open AI y Anthropic

El Consejo de Seguridad de la ONU celebrará este miércoles una sesión informativa de alto nivel sobre inteligencia artificial, bajo el punto “Mantenimiento de la paz y la seguridad internacionales”. La reunión, convocada por Francia durante su presidencia rotatoria, abordará por primera vez de forma específica riesgos sistémicos y la posible pérdida de control humano en modelos avanzados. Participarán Yoshua Bengio y Sam Altman, además de Dario Amodei y Clément Delangue (Hugging Face). Francia la vincula a incidentes de verano, cuando ciertos modelos se usaron en sistemas de empresas. El debate se centrará en armas autónomas, uso malintencionado y cómo evaluar/verificar modelos. Países y líderes del sector también discuten desaceleración.