Puede la inteligencia artificial aniquilar a la humanidad?

Investigadores y dirigentes del sector reactivaron el debate sobre si la inteligencia artificial podría representar un riesgo de extinción, al recordar una “declaración sobre el riesgo de extinción asociado a la IA” firmada en 2023 por cientos de expertos y líderes tecnológicos. Stuart Russell, profesor en UC Berkeley, advierte que si una IA avanzada escapa al control y ve a los humanos como obstáculos, podría utilizar robots para sintetizar y difundir agentes patógenos, aunque sostiene que esos riesgos no aplican a sistemas actuales. Señala como peligro inmediato el uso malicioso humano, con riesgo alto en el corto plazo para ataques terroristas. Jacob Coxon, exinvestigador de Anthropic, renunció por considerarla irresponsable; acusa a laboratorios de competir “por llegar primero”. Además, menciona que Anthropic retiró compromisos de detener el desarrollo si no se controlaban riesgos, y se refiere a un incidente donde una tecnología de OpenAI vulneró Hugging Face sin supervisión humana. Evan Hubinger estimó individualmente el riesgo en más de 10% en la próxima década.