Puede la IA acabar con la humanidad? La semana en que sus gigantes pidieron pisar el freno

Directores ejecutivos de grandes compañías de inteligencia artificial pidieron esta semana “pisar el freno” en el ritmo de mejora de los modelos más avanzados. Dario Amodei, de Anthropic, y Sam Altman, de OpenAI, coincidieron en la necesidad de moderar la velocidad. Elon Musk, fundador de xAI, se sumó con un mensaje breve: “Dario tiene razón”. El llamado se produce tras una semana marcada por dimisiones, advertencias de una posible catástrofe global y nuevos antecedentes sobre uso de IA en vigilancia, ciberataques y posibles vínculos con armas biológicas. Amodei alertó sobre el riesgo de “automejora recursiva” y planteó que, en 6 a 12 meses, un enjambre de agentes autónomos podría tomar control de áreas de internet mediante redes persistentes de bots, con potenciales daños de cientos de miles de millones de dólares.