La IA podría destruir a la humanidad? Esto dicen Nvidia, OpenAI, Anthropic y Google

Varias de las principales compañías del sector de inteligencia artificial advirtieron sobre riesgos potencialmente catastróficos asociados con sistemas cada vez más capaces, aunque sin afirmar que la “extinción” sea inevitable. OpenAI señaló que una eventual superinteligencia podría conllevar peligros que van desde la pérdida de control hasta la extinción, y enmarcó su enfoque de “superalignment” junto con un “Preparedness Framework” para evaluar capacidades con daños graves. La empresa identifica tres fuentes de riesgo: mal uso, desalineación (cuando el modelo actúa contra objetivos humanos) y disrupción social. Nvidia desarrolló mecanismos para evaluar peligros en modelos “de frontera”, mientras Anthropic también aplica políticas de escalamiento responsable para aumentar salvaguardas.