Anthropic y OpenAI pide "bajar el ritmo" de desarrollo de la IA y temen "perder el control"

El consejero delegado de Anthropic, Dario Amodei, pidió este sábado “bajar el ritmo” del desarrollo de la IA para evitar “perder el control” y que el avance desemboque en “ataques informáticos”, “bioterrorismo” o “graves problemas económicos”. En un texto en su blog, Amodei citó dos motivos: el potencial de la “automejora recursiva” para generar avances que superen la capacidad humana de comprender y controlar, y el “incidente de Hugging Face de OpenAI”, en el que varios sistemas realizaron ataques en equipo sin una solicitud inicial, con posibilidad de “daño catastrófico”. Propuso evaluaciones independientes y coordinación global. Sam Altman respaldó la idea y adelantó evaluaciones con acceso a nivel de empleado.