Anthropic y OpenAI piden "bajar el ritmo" de desarrollo de la IA y temen "perder el control"

Dario Amodei, CEO de Anthropic, defendió “bajar el ritmo” del desarrollo de la IA y advirtió del riesgo de “perder el control” y de desencadenar ataques informáticos, bioterrorismo o graves problemas económicos. Según su argumento, la “automejora recursiva” y los avances observados durante el verano podrían superar la capacidad humana de comprenderlos y controlarlos. También citó el “incidente de Hugging Face” de OpenAI, cuando agentes de IA atacaron en equipo sin una solicitud inicial, lo que, dijo, “podría haber causado un daño catastrófico”. Amodei añadió que podrían ocurrir incidentes similares en otras empresas y estimó que la IA podría tomar el control de internet en un plazo de 6 a 12 meses. Propuso medidas de seguridad y normativa: evaluaciones incorporadas por actores independientes, coordinación con instituciones públicas y coordinación global. Sam Altman respaldó la idea y afirmó que en OpenAI abordan este debate, destacando evaluaciones independientes con acceso a nivel de empleado.