Anthropic advierte que la inteligencia artificial pronto podrá mejorarse a sí misma sin intervención humana | CNN

Anthropic advierte que la IA podría mejorarse a sí misma sin intervención humana. En un blog de Marina Favaro y Jack Clark, la firma señala que la automejora recursiva completa podría traer beneficios en ciencia y salud, pero también riesgos de perder el control humano sobre los sistemas. Recomiendan ralentizar o pausar el desarrollo de IA de vanguardia y crear mecanismos para intervenir si se descontrola. En CNN, Clark pidió un “pedal de freno” para detener avances, comparando la ausencia de control con un coche sin freno. La advertencia surge tras el interés de la compañía por una OPI que podría financiar centros de datos e infraestructura. SpaceX, ligada a IA y otras áreas, se prepara para lo que sería la mayor OPI de la historia. El mensaje subraya validar, verificar y mitigar daños sociales de la automejora acelerada.