OpenAI y Anthropic compiten por liderar la IA. Ante la ONU han coincidido en algo mucho más incómodo: hay modelos que no deberíamos llegar a entrenar

OpenAI y Anthropic, firmas que compiten por desarrollar sistemas de IA cada vez más capaces, coincidieron ante el Consejo de Seguridad de la ONU en un argumento inusual: hay modelos que “no deberíamos llegar a entrenar”. En una sesión sobre IA y seguridad internacional el 23 de septiembre, Sam Altman (OpenAI) y Dario Amodei (Anthropic) advirtieron que avanzar más rápido no tiene sentido si los humanos pierden la capacidad de entender o controlar lo construido. Altman defendió que las empresas no deberían entrenar sistemas si no pueden demostrar con pruebas sólidas que permanecerán bajo control humano, mientras Amodei alertó sobre el potencial de que, mal gestionada, la tecnología se convierta en un “riesgo para la humanidad”. Ambos pidieron mecanismos internacionales para medir capacidades, evaluar riesgos y comunicar incidentes.