Aviso para la humanidad: la inteligencia artificial "podría acabar con todas las personas para finales de la década", advirtió Jacob Coxon, investigador que trabajó en Anthropic y OpenAI

Jacob Coxon, investigador que trabajó en OpenAI y Anthropic, renunció a esta última y alertó sobre el ritmo con el que la industria busca llegar a la superinteligencia. En un mensaje tras su salida sostuvo que existe la posibilidad de que una IA avanzada provoque la desaparición de la humanidad antes de que termine esta década. Coxon afirmó que, aunque los riesgos son conocidos por quienes desarrollan la tecnología, OpenAI y Anthropic continúan avanzando hacia sistemas auto-mejorables sin una solución suficiente para garantizar el control humano. También cuestionó la competencia entre laboratorios, al sugerir que el temor a llegar “primero” empuja el desarrollo. En el debate respondió Evan Hubinger, investigador de alineación en Anthropic, que respaldó la preocupación y mencionó una probabilidad superior al 10%, aclarando que se trata de su estimación personal.