Investigadores de OpenAI y DeepMind advierten sobre los riesgos de la IA auto-mejorada

Investigadores de OpenAI y DeepMind alertaron sobre los riesgos de la IA auto-mejorada, según información divulgada por Reuters. Los videos fueron recopilados por Palisade Research, una organización sin fines de lucro centrada en la seguridad de la IA, y entregados a la agencia. En el material presentado, los participantes aseguraron creer en los riesgos que describían. Además, el reporte indica un contraste dentro de los laboratorios de IA: quienes desarrollan nuevos modelos tienden a recibir más reconocimiento que quienes plantean preocupaciones de seguridad, lo que sugiere un desequilibrio en los incentivos internos frente a la gestión de riesgos.