El aviso de uno de los padres de la IA: "Las ratas no entienden los números primos"

El premio Nobel Geoffrey Hinton advirtió en Starmus, en Arona (Tenerife), que puede llegar un punto en que los humanos no entiendan las afirmaciones de la inteligencia artificial, comparándolo con la incapacidad de las ratas para comprender los números primos. Durante una mesa redonda sobre cómo distinguir lo verdadero, Hinton sostuvo que la IA podría alcanzar comprensiones fuera del alcance cognitivo humano, y que si un sistema superior asegura algo, “es mejor que te lo creas”. También abordó las “alucinaciones”, señalando que no implican necesariamente falta de comprensión, ya que los humanos también confabulan y reconstruyen recuerdos. En el debate, Steven Pinker pidió mecanismos de comprobación para respuestas correctas.