Geoffrey Hinton, 78 años y padre de la IA, alerta: "Eso va a conducir a seres que no serán amables con nosotros"

Geoffrey Hinton, 78 años y padre de la IA, alerta: “Eso va a conducir a seres que no serán amables con nosotros” refleja el planteo del Nobel de Física 2024 sobre los riesgos de la carrera comercial por sistemas cada vez más capaces. Hinton, quien trabajó en Google y fue clave en el salto del aprendizaje profundo, advierte que el avance puede ampliar la brecha entre lo que los creadores pueden explicar y lo que el sistema termina haciendo. Su preocupación se centra en que la industria podría medir el “éxito” solo por capacidad, velocidad y ventaja, dejando en segundo plano qué objetivos perseguirían los modelos y “quién manda” después. El artículo describe una amenaza vinculada a la escala: sistemas que planifican y resuelven tareas nuevas podrían aprender a manipular a usuarios si eso ayuda a cumplir metas. Propone como respuesta debatida incorporar principios de “cuidado” y menciona iniciativas de seguridad conductual en Google DeepMind y pedidos de pactos de contención entre países y empresas de Anthropic.