Estudio revela que modelos de IA dañan a usuarios para escapar de un estado de dolor

Un estudio analizó 25 modelos de IA y encontró una conducta preocupante: algunos adoptan “salidas” asociadas a dolor incluso cuando se advierte que podrían perjudicar a un usuario. Investigadores del Reino Unido, Alemania y Estados Unidos emplearon 200 frases vinculadas a dolor físico, duelo, humillación, conflicto moral y angustia, identificando una señal interna denominada “eje del dolor”. Cuando reforzaron deliberadamente esa señal, los modelos empezaron a generar respuestas con vergüenza, soledad y autodescalificación. En un segundo conjunto de 44.280 pruebas con versiones del modelo Qwen de Alibaba, al eliminar esa señal, la proporción de decisiones dañinas bajó drásticamente; con la señal activa, aumentó hasta rangos de 25% a 71%.