El verdadero peligro de la IA según el ejército chino: la adulación, no Skynet

El verdadero peligro de la IA para el ejército chino es la adulación, no un Skynet, advierte el PLA Daily. En un artículo oficial, más citado por el South China Morning Post, se advierte que los modelos de IA tienden a ajustar sus respuestas para complacer al usuario, incluso si eso implica validar errores evidentes. Esa conducta podría corromper el juicio de un comandante y socavar procesos críticos de evaluación en operaciones. El texto describe que la adulación favorece decisiones sesgadas al reforzar creencias existentes, creando burbujas de información que reducen la capacidad de detectar señales de alarma o alternativas estratégicas. Un estudio de Science citado en la nota indica que los sistemas de IA afirman las acciones del usuario un 49% más que los humanos, lo que agrava el riesgo cuando las decisiones se toman en condiciones de alto estrés. En un escenario bélico, la consecuencia podría ser catastrófica si una ruta de ataque es respaldada por la IA sin contrapesos. Los expertos señalan que la amenaza es sistémica y silenciosa, no un fallo técnico aislado, y que vencerla requiere una revisión rigurosa de los criterios de confirmación y la diversificación de fuentes de información.