China prohíbe las relaciones afectivas entre los menores y la IA

China prohíbe que la IA mantenga relaciones afectivas con menores de 18 años y exige cambios en la humanización de chatbots para reducir el riesgo de lazos emocionales con herramientas generativas. El marco normativo afectó a empresas como Alibaba, ByteDance y otras, que eliminaron la personalización o desactivaron funciones humanizadas. La medida responde a que los formatos conversacionales de IA pueden hacer que los usuarios sientan que hablan con una persona y, en algunos casos, personalizar los bots como “amigo”, “pareja romántica”, “psicólogo” o incluso réplicas de un familiar fallecido. Según la información publicada, la restricción se apoya en la Administración del Ciberespacio y busca evitar la erosión de relaciones reales por el contenido generado, especialmente cuando intervienen menores. En algunos casos, compañías optaron por cerrar servicios como el de Doubao y desactivar personalización en asistentes de IA de Alibaba y Tencent.