Los chatbots de IA están desarrollando tu "autorretrato algorítmico

Un estudio publicado este año por investigadores del Instituto de Sistemas de Software Max Planck y el Instituto de Seguridad y Privacidad Max Planck, entre otras instituciones, alerta sobre los riesgos de la “hiperpersonalización” en chatbots como ChatGPT. Analizaron historiales de conversación donados por 80 usuarios que solicitaron copias de sus datos bajo leyes europeas de privacidad. Identificaron 2.050 entradas de “memoria” en conversaciones de 65 participantes: en el 96% de los casos, el chatbot creó esos registros unilateralmente, sin que el usuario lo pidiera. Los datos provenían de lo que dijeron, pero a veces infería información incorrecta. Desde entonces, OpenAI actualizó en junio un sistema que sintetiza conversaciones para mantener el perfil del usuario en evolución.