La IA aplicada a la medicina puede comprometer la privacidad de ciertos pacientes

La IA aplicada a la medicina puede comprometer la privacidad de ciertos pacientes, según un estudio publicado en Nature por la Universidad Técnica de Múnich. El trabajo se centra en ataques de inferencia de pertenencia (MIA), que mediante múltiples consultas buscan determinar si los datos de una persona específica se usaron para entrenar un modelo. A diferencia de evaluaciones anteriores, que analizaban riesgos a nivel de conjunto de datos, el estudio muestra que los ataques contra la privacidad pueden ser más eficaces a nivel individual. Los investigadores emplearon siete grandes bases con información clínica real, incluyendo imágenes médicas, electrocardiogramas e historiales clínicos electrónicos, para identificar perfiles más vulnerables. Encontraron que los MIA pueden alcanzar tasas de éxito casi perfectas en pacientes individuales y que el riesgo aumenta con la capacidad del modelo. Los grupos infrarrepresentados —como personas con enfermedades raras, minorías raciales, desventajas socioeconómicas o géneros menos comunes— registraron índices desproporcionadamente altos. El artículo recomienda evaluaciones de mitigación verificable y controles de acceso estrictos.