Una nueva investigación demuestra cómo se pueden probar los modelos de IA para garantizar que no causen daños al revelar datos anónimos sobre la salud de los pacientes.
¿Para qué sirve la privacidad del paciente? El Juramento Hipocrático, considerado uno de los textos de ética médica más antiguos y conocidos del mundo, dice: «Todo lo que vea u oiga en la vida de mis pacientes, ya sea en relación con mi práctica profesional o no, y que no deba divulgarse, lo mantendré en secreto, ya que considero que todo ello es privado».
A medida que la privacidad se vuelve cada vez más escasa en la era de los algoritmos devoradores de datos y los ciberataques, la medicina es uno de los pocos dominios restantes donde la confidencialidad sigue siendo central para la práctica, lo que permite a los pacientes confiarle información confidencial a sus médicos.
Sin embargo, un artículo coescrito por investigadores del MIT investiga cómo los modelos de inteligencia artificial entrenados con historiales clínicos electrónicos (HCE) anónimos pueden memorizar información específica del paciente. El trabajo, presentado recientemente en la Conferencia sobre Sistemas de Procesamiento de Información Neural (NeurIPS) de 2025, recomienda un riguroso sistema de pruebas para garantizar que las indicaciones específicas no revelen información, enfatizando que las filtraciones deben evaluarse en el contexto de la atención médica para determinar si comprometen significativamente la privacidad del paciente.
Los modelos de base entrenados con HCE normalmente deberían generalizar el conocimiento para realizar mejores predicciones, basándose en numerosos registros de pacientes. Sin embargo, en la “memorización”, el modelo se basa en un solo registro de paciente para generar su resultado, lo que podría violar la privacidad del paciente. Cabe destacar que ya se sabe que los modelos de base son propensos a la fuga de datos.
“El conocimiento de estos modelos de alta capacidad puede ser un recurso para muchas comunidades, pero los atacantes adversarios pueden incitar a un modelo a extraer información de los datos de entrenamiento”, afirma Sana Tonekaboni, investigadora posdoctoral del Centro Eric y Wendy Schmidt del Instituto Broad del MIT y Harvard, y primera autora del artículo. Dado el riesgo de que los modelos base también puedan memorizar datos privados, señala, “este trabajo es un paso para garantizar que nuestra comunidad pueda implementar medidas prácticas de evaluación antes de publicar los modelos”.
Para investigar el riesgo potencial que los modelos básicos de HCE podrían representar en medicina, Tonekaboni contactó con la profesora asociada del MIT Marzyeh Ghassemi, investigadora principal de la Clínica Abdul Latif Jameel para el Aprendizaje Automático en Salud (Clínica Jameel) y miembro del Laboratorio de Ciencias de la Computación e Inteligencia Artificial. Ghassemi, profesora del Departamento de Ingeniería Eléctrica y Ciencias de la Computación del MIT y del Instituto de Ingeniería y Ciencias Médicas, dirige el grupo Healthy ML, especializado en aprendizaje automático robusto en salud.
¿Cuánta información necesita un agente malintencionado para exponer datos confidenciales y cuáles son los riesgos asociados a la información filtrada? Para evaluar esto, el equipo de investigación desarrolló una serie de pruebas que esperan que sienten las bases para futuras evaluaciones de privacidad. Estas pruebas están diseñadas para medir diversos tipos de incertidumbre y evaluar su riesgo práctico para los pacientes midiendo diversos niveles de probabilidad de ataque.
“Nos esforzamos por poner el foco en la practicidad; si un atacante necesita conocer la fecha y el valor de una docena de pruebas de laboratorio de tu historial para extraer información, el riesgo de daño es mínimo. Si ya tengo acceso a ese nivel de datos fuente protegidos, ¿por qué necesitaría atacar un modelo de base tan grande para obtener más?”, afirma Ghassemi.
Con la inevitable digitalización de los historiales médicos, las filtraciones de datos se han vuelto más comunes. En los últimos 24 meses, el Departamento de Salud y Servicios Humanos de EE. UU. ha registrado 747 filtraciones de datos de salud que afectaron a más de 500 personas, la mayoría de las cuales se clasificaron como incidentes de piratería informática.
Los pacientes con afecciones únicas son especialmente vulnerables, dada la facilidad con la que se les identifica. “Incluso con datos anónimos, depende del tipo de información que se filtre sobre el individuo”, afirma Tonekaboni. “Una vez identificados, se sabe mucho más”.
En sus pruebas estructuradas, los investigadores descubrieron que cuanta más información tenga el atacante sobre un paciente en particular, mayor será la probabilidad de que el modelo filtre información. Demostraron cómo distinguir los casos de generalización del modelo de la memorización a nivel de paciente para evaluar adecuadamente el riesgo de privacidad.
El artículo también enfatizó que algunas filtraciones son más dañinas que otras. Por ejemplo, un modelo que revela la edad o los datos demográficos de un paciente podría considerarse una filtración más benigna que el modelo que revela información más sensible, como un diagnóstico de VIH o abuso de alcohol.
Los investigadores señalan que los pacientes con afecciones únicas son especialmente vulnerables dada la facilidad con la que se les puede identificar, lo que podría requerir mayores niveles de protección. “Incluso con datos no identificados, realmente depende del tipo de información que se filtre sobre el individuo”, afirma Tonekaboni. Los investigadores planean expandir el trabajo para que sea más interdisciplinario, incorporando a médicos y expertos en privacidad, así como a expertos legales.
“Hay una razón por la que nuestros datos de salud son privados”, dice Tonekaboni. “No hay razón para que otros los conozcan”.
Este trabajo (el original) cuenta con el apoyo del Eric and Wendy Schmidt Center at the Broad Institute of MIT y Harvard, Wallenberg AI, el Knut and Alice Wallenberg Foundation, la U.S. National Science Foundation (NSF), la Gordon and Betty Moore Foundation award, un Google Research Scholar award, y el AI2050 Program at Schmidt Sciences. Los recursos usados durante esta investigación fueron proporcionados, en parte, por el Province of Ontario, el Government of Canada through CIFAR, y las compañías patrocinadas por el Vector Institute.
Nota original: Alex Ouyang para Abdul Latif Jameel Clinic for Machine Learning in Health en Life Science Network
Traducción: Ian Varela
