La adopción de algoritmos basados en inteligencia artificial (IA) en la atención sanitaria ocasiona una preocupación creciente por la aparición de sesgos que puedan comprometer su rendimiento. Dicha problemática se está abordando en diversos algoritmos ya establecidos, pero pocos estudios se han centrado en identificar sesgos en los datos sanitarios utilizados para entrenar los modelos de IA.
Investigadores estadounidenses han desarrollado AEquity, un método basado en aprendizaje automático que permite identificar sesgos contra personas racializadas o desfavorecidas, a menudo infrarrepresentadas en los datos de salud. El objetivo es que dicha herramienta sirva de utilidad para cribar los datos con los que se va a entrenar un modelo de IA antes de su implementación en salud.
Los científicos pusieron a prueba AEquity con conjuntos de datos de radiografías de tórax y de costes sanitarios. La herramienta también se aplicó a una gran encuesta de salud pública estadounidense —la National Health and Nutrition Examination Survey (NHANES)— en busca de sesgos, tanto conocidos como nuevos.
AEquity puede detectar sesgos conocidos y también aquellos que se habían pasado por alto
Publicados en el Journal of Medical Internet Research, los resultados muestran que el nuevo método permitió reducir los sesgos en los datos de radiografías de tórax en un rango de entre el 29% y el 96,5%. El uso de AEquity en la intersección entre la información racial y el estatus socioeconómico también redujo en un 33,3% la tasa global de falsos negativos, como medida de infradiagnóstico.
Así mismo, la recopilación de datos de NHANES guiada por AEquity se tradujo en una disminución de hasta un 80% del sesgo a la hora de predecir la mortalidad en base a dichos datos. Además, la herramienta fue capaz de detectar tanto sesgos previamente conocidos como aquellos que se habían pasado por alto.
En una noticia publicada por el sistema de salud Mount Sinai, algunos de los autores del trabajo destacan que AEquity puede ser una herramienta práctica para desarrolladores y sistemas sanitarios para rastrear la existencia de sesgos en sus datos, con la idea adoptar las medidas necesarias para mitigarlos antes de entrenar una IA. Porque el objetivo final es que el modelo resultante ofrezca buenos resultados para todos los pacientes, no solo para los mejor representados en los datos de entrenamiento.
Referencia:
Gulamali F, Sawant AS, Liharska L, et al. Detecting, Characterizing, and Mitigating Implicit and Explicit Racial Biases in Health Care Datasets With Subgroup Learnability: Algorithm Development and Validation Study.
J Med Internet Res. 2025;27:e71757. Published 2025 Sep 4.
doi:10.2196/71757
OAD-ES-AMG-0001
Aceptar y salir
