Inteligencia artificial, sesgos y atención sociosanitaria

La Inteligencia artificial (IA) como ámbito de desarrollo tecnológico intenta emular, cuando no suplir, a la mente humana, sus formas de aprendizaje y su razonamiento lógico para el desarrollo de tareas y toma de decisiones.

Sin embargo, pese a las bondades de la IA y de algunas de sus aplicaciones en el ámbito de la salud y de la atención sociosanitaria (contribución a la predicción de enfermedades; monitorización remota de cuidados de larga duración; aportación al desarrollo de fármacos relacionados con el envejecimiento, por mencionar algunos ejemplos), la OMS y otras entidades insisten en subrayar los desafíos éticos que el empleo de la IA supone para la promoción de la cobertura universal de la atención a la salud, para la equidad en la atención sociosanitaria, y para las personas destinatarias de cuidados sociosanitarios. Frente a la narrativa de beneficios innegables que elude los riesgos de la Inteligencia artificial, ponemos el acento en los desafíos que entraña su uso.

La OMS destaca la importancia de identificar los errores y los sesgos, implícitos y explícitos, que se trasladan a los modelos que sostienen la IA y que distorsionan el entrenamiento del propio algoritmo y/o los resultados del proceso. Y es que los algoritmos pueden incorporar los prejuicios de quienes los diseñan de forma que, siendo inteligentes, pueden no plantear los mejores intereses para la sociedad y, en definitiva, resultar perjudiciales para algunas personas o para el conjunto de la sociedad, exacerbando determinadas desigualdades sociales, generando nuevas vulnerabilidades o perpetuando viejas discriminaciones por motivo de género, raza, ingresos, religión, orientación sexual, edad, etc. El otro riesgo deriva del uso de datos sesgados o erróneos obtenidos mediante la “supuesta imparcialidad matemática de los datos” y que la IA ofrece para la toma de decisiones. 

Las soluciones a estos retos pasan porque quienes diseñan e implementan los algoritmos que sustentan las soluciones de IA, también en el ámbito de la atención sociosanitaria, garanticen que sean eficientes, seguros, representativos, fiables, auditables, éticos, justos y no discriminatorios, con datos de calidad, transparentes en cuanto al proceso de obtención y selección de estos, y que cuenten con un marco regulatorio y ético que vele por el gobierno del dato. En definitiva, se trata apostar por el dato como un bien público y someter a la Inteligencia artificial al respeto de los derechos humanos y los valores éticos del conjunto de las personas, y en particular de los colectivos diana de atención sociosanitaria.

Catarina Paz Camaño
Técnica del Equipo de Coordinación Sociosanitaria de Euskadi