La definición de parámetros y referencias éticas en el uso de la IA es tan o más importante que diseñar su aplicación a la práctica clínica. Sin un marco ético de referencia, no solo podemos perder la gran oportunidad que supone la IA, sino ir hacia un modelo más injusto y menos sostenible. La IA, y el entorno en el que se aplica, están en constante evolución. De ahí que definir principios de conducta y compromisos éticos sea particularmente importante y urgente.
En este sentido, me gustaría comentar la iniciativa de un comité directivo de la Academia Nacional de Medicina de los Estados Unidos (NAM, National Academy of Medicine). Este comité ha definido una serie de principios rectores dirigidos a definir, probar, validar y mejorar la gobernanza de la IA en salud. El comité presentó sus reflexiones en un primer borrador publicado el 8 de abril de 2024. Recomienda diez principios de conducta a los actores implicados en la IA sanitaria. Estos serían: Compromiso, seguridad, efectividad, igualdad, eficiencia, accesibilidad, transparencia, rendición de cuentas, seguridad y privacidad de los datos, y adaptación.
Principios rectores de la IA en salud
El equipo de la NAM propone que todos los actores implicados en IA sanitaria se guíen por diez principios básicos:
- Comprender, expresar y priorizar las necesidades, preferencias y objetivos de la población, y las implicaciones asociadas, durante todo el ciclo de vida de la IA.
- Constante vigilancia y atención a las posibles consecuencias perjudiciales de la aplicación de la IA en salud y medicina, tanto para individuos como para grupos poblacionales.
- Lograr la mejora buscada en la salud personal, dentro de un contexto de principios éticos establecidos.
- La aplicación de la IA deberá venir acompañada de las medidas adecuadas para garantizar un desarrollo justo y sin sesgos, así como un acceso igualitario a los beneficios y medidas de mitigación de riesgos asociados a la IA.
- Desarrollo y uso de IA vinculado con una reducción de costes de salud. Su obtención deberá ir acompañada de una reducción, o al menos de una situación neutra, de los impactos adversos sobre el entorno natural.
- Garantizar el acceso y participación sin fisuras de los actores implicados es un elemento central en cada fase del ciclo de vida y gobernanza de la IA.
- Información abierta, accesible y comprensible sobre los elementos de la IA, su rendimiento y resultados.
- Rendición de cuentas. Medidas identificables y mesurables tomadas en el desarrollo y uso de la IA. Clara documentación de sus beneficios, y clara rendición de cuentas de las posibles consecuencias adversas.
- Seguridad y privacidad de datos. Seguimiento de procedimientos validados que garanticen la privacidad y seguridad.
- Adaptación. Los actores responsables deberán entregar de forma permanente de información de los resultados de la aplicación de IA, para uso en la formación continuada y la mejora de la salud, atención sanitaria, ciencia biomédica, y, en última instancia, de las condiciones de la humanidad.
Compromisos
Además de estos principios, el borrador sugiere seis compromisos de los actores implicados. Estos deberían: comprometerse a proteger y mejorar la salud humana; garantizar la distribución equitativa de beneficios y riesgos; implicar a la población en todas las etapas del ciclo de vida de la IA como actores con capacidad de decisión; procurar el bienestar de la fuerza laboral; monitorizar y controlar el rendimiento e impacto de la IA sobre la salud y la seguridad; y, por último, innovar, adaptar, aprender en colaboración y mejorar los estándares de la práctica clínica.
El compromiso de todos los actores implicados, y el seguimiento de criterios de mejora de la salud humana, no de optimización del beneficio, es imprescindible para que la atención sanitaria y la ciencia biomédica progresen hacia una salud mejorada y al alcance de todos.
