La Universidad de Chile traza el mapa ético de la inteligencia artificial en salud: una guía que podría cambiar la medicina latinoamericana

Cada día, algoritmos de inteligencia artificial toman decisiones que afectan directamente la vida de pacientes en hospitales y clínicas: determinan prioridades en listas de espera, sugieren diagnósticos de cáncer, predicen complicaciones postoperatorias y optimizan tratamientos personalizados. Pero ¿quién supervisa que estas herramientas no perpetúen sesgos discriminatorios? ¿Cómo garantizamos que un sistema entrenado con datos de población europea funcione adecuadamente en comunidades mapuche o aymara? La Universidad de Chile acaba de publicar una guía pionera que busca responder estas preguntas cruciales, estableciendo por primera vez en el país un marco ético integral para el uso de inteligencia artificial en el ámbito sanitario.

Un documento necesario en el momento preciso

La iniciativa llega en un momento crítico para el sistema de salud chileno, cuando la adopción de tecnologías de IA en medicina se acelera sin marcos regulatorios claros que protejan a los pacientes. La guía, desarrollada por expertos de la Universidad de Chile, representa el primer esfuerzo institucional sistemático en el país por establecer principios éticos vinculantes para el despliegue de sistemas de inteligencia artificial en contextos clínicos y de salud pública. El documento no se limita a enunciar principios abstractos: proporciona criterios operativos concretos para que hospitales, clínicas, desarrolladores de software médico y formuladores de políticas públicas puedan evaluar y implementar estas tecnologías de manera responsable.

Lo que distingue a esta guía de otros documentos similares publicados en países desarrollados es su sensibilidad al contexto latinoamericano. Chile enfrenta desafíos particulares: un sistema de salud dual que genera inequidades estructurales, poblaciones indígenas con necesidades específicas, y recursos limitados que obligan a priorizar cuidadosamente las inversiones tecnológicas. La guía reconoce explícitamente estas realidades y propone estrategias adaptadas, alejándose de la tentación de importar acríticamente modelos diseñados para contextos radicalmente diferentes.

El documento surge tras un proceso participativo que involucró a profesionales de la salud, especialistas en ética médica, expertos en ciencias de datos, y representantes de organizaciones de pacientes. Esta metodología colaborativa garantiza que las recomendaciones no provengan únicamente de la torre de marfil académica, sino que incorporen las preocupaciones reales de quienes operan en la primera línea del sistema sanitario y de quienes reciben atención médica.

Los pilares éticos de la IA en salud

La guía se estructura alrededor de varios principios fundamentales que deben regir cualquier implementación de inteligencia artificial en contextos sanitarios. El primero y más crucial es el de beneficencia: toda tecnología debe demostrar que mejora genuinamente los resultados de salud, no simplemente que automatiza procesos existentes o reduce costos operativos. Esto implica que los sistemas de IA deben someterse a evaluaciones rigurosas de efectividad clínica, comparables a las que se exigen para nuevos medicamentos o procedimientos quirúrgicos.

El principio de no maleficencia adquiere dimensiones particulares en el contexto de la IA médica. Los sistemas algorítmicos pueden causar daño de formas sutiles e inesperadas: un modelo predictivo que subestima el riesgo cardiovascular en mujeres porque fue entrenado predominantemente con datos masculinos, o un sistema de triaje que asigna menor prioridad a pacientes de comunidades rurales debido a sesgos en los datos históricos. La guía establece que las instituciones deben implementar mecanismos robustos de monitoreo continuo para detectar y corregir estos problemas antes de que causen daño sistemático.

La verdadera transformación ética de la IA en salud no consiste en crear algoritmos perfectos, sino en diseñar sistemas que reconozcan sus limitaciones, operen con transparencia y mantengan siempre al profesional médico y al paciente en el centro del proceso de toma de decisiones.

La autonomía del paciente representa otro pilar esencial. La guía insiste en que los sistemas de IA no deben erosionar el derecho fundamental de las personas a tomar decisiones informadas sobre su propia salud. Esto significa que los pacientes deben ser notificados cuando algoritmos participan en decisiones sobre su atención, deben poder comprender en términos accesibles cómo funcionan estos sistemas, y deben tener la opción de solicitar evaluaciones alternativas realizadas exclusivamente por profesionales humanos cuando así lo deseen. El consentimiento informado en la era de la IA médica requiere nuevos protocolos que la mayoría de las instituciones sanitarias aún no han desarrollado.

Equidad y justicia: el desafío latinoamericano

Quizás la contribución más significativa de la guía chilena sea su tratamiento exhaustivo de las cuestiones de equidad y justicia en el contexto específico de América Latina. Los sistemas de inteligencia artificial tienen el potencial de reducir disparidades en salud al democratizar el acceso a diagnósticos especializados en zonas remotas, pero también pueden amplificar inequidades existentes si no se diseñan cuidadosamente. Un sistema de detección de retinopatía diabética entrenado con imágenes de retinas caucásicas puede tener menor precisión en poblaciones con mayor pigmentación, perpetuando precisamente las brechas que supuestamente debería cerrar.

La guía establece criterios específicos para evaluar si una tecnología de IA contribuye a la equidad o la erosiona. Exige que los desarrolladores documenten la composición demográfica de los datos de entrenamiento y validen el desempeño de sus sistemas en todos los grupos poblacionales relevantes, no solo en promedios agregados. Además, recomienda que las instituciones sanitarias prioricen inversiones en IA que beneficien específicamente a poblaciones desatendidas, en lugar de concentrar recursos en optimizar servicios para quienes ya tienen acceso privilegiado.

El documento también aborda la brecha digital como determinante social de la salud en la era de la IA. Si los beneficios de estas tecnologías solo están disponibles para quienes poseen smartphones de última generación, conexión estable a internet y alfabetización digital avanzada, entonces la IA médica se convertirá en otro mecanismo de estratificación social. La guía propone estrategias concretas para garantizar que las soluciones de salud digital sean accesibles incluso en contextos de recursos limitados y conectividad precaria.

Implementación práctica y gobernanza institucional

Más allá de los principios abstractos, la guía proporciona herramientas operativas para que las instituciones sanitarias puedan implementar estos estándares éticos en la práctica cotidiana. Recomienda la creación de comités multidisciplinarios de ética de IA en cada institución de salud que adopte estas tecnologías, con representación de profesionales clínicos, especialistas técnicos, expertos en ética, y representantes de pacientes. Estos comités tendrían la responsabilidad de evaluar cada sistema de IA antes de su implementación, monitorear su desempeño continuo, y tomar decisiones sobre modificaciones o discontinuación cuando sea necesario.

El documento también establece requisitos de transparencia y documentación. Cada sistema de IA médica debe venir acompañado de una "ficha técnica" accesible que explique su propósito, las condiciones bajo las cuales fue validado, sus limitaciones conocidas, y los criterios que utiliza para generar recomendaciones. Esta información debe estar disponible tanto para profesionales de la salud como para pacientes, adaptada al nivel de conocimiento técnico de cada audiencia.

Finalmente, la guía aborda la espinosa cuestión de la responsabilidad cuando algo sale mal. Si un algoritmo contribuye a un error diagnóstico con consecuencias graves, ¿quién es responsable? ¿El médico que siguió la recomendación del sistema? ¿La institución que lo implementó? ¿La empresa que lo desarrolló? La guía propone marcos de responsabilidad compartida que reconocen que múltiples actores participan en la cadena de decisiones, pero insiste en que la responsabilidad final debe recaer en profesionales humanos con capacidad de juicio clínico, nunca en algoritmos que no pueden ser llamados a rendir cuentas.

Contexto clave

Sesgos algorítmicos en salud: Los sistemas de inteligencia artificial aprenden patrones de los datos con los que se entrenan. Si esos datos históricos reflejan discriminación o inequidades previas, el algoritmo puede perpetuar y amplificar esos sesgos. Por ejemplo, si un hospital históricamente ha proporcionado menos atención intensiva a pacientes de ciertos grupos étnicos, un sistema de IA entrenado con esos datos podría "aprender" a asignar menor prioridad a esos grupos, no porque tengan menor necesidad médica, sino porque replica patrones discriminatorios del pasado. Detectar y corregir estos sesgos requiere auditorías cuidadosas que examinen el desempeño del sistema desglosado por diferentes grupos demográficos.

Explicabilidad e interpretabilidad: Muchos sistemas de IA médica funcionan como "cajas negras": producen recomendaciones precisas pero no pueden explicar el razonamiento detrás de sus conclusiones. Esto genera un dilema ético: un algoritmo puede ser altamente preciso para predecir qué pacientes desarrollarán complicaciones, pero si no puede explicar por qué un paciente específico está en alto riesgo, los médicos tienen dificultades para validar la recomendación o comunicarla efectivamente al paciente. La investigación actual busca desarrollar técnicas de "IA explicable" que mantengan la precisión pero proporcionen justificaciones comprensibles para sus predicciones.

Validación externa y generalización: Un sistema de IA puede funcionar extraordinariamente bien en el hospital donde fue desarrollado pero fallar cuando se implementa en un contexto diferente. Las poblaciones de pacientes varían en características genéticas, prevalencia de enfermedades, prácticas culturales y factores ambientales. Los protocolos clínicos, equipos de diagnóstico y sistemas de documentación también difieren entre instituciones. Por eso la validación externa, probar el sistema en múltiples contextos diferentes antes de su adopción generalizada, es crucial para garantizar que realmente funciona de manera confiable en condiciones reales y diversas.

Para profundizar

• IA y medicina personalizada en poblaciones indígenas — Los algoritmos de medicina de precisión se basan en perfiles genéticos y biomarcadores que provienen predominantemente de investigación en poblaciones europeas. ¿Cómo pueden adaptarse estas herramientas para servir efectivamente a comunidades mapuche, aymara o rapanui, cuyos perfiles genéticos y metabólicos pueden diferir significativamente? Esta pregunta conecta la ética de la IA con la justicia epistémica y los derechos de pueblos originarios.
• El dilema de la privacidad en sistemas de salud pública predictivos — La IA puede predecir brotes epidemiológicos analizando patrones de búsqueda en internet, movimientos de población y datos de redes sociales, potencialmente salvando vidas mediante intervenciones tempranas. Pero estos sistemas requieren vigilancia masiva que erosiona la privacidad individual. ¿Dónde trazamos la línea entre salud pública y derechos individuales en la era de la analítica predictiva?
• Formación médica en la era de la IA clínica — Si los algoritmos asumen crecientes responsabilidades diagnósticas, ¿cómo debe cambiar la educación médica? ¿Los futuros médicos necesitan menos entrenamiento en reconocimiento de patrones y más en interpretación crítica de recomendaciones algorítmicas? Esta transformación pedagógica apenas comienza a discutirse en facultades de medicina latinoamericanas, pero determinará la calidad de la atención sanitaria en las próximas décadas.