Cuidado con preguntarle a ChatGPT sobre su salud: así es como mete la pata

¿Ante una molestia en el hombro, un dolor de cabeza persistente o una punzada al caminar, usted es de los que corre a consultar los síntomas en ChatGPT? ¿Le plantea sus dudas a este tipo de chatbots de inteligencia artificial esperando obtener una respuesta rápida y confiable? Si es así, no está solo. Millones de personas en todo el mundo han convertido a los asistentes conversacionales en sus primeros consultores médicos, una tendencia que preocupa cada vez más a profesionales de la salud y expertos en IA.

La realidad es que estos sistemas, por sofisticados que parezcan, cometen errores significativos cuando se trata de información médica. Y no hablamos de imprecisiones menores: estudios recientes han documentado casos donde ChatGPT y sistemas similares han proporcionado diagnósticos erróneos, recomendaciones de tratamiento potencialmente peligrosas, y consejos que contradicen directamente las guías clínicas establecidas.

El fenómeno ha crecido exponencialmente desde el lanzamiento de ChatGPT en noviembre de 2022. Según datos de OpenAI, las consultas relacionadas con salud y medicina representan una porción significativa de las interacciones diarias con el chatbot. Google Trends muestra que búsquedas como "ChatGPT síntomas" o "ChatGPT diagnóstico" han experimentado un crecimiento sostenido, especialmente en países de habla hispana donde el acceso a atención médica puede ser limitado o costoso.

La Organización Mundial de la Salud emitió en 2023 una advertencia específica sobre el uso de modelos de lenguaje grandes (LLMs) para decisiones de salud, señalando que estos sistemas pueden generar respuestas que parecen autoritativas y precisas, pero que carecen de la verificación médica necesaria. La FDA en Estados Unidos y agencias reguladoras en Europa han comenzado a desarrollar marcos normativos específicos para el uso de IA en contextos de salud, reconociendo tanto el potencial como los riesgos de estas tecnologías.

Los modelos de lenguaje como ChatGPT no fueron diseñados para ser herramientas de diagnóstico médico. Son sistemas de predicción de texto que generan respuestas plausibles basadas en patrones, no en razonamiento clínico verificado.

Investigadores de la Universidad de Stanford publicaron en 2024 un estudio revelador donde sometieron a ChatGPT a 200 casos clínicos reales. Los resultados fueron preocupantes: el sistema proporcionó diagnósticos incorrectos en el 38% de los casos, recomendó tratamientos inapropiados en el 29%, y en el 12% de las situaciones sugirió acciones que podrían haber causado daño directo al paciente. Más alarmante aún, el chatbot mostró un nivel de confianza igualmente alto tanto en sus respuestas correctas como en las incorrectas, lo que dificulta que usuarios sin formación médica identifiquen cuándo la información es confiable.

El problema fundamental radica en cómo funcionan estos sistemas. ChatGPT y modelos similares son entrenados con enormes cantidades de texto de internet, incluyendo artículos médicos, foros de salud, y contenido de calidad variable. El sistema aprende patrones estadísticos sobre qué palabras suelen aparecer juntas, pero no comprende verdaderamente los conceptos médicos, ni puede evaluar la calidad de sus fuentes, ni actualiza su conocimiento en tiempo real con los últimos avances científicos.

Las implicaciones para los usuarios son significativas. En una encuesta realizada por Pew Research Center en 2024, el 47% de los usuarios de ChatGPT admitieron haber consultado al menos una vez sobre síntomas de salud, y el 23% reconoció haber seguido alguna recomendación del chatbot sin consultar a un profesional médico. Entre los grupos más vulnerables se encuentran personas con acceso limitado a servicios de salud, quienes ven en estos chatbots una alternativa gratuita y accesible a la consulta médica tradicional.

Para la industria tecnológica, el desafío es considerable. Empresas como OpenAI, Google con su Gemini, y Anthropic con Claude han implementado advertencias y limitaciones específicas en sus sistemas cuando detectan consultas médicas. Sin embargo, estas salvaguardas son imperfectas. Los usuarios pueden reformular preguntas para evitar los filtros, y la línea entre información general de salud e consejo médico específico es difusa y difícil de programar.

Meta, por su parte, ha adoptado un enfoque diferente con su modelo Llama. La compañía ha establecido restricciones más estrictas en los casos de uso permitidos, prohibiendo explícitamente en sus términos de servicio el uso de sus modelos para diagnóstico médico sin supervisión profesional. Aun así, la naturaleza de código abierto de Llama significa que terceros pueden implementar el modelo sin estas restricciones, creando un ecosistema fragmentado de aplicaciones con niveles variables de seguridad.

Contexto clave

Modelos de Lenguaje Grandes (LLMs): Son sistemas de inteligencia artificial entrenados con billones de palabras de texto para predecir qué palabra o frase debería venir a continuación en una conversación. Funcionan identificando patrones estadísticos en el lenguaje, no mediante comprensión real del contenido. Cuando ChatGPT responde una pregunta médica, no está "pensando" como un doctor, sino generando texto que estadísticamente se parece a cómo un doctor podría responder, basándose en miles de ejemplos que vio durante su entrenamiento. Esta distinción es crucial: el sistema puede sonar convincente incluso cuando está completamente equivocado.

Alucinaciones de IA: Este término técnico describe cuando un modelo de IA genera información que parece plausible y está presentada con confianza, pero que es factualmente incorrecta o completamente inventada. En contextos médicos, esto es particularmente peligroso. ChatGPT puede "alucinar" nombres de medicamentos que no existen, citar estudios científicos ficticios, o inventar efectos secundarios. El problema es que estas alucinaciones se presentan con el mismo tono autoritativo que la información correcta, haciendo imposible para un usuario promedio distinguir entre ambas sin verificación externa.

Sesgo de entrenamiento: Los datos con los que se entrenan estos modelos contienen sesgos inherentes que se reflejan en sus respuestas. La mayoría de la literatura médica en internet está en inglés y refleja principalmente investigación realizada en poblaciones occidentales. Esto significa que ChatGPT puede ser menos preciso al abordar condiciones que afectan desproporcionadamente a otras poblaciones, o al considerar tratamientos tradicionales de diferentes culturas. Además, información médica desactualizada o de baja calidad en internet puede contaminar las respuestas del sistema, perpetuando mitos médicos o prácticas obsoletas.

Para profundizar

• Regulación de IA médica — La FDA y la Agencia Europea de Medicamentos están desarrollando marcos regulatorios específicos para clasificar y supervisar herramientas de IA en salud. Estos incluyen categorías de riesgo basadas en si el sistema proporciona información general o hace recomendaciones específicas, con requisitos de validación clínica más estrictos para aplicaciones de mayor riesgo. El desafío es que la regulación avanza más lentamente que la tecnología.
• IA médica especializada — A diferencia de chatbots generales como ChatGPT, existen sistemas de IA desarrollados específicamente para aplicaciones médicas, entrenados con datos clínicos validados y sometidos a pruebas rigurosas. Ejemplos incluyen algoritmos para detección de cáncer en imágenes médicas o sistemas de apoyo a decisiones clínicas. Estos sistemas especializados muestran resultados prometedores precisamente porque fueron diseñados desde cero para propósitos médicos específicos.
• El futuro de la IA en atención primaria — Expertos coinciden en que la IA tiene un rol legítimo en salud, pero como herramienta de apoyo para profesionales, no como reemplazo. Sistemas que ayudan a médicos a revisar literatura reciente, identificar interacciones medicamentosas, o detectar patrones en datos de pacientes pueden mejorar la atención. La clave está en mantener al profesional médico en el centro de la toma de decisiones, usando la IA para aumentar, no reemplazar, el juicio clínico humano.

Entonces, ¿qué debe hacer un usuario responsable? Los expertos son claros: los chatbots de IA pueden ser útiles para obtener información general sobre salud, entender terminología médica, o preparar preguntas para hacer a su doctor. Pero nunca deben reemplazar la consulta con un profesional de la salud para síntomas específicos, diagnósticos o decisiones de tratamiento. Si usa ChatGPT u otro chatbot para investigar sobre salud, considere la información como un punto de partida para la conversación con su médico, no como un veredicto final.

La ironía es que la misma tecnología que hace que estos chatbots parezcan tan conocedores—su capacidad para generar texto fluido y convincente—es precisamente lo que los hace peligrosos en contextos médicos. La confianza que inspiran no está respaldada por la precisión que requiere la medicina. Mientras la industria tecnológica trabaja en soluciones más seguras y los reguladores desarrollan marcos apropiados, la responsabilidad recae en los usuarios de entender las limitaciones de estas herramientas y usarlas con el escepticismo saludable que merecen.

La salud es demasiado importante para dejarla en manos de un algoritmo que, por impresionante que sea, fundamentalmente no sabe la diferencia entre sonar como un doctor y ser uno.