ChatGPT como médico: el peligro de los diagnósticos erróneos

¿Qué ha ocurrido?

Un pastor estadounidense, residente en California, experimentó dolor torácico y dificultad para respirar. En lugar de acudir a un médico o llamar a emergencias, consultó a ChatGPT, el chatbot de OpenAI. El modelo, basado en GPT-4, le aseguró que sus síntomas no eran graves y que probablemente se trataba de ansiedad o indigestión. Siguiendo ese consejo, el paciente retrasó la atención médica y continuó con sus actividades diarias, hasta que colapsó horas después. Fue trasladado de urgencia a un hospital, donde los médicos le diagnosticaron una embolia pulmonar, una obstrucción de una arteria pulmonar que, según la literatura médica, tiene una tasa de mortalidad de hasta el 30% si no se trata de forma temprana. El pastor sobrevivió, pero sufrió complicaciones que requirieron hospitalización prolongada. Ahora, ha presentado una demanda contra OpenAI por negligencia, alegando que el chatbot le proporcionó información médica errónea que agravó su condición. El caso, reportado inicialmente por 9to5Mac, pone de relieve los peligros de delegar decisiones de salud en sistemas de inteligencia artificial no diseñados para fines clínicos.

¿Por qué es importante?

Este caso no es un incidente aislado. Según 9to5Mac, cientos de millones de personas consultan a ChatGPT cada semana para obtener consejos médicos, a pesar de que la plataforma incluye descargos de responsabilidad. La popularidad de los chatbots como fuente de información de salud se debe a su accesibilidad, inmediatez y tono de autoridad, que genera una falsa sensación de confianza. Sin embargo, la IA generativa carece de la capacidad de realizar diagnósticos clínicos: no examina al paciente, no tiene acceso a su historial médico, no puede realizar pruebas físicas ni de laboratorio, y no está entrenada para interpretar síntomas con la precisión de un profesional. De hecho, los modelos de lenguaje como ChatGPT son propensos a alucinaciones, es decir, a generar respuestas falsas pero convincentes. En el ámbito médico, esto puede tener consecuencias fatales. El caso del pastor es un ejemplo extremo, pero estudios recientes muestran que los chatbots a menudo proporcionan información incompleta o peligrosa en contextos de salud. Por ejemplo, una investigación de la Universidad de Stanford en 2024 encontró que ChatGPT solo respondió correctamente al 62% de las preguntas médicas estándar, y en varios casos recomendó tratamientos contraindicados. La falta de regulación específica para la IA en salud agrava el problema, ya que las empresas tecnológicas no son responsables legalmente de los daños causados por sus productos, a menos que se demuestre negligencia grave.

Consecuencias y contexto

El incidente subraya la necesidad urgente de regular el uso de la inteligencia artificial en ámbitos críticos como la salud. OpenAI ya ha añadido descargos de responsabilidad visibles en ChatGPT, como "No soy un médico" o "Consulta a un profesional", pero el daño potencial persiste porque muchos usuarios ignoran estas advertencias. Comparado con otros casos de mal uso de la tecnología, como la desinformación médica en redes sociales (por ejemplo, la promoción de remedios caseros peligrosos en TikTok o Facebook), la IA generativa amplifica el riesgo de manera única: sus respuestas parecen personalizadas, coherentes y fiables, lo que lleva a los usuarios a sobreestimar su precisión. Además, a diferencia de un buscador web que muestra múltiples fuentes, ChatGPT ofrece una única respuesta con apariencia de autoridad, lo que reduce el pensamiento crítico. Este caso también recuerda a incidentes pasados con otros sistemas de IA, como el de 2023 cuando un chatbot de salud de una aseguradora recomendó tratamientos incorrectos a pacientes con enfermedades crónicas. En el ámbito legal, la demanda contra OpenAI podría sentar un precedente importante: si el tribunal falla a favor del pastor, las empresas de IA podrían enfrentar responsabilidades similares a las de los fabricantes de productos defectuosos. Esto obligaría a implementar controles más estrictos, como la verificación de respuestas médicas por parte de expertos humanos antes de mostrarlas, o la integración de sistemas de alerta que detecten consultas sobre síntomas graves. Sin embargo, la regulación actual es insuficiente: la FDA aún no ha clasificado a los chatbots como dispositivos médicos, y la FTC solo ha emitido advertencias generales sobre publicidad engañosa.

¿Qué deben saber los lectores?

• Nunca uses ChatGPT ni ningún chatbot como sustituto de un médico. Los chatbots no están diseñados ni certificados para realizar diagnósticos, y pueden cometer errores graves.
• Si tienes síntomas como dolor torácico, dificultad para respirar, sangrado incontrolado o signos de accidente cerebrovascular (parálisis facial, dificultad para hablar), busca atención profesional inmediata. Cada minuto cuenta en emergencias médicas.
• Los chatbots pueden proporcionar información general útil (por ejemplo, explicar términos médicos o recordar horarios de medicación), pero no decisiones clínicas. Siempre contrasta cualquier consejo con fuentes confiables o un médico.
• OpenAI y otras empresas están mejorando las advertencias y añadiendo filtros para detectar consultas médicas, pero la responsabilidad última es del usuario. La tecnología es una herramienta, no un reemplazo del juicio humano.
• Si usas IA para temas de salud, verifica la información con sitios como MedlinePlus, la OMS o tu médico de cabecera. Desconfía de respuestas que suenen demasiado seguras o que minimicen síntomas graves.

“ChatGPT no es un médico. No puede diagnosticar, recetar ni tratar. Confiar en él para decisiones de salud es potencialmente mortal.” — Analista de TheVortiq

En resumen, el caso del pastor es una llamada de atención sobre los límites de la IA. Mientras la tecnología avanza, la regulación y la educación del usuario deben ponerse al día. La salud no es un campo para experimentos digitales: la vida humana está en juego.