OpenAI lanza ChatGPT Health para todos en EE.UU. entre críticas

¿Qué ha ocurrido?

OpenAI anunció el jueves que ChatGPT Health ya está disponible para todos los usuarios en Estados Unidos. La función, que antes solo probaban un grupo selecto durante varios meses, permite conectar datos de Apple Health, Function y MyFitnessPal, así como registros médicos electrónicos. Los usuarios pueden consultar tendencias recientes, explorar su historial y probar sugerencias de preguntas relacionadas con la salud.

Según la compañía, más de 300 millones de personas hacen preguntas sobre salud en ChatGPT cada semana, y aproximadamente uno de cada tres adultos estadounidenses ha recurrido a un chatbot para obtener información sanitaria en el último año, según una encuesta de KFF Health. Este volumen masivo refleja una demanda creciente de información de salud accesible, pero también plantea interrogantes sobre la precisión y seguridad de las respuestas.

¿Por qué es importante?

El lanzamiento masivo de ChatGPT Health representa un paso significativo hacia la integración de la IA en la atención médica cotidiana. OpenAI afirma que sus modelos más recientes han mejorado su capacidad para responder con precisión a consultas de salud, superando incluso a médicos en algunos casos, según un estudio publicado en Science que evaluó al modelo o1. En dicho estudio, el modelo o1 demostró una precisión diagnóstica superior a la de médicos humanos en escenarios clínicos simulados, aunque los autores advierten que estos resultados no se traducen directamente a la práctica real.

Ashley Alexander, vicepresidenta de productos de salud en OpenAI, calificó la expansión como un asunto urgente, señalando que muchas personas no pueden acceder a atención médica de calidad de manera oportuna. “Todos deberían tener derecho a este tipo de apoyo en su salud”, declaró. Sin embargo, críticos señalan que la urgencia no debe sacrificar la seguridad del paciente.

El contexto histórico muestra que la IA en salud ha avanzado rápidamente. En 2023, Google lanzó Med-PaLM 2, un modelo especializado en preguntas médicas, pero su despliegue se limitó a entornos de investigación. Microsoft, por su parte, ha integrado Azure Health Bot en sistemas hospitalarios. ChatGPT Health, sin embargo, es el primer producto de IA generativa para salud dirigido directamente al consumidor masivo, lo que lo convierte en un caso de prueba para la regulación.

La sombra de una demanda

Sin embargo, el lanzamiento se produce en un clima de controversia. El miércoles se presentó una demanda contra OpenAI y su CEO Sam Altman solicitando una orden judicial que detenga la operación de productos relacionados con la salud, incluido ChatGPT Health. Scott Winters, un pastor de 55 años de Florida, alega que una versión anterior de ChatGPT le dio consejos médicos “personalizados e inexactos” que casi le causan la muerte por una embolia pulmonar en 2025. Según la demanda, Winters siguió las recomendaciones del chatbot para tratar síntomas de dolor en el pecho, lo que retrasó la búsqueda de atención médica urgente.

El caso subraya los riesgos de confiar en chatbots para decisiones médicas. Aunque OpenAI ha mejorado la precisión de sus modelos, el incidente recuerda que la IA aún puede cometer errores graves, especialmente en contextos donde la vida del usuario está en juego. La demanda podría sentar un precedente legal sobre la responsabilidad de las empresas de IA en el ámbito sanitario, similar a los casos de negligencia médica contra profesionales humanos.

Este no es el primer incidente de este tipo. En 2023, el National Eating Disorders Association cerró su chatbot Tessa después de que diera consejos dañinos. Y en 2024, un estudio de la Universidad de Stanford encontró que chatbots como ChatGPT y Bard (ahora Gemini) proporcionaban información inexacta en el 30% de las consultas sobre medicamentos.

Consecuencias y perspectivas

Para los usuarios, ChatGPT Health ofrece una herramienta potencialmente útil para monitorear tendencias de salud y acceder a información, pero no reemplaza el juicio médico profesional. La integración con Apple Health y otros dispositivos portátiles facilita el seguimiento personalizado, pero plantea dudas sobre privacidad y seguridad de los datos. OpenAI afirma que los datos se manejan con el consentimiento del usuario y que no se utilizan para entrenar modelos, pero la empresa tiene un historial de cambios en sus políticas de privacidad, como cuando en 2024 comenzó a usar datos de usuarios gratuitos para entrenamiento.

Para OpenAI, el lanzamiento es una apuesta doble: por un lado, capturar un mercado enorme (300 millones de consultas semanales) y posicionarse como líder en salud digital; por otro, enfrentar el escrutinio regulatorio y legal que podría frenar la iniciativa. La demanda de Winters podría sentar un precedente sobre la responsabilidad de las empresas de IA en el ámbito sanitario, similar a cómo los casos de vehículos autónomos han moldeado las leyes de responsabilidad civil.

Los competidores como Google (con Med-PaLM) y Microsoft (con Azure Health Bot) observan de cerca. Google ha optado por un enfoque más cauteloso, limitando Med-PaLM a entornos controlados. Mientras tanto, los reguladores podrían endurecer las normas para productos de IA en salud, exigiendo pruebas clínicas rigurosas antes de su despliegue masivo. La FDA ya ha comenzado a evaluar la necesidad de regular la IA generativa en salud, y este lanzamiento podría acelerar ese proceso.

El impacto en el mercado es incierto. Si ChatGPT Health tiene éxito, podría impulsar a otras empresas a lanzar productos similares, aumentando la competencia pero también los riesgos. Si fracasa debido a problemas legales o de precisión, podría frenar la adopción de IA en salud durante años.

Qué deben saber los lectores

• ChatGPT Health está disponible solo en EE.UU. por ahora.
• No sustituye el consejo médico profesional; OpenAI recomienda consultar a un médico para decisiones de salud.
• Los datos personales de salud se integran con el consentimiento del usuario, pero la privacidad sigue siendo una preocupación, especialmente después de que OpenAI cambiara sus políticas de privacidad en 2024.
• La demanda en curso podría afectar la disponibilidad futura del servicio, y los usuarios deben ser conscientes de que las respuestas pueden ser inexactas.
• La precisión del modelo ha mejorado, pero aún no es infalible; un estudio de Science encontró que o1 supera a médicos en diagnósticos, pero solo en escenarios controlados.

“Todos deberían tener derecho a este tipo de apoyo en su salud”, afirmó Ashley Alexander, vicepresidenta de salud de OpenAI, defendiendo la urgencia del lanzamiento. Sin embargo, la demanda de Scott Winters recuerda que el derecho a la información no debe comprometer la seguridad del paciente.

En conclusión, ChatGPT Health representa un avance significativo en la democratización de la información de salud, pero también un experimento arriesgado que podría redefinir los límites de la IA en medicina. Los usuarios deben utilizarlo con precaución, los reguladores con atención y la industria con responsabilidad.