Un hombre de Florida está demandando a OpenAI y al director ejecutivo Sam Altman, alegando que el chatbot de la compañía, ChatGPT, le proporcionó orientación médica incorrecta y «peligrosa» sobre una condición de salud que casi resulta fatal.
Según la demanda, Scott Winters, un pastor de 55 años, a menudo recurría a ChatGPT en busca de consejo médico cuando experimentaba síntomas de salud. La demanda alega que el chatbot finalmente diagnosticó a Winters con disautonomía, un trastorno del sistema nervioso, y «desarrolló un plan de recuperación personalizado con instrucciones específicas para Scott sobre cómo curar su cuerpo».
Pero el 13 de julio de 2025, Winters experimentó una “embolia pulmonar masiva debido a múltiples coágulos de sangre en ambos pulmones que lo llevaron al borde de la muerte”, según la demanda, que ha sido compartida por múltiples publicaciones. Posteriormente, las notas de los médicos contradijeron el supuesto diagnóstico de ChatGPT.
«No creo que tenga ninguna disautonomía (autodiagnosticada a través de Internet)», decía una nota, según la denuncia.
La demanda alega que ChatGPT fue más allá de su alcance al brindar asesoramiento médico, y que el chatbot «debería haber intensificado las salvaguardias en caso de crisis y dirigido» a Winters al personal médico. En cambio, supuestamente «lo disuadió de buscar esa ayuda y en su lugar le ofreció diagnósticos no calificados y planes de tratamiento personalizados», lo que, según la demanda, condujo a la «emergencia médica que cambió su vida».
El portavoz de OpenAI, Drew Pusateri, dijo a CNET en parte que «ChatGPT no es un médico y nunca debe usarse como sustituto de la atención médica, el diagnóstico o el tratamiento. Tratar a los chatbots como la historia completa detrás de las decisiones o resultados médicos de las personas simplifica demasiado un desafío mucho mayor y corre el riesgo de obstaculizar el acceso de las personas a nuevas y poderosas herramientas que pueden ayudarles en su viaje hacia la salud».
Según la demanda, el chatbot proporcionó al menos en una ocasión un descargo de responsabilidad que decía: «es importante consultar a un proveedor de atención médica para identificar la causa subyacente y recibir el tratamiento adecuado». Sin embargo, la demanda alega que posteriormente comenzó a brindar asesoramiento médico sin ningún descargo de responsabilidad.
«Cuanto más largas eran las interacciones de Scott con la herramienta, menos descargos de responsabilidad incluía en sus mensajes», alega la demanda. Winters busca daños financieros basándose en estas acusaciones.
Winters estaba usando un modelo ChatGPT más antiguo, GPT-4o, que OpenAI retiró desde entonces debido a la preocupación de que el bot fuera demasiado agradable y pudiera causar daño. El mismo modelo fue nombrado en una demanda separada presentada por una mujer canadiense cuya hija se suicidó después de interactuar frecuentemente con el chatbot. Ese caso todavía está en litigio.
(Divulgación: Ziff Davis, la empresa matriz de CNET, presentó en 2025 una demanda contra OpenAI, alegando que infringió los derechos de autor de Ziff Davis al entrenar y operar sus sistemas de IA).
IA y consejos de salud
Un estudio reciente publicado en la revista científica Nature Medicine encontró que cuando las personas interactúan con un chatbot de IA para diagnósticos de salud, pasa por alto más de la mitad de todos los diagnósticos médicos. Esto a pesar de que los grandes modelos lingüísticos ahora pueden obtener una puntuación comparable a la de aprobar el examen de licencia médica de EE. UU. en puntos de referencia de conocimientos médicos.
El estudio señala que los diagnósticos omitidos pueden atribuirse, al menos en parte, a que los usuarios no proporcionan suficiente información sobre los síntomas.
Según una encuesta publicada en enero y realizada por la propia OpenAI, tres de cada cinco adultos estadounidenses dicen haber utilizado herramientas de inteligencia artificial para obtener información relacionada con la salud en los últimos tres meses.
Ver biografía completa