OpenAI quedó nuevamente bajo escrutinio por el uso de ChatGPT en consultas de salud.
Según informó Reuters, un pastor de Florida llamado Scott Winters presentó una demanda en California contra OpenAI y su CEO, Sam Altman, al alegar que el chatbot le dio recomendaciones médicas “extremadamente peligrosas” que retrasaron la atención de una embolia pulmonar potencialmente mortal.
Cuál es la demanda
La presentación judicial sostiene que Winters usó ChatGPT-4o para consultar síntomas y que el sistema le recomendó limitar el movimiento en lugar de buscar atención médica urgente.
Según la demanda, el chatbot también minimizó una sensibilidad en la ingle y la presentó como algo no grave. Al día siguiente, el hombre fue hospitalizado y los médicos atribuyeron la embolia pulmonar a la inmovilidad prolongada.
La demanda acusa a OpenAI de negligencia y práctica no autorizada de la medicina. Foto: AP.
People también informó que Winters aseguró haber seguido durante semanas recomendaciones de descanso en un sillón reclinable, mientras presentaba síntomas como mareos. La demanda afirma que ChatGPT desaconsejó o restó urgencia a la consulta médica y que incluso ofreció argumentos de tono espiritual para reforzar la idea de esperar.
El caso judicial no solo pide daños económicos. Winters solicita que un tribunal obligue a ChatGPT a terminar conversaciones cuando detecte señales de una emergencia médica y reclama una pausa en el despliegue de ChatGPT 4o Health hasta que exista una auditoría independiente de seguridad.
La demanda acusa a OpenAI de negligencia y práctica no autorizada de la medicina. OpenAI, por su parte, respondió que sus chatbots no sustituyen la orientación médica profesional y que las decisiones sanitarias de los usuarios involucran contextos complejos.
El contexto de ChatGPT Health
El caso aparece justo cuando OpenAI empezó a desplegar nuevas funciones de salud en ChatGPT para usuarios de Estados Unidos. En su página oficial, la compañía presentó Health in ChatGPT como una herramienta que permite conectar registros médicos y datos de Apple Health para recibir respuestas más personalizadas, pero aclaró que la función busca ayudar a comprender información y no reemplazar atención médica.
Las propias condiciones de uso de OpenAI advierten que los usuarios no deben confiar en las respuestas como única fuente de verdad ni como reemplazo de asesoramiento profesional.
El CEO de OpenAI, Sam Altman. Foto: REUTERS.
El debate no es menor porque millones de personas ya usan chatbots para preguntas médicas. Un estudio publicado en arXiv en 2025 sobre respuestas de grandes modelos a consultas de pacientes encontró que los chatbots evaluados podían dar respuestas problemáticas o inseguras en una proporción relevante de casos, lo que reforzó las preocupaciones sobre seguridad clínica.
El caso Winters plantea una pregunta central para OpenAI y para toda la industria: hasta dónde puede llegar una herramienta de IA en temas médicos sin convertirse en una fuente de riesgo. Para usuarios, la regla práctica sigue siendo clara: ante síntomas graves, dolor repentino, dificultad para respirar, mareos intensos o señales de emergencia, la respuesta no debe buscarse en un chatbot, sino en atención médica inmediata.
Todavia no hay comentarios aprobados.