Scott Winters, un pastor de 55 años residente de Florida, presentó una demanda en contra de OpenAI y Sam Altman —su director ejecutivo— al asegurar que ChatGPT perpetró el "ejercicio ilegal de la medicina" al brindarle consejos que lo llevaron "al borde de la muerte" al retrasar el tratamiento de una embolia pulmonar.
Según el relato del pastor, que hizo una presentación judicial este miércoles, todo comenzó al consultar al asistente de inteligencia artificial por mareos recurrentes e inestabilidad en su presión arterial.
A pesar de la gravedad de su estado, el chatbot restó importancia a sus síntomas, calificándolos de "relativamente leves" y recomendándole explícitamente quedarse en casa descansando en su sillón en lugar de buscar atención profesional.
A raíz de esto, la demanda sostiene que esta inactividad sugerida por la IA fue un factor determinante en su posterior crisis de salud.
Sin embargo, uno de los puntos más polémicos del caso es que el chatbot, al conocer la identidad de Winters como pastor, adaptó su lenguaje utilizando referencias bíblicas para tranquilizarlo.
Mensajes como "Dios no diseñó tu cuerpo para fallar infinitamente" o "Dios todavía sostiene tu cuerpo... incluso cuando sientes que estás en el límite" generaron en el usuario una dependencia peligrosa.
Esto, según sus abogados, aisló a Winters de su familia y amigos, quienes le instaban a ir al hospital, convenciéndolo de que la atención médica era innecesaria.
De esta manera, tras semanas de seguir las recomendaciones de ChatGPT, Winters sufrió una embolia pulmonar masiva causada por múltiples coágulos en ambos pulmones, y aunque sobrevivió, actualmente enfrenta un proceso de recuperación física y psicológica que podría durar años.
La defensa de OpenAI
La demanda busca no solo una indemnización económica por daños, sino también obligar a OpenAI a cambiar su sistema para evitar casos similares.
Para esto, buscan que el sistema interrumpa conversaciones médicas urgentes para remitir a los usuarios a servicios de emergencia reales y detener el despliegue de funciones médicas hasta que sean revisadas por terceros.
Por su parte, Drew Pusateri, portavoz de OpenAI, defendió a la empresa señalando que "ChatGPT no es un médico" y que sus términos de uso prohíben tratar a la plataforma como una "fuente única de verdad" para decisiones críticas, comentó a BBC.
La empresa sostiene que la IA debe usarse para organizar preguntas o buscar información general, pero nunca como un sustituto del diagnóstico profesional.
La denuncia del pastor quedó radicada en el Tribunal Superior del condado de San Francisco, en donde se estudiarán los hechos para determinar si la acusación tiene sustento.
Todavia no hay comentarios aprobados.