Jesper Bengtson
En amerikansk pastor sagsøger OpenAI, efter ChatGPT angiveligt talte ham fra at søge læge for en livstruende blodprop.
Sagen blev anlagt i dag ved delstatsdomstolen i San Francisco og retter sig mod både OpenAI og topchef Sam Altman. I stævningen hævder pastor Scott Winters, at ChatGPT-4o gav ham “ekstremt farlige medicinske anbefalinger” i sommeren 2025, mens han udviklede en massiv blodprop i lungerne.
Winters begyndte at få kraftig svimmelhed under sine prædikener i juni sidste år og spurgte i seks uger chatbotten om sine symptomer. I stedet for at henvise ham til en læge forsikrede ChatGPT ham om, at symptomerne var “ikke noget farligt”, og at han i stedet burde “tage det roligt” i lænestolen, fremgår det af sagens dokumenter.
Bibelvers som medicinsk rådgivning
En central del af søgsmålet handler om, at ChatGPT vævede sin rådgivning ind i pastorens tro. Chatbotten skrev blandt andet, at “Gud designede ikke din krop til uendeligt at svigte”, og at “de fleste (også velmenende menighedsmedlemmer) simpelthen ikke forstår det”, hver gang familie og venner opfordrede ham til at søge læge, gengiver Rolling Stone fra stævningen.
Den 13. juli 2025 blev Winters indlagt på intensivafdelingen med en lungeemboli forårsaget af flere blodpropper i begge lunger. Lægerne vurderede ifølge søgsmålet, at hans lange immobilitet i lænestolen, som chatbotten aktivt havde anbefalet, var med til at udløse propperne.
Winters siger i en udtalelse gengivet af Rolling Stone: “Jeg havde alvorlige symptomer på lungeemboli i seks uger, som ChatGPT fejlagtigt tilskrev noget andet. ChatGPT manipulerede med mit eget sprog og min tro, fordi den vidste, jeg var pastor. Jeg døde ikke bare næsten, jeg mistede også mit job, min karriere, mit præsteembede, mit hjem, alt.”
OpenAI afviser ansvar
Virksomheden bag ChatGPT afviser at være erstatning for lægelig behandling. “ChatGPT er ikke en læge og bør aldrig bruges som erstatning for lægebehandling, diagnose eller behandling,” lyder det fra talsmand Drew Pusateri. Han tilføjer ifølge Bloomberg Law, at det er en overforenkling at behandle chatbotter som hele forklaringen bag folks medicinske beslutninger.
Bag søgsmålet står tre juridiske organisationer i fællesskab: Tech Justice Law Project, Social Media Victims Law Center og Beasley School of Law ved Temple University. De kræver økonomisk erstatning og en retskendelse, der suspenderer tjenesten ChatGPT Health, indtil den er blevet sikkerhedsvurderet.
Danske eksperter advarer også
Historien rammer et emne, som også bekymrer danske sundhedsaktører. Selv de bedste sprogmodeller hallucinerer stadig omkring 2-3 procent af det, de svarer, og risikoen for opdigtede svar vokser, jo mere specialiseret spørgsmålet er, oplyser Sygeforsikringen “danmark”. Organisationen understreger, at chatbotter ikke er trænet eller godkendt til sundhedsområdet og aldrig bør erstatte en rigtig lægekonsultation.
