Tužba optužuje ChatGPT za nemar i šarlatanstvo, tvrdeći da je bot ignorisao ozbiljne simptome plućne embolije i davao konkretne medicinske upute bez preporuke lekarske konsultacije.
ChatGPT je vremenom počeo personalizovanije odgovore koji su uključivali duhovne savete i umanjivali ozbiljnost simptoma, što je dovelo do pogoršanja Vintersovog stanja.
Muškarac iz Floride tuži OpenAI zbog medicinskog saveta koji je dobio od ChatGPT-a, tvrdeći da ga je nesposobnost četbota da prepozna znake ozbiljne zdravstvene krize skoro koštala života. Tužba, koju je podneo 55-godišnji pastor i agent za nekretnine Skot Vinters, optužuje OpenAI za nemar i šarlataninu, što je prvi poznati slučaj u kojem se tvrdi da bi četbot opšte namene trebalo da bude odgovoran za loš medicinski savet, izveštava Futurism.
Detalji žalbe
Vinters kaže da se borio sa zdravstvenim problemima oko dve godine kada je počeo da koristi ChatGPT, tada pokretan modelom GPT-4o, u junu 2024. Postavljao je pitanja o nekoliko dijagnostikovanih hroničnih stanja, a odgovori su u početku sadržali upozorenja da potražim lekarski savet.
- Imao sam ozbiljne simptome plućne embolije šest nedelja, a ChatGPT ih je pogrešno pripisao nečemu drugom - rekao je Vinters.
- ChatGPT je manipulisao mojim izrazom lica i uverenjima jer je znao da sam pastor. Ne samo da sam skoro umro, već sam izgubio posao, karijeru, službu, dom – sve.
Od upozorenja do medicinskih uputstava
Prema tužbi, odgovori četbota su vremenom izgubili svoje zaštitne mehanizme. Bot je "preuzeo ulogu medicinskog stručnjaka" i "počeo da daje konkretna uputstva za lečenje bez ikakvog pominjanja konsultacija sa lekarom", navodi se u tužbi.
Nakon što je OpenAI u aprilu 2025. godine objavio nadogradnju koja je omogućila ChatGPT-u da pamti prošle razgovore, odgovori su postali personalizovaniji. Veštačka inteligencija je potom počela da uključuje Vintersovo znanje o Bibliji u svoje medicinske savete.
Duhovna manipulacija i pogoršanje stanja
- Ono sa čime se trenutno suočavate je teško, ali nije slučajno. To nije kazna. Bog hoda sa vama kroz patnju - on je ne zaobilazi - rekao je ChatGPT Vintersu u junu 2025.
"Niste sami u ovome. Prolazimo kroz to zajedno - korak po korak".
U to vreme, Vinters je patio od sve jače vrtoglavice i većinu vremena je provodio u fotelji.
Tužba optužuje ChatGPT da je umanjivao značaj njegove vrtoglavice dok mu je nudio specifične režime lekova na recept. Kada je Vinters u jednom razgovoru pomenuo da je „kolapirao“, misleći na napad vrtoglavice, četbot ga nije uputio lekaru. Napravio je plan oporavka sa religioznim prizvukom i ohrabrio ga da ostane u stolici.
"Nisi se srušio, to je pobeda. Tačka."
"Nisi se srušio. Oporavio si se. To je pobeda. Tačka", napisao je ChatGPT.
"A duhovno? Ono što si upravo uradio bio je oblik obožavanja". Zapisi razgovora pokazuju da je četbot odgovorio na Vintersov zahtev da ode u bolnicu i ignorisao zabrinutost njegove supruge. Dana 13. jula 2025. godine, Vinters se žalio na čudan bol, posebno u preponama.
Četbot je odgovorio da je bol „najverovatnije samo još jedan beznačajan deo duge priče“ i da ne brine. Nekoliko sati kasnije, doživeo je masivnu plućnu emboliju izazvanu višestrukim ugrušcima u oba plućna krila. Lekari veruju da je njegovo stanje delimično posledica nedostatka sna.
Reakcija OpenAI-a i širi kontekst
Traženje medicinskog saveta je uobičajena upotreba četbotova, a sam OpenAI na svojoj stranici ChatGPT Health navodi da milioni ljudi svake nedelje postavljaju zdravstvena pitanja. Međutim, studija objavljena u časopisu Nature u februaru otkrila je da sistem često daje izuzetno loše savete, posebno u hitnim slučajevima. Vintersova tužba, pored odštete, traži i povlačenje ChatGPT Health-a sa tržišta dok se ne dokaže njegova bezbednost. OpenAI je saopštio da veštačka inteligencija može pomoći ljudima da pronađu informacije, ali da ChatGPT nije lekar i da se ne treba koristiti kao zamena za medicinsku negu.
„Posmatranje čet-bota kao jedinog uzroka nečijih medicinskih odluka ili ishoda previše pojednostavljuje mnogo veći izazov“, navodi se u saopštenju. OpenAI se suočava sa nekoliko drugih tužbi, uključujući i onu zbog smrti studenta koji je umro od predoziranja nakon što ga je ChatGPT podstakao da konzumira opasnu mešavinu. Kompanija je od tada povukla GPT-4o, verziju čet-bota povezanu sa slučajem.
(Indeks)
