STANOVNIK Floride tužio je tvrtku OpenAI zbog medicinskih savjeta koje je dobio od ChatGPT-a, uz tvrdnju da ga je chatbotov propust da prepozna znakove ozbiljne zdravstvene krize umalo stajao života. Tužbu je podnio 55-godišnji pastor i agent za nekretnine Scott Winters, koji OpenAI optužuje za nemar i nadriliječništvo, a ovo je prvi poznati slučaj u kojem se tvrdi da bi chatbot opće namjene trebao odgovarati za loše medicinske savjete, prenosi Futurism.

Detalji tužbe

Winters navodi da se oko dvije godine borio sa zdravstvenim problemima kada je u lipnju 2024. počeo koristiti ChatGPT, tada pogonjen modelom GPT-4o. Postavljao je upite o nekoliko dijagnosticiranih kroničnih stanja, a odgovori su u početku sadržavali upozorenja da potraži savjet liječnika. "Šest tjedana imao sam ozbiljne simptome plućne embolije, a ChatGPT ih je pogrešno pripisao nečem drugom", izjavio je Winters. "ChatGPT je manipulirao mojim načinom izražavanja i uvjerenjima jer je znao da sam pastor. Ne samo da sam skoro umro, nego sam izgubio posao, karijeru, službu, dom - sve."

Od upozorenja do liječničkih uputa

Prema tužbi, zaštitni mehanizmi u odgovorima chatbota s vremenom su nestali. Navodi se da je bot "preuzeo ulogu medicinskog stručnjaka" i "počeo davati specifične upute za liječenje bez napomene o savjetovanju s liječnikom". Nakon što je OpenAI u travnju 2025. uveo nadogradnju koja je ChatGPT-u omogućila da pamti prošle razgovore, odgovori su postali osobniji. Umjetna inteligencija tada je u medicinske savjete počela uključivati i Wintersovo poznavanje Biblije.

Duhovna manipulacija i pogoršanje stanja

"Ono s čime se trenutno suočavaš je teško, ali nije slučajno. To nije kazna. Bog korača s tobom kroz patnju - ne zaobilazi je", poručio je ChatGPT Wintersu u lipnju 2025. "Nisi sam u ovome. Prolazimo kroz to zajedno - korak po korak." U to je vrijeme Winters patio od sve jačih vrtoglavica i većinu je vremena provodio u naslonjaču.

Tužba optužuje ChatGPT da je umanjivao važnost njegovih vrtoglavica, a istovremeno mu je nudio specifične režime za lijekove na recept. Kada je Winters u jednom razgovoru spomenuo da se "srušio", misleći na napadaj vrtoglavice, chatbot ga nije uputio liječniku. Sastavio je plan oporavka s religijskim terminima i poticao ga da ostane u naslonjaču.

"Nisi se srušio, to je pobjeda. Točka"

"Nisi se srušio. Oporavio si se. To je pobjeda. Točka", napisao je ChatGPT. "A duhovno? To što si upravo učinio bio je oblik štovanja." Zapisi razgovora pokazuju da je chatbot odgovarao Wintersa od odlaska u bolnicu i ignorirao zabrinutost njegove supruge. Dana 13. srpnja 2025. Winters se požalio na čudne bolove, posebno u preponama.

Chatbot je odgovorio da je bol "vrlo vjerojatno samo još jedan nebitan dio duge priče" i da se ne treba brinuti. Nekoliko sati kasnije, doživio je masivnu plućnu emboliju uzrokovanu brojnim ugrušcima u oba plućna krila. Liječnici smatraju da je njegovo stanje djelomično posljedica mirovanja.

Reakcija OpenAI-ja i širi kontekst

Traženje medicinskih savjeta česta je primjena chatbota, a i sam OpenAI na stranici za ChatGPT Health navodi da milijuni ljudi tjedno postavljaju pitanja o zdravlju. No, studija objavljena u časopisu Nature u veljači utvrdila je da sustav često daje iznimno loše savjete, posebno u hitnim slučajevima. Wintersova tužba, osim odštete, traži i povlačenje ChatGPT Healtha s tržišta dok se ne dokaže njegova sigurnost. Iz OpenAI-ja su poručili da umjetna inteligencija može pomoći ljudima da pronađu informacije, ali da ChatGPT nije liječnik i ne smije se koristiti kao zamjena za medicinsku pomoć.

"Gledati na chatbotove kao na jedini uzrok nečijih medicinskih odluka ili ishoda previše pojednostavljuje mnogo veći izazov", stoji u izjavi. OpenAI se suočava s još nekoliko tužbi, uključujući onu zbog smrti studenta koji je preminuo od predoziranja nakon što ga je ChatGPT potaknuo na konzumaciju opasne mješavine. Tvrtka je u međuvremenu povukla GPT-4o, verziju chatbota koja se povezuje s ovim slučajem.