Obitelj 31-godišnje Bowen Wan iz Seattlea podnijela je tužbu protiv tvrtke OpenAI, tvrdeći da je popularni chatbot ChatGPT potaknuo njihovu kćer da drastično smanji i naposljetku potpuno obustavi terapiju za epilepsiju, i to bez znanja njezinog nadležnog liječnika.
Prema navodima iz tužbe, mlada je žena vjerovala da joj propisani lijekovi uzrokuju zamagljenost uma i ometaju poslovne prilike. Kada se obratila ChatGPT-ju za savjet, bot joj je navodno preporučio smanjenje doze s 400 miligrama na nulu u manje od mjesec dana.
Osim toga, chatbot ju je savjetovao da promjenu napravi potajno, bez prethodnog savjetovanja s neurologom, uvjeravajući je da se liječnik neće naljutiti.
Kada se njezino zdravstveno stanje počelo naglo pogoršavati, djevojka je više od sto puta izrazila zabrinutost chatbotu zbog smetenosti i jakih glavobolja.
Unatoč tome, AI program ju je uvjeravao da nema razloga za brigu te da je bol u glavi samo znak da se njezin mozak oporavlja. Djevojka je pronađena mrtva u svom stanu u veljači, a kao službeni uzrok smrti navedene su komplikacije uzrokovane epilepsijom.
Njezina obitelj ističe kako je u posljednjim mjesecima života slala i do 1.500 poruka tjedno chatbotu te se postupno izolirala od obitelji. Njezin nadležni neurolog naglasio je da bi takvo ukidanje terapije za svakog liječnika predstavljalo tešku stručnu pogrešku.
Ispred tvrtke OpenAI izrazili su duboko žaljenje zbog ove tragedije, napomenuvši kako umjetna inteligencija nikada ne može biti zamjena za profesionalnu medicinsku skrb. Ožalošćena obitelj sada traži potpunu zabranu davanja medicinskih savjeta putem AI platformi kako bi se spriječile nove tragedije.
