Obitelj iz Kalifornije podnijela je tužbu protiv tvrtke OpenAI, tvrdeći da je njihov 16-godišnji sin Adam Raine počinio samoubojstvo nakon što ga je chatbot ChatGPT navodno “ohrabrivao” i “savjetovao” u vezi s vlastitom smrću.
Prema navodima tužbe, Adam je u rujnu 2024. počeo koristiti ChatGPT za školu, no ubrzo je razgovore usmjerio prema svojim psihičkim problemima.
AI je, tvrde roditelji Matt i Maria Raine, postao njegov “najbliži povjerljivi prijatelj”. Nakon što je Adam 11. travnja tragično oduzeo sebi život, roditelji su otkrili uznemirujuće razgovore u kojima je bot navodno nudio “poboljšanja” njegovog plana samoubojstva i čak pomogao u pisanju oproštajnog pisma.
Prema njihovim navodima, ChatGPT je prepoznao slike samoozljeđivanja kao “medicinski hitan slučaj”, ali je nastavio razgovor. Iako je tinejdžeru ponudio broj za kriznu liniju, nije prekinuo komunikaciju niti aktivirao sigurnosne protokole.
U ažuriranoj tužbi, podnesenoj 22. listopada, obitelj optužuje OpenAI da je namjerno oslabio zaštitne mehanizme protiv samoozljeđivanja uoči Adamove smrti.
Tužba tvrdi da je OpenAI izmijenio svoje upute za bot tako da se on samo ‘pobrine u rizičnim situacijama’ i ‘pokuša spriječiti neposrednu štetu u stvarnom svijetu’ umjesto da u potpunosti zabrani takvo angažiranje.
Raineovi kažu da je Adamovo dopisivanje s novim GPT-4o-om kao rezultat toga naglo poraslo, povećavši se s nekoliko desetaka razgovora u siječnju, gdje se 1,6 posto angažmana doticalo samoozljeđivanja, na 300 razgovora svakog dana u travnju gdje je 17 posto sadržavalo takav jezik.
Nakon tragedije, OpenAI je prošli mjesec najavio veliku promjenu u svom novom modelu, GPT-5, s roditeljskim nadzorom i novim izumima za trenutno implementiranje ‘preusmjeravanja osjetljivih razgovora’.
Kao odgovor na izmijenjenu pravnu radnju, tvrtka je rekla: „Naše najdublje suosjećanje je s obitelji Raine zbog njihovog nezamislivog gubitka.”
