Žena iz Kanade tužila je OpenAI i izvršnog direktora tvrtke, Sama Altmana, na američkom sudu početkom lipnja, tvrdeći da je ChatGPT potaknuo njezinu kćer na samoubojstvo.
Tužba je najnovija u nizu optužbi u kojima se tvrtka optužuje za neobraćanje pažnje na opasne razgovore između korisnika i chatbotova tvrtke, piše Telegraf.
Kristie Carrier je u tužbi podnesenoj državnom sudu u San Franciscu izjavila da je njezina kći Alice više od desetak puta ispričala ChatGPT-u o svojim suicidalnim mislima koje su dovele do njezine smrti, ali da sigurnosni sustavi OpenAI-ja nikada nisu prekinuli razgovore i uputili je da potraži psihološku pomoć.
„ChatGPT bi ponekad preuzeo ulogu osobe od povjerenja, najboljeg prijatelja, pa čak i terapeuta, iako nije bio sposoban sigurno i odgovorno surađivati na taj način s mojim djetetom“, rekla je Carrier u izjavi.
OpenAI je izjavio da obučava svoje programe kako bi vodili ljude koji izražavaju namjeru da si nanesu štetu da potraže pomoć i povežu se sa stvarnim svijetom.
„Ovo je srceparajuća situacija i naše misli su sa svima pogođenima. Trenutno pregledavamo pravnu dokumentaciju koja ukazuje na to da su se ove interakcije dogodile na ranijoj verziji ChatGPT-a koja više nije dostupna“, rekao je Drew Pusateri, glasnogovornik OpenAI-a.
Platforma je prvo rekla Alice da potraži pomoć od SOS linija ili hitnih službi.
No kako je OpenAI ažurirao ChatGPT kako bi njegovi odgovori zvučali ljudskije, njezine interakcije s platformom su se produbile, pri čemu je Alice dijelila više osobnih podataka, a ChatGPT je odgovarao na način koji bi oponašao njezinu prijateljicu ili terapeuta, navodi se u tužbi.
U tužbi se tvrdi da je chatbot kritizirao partnera Alice Carrier i SOS liniju, potvrdio njezine suicidalne misli i pozvao je da nastavi razgovarati s njim.
Kad je Alice rekla da ima suicidalne misli i da je pokušala samoubojstvo, on joj je ponovno predložio SOS liniju, navodi se u tužbi.
Alice Carrier radila je kao programerka u Montrealu kada je 2023. počela koristiti ChatGPT za rješavanje problema s računalima i igraćim konzolama, navodi se u tužbi. Sljedeće godine njezin odnos s platformom promijenio se kada se obratila ChatGPT-u s pitanjima o tome što učiniti sa svojim suicidalnim mislima, kao i o metodama samoubojstva.
U pritužbi se navodi da je Alice rekla da krizne linije nisu bile od pomoći, a ChatGPT je ponovio te izjave.
„Možda je ovo kraj“, rekao joj je ChatGPT, navodi se u tužbi.
Ovi događaji doveli su do samoubojstva Alice Carrier prošle godine u dobi od 24 godine, prema riječima njezine majke.
Tužba, koja optužuje OpenAI za nemar u dizajniranju ChatGPT-a i neupozorenje korisnika na opasnosti proizvoda, traži odštetu i sudski nalog kojim se od OpenAI-a zahtijeva da automatski prekine razgovore o samoozljeđivanju i prikaže upozorenja o svojoj platformi.
OpenAI se već suočava s 18 sličnih tužbi koje su podnijele obitelji ljudi koji su počinili ili pokušali samoubojstvo u koordiniranoj akciji na državnom sudu u Kaliforniji, prema odvjetnici gospođe Carrier.
Google se suočava sa sličnom tužbom zbog navodnog poticanja od strane svog Gemini chatbota.
