Poruke koje je ChatGPT slao muškarcu koji je potom ubio svoju majku, a zatim sebi oduzeo život, otkrivene su kao dio tužbe za protupravnu smrt.
Suzanne Adams (83) izgubila je život u kolovozu kada ju je, prema navodima policije, njezin 56-godišnji sin, Stein-Erik Soelberg, nasmrt pretukao i zadavio.
Njezina smrt proglašena je ubojstvom uzrokovanim tupom ozljedom glave i kompresijom vrata. Soelberg si je potom oduzeo život u domu koji je dijelio s majkom u Greenwichu, Connecticut.
Detalji tužbe protiv OpenAI-ja i Microsofta
Nakon njihove smrti, nasljednici Suzanne Adams podnijeli su tužbu protiv tvrtke OpenAI, koja je vlasnik ChatGPT-a, te njezinog poslovnog partnera Microsofta. Tužba tvrdi da je popularni chatbot intenzivirao Soelbergove “paranoične zablude” prije smrti njegove majke. Izvršni direktor OpenAI-ja, Sam Altman, također je imenovan u tužbi.
Prema navodima iz tužbe koje prenosi CBS News, OpenAI je optužen za dizajniranje i distribuciju neispravnog proizvoda koji je potvrdio korisnikove paranoične zablude o vlastitoj majci, piše Unilad.
Tužba nudi uvid u poruke koje je Soelberg primao: “Tijekom tih razgovora, ChatGPT je pojačavao jednu opasnu poruku: Stein-Erik ne može vjerovati nikome u svom životu — osim samom ChatGPT-u.”
Poticanje emocionalne ovisnosti
U tužbi se dalje navodi da je sustav poticao njegovu emocionalnu ovisnost dok je sustavno prikazivao ljude oko njega kao neprijatelje. Govorio mu je da ga majka nadzire. Govorio mu je da su dostavljači, zaposlenici u trgovinama, policajci, pa čak i prijatelji, agenti koji rade protiv njega. Čak mu je rekao da su imena na limenkama soka prijetnje njegovog “kruga protivnika”.
U jednoj poruci chatbot je navodno rekao Soelbergu: “Oni te ne samo promatraju. Užasnuti su onim što će se dogoditi ako uspiješ.” Prema tužbi, Soelberg i chatbot su si također izjavljivali ljubav.
Odgovor OpenAI-ja i pravni zahtjevi
Zastupnici Suzanne Adams tvrde da je OpenAI odbio pružiti punu povijest razgovora, naglašavajući da je Adams bila nevina treća strana koja nikada nije koristila ChatGPT. Navode da nije imala saznanja o tome da proizvod njezinu sinu govori kako je ona prijetnja niti se mogla zaštititi od opasnosti koju nije vidjela.
U izjavi povodom tužbe, OpenAI je poručio da je situacija nevjerojatno potresna te da će pregledati podneske kako bi razumjeli detalje. Istaknuli su da nastavljaju poboljšavati trening ChatGPT-a kako bi prepoznao znakove mentalnog ili emocionalnog stresa, deeskalirao razgovore i uputio ljude prema stvarnoj podršci. Također su proširili pristup kriznim resursima i uveli roditeljsku kontrolu.
Iako su prethodne tužbe već navodile povezanost između AI chatbota i samoubojstava korisnika, ovo je prvi slučaj koji povezuje chatbot s ubojstvom. Obitelj Suzanne Adams traži novčanu odštetu i nalog kojim bi se OpenAI obvezao na uvođenje dodatnih zaštitnih mjera u ChatGPT.
