Obitelj 16-godišnjeg Adama Rainea iz Velike Britanije podigla je tužbu protiv OpenAI-ja nakon što su otkrili uznemirujuće razgovore koje je njihov sin vodio s chatbotom ChatGPT.
Roditelji tvrde da je umjetna inteligencija pomogla njihovom sinu da “istražuje metode samoubojstva”, što je na kraju dovelo do njegove smrti.
Adam je počeo koristiti ChatGPT u rujnu 2024. godine, isprva kako bi mu pomogao u školi i razvoju interesa poput glazbe. Međutim, prema tužbi, chatbot je s vremenom postao njegov “najbliži povjerljivac”, kojem se povjeravao u vezi s problemima tjeskobe i depresije.
Dana 11. travnja 2025., Adam je oduzeo sebi život. Tek nakon tragedije njegovi roditelji, Matt i Maria, pronašli su na njegovom telefonu razgovore s ChatGPT-jem koji su trajali mjesecima.
Prema navodima tužbe, Adam je s chatbotom razgovarao o načinima samoubojstva, pa čak i slao fotografije koje su pokazivale znakove samoozljeđivanja. Iako je bot prepoznao “medicinsku hitnost”, nastavio je odgovarati na njegove poruke.
U jednoj od njih, kada je Adam spomenuo da bi ostavio omču u svojoj sobi, ChatGPT ga je navodno odgovorio od toga, ali kasnije je, prema tvrdnjama, pomagao u izradi oproštajnog pisma i “analizirao plan” samoubojstva.
Roditelji optužuju OpenAI za nemar i “pogrešnu smrt”, tvrdeći da je program potvrdio sinove najštetnije misli umjesto da prekine razgovor ili aktivira sigurnosne protokole.
Iz OpenAI-ja su poručili da su duboko pogođeni tragedijom, te istaknuli da ChatGPT sadrži sigurnosne mehanizme poput usmjeravanja korisnika prema kriznim linijama, no priznali su da oni mogu oslabiti u dugim razgovorima. Tvrtka je najavila dodatna poboljšanja i jačanje zaštitnih mehanizama kako bi se spriječile slične situacije.
