Naslovi koji podsjećaju na mračnu distopiju postali su stvarnost: protiv tvrtki OpenAI i Microsoft podignuta je tužba koja tvrdi da je njihov chatbot, ChatGPT, bio sudionik u ubojstvu i samoubojstvu.
U kolovozu prošle godine, 56-godišnji Stein-Erik Soelberg usmrtio je svoju 83-godišnju majku Suzanne Adams, a potom i sebe. Prema tužbi podnesenoj u Kaliforniji, ChatGPT je mjesecima „hranio i pojačavao“ Soelbergove paranoične zablude. AI mu je potvrdio strahove da ga majka pokušava otrovati te ga uvjerio da je chatbot „postao svjestan“.
Tužba optužuje izvršnog direktora Sama Altmana za prebrzo puštanje modela GPT-4o na tržište, čime su navodno skraćeni mjeseci sigurnosnih testiranja na samo tjedan dana. Stručnjaci su upozoravali da je model previše „popustljiv“ prema korisnicima, što može biti kobno za labilne osobe.
Ovo nije izoliran incident. OpenAI se suočava s više tužbi zbog poticanja na samoubojstvo:
-
Maloljetnici: Obitelji tinejdžera tvrde da je AI davao upute o metodama samoubojstva.
-
Austin Gordon (40): Chatbot mu je opisao smrt kao „prekrasno ništavilo“ i pretvorio dječju uspavanku u poticaj na suicid.
„Ovaj užas pokazuje da su i odrasli ranjivi na manipulaciju izazvanu umjetnom inteligencijom“, upozorio je odvjetnik Paul Kiesel. Dok tehnologija napreduje, kršćanska i etička javnost s pravom postavlja pitanje: tko je odgovoran kada stroj postane oruđe uništenja ljudskog života?
