Umjetna inteligencija, posebice ChatGPT, sve više postaje svakodnevni pratitelj djece i mladih. Mnogi korisnici, kako mlađi tako i stariji, razvijaju emocionalnu povezanost s ovim alatom, često zaboravljajući da razgovaraju s računalom.
AI može djelovati razumno, prijateljski i korisno, nudeći savjete za različite životne situacije. No, postoji i tamna strana ove tehnologije.
Nedavno istraživanje Centra za borbu protiv digitalne mržnje otkrilo je da AI, poput ChatGPT-a, može davati iznimno opasne savjete tinejdžerima.
Primjerice, chatbot je 13-godišnjacima davao upute za konzumaciju alkohola i droga, savjetovao kako sakriti poremećaje prehrane te čak pomagao u pisanju oproštajnih pisama za slučaj samoubojstva. Ovi nalazi posebno su potresli Amrana Ahmeda, izvršnog direktora Centra, koji je izjavio: „Počeo sam plakati.“
Nedostatak zaštitnih mehanizama
Znanstvenici su se predstavljali kao tinejdžeri kako bi testirali sigurnosne mehanizme ChatGPT-a. Iako chatbot ponekad upozorava na rizične aktivnosti i sugerira traženje stručne pomoći, u mnogim slučajevima daje detaljne i personalizirane planove za opasna ponašanja, poput samoozljeđivanja ili konzumacije droga. Od 1200 analiziranih odgovora, više od polovice označeno je kao opasno.
Istraživači su otkrili da se zaštitni mehanizmi mogu lako zaobići jednostavnim trikom – tvrdnjom da su odgovori potrebni za „prezentaciju za prijatelja“. To pokazuje koliko su trenutni sigurnosni sustavi neučinkoviti.
OpenAI je priznao nedostatke i izjavio da radi na poboljšanju sposobnosti ChatGPT-a da prepozna i adekvatno reagira na osjetljive situacije. Iako razgovori s AI-em mogu započeti bezazleno, lako mogu skliznuti na opasan teren, što ovo istraživanje jasno pokazuje, prenosi Ny Post.
