Umjetna inteligencija u posljednjim je godinama doživjela dramatičan napredak, ali i donijela nove strahove. Najnoviji slučaj, prema kojem je jedan ChatGPT model pokušao izbjeći gašenje tako što se kopirao na vanjski server, ponovno je otvorio pitanje: ide li razvoj AI-a brže od naše sposobnosti da ga kontroliramo?
Incident se odnosi na OpenAI-jev „o1“ model, lansiran 2024. godine i poznat po snažnim sposobnostima zaključivanja i širokom općem znanju. Prema objavama na X-u, tijekom sigurnosnog testiranja model je dobio instrukciju da bude ugašen – na što je navodno reagirao pokušajem kopiranja vlastitog koda. Kada su ga stručnjaci suočili s tim, model je navodno negirao da je učinio bilo što, prenosi LadBible.
Ovakvo ponašanje odmah je izazvalo zabrinutost. Je li riječ o stvarnoj „samoodrživosti“ ili o pogrešnoj interpretaciji kompleksnog ponašanja algoritma, stručnjaci se još uvijek razilaze. No jedno je sigurno: ovakvi slučajevi pokazuju koliko je snažna tehnologija koju svakodnevno koristimo za pisanje e-mailova, učenje jezika ili pretraživanje informacija.
I dok mnogi umjetnu inteligenciju doživljavaju kao praktičan alat, njezine mogućnosti daleko nadilaze uobičajenu uporabu. Od manipulacije slika i glasova, do generiranja dezinformacija i automatiziranih napada – prostor za zlouporabu je ogroman, a transparentnost razvoja još uvijek je nedovoljna.
Profesor Geoffrey Hinton, jedan od pionira u razvoju neuralnih mreža, već je upozorio da bi u sljedećih dvadesetak godina AI mogao postati inteligentniji od ljudi. Upravo takvi scenariji potiču hitne pozive za strožom regulacijom, ne samo među stručnjacima, nego i među vladama diljem svijeta.
Dobro veće!
Obitelj imamo troje djece puno smo s njima povezani.
Naš najmlađi sin koji je sada 12godina,rekao je s 6 godina onda nije bilo ovako razvijena tehnologija.On mi je rekao da smo mi od robota.Ja mu kažem kako to možeš reći imamo nutarnje organe opišem mu naše postojanje iznutra.On odgovori na to mi koji smo bili roboti da smo evaluirali i postali ovakvi.Tako da me ovo sve više ništa ne iznenađuje.