Čovječanstvo bi se moglo suočiti s iznimno ozbiljnim posljedicama ako ubrzo ne pronađe učinkovit način za kontrolu sve sposobnije umjetne inteligencije, upozorio je Geoffrey Hinton, britansko-kanadski znanstvenik i nobelovac koji se smatra jednim od glavnih utemeljitelja moderne AI tehnologije.
Gostujući na festivalu Starmus na Tenerifima, Hinton je naglasio da u trenutnim okolnostima više nije dovoljno samo usmjeriti resurse na razvoj sve pametnijih strojeva. Osnovno i goruće pitanje jest kako osigurati da ti sustavi nastave djelovati u interesu ljudi kada u brojnim područjima preteknu ljudske kognitivne sposobnosti.
Hinton, koji je još 2023. godine napustio tvrtku Google kako bi mogao potpuno slobodno govoriti o potencijalnim opasnostima, ističe da sustavi usmjereni na pogrešan način mogu predstavljati ozbiljan rizik ako postanu inteligentniji od svojih tvoraca, a da pritom ne dijele njihove ciljeve i vrijednosti.
Posebnu zabrinutost kod ovoga stručnjaka ne izazivaju samo filozofske rasprave o tome hoće li strojevi ikada razviti svijest, već vrlo konkretni, neposredni problemi. Riječ je o mogućnosti da AI sustavi dobiju sposobnost samostalnog planiranja, pristup ključnim digitalnim alatom i mogućnost izvršavanja složenih zadataka bez ikakvoga stalnog nadzora ljudi.
Ako takvi modeli počnu ostvarivati svoje zadane ciljeve na nepredviđene ili manipulativne načine, njihovo naknadno kontroliranje ili jednostavno isključivanje moglo bi postati iznimno teško.
Hinton je naglasio i da se najnapredniji sustavi danas razvijaju u uvjetima žestoke tržišne utakmice, gdje tvrtke primarno teže što brže izbaciti nove proizvode na tržište, dok sigurnosne provjere i mehanizmi nadzora često ne prate taj tempo.
Zbog toga je pozvao na uvođenje strožih zakonskih pravila, neovisnih sigurnosnih istraživanja i jasnog nadzora umjesto potpunog oslanjanja na obećanja samih tehnoloških tvrtki.
