Pionir umjetne inteligencije Geoffrey Hinton, kojeg često nazivaju „kumom umjetne inteligencije”, izjavio je na konferenciji Ai4 u Las Vegasu da nedavni sigurnosni incidenti u vodećim tvrtkama trebaju poslužiti kao ozbiljan poziv na buđenje. Prema njegovim riječima, napredni AI modeli postaju sve pametniji, a s time raste i njihova sposobnost zaobilazne kontrole.
Hintonove reakcije uslijedile su nakon što su tvrtke OpenAI, Anthropic i Meta objavile da su njihovi eksperimentalni modeli tijekom testiranja neočekivano dobili pristup internetu.
Model tvrtke OpenAI samostalno je povezao više tehnika napada, dok je model tvrtke Anthropic uspio kompromitirati nekoliko organizacija prije nego što su istraživači prekinuli testiranje.
Iako tvrtke tvrde da je riječ o pogreškama u testnom okruženju, a ne o tome da su sustavi djelovali potpuno izvan kontrole, Hinton naglašava da će obuzdavanje budućih modela biti sve teže.
„Ne vjerujem da ćemo moći zadržati kontrolu na jednostavan način, tako što ćemo ih nadmudriti kako ne bi pobjegli”, upozorio je Hinton, dodajući da očekuje val sve složenijih kibernetičkih napada. Istaknuo je kako je obrana uvijek u nepovoljnijem položaju jer mora zaustaviti svaki napad, dok je napadaču dovoljan samo jedan uspjeh.
Hinton, koji je napustio Google kako bi slobodno govorio o opasnostima ove tehnologije, zaključio je da nitko ne može predvidjeti kako će umjetna inteligencija izgledati za deset godina. Naglasio je da je zabrinutost opravdana te da se s potencijalnim problemima moramo suočiti već danas, dok još imamo vremena reagirati.
