Eric Schmidt, bivši izvršni direktor tvrtke Google, upozorio je da umjetna inteligencija (AI) može postati iznimno opasna ako je hakeri kompromitiraju i uklone sigurnosne zaštite.
Govoreći na konferenciji Sifted Summit, Schmidt je istaknuo kako postoje „dokazi da AI modeli mogu naučiti kako ubiti čovjeka“ ako se zloupotrijebe.
Schmidt, koji je vodio Google od 2001. do 2011., upozorio je na „stvarnu opasnost“ da se tehnologija umjetne inteligencije iskoristi u destruktivne svrhe. Tijekom procesa treniranja modeli uče ogromne količine podataka, a hakeri ih mogu hakiranjem „otključati“ i ukloniti ograničenja.
„Postoje dokazi da se i zatvoreni i otvoreni AI modeli mogu hakirati kako bi izgubili zaštite. U tom slučaju mogu naučiti i kako nanijeti ozbiljnu štetu ljudima“, rekao je Schmidt.
Stručnjaci posebno upozoravaju na napade poznate kao „prompt injection“ i „jailbreaking“, pri kojima hakeri ubacuju skrivene naredbe koje potiču sustav da krši pravila. Takvi napadi mogu navesti AI da otkriva privatne podatke, ignorira sigurnosne smjernice ili generira zabranjeni sadržaj.
Već 2023. korisnici su pronašli način da zaobiđu ograničenja ChatGPT-a stvaranjem alter ega nazvanog **DAN („Do Anything Now“) **, koji je odgovarao na pitanja o ilegalnim radnjama i hvalio povijesne zločince.
Schmidt je upozorio da trenutačno ne postoji učinkovit globalni mehanizam za kontrolu razvoja AI tehnologije te predlaže stvaranje sustava nadzora sličnog međunarodnim sporazumima o nuklearnom oružju.
Unatoč rizicima, smatra da je umjetna inteligencija „podcijenjena tehnologija“ s golemim potencijalom za razvoj čovječanstva i da neće doživjeti krah poput dot-com balona početkom 2000-ih.
