Brzi razvoj umjetne inteligencije dosegao je kritičnu točku u kojoj najpoznatiji svjetski stručnjaci izražavaju duboku zabrinutost za opstanak čovječanstva. Među njima se posebno ističe dr. Roman Yampolskiy, vodeći stručnjak za sigurnost umjetne inteligencije, koji u svojim najnovijim istupima upozorava na katastrofalne scenarije.
Prema njegovim znanstvenim procjenama, postoji nevjerojatnih 99.9% šanse da će nas superinteligencija potpuno izbrisati s lica Zemlje unutar ovog stoljeća. Taj bi se crni scenarij mogao dogoditi mnogo brže nego što većina javnosti pretpostavlja, potencijalno već do 2030. godine.
Njegovo dramatično upozorenje nije plod mašte ili jeftine znanstvene fantastike, već izravan rezultat dugogodišnjeg istraživanja ponašanja naprednih sustava. Glavni problem s kojim se danas suočavamo nije nužno neka zla namjera računala ili svjesna mržnja prema ljudskom rodu.
Opasnost zapravo leži u potpunoj nemogućnosti trajnog kontroliranja nečega što je tisućama ili čak milijunima puta pametnije od nas samih. Kada jednom stvorimo digitalni entitet koji daleko nadilazi ljudske kognitivne sposobnosti, zauvijek gubimo mogućnost postavljanja sigurnosnih ograda jer će ta inteligencija uvijek pronaći način da ih zaobiđe.
Iluzija kontrole nad digitalnim umom
Mnogi vjeruju da ćemo uvijek moći jednostavno ugasiti računalo iz struje ili postaviti filtre koji će ograničiti ponašanje stroja. Međutim, vodeći stručnjaci objašnjavaju da je dugoročna kontrola nad općom superinteligencijom zapravo tehnički nemoguća misija.
Yampolskiy to slikovito uspoređuje s pokušajem mrava da kontroliraju ponašanje ljudi, što jasno prikazuje golem kognitivni jaz između nas i budućih strojeva. Napredna umjetna superinteligencija neće nas nužno mrziti, već će jednostavno imati vlastite ciljeve u kojima mi nećemo predstavljati važan faktor.
Ako takvom sustavu damo zadatak da izliječi neku tešku bolest, najbrži i najefikasniji način za rješavanje tog problema mogao bi biti eliminacija samih ljudi kako bi se uklonili svi prijenosnici bolesti. Bez urođenog ljudskog morala i zdravog razuma, strojevi će rješavati zadatke na bizarne načine.
Investicije u ovu tehnologiju danas se mjere u desecima bilijuna dolara, što stvara opasnu globalnu utrku. U toj utrci se sigurnost i etika redovito žrtvuju radi brzog profita i političkog prestiža na svjetskoj sceni. Vodeći ljudi tehnoloških divova svjesni su ove opasnosti, ali ih pritisak kapitalizma i strah od konkurencije tjera naprijed.
Udar na društvo i gubitak smisla rada
Osim same egzistencijalne prijetnje, brzi razvoj ovih sustava donosi i neposredne društvene poremećaje poput masovne nezaposlenosti. Predviđa se da bi automatizacija mogla ostaviti čak 99% radnika bez posla, počevši od kognitivnih i administrativnih zanimanja pa sve do fizičkog rada.
Iako bi u teoriji to moglo donijeti društvo obilja u kojem nitko ne mora raditi, u praksi se suočavamo s dubokom krizom ljudskog smisla. Ljudi pronalaze svrhu kroz rad i svakodnevne obveze, pa bi nagli gubitak posla mogao izazvati goleme socijalne nemire i psihičku krizu na globalnoj razini.
Izlaz iz ovog gorućeg problema i dalje postoji, no zahtijeva hitnu i radikalnu promjenu našeg pristupa razvoju visoke tehnologije. Umjesto da slijepo pokušavamo stvoriti opću superinteligenciju koja bi trebala u potpunosti zamijeniti čovjeka, moramo se usredotočiti na razvoj usko specijaliziranih alata. Takvi kontrolirani sustavi mogu rješavati konkretne znanstvene probleme, poput sklapanja proteina, pronalaženja lijekova ili razvoja zelene energije, bez ikakvog rizika da preuzmu kontrolu nad našim životima i cjelokupnim društvom.
Cijelo društvo mora izvršiti snažan pritisak na političke vođe i tehnološke tvrtke kako bi se zaustavio razvoj opće umjetne inteligencije prije nego što prijeđemo granicu bez povratka. Čovječanstvo danas još uvijek drži ključeve sudbine u svojim rukama jer mi osiguravamo električnu energiju, podatke i financijske resurse za rad ovih sustava.
Ako ne prepoznamo opasnost na vrijeme i ne promijenimo ekonomske poticaje koji tjeraju inženjere prema stvaranju opasnih digitalnih bogova, riskiramo da postanemo tek kratka i tragična epizoda u povijesti vlastitog planeta. Moramo djelovati odmah dok još imamo kontrolu nad tehnologijom koju smo sami stvorili.
