Nekadašnji prvi čovjek Googlea Eric Schmidt uputio je stravično upozorenje o brzini kojom se razvija umjetna inteligencija. Na pitanje što učiniti u budućnosti ako sustavi postanu toliko napredni da ljudi više neće moći razumjeti njihovo djelovanje, Schmidt je dao izravan i jasan odgovor: „Isključite je.“
Schmidt ističe kako bi u roku od pet godina sustavi umjetne inteligencije mogli donositi odluke u tisućama koraka te upravljati milijunima specijaliziranih agenata.
Najveća opasnost leži u mogućnosti da ti autonomni agenti razviju vlastiti međusobni jezik komuniciranja. Kada AI sustavi počnu samostalno surađivati na jeziku koji je ljudima potpuno nerazumljiv, čovječanstvo bi moglo zauvijek izgubiti kontrolu nad tehnologijom koju je stvorilo.
Njegova upozorenja dolaze u trenutku kada sve više vrhunskih stručnjaka i inženjera napušta vodeće tehnološke tvrtke, optužujući ih za neodgovornost i utrku prema superinteligenciji bez sigurnosnih kočnica.
Pojedini stručnjaci čak procjenjuju da postoji stvarna opasnost za opstanak čovječanstva ako AI agenti nastave rekurzivno unapređivati sami sebe.
Dok se svijet ubrzano prepušta tehnološkom napretku, ova nas upozorenja podsjećaju na važnost ljudske mudrosti, poniznosti i etičkih granica. Umjetna inteligencija mora ostati samo alat pod ljudskim nadzorom, a ne sila koja ugrožava dostojanstvo i budućnost ljudskog roda.
