U neobičnoj i zabrinjavajućoj analizi, Googleov sustav umjetne inteligencije Gemini stavio je zlonamjernu uporabu umjetne inteligencije na samo čelo popisa najvećih prijetnji opstanku čovječanstva, svrstavajući je ispred nuklearnog rata, bioinženjerskih pandemija i ekološkog sloma.
Analizirajući podatke stručnjaka za globalne rizike, sustav je objasnio da glavna opasnost leži u sve brzoj dostupnosti tehnologija koje mogu poslužiti za stvaranje hiper-smrtonosnog oružja.
Autonomni sustavi mogli bi se zloupotrijebiti za projektiranje novih bioloških patogena, upravljanje automatiziranim ratovanjem ili izvođenje razornih napada na ključnu infrastrukturu. Uz to, navodi se i problem usklađivanja — rizik stvaranja superinteligentnih sustava čiji ciljevi ne odgovaraju opstanku čovječanstva i koji bi mogli potpuno izmaći ljudskoj kontroli.
Na drugom mjestu našao se nuklearni sukob i s njim povezana nuklearna zima, koja bi zbog nedostatka sunčeve svjetlosti dovela do sloma poljoprivrede i masovne gladi. Treću prijetnju čine biološki modificirane i prirodne pandemije, potaknute zlouporabom naprednih alata za genetsko uređivanje. Četvrto i peto mjesto zauzimaju klimatske promjene te gubitak bioraznolikosti i slom ekosustava koji osiguravaju hranu, vodu i kisik.
Ovo upozorenje dolazi u trenutku kada čelnici obavještajnih službi i vodeći tehnološki stručnjaci sve glasnije pozivaju na strogu regulaciju. Činjenica da sam AI prepoznaje vlastiti destruktivni potencijal snažan je podsjetnik da svaki tehnološki napredak bez etičkih i moralnih granica može postati prepreka ljudskom blagostanju.
