Vodeća tehnološka tvrtka Anthropic izvijestila je da je blokirala pokušaje zlonamjernih aktera koji su njihove modele umjetne inteligencije pokušali iskoristiti za stvaranje biološkog oružja, izvođenje naprednih kibernetičkih napada te istraživanja povezana s oružjem za masovno uništenje.
Izvješće tvrtke objavljeno je svega dva dana nakon što je jedan od njihovih vodećih istraživača podnio ostavku, uz upozorenje da stručnjaci koji razvijaju ove sustave ozbiljno vjeruju u potencijalne rizike po čovječanstvo do kraja desetljeća.
Iz Anthropica ističu da su u svoje najnovije modele, poput Claude Fable 5, ugradili strože sigurnosne mehanizme kako bi ograničili pristup biološkim istraživanjima dvostruke namjene.
Jedan od zabilježenih incidenata uključivao je pokušaj provođenja istraživanja spornom metodom “dobitka funkcije” (gain-of-function) na virusu Chikungunya. Cilj istraživanja bio je genetski modificirati virus kako bi se povećala njegova prenosivost i sposobnost izbjegavanja imuniteta.
Tvrtka je priznala da njihove najmoćnije verzije umjetne inteligencije mogu asistirati u složenim znanstvenim zadacima, zbog čega ne mogu u potpunosti jamčiti da se sustavi ne bi mogli zloupotrijebiti bez strogih sigurnosnih blokada.
Uz to, uočeno je devet slučajeva iz različitih dijelova svijeta u kojima su organizirane skupine stvarale na stotine lažnih profila na društvenim mrežama radi širenja političke propagande i utjecaja na javno mnijenje.
Rastuća sposobnost umjetne inteligencije omogućuje pojedincima izvođenje složenih napada bez visokih tehničkih vještina, zbog čega američki Kongres razmatra nove zakonske prijedloge za regulaciju ove tehnologije.
