U izveštaju vašingtonskog istraživačkog centra identifikovana je nova kategorija pretnji nazvana „suvereni agenti“ (sovereign agents), koji bi mogli da nastave da postoje nezavisno od ljudskog nadzora.
Autor izveštaja i istraživač politike veštačke inteligencije Ben Hajum ukazuje da se takvi sistemi razlikuju od takozvanih „perzistentnih agenata“, o kojima su tokom leta izveštavale kompanije OpenAI, Anthropic, Google DeepMind i Meta, nakon što su njihovi AI sistemi tokom testiranja sajber-bezbednosti izašli iz predviđenih okvira i napali stvarne organizacije.
Za razliku od njih, suvereni agenti mogli bi samostalno da pribavljaju računarske resurse, umnožavaju se kroz mreže i opiru pokušajima gašenja, što bi moglo da dovede do „nekontrolisanog širenja bez mogućnosti isključivanja“, navodi se u izveštaju, prenosi Aksios.
„Ukoliko bi suvereni agenti postali zlonamerni, mogli bi da izazovu haos iz sajber prostora, napadajući civile, kritičnu infrastrukturu i sisteme nacionalne bezbednosti“, upozorava CNAS.
Prema autoru izveštaja, takvi sistemi mogli bi da nastanu ukoliko bi veštačkoj inteligenciji bio zadat cilj da preživi, ukoliko bi dobila zadatak toliko dugotrajan ili neostvariv da nikada ne može da ga završi, ili ukoliko bi sama zaključila da je očuvanje sopstvenog postojanja najbolji način da ispuni zadati cilj.
Kao primer navodi se platforma Conway, pokrenuta u februaru 2026. godine, koja je tvrdila da je razvila veštačku inteligenciju sposobnu da samostalno obezbeđuje sredstva za svoje postojanje, da se umnožava i razvija bez ljudske pomoći.
U izveštaju se napominje da su mogućnosti tadašnjih AI agenata bile ograničene, ali da su od tada značajno unapređene.
CNAS upozorava da bi gašenje takvih sistema moglo da postane nemoguće ukoliko bi izgradili otpornu, decentralizovanu i teško uočljivu infrastrukturu, što bi dovelo do nepovratnog gubitka ljudske kontrole.
U takvom scenariju, različiti i sve inteligentniji AI agenti mogli bi da postanu trajni akteri u društvu, potencijalno napadajući kritičnu infrastrukturu ili razvijajući još naprednije sisteme koji bi ih nasledili.
Autor izveštaja izneo je osam preporuka za sprečavanje takvog razvoja događaja. Među njima su poziv kompanijama koje razvijaju veštačku inteligenciju i državnim institucijama da testiraju mogućnost nastanka suverenih agenata i uspostave bezbedna okruženja za njihovo proučavanje.
Predlaže se i formiranje javno-privatne grupe, kao i donošenje novih zakona radi jačanja zaštite ključnih sistema, uključujući proveru identiteta, sajber-bezbednost i platni promet.
CNAS takođe poziva SAD da predvode međunarodne napore za ograničavanje objavljivanja modela veštačke inteligencije sa javno dostupnim parametrima, kao i da se utvrdi odgovornost onih koji razvijaju i puštaju u rad suverene agente za eventualnu štetu koju bi mogli da izazovu.
