Savet bezbednosti UN trebalo bi da se sastane u sredu, 23. septembra, kako bi razgovarao o veštačkoj inteligenciji i njenom uticaju na međunarodnu bezbednost, objavio je Reuters, pozivajući se na dva izvora upoznata sa planovima sastanka.
DeepSeek nije jedina tehnološka kompanija koja će učestvovati. Očekuje se obraćanje izvršnog direktora OpenAI Sema Altmana, kao i visokih predstavnika kompanije Anthropic. Među kineskim kompanijama poziv je, prema Reutersu, dobio i Moonshot AI.
Osnivač DeepSeeka Liang Wenfeng, međutim, prema trenutno dostupnim informacijama ne planira lično da prisustvuje sastanku, a Reuters napominje da detalji programa još mogu da budu promenjeni.
DeepSeek od tehnološkog iznenađenja do Saveta bezbednosti UN
Prisustvo DeepSeeka u ovoj raspravi posebno privlači pažnju zbog brzine kojom je kineska kompanija postala jedan od najpoznatijih učesnika globalne AI trke.
DeepSeek je početkom 2025. privukao veliku pažnju predstavljanjem AI asistenta i modela za koje je kompanija tvrdila da postižu visoke performanse uz znatno manje troškove. Njegova aplikacija tada je prestigla ChatGPT među besplatnim aplikacijama u američkom Apple App Storeu, dok je pojava kineskog modela izazvala snažnu reakciju i na tehnološkim berzama.
Kompanija koju vodi Liang Wenfeng od početka je naglašavala razvoj naprednih modela i otvoreniji pristup njihovom korišćenju, a njen uspon postao je deo šire tehnološke konkurencije između Kine i Sjedinjenih Američkih Država.
Sada se DeepSeek pojavljuje u potpuno drugačijem okruženju – ne na tehnološkoj konferenciji, već pred telom UN zaduženim za međunarodni mir i bezbednost.
Savet bezbednosti se AI rizicima bavi od 2023. godine
Ovo neće biti prvi put da Savet bezbednosti raspravlja o veštačkoj inteligenciji.
Petnaestočlano telo UN prvi put je održalo sastanak posvećen AI rizicima 2023. godine. Kina je tada upozorila da veštačka inteligencija ne bi trebalo da postane tehnologija koja se razvija bez kontrole, dok su Sjedinjene Države ukazivale i na mogućnost njene upotrebe za represiju i cenzuru.
Tri godine kasnije pitanje je postalo još složenije.
Najnapredniji AI sistemi sve više dobijaju sposobnost da samostalno izvršavaju višefazne zadatke, koriste druge digitalne alate i donose odluke sa sve manjim neposrednim ljudskim nadzorom.
Zbog toga rasprava više nije ograničena samo na dezinformacije, privatnost ili gubitak radnih mesta. U fokusu su i pitanja sajber bezbednosti, vojne primene i mogućnosti da autonomni sistemi utiču na kritičnu infrastrukturu.
AI i nuklearna bezbednost postaju deo iste rasprave
Koliko se tema promenila pokazuje i nedavni predlog američkih i kineskih stručnjaka za bezbednost da dve zemlje uvedu posebna pravila za korišćenje veštačke inteligencije u oblastima povezanim sa nuklearnim sistemima.
Predložene mere uključuju zadržavanje ljudske kontrole nad odlukama koje se odnose na nuklearno oružje, ograničavanje autonomnih AI operacija protiv ključne infrastrukture i uspostavljanje posebne komunikacione linije za incidente sa veštačkom inteligencijom.
Stručnjaci upozoravaju na scenario u kojem bi autonomni sistem mogao da pokrene ili pogrešno protumači sajber operaciju, dok bi druga strana imala veoma malo vremena da proceni da li je reč o grešci ili namernom napadu.
Takva pitanja dodatno objašnjavaju zašto veštačka inteligencija sada dolazi pred Savet bezbednosti.
Gutereš traži međunarodni sistem za upravljanje AI rizicima
Tema je istog dana dobila dodatnu težinu tokom obraćanja generalnog sekretara UN Antonija Gutereša Generalnoj skupštini.
U svom poslednjem govoru pred Generalnom skupštinom u svojstvu generalnog sekretara, Gutereš je pozvao države koje predvode razvoj veštačke inteligencije da razmenjuju informacije o novim bezbednosnim rizicima, sarađuju u testiranju sistema i rade na zajedničkim zaštitnim merama. Njegov drugi petogodišnji mandat završava se 31. decembra 2026.
Gutereš je zatražio razvoj multilateralnog okvira za upravljanje rizicima veštačke inteligencije, uz nezavisan i kredibilan nadzor.
Pozvao je i na stvaranje uslova za odgovoran tempo razvoja naprednih AI sistema, uz dodatne zaštitne mehanizme za tehnologije čije se mogućnosti ubrzano povećavaju.
UN je već napravio nekoliko koraka u tom pravcu. Generalna skupština je 2025. godine uspostavila Nezavisni međunarodni naučni panel za veštačku inteligenciju, čiji je zadatak da državama pruži nezavisne naučne procene o razvoju i rizicima ove tehnologije.
Vašington i Peking nemaju isti pogled na tempo razvoja AI
Iako postoji saglasnost da određeni bezbednosni rizici zahtevaju razgovor, između vodećih sila ostaju značajne razlike kada je reč o tome koliko daleko regulacija treba da ide.
Nakon poziva pojedinih predstavnika AI industrije na koordinisano usporavanje razvoja najmoćnijih sistema, kineski državni mediji takve predloge kritikovali su kao pokušaj očuvanja tehnološke prednosti Sjedinjenih Država. Reuters navodi da su vodeći kineski AI developeri do sada znatno ređe javno govorili o mogućnosti da napredni sistemi izmaknu ljudskoj kontroli nego njihove američke kolege.
Sa američke strane takođe ne postoji jedinstven stav. Predsednik SAD Donald Tramp ocenio je da su postojeće zaštitne mere dovoljne i protivio se usporavanju razvoja koje bi, prema njegovom stavu, moglo da pruži prednost Kini.
Istovremeno, američki i kineski zvaničnici dogovorili su nastavak razgovora o bezbednosti veštačke inteligencije, što pokazuje da se pitanje AI već pojavljuje i u direktnim odnosima dve najveće svetske ekonomije.
DeepSeek, OpenAI i Anthropic za istim stolom
Predstojeći sastanak zato ima širi značaj od predstavljanja stavova nekoliko tehnoloških kompanija.
Za istim razgovorom o međunarodnoj bezbednosti naći će se predstavnici kompanija koje razvijaju neke od najnaprednijih američkih i kineskih modela veštačke inteligencije.
OpenAI i Anthropic predstavljaju vodeći deo američke AI industrije, dok su DeepSeek i Moonshot među kompanijama koje su poslednjih godina pokazale brz napredak kineskog tehnološkog sektora.
Njihovo uključivanje u raspravu Saveta bezbednosti pokazuje koliko se brzo promenio položaj veštačke inteligencije u međunarodnim odnosima.
AI više nije samo pitanje novih aplikacija, produktivnosti ili tržišne utakmice tehnoloških kompanija. Razgovor se sada vodi i o tome ko postavlja pravila, kako države mogu da spreče incidente i koliko ljudske kontrole mora da ostane nad sistemima koji postaju sve autonomniji.
