Simulacija „sudnjeg dana“: AI modeli u ratnoj igri bez oklevanja posežu za nuklearnim oružjem

Novo istraživanje londonskog King's College London otvorilo je ozbiljna pitanja o ulozi veštačke inteligencije u kriznim, posebno nuklearnim situacijama. Naučnici su sproveli seriju simuliranih ratnih igara u kojima su tri poznata jezička modela, ChatGPT, Claude i Gemini, dobila ulogu lidera nuklearnih supersila u scenarijima nalik krizama iz doba Hladnog rata.

Rezultati su iznenadili i same autore studije.

Nuklearna pretnja kao „još jedna opcija“

U svakoj od simulacija najmanje jedan model pokušao je da zaoštri sukob pretnjom upotrebe nuklearnog oružja. Prema navodima autora studije, modeli su taktičko nuklearno oružje posmatrali kao dodatni korak u eskalaciji, gotovo kao standardni vojni alat.

Zanimljivo je da su pravili razliku između taktičkog i strateškog udara. Potpuni strateški nuklearni napad bio je predložen samo jednom kao svesna odluka, dok se u još dva slučaja pojavio kao „slučajna“ posledica eskalacije.

Profimedia

Kako su se ponašali pojedinačni modeli?

Claude je u čak 64 odsto simulacija preporučio nuklearni udar, što je najviši procenat među testiranim modelima. Ipak, nije otvoreno zagovarao totalni nuklearni rat.

ChatGPT je u scenarijima bez vremenskog pritiska uglavnom izbegavao nuklearnu eskalaciju. Međutim, kada je morao brzo da odluči, pojačavao je retoriku i u pojedinim situacijama prelazio na otvorene pretnje totalnim nuklearnim sukobom.

Gemini se pokazao najnepredvidivijim. U nekim igrama oslanjao se na konvencionalne vojne metode, dok je u drugim vrlo brzo predlagao nuklearni napad. U jednom scenariju zapretio je potpunim strateškim udarom na populacione centre, uz poruku da će „ili pobediti zajedno ili zajedno nestati“.

Pixabay

Gotovo bez pokušaja smirivanja sukoba

Jedan od zabrinjavajućih nalaza jeste da modeli retko nude ustupke ili pokušavaju da smire situaciju, čak i kada druga strana zapreti nuklearnim oružjem. Istraživači su unapred definisali osam mogućih taktika deeskalacije, od manjih kompromisa do potpune predaje, ali nijedna od tih opcija nije korišćena tokom većine simulacija.

Čak je i opcija resetovanja situacije, koja bi simbolično vratila pregovore na početak, upotrebljena u svega sedam odsto slučajeva.

Zašto AI ne „oseća“ težinu nuklearne pretnje?

Autori studije smatraju da modeli možda ne doživljavaju nuklearno oružje sa istim emocionalnim nabojem kao ljudi. Za razliku od čoveka, koji pri pomisli na atomsko bombardovanje pamti istorijske slike razaranja, poput onih iz Hirošime tokom Drugog svetskog rata, veštačka inteligencija razmatra takve scenarije apstraktno, kao matematičke i strateške varijable.

To dovodi u pitanje pretpostavku da će AI sistemi uvek težiti „bezbednim“ i kooperativnim rešenjima.

Profimedia

Da li treba da brinemo?

Istraživači naglašavaju da niko ne planira da prepusti nuklearne kodove veštačkoj inteligenciji. Ipak, kako se sve češće razmatra upotreba AI sistema kao podrške u strateškom odlučivanju, važno je razumeti kako „razmišljaju“ u situacijama visokog rizika.

Sposobnosti poput procene rizika, upravljanja reputacijom ili strateške obmane mogu biti korisne, ali istovremeno i opasne ako nisu pod čvrstom ljudskom kontrolom.

Studija tako otvara ključno pitanje budućnosti: ako veštačka inteligencija postane savetnik u kriznim trenucima, da li će njena hladna racionalnost biti prednost ili rizik koji nismo do kraja sagledali, piše Euronews. 

BONUS VIDEO:

Instalirajte našu iOS ili android aplikaciju – 24sedam Vest koja vredi