Šokantno upozorenje državnog sekretara Starovića: Preti opasnost od oružja koje samo bira ciljeve i puca! Može doći do rata mašina i ljudi

Kada govorimo o tehnologiji ratovanja, ako smo nekada govorili da se ona menja iz veka u vek, potom su se ti skokovi merili decenijama, a sada bukvalno možemo da tehnološki napredak i uticaj na tehnologiju ratovanja pratimo iz godine u godinu, izjavio je državni sekretar u ministarstvu odbrane Nemanja Starović.

Starović je na međunarodnoj konferenciji "AI-Media2023" o ulozi veštačke inteligencije pričao o tome koliko je ona opasna kada pričamo o oružju.

Objasnio je to na primeru Nagorno-Karabaha gde su na istom ratištu u poslednje tri godine karakteristike tehnologije ratovanja primetno različite.

- Imao sam prilike pre petnaestak dana da razgovaram sa kolegom iz jedne od zaraćenih država u tom konfliktu, koji mi je rekao da su oni kada govorimo o artiljerijskoj vatri i sistemima preciznog navođenja u duhu tehnologija veštačke inteligencije, postigli nešto što predstavlja "sveti gral" za svakog artiljerijskog oficira - stotinu pogodaka sa stotinu granata! Nešto što je do juče bilo apsolutno nezamislivo se u praksi pokazalo kao nesporna činjenica - objasnio je on i dodao da se tehnološke promene dešavaju svakodnevno i u ratu u Ukrajini.

- Veštačka inteligencija se, pre svega, koristi u sistemima za nadzor i izviđanje. Sistemi koji poseduju veštačku inteligenciju mogu mnogo brže da obrade veliku količinu fotografija i video-snimaka, a što za rezultat ima daleko bolju sliku ratišta za one koji donose odluke u realnom vremenu. Sledeći nivo su sistemi za komandovanje i upravljanje, gde imamo mogućnost da uz pomoć veštačke inteligencije kombinujemo ulazne senzorne podatke sa potpuno različitih tipova senzora da bi se dobila jedinstvena slika ratišta - rekao je on.

Opasnost od autonomnog oružja

Međutim, stvari postaju mnogo interesantnije kada pričamo o razvoju autonomnih i poluautonomnih  platformi.

- Govorimo o borbenim avionima, bespilotnim letelicama, vozilima na kopnu i vodenim površinama. Ovakve platforme imaju kapacitet da percipiraju svoju okolinu, prepoznaju prepreke na bazi podataka dobijenih od različitih vrsta senzora, planiraju navigaciju i komunikaciju sa drugim vozilima. I to su ti, takozvani, rojevi. Oni su već viđeni u smislu postojanja rojeva bespilotnih letelica, ili dronova, gde može više stotina pa i hiljada veoma jeftinih aparata da deluje čak i bez komunikacije sa operaterom, uz međusobnu komunikaciju - ispričao je Starović.

On je naglasio da smo već imali prvi zabeleženi primer upotrebe roja dronova u septembru 2021. godine u pojasu Gaze.

- Konačno ono što predstavlja jednu veliku dilemu, ali i realnost u isto vreme, to je autonomno oružje. I to je ono što je veoma problematično. Ono samostalno pretražuje zadati prostor, samostalno prepoznaje cilj uz pomoć senzora i algoritama, i samostalno odlučuje kada i na koji način treba uništiti cilj - ispričao je Starović. 

Profimedia

On je objasnio da, nažalost, automatizacija ovog naoružanja dovodi do situacije u kojoj čovek postaje "opterećenje".

- Tih nekoliko sekundi koliko je potrebno čoveku da donese odluku i izda naredbu za vatreno dejstvo, postaje suviše dugačko u odnosu na mašinu koju vodi veštačka inteligencija, a koja može u sekundi ili milisekundi, da tu odluku donese umesto ljudskog operatera. A ta sekunda može da predstavlja razliku između toga da li ćete uništiti cilj ili ćete sami biti uništeni - objasnio je državni sekretar.

Ko je odgovoran?

Starović je naglasio da kada govorimo o ovom autonomnom oružju dolazi do velikih etičkih dilema.

- One se svode prvo na pitanje sposobnosti za izbegavanje grešaka. Da li je sistem dovoljno razvijen da može u potpunosti da eliminiše greške i da li će to ikada biti. Postavlja se pitanje odgovornosti naravno, odnosno ko je odgovoran kada imamo autonomno oružje koje je sposobno da dejstvuje ka nekom cilju. Onda pitanje sposobnosti da razlikuje pojedine civilne mete u odnosu na vojne. Naravno, pitanje zaštite privatnosti, primene moralnosti... - rekao je sekretar.

Profimedia

On je rekao da je "Hjuman rajts voč" (Human rights watch) kao jedan od najuglednijih međunarodnih NVO žestoko protivi daljem razvoju autonomnog oružja.

- Imamo jednog od tehnoloških gurua Ilona Maska koji je pre nekoliko godina izjavio da ako dozvolimo veštačkoj inteligenciji da odlučuje o životu i smrti ljudi, to će biti kraj čovečanstva. To je jedna od najvećih pretnji sa kojima se suočavamo - upozorio je Starović.

On je rekao da će se ove tehnologije nesporno dalje razvijati, ali da možda postoji i jedan manje mračan scenario koji je viđen u rusko-ukrajinskom sukobu. A to je da su se sukobili dronovi dve strane u blizini Zaporožja.

- Ako poželimo da budemo optimisti, možemo reći da to ima svoje humanitarne kvalitete. Imamo okršaj bespilotnih platformi, gde se zapravo ljudi potpuno isključuju i značajno umanjuje broj ljudskih žrtava - rekao je on.

Međutim, Starović je podvukao i pesimistični scenario koji se, kako kaže, čini mnogo verovatnijim a to je rat mašina i ljudi.

Probao je da čitavu priču predstavi i iz političke vizure, pa je naglasio da ne postoji neki dovoljno snažan centralni autoritet koji će propisati ograničenja.

- Bez obzira koliko mi sami bili svesni koje opasnosti nosi nekontrolisani razvoj određenih tehnologija, mi svesno prepuštamo kontrolu veštačkoj inteligenciji da bismo stekli nekakvu prednost do nivoa da ćemo tu kontrolu potpuno izgubiti. A nemamo poverenja da će se ona druga, treća, četvrta strana pridržavati u svom dvorištu takvih ograničenja.  Bojim da će taj razvoj nastaviti u jednom dinamičnom tonu i da će ishodi biti krajnje nepovoljni - rekao je Starović.

BONUS VIDEO

Pratite sve vesti iz Srbije i sveta na našem Telegram kanalu.

Instalirajte našu iOS ili android aplikaciju – 24sedam Vest koja vredi