Veštačka inteligencija zamalo izazvala rat Kine i Amerike: Vojska spremila plan, sve obustavljeno u poslednjem trenutku

Američka vojska umalo je sprovela operaciju presretanja kineskog broda na Bliskom istoku nakon što je obaveštajni izveštaj, izrađen uz pomoć veštačke inteligencije, pogrešno naveo da brod prevozi komponente povezane sa kineskim nuklearnim programom, objavio je CNN pozivajući se na izvore upoznate sa slučajem.

Izveštaj je tokom ovog proleća, u vreme rata sa Iranom, cirkulisao unutar američke vojske i pokrenuo pripreme za akciju. Prema četvorici izvora, operacija presretanja bila je u pripremi, dok su se, prema rečima dva izvora, naoružani pripadnici vojske spremali da se ukrcaju na brod. U tom trenutku vojni avioni već su bili u vazduhu.

Neposredno pre početka akcije, međutim, zvaničnici su detaljnije proverili obaveštajne podatke i otkrili da je izveštaj sastavio analitičar Komande za specijalne operacije koristeći AI četbot. Sistem je pogrešno identifikovao materijal koji je brod prevozio, iako nije poznato šta je tačno naveo kao sumnjivi teret.

Jedan od izvora ocenio je da je izveštaj bio "potpuno lažan", ali da je "skoro započeo rat". Eventualna američka akcija protiv kineskog broda mogla je da izazove ozbiljan sukob Vašingtona i Pekinga.

Analitičar je AI sistemu postavljao pitanja o obaveštajnim podacima povezanim sa brodskim manifestom, uključujući informacije koje su poticale od američke Komande za specijalne operacije za Pacifik.

Profimedia

Prema izvorima, veštačka inteligencija kombinovala je podatke iz javno dostupnih izvora sa tajnim signalnim obaveštajnim podacima, a zatim izvela pogrešan zaključak. Analitičar je potom AI koristio i za sastavljanje konačnog obaveštajnog izveštaja, koji je distribuiran drugim strukturama.

Ovaj slučaj ukazuje na rizike ubrzane primene veštačke inteligencije u američkim oružanim snagama. Različiti delovi američke vlade koriste različite AI sisteme, uz različite bezbednosne standarde, dok ne postoji jedinstven način provere informacija koje takvi alati generišu.

Pentagon poslednjih meseci ubrzava uvođenje AI u vojsku, između ostalog za brže donošenje odluka, izbor ciljeva i raspoređivanje resursa. Sekretar za odbranu Pit Hegset objavio je u januaru "Strategiju ubrzanja veštačke inteligencije", kojom se predviđa šira primena ovih tehnologija i uklanjanje birokratskih prepreka njihovom korišćenju.

Prema izvorima upoznatim sa praksom američke vojske, AI se sve više koristi i pri određivanju ciljeva, ali još nema jasnih pravila o tome kako će ljudska kontrola sprečiti civilne žrtve ili greške koje bi mogle ugroziti američke snage.

Izvori navode i da slučaj kineskog broda nije jedini primer AI "halucinacije" u američkoj obaveštajnoj zajednici. Istovremeno, pritisak da analitičari brže izrađuju i distribuiraju izveštaje može povećati rizik od grešaka, posebno kada se generisani podaci ne proveravaju dovoljno pažljivo.

Bonus video

Instalirajte našu iOS ili android aplikaciju – 24sedam Vest koja vredi