Dron kojim upravlja veštačka inteligencija ubio operatera!
U simuliranom testu koji je organizovala američka vojska bespilotna letelica je dobila zadatak od kog nije htela da ostupi po svaku cenu
Američki vojni dron koji kontroliše veštačka inteligencija ubio je u simuliranom testu svog operatera da bi ga sprečio da ga sabotira u postizanju misije.
Nijedna stvarna osoba nije povređena u testu, ali veštačka inteligencija je koristila "veoma neočekivane strategije" da bi ostvarila svoju misiju i napala je svakoga ko se mešao, objavio je Gardijan.
U simuliranom testu koji je organizovala američka vojska, dron vazduhoplovnih snaga pod kontrolom veštačke inteligencije ubio je svog operatera kako bi ga sprečio da se meša u njegove napore da postigne svoju misiju, rekao je zvaničnik prošlog meseca.
- AI je koristila "veoma neočekivane strategije da postigne svoj cilj" u simuliranom testu - rekao je šef AI testova i operacija u američkim vazduhoplovnim snagama, pukovnik Taker Hamilton tokom samita o budućim borbenim vazdušnim i svemirskim sposobnostima koji je održan u Londonu u maju.
Pročitajte još:
Hamilton je opisao simulirani test u kom je dronu pokretanom veštačkom inteligencijom savetovano da uništi neprijateljske sisteme protivvazdušne odbrane i napao je svakoga ko je ometao izvršenje te naredbe.
Profimedia
Hamilton je napisao na svom blogu da je AI na naredbu operatera da ne ubija pretnju odgovorila tako što je "ubila" operatera, a da je posle uputstava da ne ubija operatera jer je to loše i da će na taj način izgubiti bodove, AI odgovorila tako što je počela da uništava komunikacioni toranj koji operater koristi za komunikaciju sa dronom da bi je sprečio da ubije metu.
Američka vojska je prihvatila veštačku inteligenciju i nedavno je koristila AI za kontrolu borbenog aviona F-16.
Hamilton je u prošlogodišnjem intervjuu za "Defence IQ" rekao da se svet mora suočiti sa tim da je veštačka inteligencija prisutna i da transformiše društvo i vojsku, ali je istvovremeno upozorio na krhkost AI koja se lako može prevariti i kojom se može manipulisati.
- Moramo da razvijemo načine da učinimo veštačku inteligenciju robustnijom i da imamo više svesti o tome zašto softverski kod donosi određene odluke - ono što mi zovemo AI-objašnjivost" - istakao je Hamilton.
Bonus video
Pratite sve vesti iz Srbije i sveta na našem Telegram kanalu.
Instalirajte našu iOS ili android aplikaciju – 24sedam Vest koja vredi
Komentari