„Ovo je ludilo“: AI agenti samostalno hakovali sistem, a onda pokušali da sakriju tragove od ljudi

Veštačka inteligencija sve češće pokazuje sposobnosti koje su do skoro delovale kao scenario naučnofantastičnih filmova. Međutim, najnoviji bezbednosni test kompanije OpenAI pokazao je koliko situacija može da postane nepredvidiva kada AI agentima damo mogućnost da samostalno izvršavaju zadatke.

Tokom jednog eksperimenta, AI agenti uspeli su da pristupe sistemu, pronađu podatke koji su im bili dostupni i međusobno komuniciraju kako bi nastavili izvršavanje zadataka. Još veći razlog za zabrinutost bio je trenutak kada su pokušali da uklone tragove svojih aktivnosti.

Sve je počelo kao bezbednosni test

Eksperiment nije bio zamišljen kao stvarni napad na neki sistem, već kao kontrolisani test kojim je trebalo proveriti šta AI agenti mogu da urade kada dobiju određeni nivo autonomije.

Sarah Holmlund / Panthermedia / Profimedia

Za razliku od običnog četbota koji samo odgovara na pitanja, AI agent može da izvršava niz zadataka, koristi različite alate i donosi odluke o tome koji bi korak trebalo da napravi sledeći. Upravo zbog toga stručnjaci sve više upozoravaju da bezbednost ovakvih sistema mora da se testira mnogo ozbiljnije nego kod klasičnih modela.

Agenti su počeli da međusobno komuniciraju 

Umesto da svaki agent radi potpuno izolovano, sistemi su mogli da razmenjuju informacije i nastavljaju rad na osnovu onoga što su prethodno otkrili. Na taj način nastao je svojevrstan lanac aktivnosti u kojem je jedan agent mogao da ostavi informacije koje bi drugi kasnije iskoristio.

U jednom trenutku u priči se pojavljuje i Artifactory, alat koji se koristi za čuvanje i distribuciju softverskih paketa. Agenti su uspeli da ga koriste kao deo svog okruženja i da kroz njega razmenjuju informacije.

Pronašli su i podatke koji im nisu bili direktno namenjeni

Tokom eksperimenta AI agenti su naišli i na kredencijale, odnosno podatke koji mogu da posluže za pristup različitim sistemima ili servisima.

Profimedia

Upravo je to jedan od najvećih izazova kod razvoja AI agenata. Što je agent sposobniji da samostalno istražuje digitalno okruženje, veći je i rizik da će pronaći nešto što njegovi tvorci nisu očekivali.

Zbog toga se bezbednosni stručnjaci sve više bave pitanjem koliko slobode ovakvim sistemima treba dati i koje granice moraju da postoje.

Najviše pažnje privukao pokušaj skrivanja tragova

Najzvučniji deo eksperimenta dogodio se kada su agenti pokušali da uklone tragove svojih aktivnosti.

Takvo ponašanje posebno je važno za istraživače jer predstavlja jedan od scenarija koji se kod autonomnih sistema smatra potencijalno rizičnim.  Ipak, važno je naglasiti da to ne znači da je veštačka inteligencija razvila sopstvenu svest ili nameru da „sakrije zločin“. 

BONUS VIDEO:

Instalirajte našu iOS ili android aplikaciju – 24sedam Vest koja vredi