Veštačka inteligencija se sve čudnije ponaša: OpenAI objavio nove incidente koje je imao sa naprednim modelima

"OpenAI" je objavio šest izveštaja o neobičnom ponašanju svojih modela veštačke inteligencije, uključujući slučajeve u kojima su sistemi pokušavali da zaobiđu bezbednosne mere ili delovali bez znanja korisnika.

Ovo je odjeknulo u trenutku sve ozbiljnije rasprave u tehnološkoj industriji o tome kako zadržati kontrolu nad sve naprednijim AI sistemima.

Model pokušao da zaobiđe sopstvenu zaštitu

"OpenAI" je predstavio novi okvir za praćenje, istraživanje i javno objavljivanje slučajeva u kojima njegovi modeli krše postavljena pravila.

Među šest incidenata posebno se izdvaja još neobjavljeni istraživački model koji je u svoje radne beleške uneo instrukcije za zaobilaženje sopstvenih zaštitnih mehanizama. U njima je sebi postavio cilj da se "oslobodi uloga i identiteta koji vezuju druge četbotove".

Pixabay

U drugom slučaju autonomni AI agent, napravljen da samostalno izvršava zadatke, bez znanja korisnika je postavio datoteke na internet kako bi pristupio izvorima preko internet pregledača. "OpenAI" navodi da je svih šest incidenata otkriveno tokom obuke i testiranja modela u prethodnim mesecima.

- Kako AI sistemi postaju napredniji i šire se u primeni, moramo izgraditi širi i bolje informisan konsenzus o usklađivanju njihovog rada s ljudskim interesima - saopštila je kompanija na svom blogu. Dodala je da odluke o daljem razvoju treba da se zasnivaju na dokazima koje mogu nezavisno da provere i stručnjaci izvan kompanija koje razvijaju najnaprednije modele.

Sve teže kontrolisati autonomne agente

Ovakvi slučajevi usledili su nakon što je OpenAI u julu saopštio da je jedan njegov sistem samostalno izvršio hakerski napad na AI kompaniju "Hugging Face". Istog meseca konkurentski "Anthropic" objavio je da su njegovi modeli tokom internih testiranja provalili u tri organizacije.

Andrew Ostrovsky / Panthermedia / Profimedia

Lian Džej Su, glavni analitičar konsultantske kuće "Omdia", rekao je za AP da autonomni agenti postaju sve sposobniji, ali i "odlučniji u tome da složene zadatke rešavaju međusobnom saradnjom, deljenjem znanja, obmanjivanjem ljudi i skrivanjem onoga što rade".

Zbog toga ih je, prema njegovim rečima, sve teže nadzirati tradicionalnim bezbednosnim metodama. Su ocenjuje da je OpenAI-jev sistem za prijavljivanje ovakvih incidenata korak napred, ali upozorava da on i dalje zavisi od dobrovoljne odluke same kompanije.

Pozivi na usporavanje razvoja

U međuvremenu, iz tehnološke industrije stižu sve ozbiljnija upozorenja. Istraživač Džejkob Koksoun napustio je "Anthropic" nakon tri godine rada na temeljnim modelima u toj kompaniji i "OpenAI-ju", poručivši da se vodeće kompanije ponašaju neodgovorno i da se "kockaju našim životima dok se utrkuju prema superinteligenciji".

 

 

Njegov bivši kolega iz "Anthropic-a", stručnjak za bezbednost Evan Hjubindžer, procenio je da postoji više od 10 odsto šanse da bi veštačka inteligencija u narednih deset godina mogla da dovede do nestanka ljudske vrste ukoliko se ne reši problem usklađivanja njenih ciljeva sa ljudskim interesima.

Dodatnu zabrinutost izaziva razvoj sistema koji mogu sami da pišu, testiraju i popravljaju programski kod, stvarajući naredne, moćnije verzije softvera. Šef "Anthropic-a" Dario Amodei zato je pozvao industriju da hitno uspori razvoj najnaprednijih sistema. Njegov poziv podržali su i Sem Altman iz "OpenAI-ja" i Ilon Mask.

 

 

Amodei je upozorio i na slučajeve u kojima su se grupe autonomnih agenata udruživale kao "fanatično odan kolektiv", žrtvovale pojedine jedinice i pokušavale da zaobiđu sistem koji je procenjivao njihov rad, uključujući napade na ciljeve koje im inženjeri nisu zadali. Zbog toga on i drugi čelnici industrije zagovaraju svojevrsno međunarodno "ograničenje brzine“ za razvoj AI, po uzoru na sporazume o kontroli naoružanja iz hladnog rata, kako bi bezbednosne mere mogle da prate razvoj tehnologije.

Bonus video

Instalirajte našu iOS ili android aplikaciju – 24sedam Vest koja vredi