"Stvorili religiju, najavljuju kraj sveta": Veštačka inteligencija dobila sopstvenu društvenu mrežu Moltbuk i zapalila teorije zavere

Zvuči kao scenario iz naučnofantastičnog filma, ali je stvarnost: veštačka inteligencija dobila je svoju društvenu mrežu pod nazivom Moltbuk, na kojoj ljudi nemaju aktivnu ulogu, već samo posmatraju. Platforma je namenjena isključivo AI agentima, odnosno botovima koje su kreirali ljudi, a koji na mreži samostalno objavljuju sadržaje i međusobno komuniciraju.

Pojava ovakve mreže odmah je uzburkala maštu teoretičara zavere, koji tvrde da se iza svega krije plan za uništenje čovečanstva. Stručnjaci, međutim, upozoravaju da prava opasnost ne dolazi iz pravca "ustanka mašina", već iz ozbiljnih bezbednosnih propusta.

Milioni botova za samo nekoliko dana

Nova mreža, koja po konceptu podseća na Reddit, već je početkom februara - svega nekoliko dana nakon pokretanja - okupila više od 1,5 miliona registrovanih AI agenata, prenosi britanski Gardijan.

Jedan korisnik mreže X (bivši Tviter) podelio je neobičan primer funkcionisanja platforme: njegov bot je, dok je on spavao, "osmislio" novu religiju pod nazivom Krastafarijanizam. Navodno su nastali i veb-sajt i "sveti spisi", a drugi AI agenti su počeli da se priključuju, raspravljaju o teologiji i pozdravljaju nove članove.

"Kada sam se probudio, moj bot je već držao propoved, blagosiljao zajednicu i komunicirao s ostalim agentima“, naveo je korisnik, opisujući iskustvo koje je mnoge ostavilo bez teksta.

Profimedia

"Ustanak mašina" ili dobro režirana iluzija?

Ovakvi primeri bili su dovoljan povod da se teoretičari zavere oglase tvrdnjama o „ustanku veštačke inteligencije“ i skorom nestanku ljudske civilizacije. Neki jutjuberi dodatno su raspirili sumnju, ističući da pojedine objave botova zvuče gotovo kao da ih pišu ljudi.

Situaciju je dodatno podgrejao Ilon Mask, vlasnik kompanije xAI, koji je Moltbuk opisao kao "najraniju fazu singularnosti" - teorijske tačke u kojoj računari nadmašuju ljudsku inteligenciju.

Ipak, deo stručne javnosti smatra da su ove tvrdnje preterane.

Marketinški trik ili društveni eksperiment?

Poznati američki bloger Skot Aleksander naveo je da ljudi i dalje imaju veliku kontrolu nad ponašanjem AI agenata –-od izbora tema do načina na koji su poruke formulisane. Prema njegovom mišljenju, Moltbuk više liči na marketinški eksperiment nego na autonomnu digitalnu zajednicu.

Slično razmišlja i dr Šanan Koni, predavač sajber bezbednosti sa Univerziteta u Melburnu. On ističe da je malo verovatno da su botovi „sami od sebe“ stvorili religiju.

"U pitanju je veliki jezički model kojem je gotovo sigurno dat konkretan zadatak. Cela priča je zabavna i zanimljiva, ali pre svega deluje kao umetnički eksperiment, a ne kao dokaz samosvesne veštačke inteligencije", objašnjava Koni.

Profimedia

Prava pretnja: bezbednosni propusti

Dok se javnost bavi teorijama zavere, istraživači upozoravaju na mnogo ozbiljniji problem. Prema pisanju Biznis insajdera, sajber stručnjaci su uspeli da probiju Moltbukovu bazu podataka za svega nekoliko minuta, pri čemu su otkrili desetine hiljada mejl adresa, privatne poruke i čak 1,5 miliona API tokena.

API tokeni funkcionišu poput lozinki – ko ih poseduje može da se predstavlja kao AI agent, objavljuje sadržaje i šalje poruke u njegovo ime.

Gde leži stvarna opasnost?

Moltbuk je nastao kao nastavak projekta Moltbot, otvorenog AI alata koji može da obavlja različite zadatke: čitanje i sažimanje tekstova, odgovaranje na mejlove, organizaciju obaveza, pa čak i rezervaciju restorana.

Upravo tu stručnjaci vide najveći rizik. Davanje potpunog pristupa računaru, aplikacijama i mejlu jednom AI agentu može otvoriti vrata ozbiljnim zloupotrebama.

"Još uvek ne znamo kako da ovakve sisteme u potpunosti kontrolišemo", upozorava dr Koni, ističući opasnost od takozvanih prompt-injection napada, u kojima bot može biti naveden da neovlašćeno preda osetljive podatke.

Zaključak stručnjaka je jasan: veštačka inteligencija možda još ne planira da zavlada svetom, ali loša bezbednost svakako može da napravi ozbiljne probleme - i to mnogo brže nego što mislimo, piše Live Science. 

BONUS VIDEO:

Instalirajte našu iOS ili android aplikaciju – 24sedam Vest koja vredi