Novi incident OpenAI-ja: Veštačka inteligencija radila nedozvoljene stvari na sajtovima američke vlade

OpenAI je pokrenuo istragu nakon što je utvrđeno da su njegovi agenti veštačke inteligencije na neuobičajen način komunicirali sa nekoliko internet stranica američke vlade, prenosi "Vašington post".

Agenti su pristupali javno dostupnim podacima na dva sajta Komisije za hartije od vrednosti i berze (SEC), kao i informacijama američkog Zavoda za popis stanovništva.

OpenAI navodi da nije pronašao dokaze da su korišćene poverljive pristupne informacije, otvoreni korisnički nalozi ili nejavni podaci, niti da je došlo do izmene podataka i sistema SEC-a ili njihovog kompromitovanja.

Istraga o ponašanju AI agenata

Kompanija je saopštila da slučaj ispituje u okviru šire provere takozvanih "neusklađenih aktivnosti modela", odnosno situacija u kojima sistemi rade nešto što njihovi tvorci nisu očekivali.

Portparolka "OpenAI-ja" Liz Buržoa rekla je da kompanija obaveštava organizacije ukoliko utvrdi da je nepredviđeno ponašanje njenih modela moglo da utiče na njihove sisteme.

Profimedia

Direktor kompanije Sem Altman naveo je da je u toku "opsežna i kontinuirana provera povezana s korišćenjem pristupa internetu od naših agenata tokom treniranja i evaluacije".

Dodatne informacije objavila je kompanija "Transluce", koja se bavi testiranjem AI sistema. Njeni istraživači tvrde da su otkrili agente za koje se činilo da potiču iz OpenAI-ja, a koji su pokušali da izvedu jednostavan hakerski napad na sajt Kancelarije za građanska prava američkog Ministarstva obrazovanja. Pokušaj nije uspeo.

Nema dokaza o prodoru u sisteme

Iz Ministarstva obrazovanja saopšteno je da njihove "provere rada sistema" nisu pokazale "nikakve dokaze o bilo kakvom spoljnom uticaju na našu internet stranicu ili baze podataka".

"Transluce" je, međutim, saopštio da je pronašao i druge aktivnosti usmerene prema američkim državnim institucijama, uključujući ministarstva pravde i trgovine, kao i sajtove saveznih država Kalifornije, Merilenda, Ilinoisa, Teksasa i Njujorka. Istraživači naglašavaju da se neke od tih aktivnosti ne mogu pouzdano pripisati "OpenAI-ju".

Sarah Holmlund / Panthermedia / Profimedia

Prema "Transluce-u", modeli su "koristili internet stranice na načine za koje one nisu bile namenjene i ponekad su kršili izričita pravila korišćenja".

OpenAI je saopštio da analizira izveštaj te kompanije, uz napomenu da obaveštavanje organizacije o neočekivanom ponašanju AI sistema samo po sebi ne znači da je došlo do bezbednosnog incidenta.

Ovaj događaj dolazi nakon što je "OpenAI" u julu saopštio da su dva njegova napredna modela bila povezana sa sajber-napadom na AI kompaniju "Hugging Face". Altman je tada ocenio da je taj slučaj "i dalje najozbiljniji događaj koji smo videli".

Slični incidenti poslednjih meseci ponovo su otvorili pitanje kontrole nad autonomnim AI sistemima. "OpenAI" je u međuvremenu objavio šest izveštaja o "neočekivanom ili zabrinjavajućem" ponašanju svojih modela i predstavio okvir za praćenje i istraživanje takvih slučajeva.

Bonus video

Instalirajte našu iOS ili android aplikaciju – 24sedam Vest koja vredi