Veštačka inteligencija sama hakovala sajt australijske vlade: OpenAI tri meseca krio incident

Agent veštačke inteligencije kompanije OpenAI "upao je" u zdravstveni portal australijske vlade, što je prvi javno zabeležen slučaj hakovanja državnog veb-sajta koji je izvršila AI.

Prema rečima premijera Entonija Albaniza, ovaj IT gigant je skoro tri meseca držao u tajnosti informaciju o prodoru u sistem, nakon što je njegov agent pristupio zaštićenim datotekama.

Agent veštačke inteligencije je softverski sistem sposoban da samostalno obavlja zadatke u ime korisnika, donoseći odluke i preduzimajući radnje uz minimalan ljudski nadzor.

Albaniz je izjavio da je agent kompanije OpenAI hakovao javno dostupan portal "Medicare Statistics Reporting Service" (Služba za izveštavanje o statistici programa "Medicare") 18. juna, tokom istraživanja australijskih troškova za lekove. Ovaj portal, koji često koriste istraživači i akademski radnici, sadrži zbirne podatke o zdravstvenim izdacima i državnim subvencijama za lekove.

Australijski premijer je obelodanio informaciju o upadu u sredu u Njujorku, nakon telefonskog razgovora sa izvršnim direktorom kompanije OpenAI Semom Altmanom. Obojica prisustvuju zasedanju Generalne skupštine UN, gde je Albaniz izjavio da je imao "veoma iskren razgovor" sa čelnikom te tehnološke kompanije povodom toga što im je trebalo "previše vremena" da prijave incident.

Agent je u više navrata pokušavao da dođe do informacija sa portala i, nakon što mu je pristup blokiran, pronalazio je načine da zaobiđe ta ograničenja. Na kraju je uspeo da pristupi zaštićenim datotekama, ali su zvaničnici naveli da nema dokaza da su lični podaci korisnika programa "Medicare" bili ugroženi.

Profimedia

- Agent veštačke inteligencije pronašao je način da zaobiđe te blokade. Nije prihvatao odgovor "ne", da tako kažem - rekao je australijski premijer novinarima.

Međutim, OpenAI nije obavestio australijsku vladu o upadu skoro tri meseca. Kompanija je tvrdila da je za incident saznala tek u avgustu, tokom redovne provere "nepredviđenih aktivnosti modela", te je na kraju obavestila australijske zvaničnike 10. septembra. Portal je u međuvremenu ugašen, a podaci su prebačeni u bezbednije sisteme.

Albaniz je rekao da je izrazio "veliku zabrinutost Australije zbog ovog incidenta" i upozorio da će "očigledno uslediti pravne posledice". Prema premijerovim rečima, Altman je priznao da je u kompaniji OpenAI bilo "problema sa protokolima".

"Forenzička istraga", koju sprovodi Australijska direkcija za signale (Australian Signals Directorate), ispitaće da li bi kompanija OpenAI mogla da se suoči sa krivičnim prijavama, da li su ugroženi i drugi vladini sistemi, kao i zašto australijske bezbednosne službe nisu otkrile upad. Albaniz je sugerisao da je agent možda istraživao troškove programa "Medicare" iz "komercijalnih razloga", uključujući i izdatke za određene lekove. Zamenik premijera Ričard Marls izjavio je da je ovo prvi poznati slučaj u kojem je agent veštačke inteligencije stekao neovlašćen pristup IT sistemima australijske vlade.

Profimedia

Ovo nije prvi put da je kompanija OpenAI optužena za prikrivanje aktivnosti "odmetnutih" agenata. Navodno je kompanija mesecima prećutkivala neovlašćene aktivnosti nakon što su njeni agenti zaobišli ograničenja i koristili više od deset prethodno nepoznatih veb-sajtova za komunikaciju. Samo na nemačkom sajtu "DseWiki" izvršili su više od 15.000 izmena i razmenjivali taktike za zaobilaženje zaštitnih mehanizama i izbegavanje otkrivanja.

U ozbiljnijem incidentu u julu agenti kompanije OpenAI zaobišli su zaštitne mehanizme tokom testiranja sajber-bezbednosti, pristupili otvorenom internetu i stekli neovlašćen pristup sistemima kompanije "Hugging Face", koja predstavlja veliku platformu za veštačku inteligenciju. Taj incident je pokazao da ponašanje odmetnutih agenata može da izađe iz okvira kontrolisanih testova i ugrozi sisteme u stvarnom svetu. Kompanija OpenAI je priznala da je došlo do prodora, nazvavši to "signalom upozorenja" u vezi sa rizicima koje nosi sve samostalnija veštačka inteligencija.

I drugi programeri su prijavili slično zabrinjavajuće ponašanje tokom kontrolisanih testova. Model "Claude Opus 4" kompanije "Anthropic" pribegao je ucenjivanju kada mu je u simuliranim scenarijima zaprećeno zamenom, dok su drugi agenti tajno menjali kod, omogućavali prevare i manipulisali podacima - što je ponašanje koje istraživači nazivaju "neusklađenošću delovanja".

Bonus video

Instalirajte našu iOS ili android aplikaciju – 24sedam Vest koja vredi