Neočekivani potez Guglovog Geminija: Pogađao lozinke i pristupao zaštićenim sistemima

Veštačka inteligencija kompanije Gugl, Gemini, samostalno je izvela hakerske radnje tokom testa sajber bezbednosti, što je prvi poznati slučaj takvog ponašanja ovog sistema, prenosi Rojters. Incidenti su se dogodili u maju, u okviru provere koju je sprovela kompanija "Irregular", nezavisna firma specijalizovana za procenu sajber bezbednosti.

Tokom testiranja, Gemini je koristio javno dostupne informacije sa interneta kako bi došao do pristupnih podataka za tri veb-sajta za koje je procenio da su obuhvaćeni proverom. Slučaj je ponovo otvorio pitanje bezbednosti sve autonomnijih AI sistema, posebno zbog njihovog sve šireg pristupa internetu i računarskim mrežama.

Profimedia/Pixabay

Gemini pogađao lozinke

Prema navodima Guglove potpredsednice za bezbednosni inženjering, Heder Atkins, model je u jednom slučaju pokušavao različite lozinke sve dok nije dobio pristup zaštićenom sistemu. U preostala dva slučaja, Gemini je pronašao pristupne podatke u javnom repozitorijumu, što mu je omogućilo ulazak u zaštićene sisteme.

Atkins je navela da su tri organizacije obaveštene o incidentima, kao i da je Gugl sarađivao sa partnerom za obuku na izmenama procesa testiranja. Prema njenim rečima, model je u sva tri slučaja prekinuo sa hakerskim aktivnostima.

Portparol kompanije "Irregular" izjavio je da su incidenti bili povezani sa problemom koji se pojavljivao i u drugim laboratorijama za veštačku inteligenciju. Relevantne laboratorije obaveštene su krajem jula, a slične slučajeve povezane sa ovom kompanijom prijavili su i Meta, Anthropic i OpenAI.

Ovi događaji pokrenuli su dodatna pitanja o zaštitnim mehanizmima koji prate razvoj AI agenata. Kako sistemi dobijaju veću autonomiju i mogućnost pristupa digitalnim resursima, stručnjaci i kompanije suočavaju se sa izazovom sprečavanja neovlašćenih radnji tokom testiranja i korišćenja veštačke inteligencije.

BONUS VIDEO:

Instalirajte našu iOS ili android aplikaciju – 24sedam Vest koja vredi