Microsoft doneo „AI ustav“: Veštačka inteligencija neće smeti da uradi jednu stvar

Microsoft je predstavio nacrt novih pravila za svoje AI sisteme, a jedan od najvažnijih principa odnosi se na to da veštačka inteligencija u svakom trenutku mora ostati pod ljudskom kontrolom.

Razvoj sve moćnijih sistema veštačke inteligencije otvorio je i pitanje koliko autonomije treba dati tehnologiji koja može samostalno da donosi odluke i izvršava složene zadatke. Microsoft sada pokušava da na deo tih dilema odgovori dokumentom koji je Mustafa Sulejman, direktor kompanijinog AI odseka, opisao kao svojevrsni „ustav“ za buduće modele.

Sarah Holmlund / Panthermedia / Profimedia

Kodeks ponašanja nastajao je oko pet do šest meseci, uz konsultacije sa stručnjacima, a Microsoft je sada otvorio šest nedelja za komentare javnosti.

AI ne sme da se opire gašenju

Jedno od ključnih pravila predviđenih dokumentom jeste da Microsoftovi AI sistemi ne bi trebalo da pružaju otpor kada ljudi pokušaju da ih isprave, izmene ili isključe.

Drugim rečima, bez obzira na to koliko napredan sistem postane, njegovo izvršavanje zadataka ne bi trebalo da dobije prednost nad ljudskom odlukom da se rad sistema promeni ili prekine.

Microsoft želi jasniju komunikaciju između AI-ja i ljudi

Kodeks predviđa i da sistemi treba da komuniciraju na način koji je ljudima razumljiv. To je posebno važno kako AI modeli postaju sposobni za sve složenije zadatke. Ako sistem donosi odluke ili preduzima određene korake, korisnici bi trebalo da mogu da razumeju šta radi i zbog čega.

Profimedia

Microsoft takođe predviđa da se svako kršenje pravila ponašanja tretira kao neuspeh sistema, a ne kao nešto što bi trebalo ignorisati ili opravdavati rezultatima koje je AI ostvario.

Zašto je „AI ustav“ važan?

Microsoftova inicijativa dolazi u trenutku kada tehnološke kompanije ubrzano razvijaju sisteme koji mogu da planiraju, koriste različite alate i izvršavaju zadatke sa sve manje neposredne ljudske pomoći.

Upravo zbog toga raste pritisak da se unapred definišu granice njihovog ponašanja. Ideja Microsofta je da osnovna pravila ne zavise samo od toga koliko je određeni model sposoban, već da ljudska kontrola ostane jedno od njegovih osnovnih ograničenja.

Sarah Holmlund / Panthermedia / Profimedia

Dokument zato nije samo interna lista pravila, već i deo šire rasprave o tome kako bi najnapredniji AI sistemi trebalo da se razvijaju i koliko slobode im treba omogućiti.

Kako se tehnologija bude približavala sve autonomnijim sistemima, pitanje neće biti samo šta veštačka inteligencija može da uradi, već i šta joj nikada ne bi trebalo dozvoliti da uradi.

BONUS VIDEO:

Instalirajte našu iOS ili android aplikaciju – 24sedam Vest koja vredi