Evropska unija se priprema da ograniči veštačku inteligenciju: Šta će sve biti zabranjeno i zbog čega?

Zakon Evropske unije o veštačkoj inteligenciji koji ima za cilj da obuzda tehnologiju čiji uticaj raste iz dana u dan biće predstavljen u aprilu i mogao bi da stupi na snagu kasnije ove godine.

Debata o tome da li EU treba da zabrani određene prakse veštačke inteligencije i ograniči naprednu AI traje već mesecima unazad, a do sada je poznato nekoliko stavki koje bi ograničenja mogla da obuhvataju.

Šta pokriva zakon?

Evropska komisija je 2021. predložila Zakon o veštačkoj inteligenciji kako bi se uspostavila pravila ne samo za tehnologiju, već i za njenu upotrebu u scenarijima u kojima bi to moglo da ima ozbiljne posledice po javnost.

Drugim rečima, za AI alat koji se koristi za razne manipulacije sa fotografijama i snimcima nije potrebna regulacija, dok je neophodna za sisteme veštačke inteligencije koji se koriste za selekciju kandidata za upis na univerzitet.

Član 5 Zakona o veštačkoj inteligenciji opisuje slučajeve upotrebe koji su potpuno zabranjeni. U međuvremenu, EU je stvorila pravila za takozvanu veštačku inteligenciju opšte namene kako bi se pozabavila brzim rastom sistema kao što je OpenAI ChatGPT, koji nemaju posebnu upotrebu i mogu se koristiti za generisanje bilo čega, od recepata do propagande.

AP Photo/Richard Drew, File

Šta je zabranjeno?

Član 5 navodi u kojim prilikama je zabranjena upotreba AI.

Zabranjene aktivnosti obuhvataju one koje utiču na ponašanje, kao što su podsvesne, manipulativne ili obmanjujuće tehnike potpomognute veštačkom inteligencijom ili korišćenje veštačke inteligencije za iskorišćavanje ranjivosti osobe ili grupe osoba.

Korišćenje biometrijskih podataka za utvrđivanje rase, seksualne orijentacije, uverenja ili članstva u sindikatu nije dozvoljeno. Ni društveno bodovanje, koje uključuje praćenje ponašanja osobe na način koji može dovesti do njihovog nepovoljnog tretmana u situaciji nepovezanom sa prethodnim ponašanjem takođe je zabranjeno (na primer, uskraćivanje pristupa javnoj službi zbog prethodne upotrebe droga).

Zabranjena je upotreba prepoznavanja lica u realnom vremenu (poznata i kao „daljinska biometrijska identifikacija“ ili RBI) na javnim mestima. Postoje izuzeci: organi za sprovođenje zakona i dalje će moći da koriste tehnologiju kada istražuju teška krivična dela ili traže nestale ljude, sve dok imaju ovlašćenje sudije.

Nije dozvoljeno korišćenje veštačke inteligencije za procenu verovatnoće da će neka osoba počiniti krivično delo samo na osnovu njenih ličnih karakteristika.

Profimedia

Alati za veštačku inteligenciju se ne mogu koristiti za kreiranje baza podataka slika lica uzetih sa interneta ili ili iz video-zapisa bezbednosnih kamera.

Konačno, zabranjeno je korišćenje AI alata za upravljanje emocijama osobe na radnom mestu ili u obrazovnom okruženju.

Pristup problemima AI visokog rizika

Od kreatora AI sistema koji se koriste u scenarijima „visokog rizika“ traži se da prate praksu upravljanja podacima, uključujući etičko prikupljanje skupova podataka za obuku i obezbeđivanje njihove reprezentativnosti i što je moguće manje pristrasnosti.

Oni takođe moraju da izrade tehničku dokumentaciju o funkcionalnosti veštačke inteligencije i njenim merama upravljanja rizikom, da vode evidenciju o upotrebi veštačke inteligencije kako bi pomogli u praćenju incidenata, da osiguraju da stvarni ljudi mogu da nadgledaju upotrebu AI i da garantuju odgovarajuće nivoe tačnosti i sajber bezbednost.

Svako ko uvodi visokorizične sisteme veštačke inteligencije takođe će morati da izvrši procenu toga kako bi alat mogao da utiče na osnovna prava po zakonu EU.

Praktično će se verovatno smatrati da su visokorizični sistemi veštačke inteligencije usaglašeni ako prate standarde i specifikacije koje je postavila Komisija i organizacije koje postavljaju standarde.

Profimedia

Oblasti koje se smatraju visokorizičnim, prema Aneksu III, uključuju biometriju i prepoznavanje lica kada to nije izričito zabranjeno prema članu 5, komponente kritične infrastrukture, obrazovanje i radno mesto i pristup javnim uslugama, beneficijama ili osnovnim privatnim uslugama kao što su bankarstvo i osiguranje.

Upotreba vezana za sprovođenje zakona, migracije, pravosuđe i izbore takođe se kvalifikuje kao visoko rizična.

AI opšte namene

Pravila Zakona o veštačkoj inteligenciji usmerena su na „modele“ opšte namene koji podržavaju AI alate ne aplikacije koje su okrenute klijentima, već softversku arhitekturu koja je integrisana u proizvode različitih provajdera.

Programeri ovih modela, kao što su oni koji pokreću ChatGPT ili Google Bard, moraće da čuvaju detaljnu tehničku dokumentaciju, pomognu kompanijama ili ljudima koji primenjuju svoje modele da razumeju funkcionalnost i ograničenja alata, pruže rezime materijala zaštićenog autorskim pravima (kao što su tekstovi ili slike) koji se koristi za obuku modela, i sarađuju sa Evropskom komisijom i nacionalnim organima za sprovođenje kada je u pitanju poštovanje pravilnika.

Neki modeli opšte namene su označeni kao „sistemski rizik“ zahvaljujući njihovoj moći i dometu - sposobnosti da izazovu katastrofalne događaje. Programeri ovih sistema takođe će morati da uspostave strategije ublažavanja i prenesu detalje o bilo kom incidentu potpuno novoj „kancelariji za veštačku inteligenciju“ Komisije koja je zadužena da kontroliše pravila.

Bonus video

Pratite sve vesti iz Srbije i sveta na našem Telegram kanalu.

Instalirajte našu iOS ili android aplikaciju – 24sedam Vest koja vredi