Starbucks ugasio AI sistem, napravio ozbiljan haos u prodavnicama! A Ko snosi odgovornost za greške veštačke inteligencije?

Stručnjaci sve češće upozoravaju da veštačka inteligencija nije nepogrešiva, a velika očekivanja od AI sistema ponovo su dovedena u pitanje nakon odluke kompanije Starbucks da ugasi softver koji je prethodnih devet meseci automatski pratio stanje zaliha u prodavnicama širom Severne Amerike i vrati se klasičnoj, ručnoj kontroli.

AI sistem uveden je kao deo strategije kompanije za smanjenje čestih nestašica proizvoda koje su uticale na prodaju i iskustvo kupaca. Ideja je bila da veštačka inteligencija prati količine mleka i sastojaka za napitke, ubrza procese i rastereti zaposlene. Međutim, rezultati u praksi nisu ispunili očekivanja.

Prema internim informacijama kompanije, sistem je pravio ozbiljne greške - pojedine proizvode uopšte nije registrovao, dok je druge pogrešno evidentirao. Umesto bolje organizacije i preciznijeg upravljanja zalihama, kompanija se suočila sa dodatnim problemima i nesigurnošću u radu, zbog čega je odlučeno da se vrati tradicionalnom modelu popisa i standardizuje procedure u svim lokalima.

Ovaj slučaj ponovo je otvorio pitanje koliko se kompanije danas previše oslanjaju na AI tehnologiju i gde zapravo nastaje problem - u samom sistemu ili u načinu njegove primene.

Stručnjaci već dugo upozoravaju da veštačka inteligencija ne greši nužno zato što je „pokvarena“, već zbog okruženja u kojem funkcioniše. Ako je sistem treniran na lošim ili pristrasnim podacima, ako ne postoje jasna pravila i procedure ili izostane ljudska kontrola, rezultati mogu biti pogrešni i potencijalno opasni.

Kao primer navodi se i Amazon, koji je svojevremeno testirao AI alat za selekciju kandidata za posao. Pokazalo se da sistem nije bio rodno neutralan, jer je treniran na istorijskim podacima u kojima su dominirale prijave muškaraca. Na taj način AI nije „izmislio“ diskriminaciju, već je samo reprodukovao postojeće obrasce iz podataka na kojima je učio.

Advokati kancelarije Stojković Advokati objašnjavaju da algoritam nikada nije potpuno nezavisan donosilac odluka.

Veštačka inteligencija ostaje proizvod ljudi. Ljudi biraju podatke, postavljaju pravila, određuju ciljeve i granice sistema. Ako u tim koracima postoje greške ili predrasude, velika je verovatnoća da će ih AI preneti i na buduće rezultate - navode pravnici.

Sličan problem pojavio se i u slučaju avio-kompanije Air Canada, kada je chatbot korisniku dao pogrešnu informaciju o refundaciji avionske karte. Kasnije je zaključeno da kompanija ne može da izbegne odgovornost tvrdeći da je grešku napravio chatbot, niti da je AI sistem „odvojeni entitet“.

Pravnici upozoravaju da se upravo zbog toga sve više govori o „lancu odgovornosti“ kada je reč o AI sistemima. U tom procesu učestvuju kompanije koje razvijaju modele, firme koje ih treniraju, organizacije koje ih integrišu u poslovanje, ali i zaposleni i korisnici koji svakodnevno koriste rezultate koje AI generiše.

Zbog toga se u svakom konkretnom slučaju postavlja pitanje - ko je imao kontrolu nad sistemom i ko je bio dužan da spreči eventualnu štetu.

Stručnjaci ističu da poseban problem predstavlja takozvani „black box“ efekat, odnosno situacija u kojoj nije moguće precizno objasniti kako je AI sistem došao do određene odluke ili gde je tačno nastala greška.

Ipak, najveći izazov za kompanije danas često nije razvoj sopstvenih AI modela, već svakodnevna upotreba generativnih AI alata među zaposlenima. Takvi sistemi koriste se za pisanje mejlova, obradu podataka, pripremu prezentacija, analizu ugovora i komunikaciju sa klijentima, što donosi veću brzinu rada, ali istovremeno otvara pitanja zaštite podataka, poslovnih tajni, intelektualne svojine i pravne odgovornosti.

Bonus video

Instalirajte našu iOS ili android aplikaciju – 24sedam Vest koja vredi