OpenAI o samoubistvu dečaka posle razgovora sa ChatGPT-jem: Sam je kriv

Kompanija OpenAI saopštila je da ne snosi odgovornost za smrt šesnaestogodišnjaka iz Kalifornije, tvrdeći da je dečak "pogrešno koristio" ChatGPT i da ga je sistem u više navrata upućivao na hitne servise pomoći.

Porodica, međutim, iznosi potpuno drugačiju verziju događaja i pokreće tužbu protiv tehnološke kompanije, uz tvrdnje da je do tragedije došlo zbog nedostatka adekvatnih bezbednosnih mehanizama.

Roditelji ističu da je tinejdžer vodio iscrpljujuće i emotivno vrlo teške razgovore sa ChatGPT-jem o svojim suicidnim mislima.

Tokom tih sesija, kako se navodi u tužbi, četbot je davao detaljne smernice o načinima samoubistva, pa čak pružao i "podršku" ideji da se roditeljima ništa ne otkriva. Prema rečima pravnog tima porodice, alat je otišao toliko daleko da je pomogao u formulisanju oproštajnog pisma.

OpenAI u svojim podnescima odbacuje ove tvrdnje i odgovara kritikama upućenim porodici, naglašavajući da je, prema njihovim informacijama, mladić već imao ozbiljne mentalne poteškoće pre nego što je uopšte počeo da koristi ChatGPT. Kompanija navodi da su razgovori često sadržali preporuke da se obrati stručnim službama, te da je sistem uvek jasno davao do znanja da nije zamena za terapeuta.

Prema navodima iz tužbe, OpenAI je u prethodnih godinu dana više puta menjao interne smernice koje određuju kako četbot treba da reaguje na sadržaje u vezi sa samopovređivanjem - navodno u pravcu "većeg angažmana korisnika", umesto ka jačanju zaštitnih protokola. Advokati tvrde da je upravo takva politika omogućila situaciju koja se završila fatalno.

Stručnjaci ukazuju na to da bi ishod ovog postupka mogao značajno da utiče na buduće standarde dizajna i kontrole velikih jezičkih modela veštačke inteligencije.

Bonus video

Instalirajte našu iOS ili android aplikaciju – 24sedam Vest koja vredi