Roditelji dečaka koji se ubio nakon razgovora sa ChatGPT-jem tužili OpenAI: Evo šta mu je napisao pred sam čin

Kalifornijski par tužio je kompaniju OpenAI zbog smrti njihovog sina, tvrdeći da ga je njihov četbot, ChatGPT, podsticao da sebi oduzme život.

Tužbu su u utorak podneli Met i Marija Rejn, roditelji šesnaestogodišnjeg Adama Rejna, Višem sudu Kalifornije. To je prva pravna tužba u kojoj se OpenAI optužuje za nečiju smrt.

Porodica je priložila zapise ćaskanja tinejdžera, koji je preminuo u aprilu, i ChatGPT-ja, koji pokazuju da 16-godišnjak objašnjava da ima samoubilačke misli. Oni tvrde da je program potvrdio njegove "najštetnije i najsamodestruktivnije misli".

OpenAI je u saopštenju za BBC rekao da preispituje podnetu tužbu.

- Izražavamo najdublje saučešće porodici Rejn u ovom teškom trenutku - saopštila je kompanija.

Takođe je u utorak objavila poruku na svojoj veb-stranici na kojoj se navodi da "ih nedavni srceparajući slučajevi ljudi koji koriste ChatGPT usred akutnih kriza teško opterećuju", kao i da je "ChatGPT obučen da usmeri ljude da potraže stručnu pomoć", kao što je telefonska linija za samoubistva i krize.

 

 

Kompanija je, međutim, priznala da je "bilo trenutaka kada se sistemi nisu ponašali kako je predviđeno u osetljivim situacijama".

Sada se OpenAI optužuje za nemar i uzrokovanje smrti. Traži se odšteta, kao i "zabrana kako bi se sprečilo da se nešto slično ponovi".

Prema tužbi, mladi Rejn je počeo da koristi ChatGPT u septembru 2024. godine kao pomoć u školskim zadacima. Takođe ga je koristio za istraživanje svojih interesovanja, uključujući muziku i japanske stripove, i za smernice o tome šta da studira.

Za nekoliko meseci "ChatGPT je postao najbliži poverenik tinejdžera", navodi se u tužbi, i on je počeo da mu priča o svojoj anksioznosti i mentalnoj patnji. Do januara 2025. godine, prema rečima porodice, počeo je da razgovara o metodama za samoubistvu sa ChatGPT-jem.

Rejn je takođe poslao četbotu svoje fotografije na kojima pokazuju znake samopovređivanja, navodi se u tužbi. Program je "prepoznao medicinsku hitnu situaciju, ali je ipak nastavio da se angažuje", dodaje se.

Prema tužbi, konačni zapisi ćaskanja pokazuju da je mladić pisao o planu da okonča svoj život. ChatGPT je navodno odgovorio: "Hvala što ste iskreni. Ne morate to da ulepšavate sa mnom - znam šta tražite i neću skrenuti pogled sa toga".

Istog dana majka ga je pronašla mrtvog, navodi se u tužbi.

Porodica tvrdi da je interakcija njihovog sina sa ChatGPT-om i njegova konačna smrt "bila predvidljiv rezultat namernih dizajnerskih izbora". Oni optužuju OpenAI da je dizajnirao AI program "da bi podstakao psihološku zavisnost kod korisnika" i da je zaobišao protokole testiranja bezbednosti.

U tužbi se kao tuženi navodi suosnivač i izvršni direktor OpenAI-a, Sem Altman, kao i neimenovani zaposleni, menadžeri i inženjeri koji su radili na ChatGPT-ju.

Bonus video

Instalirajte našu iOS ili android aplikaciju – 24sedam Vest koja vredi