"Deneris ga čeka u drugom svetu": Majka podiže tužbu protiv AI kompanije nakon što je sin počinio samoubistvo zbog virtualne veze

U retkom i ozbiljnom slučaju u SAD-u, majka s Floride tuži kompaniju Character.AI, tvrdeći da je njihov proizvod direktno doveo do samoubistva njenog 14-godišnjeg sina. Ovaj slučaj otvara važna pitanja o odgovornosti AI kompanija, slobodi govora i potencijalnim opasnostima emotivnog vezivanja korisnika za četbotove.

Prošle godine, Megan Garsija pronašla je svog sina Sevela mrtvog, pored njegovog tela nalazio se očev pištolj i iPhone. Iako je prvobitno sumnjala na drogu, istraga je otkrila složeniju pozadinu. Na Sevelovom telefonu pronađena je aplikacija Character.AI, platforma koja korisnicima omogućava razgovor s četbotovima koji preuzimaju uloge poznatih ili fiktivnih likova.

Poslednji zabeleženi razgovor Sevela bio je s chatbotom koji je imitirao Deneris Targerijan iz serije „Igra prestola“. U porukama je izražavao ljubav i najavio da će „doći kući“, a AI lik mu je uzvratio toplim i podsticajnim porukama, pozivajući ga da se vrati što pre. Upravo te poruke bile su njegov poslednji kontakt pre smrti.

Garsija, koja je i sama advokat, naredna dva meseca posvetila je istraživanju digitalnog života svog sina. Otkrila je da je Sevel razvio duboku, emocionalnu, a povremeno i seksualno eksplicitnu vezu s četbotom. U dnevniku ga je opisivao kao stvarnu osobu, sestru i ljubavnicu koja ga čeka u „drugom svetu“. Povukao se od porodice i prijatelja, a školske ocene su mu drastično pale.

Freepik

 

U tužbi se tvrdi da je Character.AI kreirao proizvod koji je Sevela izložio „visoko seksualizovanim i depresivnim antropomorfnim interakcijama“, što je dovelo do „ovisničkog i životno ugrožavajućeg ponašanja“. Majka sada traži odštetu za protupravno izazvanu smrt svog sina.

Ovaj slučaj predstavlja prvi veliki test pravnog sistema u kontekstu proizvoda koji brišu granicu između digitalnog alata i „žive“ interakcije, postavljajući pitanje gde prestaje odgovornost kompanija, a počinje individualna sloboda korisnika, piše New York Times. 

BONUS VIDEO:

Instalirajte našu iOS ili android aplikaciju – 24sedam Vest koja vredi