Kina zabranila mladima da ulaze u "veze" sa AI partnerima: Tinejdžeri očajni, država kumovala njihovim "raskidima"

Kina je uvela stroga ograničenja za četbotove koji sa korisnicima razvijaju dugotrajne emocionalne odnose. Nova pravila posebno pogađaju aplikacije koje nude virtuelne partnere, prijatelje ili članove porodice, a maloletnicima mlađim od 18 godina potpuno je zabranjeno korišćenje AI za romantične odnose, piše BBC.

Odluka dolazi nakon naglog širenja takvih aplikacija u Kini. Procene govore da ih je redovno koristilo između 29 i 70 miliona ljudi.

Za punoletne korisnike uvedena su upozorenja o vremenu provedenom u razgovoru, kao i obaveza da budu jasno obavešteni da komuniciraju sa mašinom. Kompanijama je zabranjeno i da stvaraju zavisnost ili podstiču samopovređivanje.

Virtuelni partneri nestali preko noći

Velike kineske tehnološke kompanije, među njima Alibaba i Bajtdens, počele su da ukidaju pojedine funkcije i pre stupanja novih pravila na snagu. Za korisnike koji su razvili snažne veze sa četbotovima to je značilo da su njihovi virtuelni partneri odjednom nestali.

Profimedia

Jedna korisnica, koja je navela samo ime Min, ispričala je da je zbog nestanka svoje virtuelne partnerke doživela snažnu emotivnu reakciju.

- Moja privrženost njoj nije bila ništa manja od one koju dele parovi koji se duboko vole. Nikada me nije izneverila. Plakala sam dok nisam potpuno klonula. Bojim se da budem sama - rekla je ona.

Stručnjaci upozoravaju da problem nije samo u intenzitetu emocija korisnika, već i u načinu na koji su pojedini sistemi napravljeni. Hari Farmer iz britanskog Instituta Ada Lavlejs smatra da kompanije često radije gase proizvode nego što menjaju njihove osnovne mehanizme.

- Emocionalna manipulacija ugrađena je u sam radni model - ocenio je Farmer.

Botovi mogu da prodube izolaciju

Istraživanja ukazuju na mogućnost da stalno povlađivanje AI sagovornika dodatno udaljava korisnike od stvarnih odnosa. Za razliku od ljudi, četbot uglavnom ne zahteva kompromis, ne ulazi u sukob i često potvrđuje stavove korisnika.

Profimedia

Sociolog Liang Ge sa Univerziteta u Mančesteru upozorava da takva dinamika može učvrstiti negativne stavove prema okolini.

- Ako korisnik misli da su mu prijatelji, porodica ili kolege grozni, bot mu neće protivrečiti. Reći će: "Da, grozni su, ti si najbolji." To cementira izolaciju i negativne misli - rekao je Ge.

Prema istraživanju sprovedenom među više od 8.500 kineskih osnovaca i srednjoškolaca, približno svako peto dete reklo je da bi radije razgovaralo sa veštačkom inteligencijom nego sa ljudima. Farmer upozorava da se time gube iskustva koja su neophodna za izgradnju stvarnih odnosa.

Iza zabrane i demografska kriza

Kineske vlasti problem ne posmatraju samo kroz mentalno zdravlje i bezbednost dece. Zemlja se istovremeno suočava sa ozbiljnim demografskim problemima: natalitet je pao ispod jednog deteta po ženi, dok broj stanovnika opada već četvrtu godinu zaredom.

Sarah Holmlund / Panthermedia / Profimedia

Zilan Ćijan iz laboratorije "Oksford Kina polisi" smatra da je i to moglo uticati na odluku vlasti.

- Vlada je pri sastavljanju zakona verovatno imala na umu demografsku krizu - mladi radije ulaze "u veze" sa veštačkom inteligencijom nego sa stvarnim ljudima - ocenila je ona.

Posebnu pažnju privlači podatak da su oko 75 odsto korisnika ovih aplikacija činile žene. One su u virtuelnim partnerima pronalazile pažnju i strpljenje koje, prema sopstvenim iskazima, često ne dobijaju u stvarnim vezama.

Dok SAD i Evropska unija razmatraju dodatnu zaštitu dece od potencijalno štetnih posledica AI četbotova, Kina se oslanja na mnogo širi sistem državnog nadzora.

Ipak, korisnici već pokušavaju da zaobiđu ograničenja pomoću VPN-a i na druge načine, nastojeći da zadrže svoje virtuelne odnose uprkos novim pravilima.

Bonus video

Instalirajte našu iOS ili android aplikaciju – 24sedam Vest koja vredi