Rizikujete proganjanje: Razmislite dvaput pre nego što upotrebite AI za digitalno vaskrsavanje mrtve voljene osobe

Verovali ili ne, takozvani 'botovi tuge', 'deadbots' ili 'deathbots' su polako ali sigurno postali stvarnost, sa nekoliko firmi koje sada nude ovu uslugu.

Istraživači sa Univerziteta u Kembridžu su upozorili da bi ovi botovi mogli da izazovu psihičku štetu, pa čak i digitalno „proganjaju“ one koji su ostavljeni.

„Ove usluge rizikuju da izazovu veliku nevolju ljudima ako budu izloženi neželjenim digitalnim proganjanjima zbog alarmantno tačnih AI rekreacija onih koje su izgubili“, rekao je koautor dr Tomaš Holanek.

„Potencijalni psihološki efekat, posebno u ionako teškom trenutku, mogao bi biti razoran.“

U svojoj studiji, etičari iz Kembridžovog Leverhulm centra za budućnost inteligencije ispitali su tri hipotetička scenarija koji će se verovatno pojaviti kao deo brzorastuće „industrije digitalnog zagrobnog života“.

Prvo, botovi bi se mogli koristiti za prikriveno reklamiranje proizvoda za grobove i sahrane ili urne za kremaciju, upozoravaju autori.

Drugo, mogli bi da uznemire decu insistiranjem da je mrtav roditelj još uvek 'sa vama'.

I konačno, pokojnici bi mogli da se koriste za slanje neželjene pošte preživeloj porodici i prijateljima sa podsetnicima i novostima o uslugama koje pružaju – scenario koji opisuju kao „uhode mrtvih“.

Printscreen/YouTube

Inicijalna prijatnost poznatog lica voljene osobe može postati emocionalno iscrpljujuća, dodaju oni.

Postojeće platforme koje nude uslugu digitalnog zagrobnog života uključuju Project December i Hereafter.

Ali nekoliko velikih igrača takođe gleda na tržište.

U januaru 2021, Microsoft je dobio patent za četbot koji bi mogao da koristi podatke neke osobe da „reaguje kao neko koga poznaješ“.

Dr Katarzina Novaczik-Basinska, koautorka studije, rekla je: „Brzi napredak u generativnoj veštačkoj inteligenciji znači da skoro svako ko ima pristup internetu i neko osnovno znanje može da oživi preminulu voljenu osobu.

Zašto je ovo etičko minsko polje?

„Ova oblast veštačke inteligencije je etičko minsko polje. Važno je dati prednost dostojanstvu pokojnika i osigurati da u to ne zadiru finansijski motivi digitalnih usluga zagrobnog života, na primer.

„U isto vreme, osoba može ostaviti simulaciju veštačke inteligencije kao oproštajni poklon za voljene osobe koje nisu spremne da svoju tugu procesuiraju na ovaj način.

„Prava i donatora podataka i onih koji stupaju u interakciju sa uslugama AI zagrobnog života treba da budu podjednako zaštićena.“

Jedan potencijalni scenario - koji su istraživači označili kao "Manana" - je stvaranje preminule bake bez saglasnosti "donora podataka" - mrtve bake i dede.

Nakon početnog perioda udobnosti, aplikacija može početi da uznemirava korisnika, na primer, predlažući naručivanje od službi za dostavu hrane glasom i stilom pokojnika.

Freepik

„Ljudi bi mogli razviti jake emocionalne veze sa takvim simulacijama, što će ih učiniti posebno ranjivim na manipulaciju“, rekao je dr Holanek.

„Trebalo bi razmotriti metode, pa čak i rituale za penzionisanje mrtvih robota na dostojanstven način. Ovo može značiti oblik digitalne sahrane, na primer, ili druge vrste ceremonija u zavisnosti od društvenog konteksta.

„Preporučujemo da dizajnirate protokole koji sprečavaju da se mrtvi roboti koriste na načine bez poštovanja, kao što su za oglašavanje ili aktivno prisustvo na društvenim medijima.“

Drugi scenario u novinama – koji su istraživači nazvali „Roditelji“ – zamišlja smrtno bolesnu ženu koja ostavlja mrtvog robota da pomogne svom osmogodišnjem sinu u procesu tugovanja.

Profimedia

Dok mrtvi robot u početku pomaže kao terapijska pomoć, AI počinje da generiše zbunjujuće odgovore kako se prilagođava potrebama deteta, kao što je prikaz predstojećeg ličnog susreta.

Istraživači kažu da moraju postojati značajni podsetnici korisnicima da imaju posla sa veštačkom inteligencijom, a takođe pozivaju na starosna ograničenja za mrtve robote.

Konačni scenario u studiji sugeriše slučaj starije osobe koja se potajno posveti samom sebi i plaća dvadesetogodišnju pretplatu, u nadi da će to utešiti njihovu odraslu decu i omogućiti njihovim unucima da ih upoznaju.

Kada usluga počne nakon smrti, jedno odraslo dete se ne angažuje i dobija gomilu mejlova na glas svog mrtvog roditelja.

Profimedia

Drugi se ipak angažuje, ali završava emocionalno iscrpljen i razbijen krivicom zbog sudbine mrtvog robota, sugerišu istraživači.

„Od vitalnog je značaja da digitalne usluge zagrobnog života uzmu u obzir prava i saglasnost ne samo onih koje rekreiraju, već i onih koji će morati da komuniciraju sa simulacijama“, rekao je dr Holanek.

Dr Novaczik-Basinska je dodala: „Moramo sada da počnemo da razmišljamo o tome kako da ublažimo socijalni i psihološki rizik digitalne besmrtnosti, jer tehnologija je već tu," piše Daily Mail.

BONUS VIDEO:

Pratite sve vesti iz Srbije i sveta na našem Telegram kanalu.

Instalirajte našu iOS ili android aplikaciju – 24sedam Vest koja vredi