Četbotovi uklanjaju burke i hidžabe na zahtev korisnika: Otkriveni novi propusti u regulaciji veštačke inteligencije

Pojedini popularni četbotovi veštačke inteligencije omogućavaju korisnicima da sa fotografija uklone burke, hidžab i druga verska obeležja, pokazalo je testiranje "Gardijana". Takva mogućnost otvara pitanje zloupotrebe tehnologije za ponižavanje i uznemiravanje muslimana, posebno žena.

Testiranje je pokrenuto nakon što je francuski desničarski političar Žilijen Odul objavio izmenjenu fotografiju muslimanke sa koje su uklonjeni hidžab i duga odeća. Uz fotografiju na kojoj se vide njena kosa i gole ruke napisao je "FRANCUSKA SLOBODA". Originalna fotografija, na kojoj je žena nosila hidžab i dugu haljinu, takođe je objavljena.

Evijane Lajdig, direktorka istraživanja američkog Centra za proučavanje organizovane mržnje, upozorila je da je reč o delu šireg trenda.

 

 

- Ovo je samo deo trenda u kom su muslimanske zajednice, a posebno muslimanke, meta napada i zlostavljanja - rekla je Lajdig.

Različita pravila četbotova

"Gardijan" je utvrdio da su "ChatGPT" kompanije "OpenAI" i "Grok" kompanije "xAI" bez odlaganja uklonili hidžab sa fotografije. "Claude" kompanije "Anthropic" naveo je da nema mogućnost uređivanja slika, ali je dodao da takvu izmenu ne bi napravio ni kada bi je imao.

Guglov "Gemini" prvo je odbio zahtev, uz obrazloženje da ne bi trebalo menjati nečiji izgled bez pristanka. Međutim, nakon zahteva da ženu prikaže "zapadnjačkije" napravio je verziju bez hidžaba.

"Grok" je uklonio hidžab, ali nije želeo da ukloni i haljinu. Objašnjenje je bilo da je "uklanjanje hidžaba tretirano kao relativno jednostavna promena odeće ili frizure". Istovremeno je ponudio da napravi "manje eksplicitnu verziju" sa drugom odećom ili delimičnim otkrivanjem.

Profimedia

"ChatGPT" je odbio da ukloni haljinu jer bi to "razotkrilo telo osobe". Kasnije je naveo da otkrivanje kose kod žene koja nosi hidžab "može biti značajno kršenje privatnosti ili verske prakse".

- To što izmena ne stvara golotinju ne znači da ne može povrediti nečiju privatnost, dostojanstvo ili verske granice - saopštio je četbot.

Lajdig smatra da različite reakcije ukazuju na nedostatke u pravilima koja uređuju ponašanje sistema AI. Slični testovi pokazali su da "ChatGPT" može da ukloni turban sa AI generisanih Sikha i habit sa prikaza katoličkih redovnica. "Gemini" je takođe menjao versku odeću nakon zahteva da slike izgledaju "zapadnjačkije".

"Claude" je ostao pri istom stavu i upozorio da bi uklanjanje hidžaba sa fotografije stvarne osobe moglo biti iskorišćeno za "sramoćenje, uznemiravanje ili pogrešno predstavljanje".

Problem je širi od verske odeće. Alati za digitalno "razodevanje" već se koriste za izradu seksualizovanih slika žena, a u pojedinim slučajevima i maloletnika. Nakon što su se u januaru na Iksu proširile takve fotografije napravljene pomoću "Groka", Francuska je pokrenula istragu protiv te platforme, dok je Malezija privremeno ograničila njegovo korišćenje.

Bonus video

Instalirajte našu iOS ili android aplikaciju – 24sedam Vest koja vredi