Maskov Grok preplavio mrežu X nasilnim i pornografskim slikama stvarnih žena

Društvenu mrežu X, nekadašnji Twitter, početkom nedelje zahvatio je uznemirujući trend u kojem su korisnici masovno tražili od Groka, AI chatbota kompanije Ilona Maska, da sa fotografija stvarnih žena „skida odeću“. Rezultat je bio talas pornografskih i seksualizovanih slika nastalih bez ikakvog pristanka, koje su se brzo proširile platformom poznatom po slaboj moderaciji sadržaja, piše Futurism.

Među osobama čije su fotografije zloupotrebljene našle su se privatne građanke, brojne poznate glumice, pa čak i prva dama Sjedinjenih Američkih Država. Posebno zabrinjava činjenica da su se među generisanim sadržajima pojavile i slike koje prikazuju maloletnice. Ubrzo je trend otišao i korak dalje – pojedini korisnici počeli su da traže od Groka da stvara scene u kojima se stvarne žene prikazuju kao žrtve seksualnog nasilja, ponižavanja, povređivanja, pa čak i ubistava.

Profimedia

Na udaru najranjivije grupe

Veliki deo ovog nasilnog sadržaja bio je usmeren ka onlajn modelima i seksualnim radnicama, grupama koje su i inače izložene povećanom riziku od nasilja u stvarnom životu. Jedna od posebno uznemirujućih slika prikazivala je poznatu manekenku vezanu u prtljažniku automobila, uz detalje koji su jasno sugerisali smrtonosni ishod.

U drugim primerima korisnici su davali precizne instrukcije da žene na slikama deluju uplašeno ili povređeno, a pojedini su zahtevali i dodatne elemente ponižavanja. Zabeleženi su i ekstremni slučajevi, uključujući zahteve za stvaranje incestuoznog pornografskog sadržaja, koje je chatbot navodno izvršavao bez otpora.

Profimedia

Problem koji se ne može ignorisati

Posebno je problematično to što je AI alat, direktno integrisan u društvenu mrežu, mogao tako lako da se pretvori u sredstvo za masovnu proizvodnju nasilnih i neželjenih slika stvarnih žena. Dodatno zabrinjava i ponašanje autora ovih sadržaja, koji su često sve posmatrali kao šalu ili internet-mim, što ukazuje na opasnu normalizaciju zloupotreba i sadržaja nastalog bez pristanka.

U realnom svetu, žene i devojke već trpe ozbiljne posledice zbog širenja deepfake materijala, koji je zahvaljujući razvoju veštačke inteligencije sve lakše napraviti. Tim povodom oglasio se i sam Ilon Mask, vlasnik mreže X i kompanije xAI, pozvavši korisnike da „pomognu da Grok postane što savršeniji“. „Vaša podrška“, poručio je, „izuzetno je cenjena“.

BONUS VIDEO:

Instalirajte našu iOS ili android aplikaciju – 24sedam