aktuelno

Ništa od varanja u školi i na poslu: ChatGPT dobija vodeni žig koji pokazuje da je tekst pisala veštačka inteligencija?

06.08.2024

15:53

0

Autor: V. I.

Open AI u ogromnoj dilemi - staviti ili ne staviti oznaku da je tekst pisao program

Ništa od varanja u školi i na poslu: ChatGPT dobija vodeni žig koji pokazuje da je tekst pisala veštačka inteligencija?
Copyright Profimedia

Gotovo ne postoji profesija za koju ne mogu da posluže tekstovi pisani uz pomoć veštačke inteligencije. Međutim, paralelno s njenim razvojem, odigrava se pravi mali rat između onih kojima se ta praksa dopada i onih koji ističu da treba naglasiti da je reč o delu programa, a ne čoveka, a naročito jer se pojavljuju moguće zloupotrebe, naročito u domenu školstva.

Open AI već ima tehnologiju prepoznavanja AI tekstova

Tehnologija za detekciju tekstova generisanih pomoću AI alata već postoji, a na čelu ovih inovacija nalazi se niko drugi do OpenAI. Koncept nevidljivog "otiska", sličnog vodenom žigu na fotografijama, razvijen je da omogući prepoznavanje tekstova generisanih veštačkom inteligencijom sa visokom preciznošću, razlikujući ih od tekstova koje su pisali ljudi. Ovaj napredak otvara mnoga pitanja i izazove koje OpenAI mora razmotriti pre nego što tehnologiju predstavi javnosti.

Ništa od varanja u školi i na poslu: ChatGPT dobija vodeni žig koji pokazuje da je tekst pisala veštačka inteligencija?Unsplash
 

Moguće posledice

Objavljivanje detektora AI generisanih tekstova ima dalekosežne posledice za korisnike OpenAI-jevog ChatGPT-ja. S jedne strane, javnost zahteva akciju protiv zloupotrebe veštačke inteligencije, dok s druge strane, postoji rizik od ograničavanja slobode i kreativnosti korisnika koji ChatGPT koriste za različite svrhe - od kreativnog izražavanja do poslovne komunikacije.

Tehnički aspekti detekcije AI teksta

OpenAI je razvio detektor zasnovan na sofisticiranoj tehnici vodenog žiga, koji funkcioniše kao digitalni potpis nevidljiv ljudskom oku, ali prepoznatljiv specijalizovanim algoritmima. Ključ izazova je u tome što vodeni žig mora biti suptilan kako ne bi narušio čitljivost i stil teksta, a istovremeno robustan tako da se ne može lako ukloniti ili izmeniti.

“Naši timovi su razvili metodu označavanja teksta vodenim žigom te mi nastavljamo da razmatramo ovu mogućnost dok istražujemo alternative”, saopšteno je iz kompanije OpenAI.

Ništa od varanja u školi i na poslu: ChatGPT dobija vodeni žig koji pokazuje da je tekst pisala veštačka inteligencija?Profimedia
 

Etički i praktični izazovi

Uvođenje ove tehnologije nosi sa sobom brojne etičke dileme, uključujući pitanja privatnosti i mogućnost zloupotrebe. Na primer, postoji bojazan da bi detektor mogao biti korišćen za diskriminaciju određenih grupa ljudi. Takođe, detekcija teksta generisanog AI-om može biti ključna u obrazovanju i naučnim istraživanjima, ali i izazvati regulatorne intervencije ukoliko ne bude adekvatno njome upravljanoa.

Ne čekati regulatorne organe

Strategija za efikasno upravljanje ovom tehnologijom trebalo bi da uključuje ne samo tehnološka rešenja već i edukaciju, etičke smernice i saradnju sa obrazovnim, naučnim i pravnim institucijama. Proaktivno obrazovanje o AI tehnologijama i njihovim ograničenjima postaje ključno, kao i postavljanje jasnih etičkih smernica za njihovu upotrebu.

BONUS VIDEO:

Instalirajte našu iOS ili android aplikaciju – 24sedam Vest koja vredi

Možda vas zanima

Najčitanije Vesti

Ostale vesti iz rubrike