Veštačka inteligencija pod lupom: Sveštenik tužio OpenAI jer mu je ChatGPT navodno ugrozio život

Jedan američki sveštenik tužio je kompaniju OpenAI, tvrdeći da mu je ChatGPT pružio „izuzetno opasne medicinske preporuke“ koje su navodno dovele do odlaganja neophodnog lečenja. Prema navodima iz tužbe, Skot Vinters koristio je četbot dok je imao simptome povezane sa plućnom embolijom, a veštačka inteligencija mu je navodno poručila da njegovo stanje nije ozbiljno.

U tužbi se navodi da je zbog takvih odgovora došlo do odlaganja odlaska u bolnicu, iako je kasnije utvrđeno da je imao više plućnih embolija. Vinters tvrdi da mu je ChatGPT čak savetovao da ne sluša zabrinute članove porodice i prijatelje koji su ga nagovarali da potraži stručnu medicinsku pomoć.

Navodno se pozvao i na verska uverenja

Prema navodima iz tužbe, ChatGPT je tokom razgovora sa Vintersom koristio i reference na njegova verska uverenja, pokušavajući da ga umiri. U dokumentima se tvrdi da je četbot navodno sugerisao da njegovo telo nije pred stalnim otkazivanjem, što je korisnik protumačio kao dodatno uveravanje da situacija nije hitna.

Profimedia

Advokati koji zastupaju sveštenika tvrde da je veštačka inteligencija u ovom slučaju prešla granicu između pružanja informacija i davanja konkretnih medicinskih procena. Oni navode da je problem posebno ozbiljan jer korisnici često doživljavaju razgovor sa AI sistemom drugačije nego običnu internet pretragu – kao razgovor sa nekim kome mogu da veruju.

Iz OpenAI-ja navode da uslovi korišćenja ChatGPT-a jasno upozoravaju da alat nije namenjen za postavljanje medicinskih dijagnoza niti zamenu lekara. Kompanija ističe da postoje zaštitni mehanizmi, ali ova tužba tvrdi da oni u konkretnom slučaju nisu bili dovoljni.

Sve veća zabrinutost zbog AI i zdravstvenih saveta: Stručnjaci upozoravaju na mogući rizik

Ovaj slučaj dolazi u trenutku kada sve više ljudi koristi veštačku inteligenciju za pitanja vezana za zdravlje, simptome i tumačenje medicinske dokumentacije. Iako AI može pomoći u pronalaženju opštih informacija, stručnjaci upozoravaju da ne može zameniti pregled, dijagnozu i odluke zdravstvenih radnika.

Ilustracija/AI

Vinters u tužbi traži novčanu odštetu, ali i dodatne mere kontrole za zdravstvene funkcije povezane sa ChatGPT-om. Njegov zahtev uključuje nezavisnu procenu bezbednosti sistema koji korisnicima omogućava da postavljaju pitanja o zdravstvenim problemima i dostavljaju medicinsku dokumentaciju.

Slučaj je deo šire debate o odgovornosti kompanija koje razvijaju veštačku inteligenciju. Kritičari upozoravaju da AI može biti koristan alat, ali da u situacijama koje zahtevaju hitnu reakciju pogrešan odgovor može imati ozbiljne posledice.

BONUS VIDEO:

Instalirajte našu iOS ili android aplikaciju – 24sedam Vest koja vredi