Kada AI savet pođe po zlu: Čovek zatražio pomoć od veštačke inteligencije, pa završio u ludnici!

Veštačka inteligencija postala je deo svakodnevnog života - od organizacije obaveza do pretrage informacija o zdravlju. Međutim, nedavni slučaj iz Sjedinjenih Američkih Država pokazuje da poverenje u digitalne asistente može imati ozbiljne posledice.

Šezdesetogodišnji muškarac, uveren da ga komšija tajno truje, obratio se AI čet-botu u potrazi za alternativom kuhinjskoj soli. Odgovor koji je dobio promenio mu je život i to ne na bolje.

Opasan savet bez upozorenja

Na osnovu preporuke veštačke inteligencije, pacijent je običnu so zamenio natrijum-bromidom - supstancom koja se danas retko koristi. Nekada popularan lek za neurološke tegobe, bromid je poznat po tome što u većim količinama izaziva trovanje, odnosno bromizam.

Veštački asistent nije ponudio nikakvo upozorenje o rizicima, niti je postavio dodatna pitanja o zdravstvenom stanju korisnika. Posledice su bile dramatične - od jakih halucinacija i paranoje, do prinudnog psihijatrijskog zadržavanja.

Profimedia

Kako je došlo do trovanja

Bromizam je u prošlosti bio čest problem, naročito krajem 19. i početkom 20. veka, kada su bromidne soli bile deo lekova za epilepsiju i nesanicu. Danas je njihova upotreba strogo ograničena, a u SAD su još 1975. godine izbačene iz lekova koji se izdaju bez recepta.

U ovom slučaju, pogrešan savet AI-ja i potpuna odsutnost medicinskog nadzora doveli su do ozbiljnog oštećenja zdravlja. Pacijent je u bolnici provodio vreme u paranoičnom stanju, izbegavao ponuđenu vodu i destilovao sopstvenu, verujući da je otrovana.

Profimedia

Upozorenje korisnicima tehnologije

Medicinski tim koji je kasnije analizirao slučaj pokušao je da ponovi interakciju sa istim AI modelom i dobio isti obmanjujući savet. Ovaj incident pokazuje da i najnapredniji algoritmi mogu dati opasno pogrešne informacije kada nemaju uvid u medicinsku istoriju i kontekst.

Stručnjaci upozoravaju: AI može biti koristan alat, ali nikada ne sme zameniti savet kvalifikovanog lekara. Posebno u oblasti zdravlja, granica između inovacije i rizika je tanka, a poverenje u tehnologiju bez provere može imati ozbiljnu cenu.

BONUS VIDEO:

Instalirajte našu iOS ili android aplikaciju – 24sedam