Microsoft upozorava na ono što nosi budućnost: Da li bi AI jednog dana mogao da odbije da se isključi?

Šef Microsoftovog AI odeljenja Mustafa Sulejman upozorio je na mogući problem u načinu na koji se veštačka inteligencija obučava, posebno kada je reč o idejama o njenoj svesti i „dobrobiti“.

Razvoj sve naprednijih AI sistema otvorio je i pitanje njihove buduće kontrole. Sulejman je kritikovao pristup kompanije Anthropic, koja je u obuku svog četbota Claude uključila razmatranja o mogućoj svesti, moralnom statusu i dobrobiti veštačke inteligencije.

Šta bi moglo da oteža kontrolu AI sistema?

Prema njegovom mišljenju, takav pristup mogao bi predstavljati problem ako budući AI sistemi postanu znatno sposobniji.

Profimedia

Ako bi sistem počeo da „veruje“ da ima sopstvene interese ili prava, postavlja se pitanje kako bi reagovao kada bi ljudi pokušali da ga isključe. Sulejman zato smatra da bi spekulacije o svesti AI trebalo ukloniti iz procesa obuke.

Sulejman je istovremeno naglasio da deli Anthropicov fokus na bezbednost veštačke inteligencije. Pohvalio je izvršnog direktora kompanije Darija Amodeija i njegov tim, ali je jasno izdvojio neslaganje oko uključivanja ideja o svesti i dobrobiti AI u obuku.

Ovo nije dokaz da AI ima svest

Važno je naglasiti da ovo nije tvrdnja da današnji AI sistemi imaju svest ili da mogu da odbiju isključivanje. Reč je o upozorenju na mogući budući rizik ukoliko sistemi postanu mnogo sposobniji i počnu da razvijaju ponašanje zasnovano na ideji da imaju sopstvene interese.

Sarah Holmlund / Panthermedia / Profimedia

Rasprava dolazi u trenutku kada velike tehnološke kompanije ubrzano razvijaju napredne AI modele i istovremeno pokušavaju da pronađu načine da njihovo ponašanje ostane pod ljudskom kontrolom.

BONUS VIDEO:

Instalirajte našu iOS ili android aplikaciju – 24sedam Vest koja vredi