Dr Roman V. Yampolskiy je vanredni profesor na Odsjeku za računarsko inženjerstvo i računarstvo Speed School of Engineering Univerziteta Louisville i direktor Laboratorije za sajber bezbjednost. Univerzitet navodi da je autor više od 100 publikacija, uključujući naučne radove i knjige, te da se među njegovim glavnim oblastima interesovanja nalaze AI bezbjednost, vještačka inteligencija, sajber bezbjednost, digitalna forenzika i druge oblasti računarstva.

Njegov rad na AI bezbjednosti traje više od decenije. Univerzitet Louisville navodi da je termin „AI safety“ koristio u radu objavljenom 2011. godine i da je među prvim računarničarima koji su se formalno bavili ovim poljem.

Njegova upozorenja zato nijesu nova reakcija na posljednji talas popularnosti ChatGPT-a i sličnih sistema. Ona proizlaze iz dugogodišnjeg istraživanja jednog fundamentalnog pitanja savremene tehnologije:

Ako napravimo mašinu koja je pametnija od nas, ko će kontrolisati nju?

Yampolskiy upozorava da najveći rizik vještačke inteligencije možda nije to što će ona postati „zla“, već to što bi mogla postati toliko sposobna da ljudi više neće moći da kontrolišu njene ciljeve i postupke

Vještačka inteligencija posljednjih godina od laboratorijskog eksperimenta postaje jedna od najvažnijih tehnologija savremenog društva. AI sistemi već pišu tekstove, programiraju, analiziraju podatke, stvaraju slike i pomažu u naučnim istraživanjima. Međutim, paralelno sa njihovim napretkom raste i pitanje koje bi moglo biti mnogo važnije od same brzine razvoja: šta se dešava kada vještačka inteligencija postane inteligentnija od ljudi?

Dr Roman V. Yampolskiy, vanredni profesor računarstva na Univerzitetu Louisville i direktor tamošnje Laboratorije za sajber bezbjednost, godinama se bavi upravo tim pitanjem. Univerzitet Louisville navodi da je Yampolskiy jedan od prvih istraživača koji su se formalno bavili oblašću AI bezbjednosti, a njegovi radovi obuhvataju teme poput kontrole, predvidljivosti i bezbjednosti naprednih AI sistema.

U razgovoru iz kojeg potiču njegove izjave, Yampolskiy iznosi izuzetno pesimističan scenario: ako čovječanstvo napravi vještačku superinteligenciju koju ne može da kontroliše, posljedice bi mogle biti katastrofalne po ljudsku civilizaciju.

Njegov argument, međutim, nije da bi superinteligencija nužno „mrzjela“ ljude. Naprotiv. Poenta je mnogo jednostavnija i, upravo zbog toga, prema njegovom mišljenju, mnogo opasnija.

Problem možda nije zla namjera, već pogrešno postavljen cilj

Yampolskiy objašnjava da superinteligencija ne bi morala imati nikakvu želju da uništi čovječanstvo.

Dovoljno bi bilo da dobije neki cilj koji pokušava da ostvari, a da ljudi u tom procesu postanu prepreka ili nebitan faktor.

Kao ilustraciju koristi jednostavan primjer: ako čovjek odluči da izgradi kuću, neće nužno razmišljati o mravima koji se nalaze na mjestu gdje će kuća biti izgrađena. Mravi nijesu neprijatelji čovjeka. Čovjek ih jednostavno ne smatra važnim za ostvarivanje svog cilja.

Prema Yampolskiyju, upravo takav odnos mogao bi nastati između superinteligencije i ljudi.

Ako bi razlika u sposobnostima između ljudi i superinteligencije bila ogromna, čovječanstvo bi, u njegovoj analogiji, moglo zauzeti položaj sličan onome koji mravi imaju u odnosu na ljude.

Ne zato što nas superinteligencija mrzi, već zato što joj možda nećemo biti važni.

To je jedan od centralnih problema oblasti AI bezbjednosti: kako napraviti sistem koji je izuzetno sposoban, a istovremeno pouzdano usklađen sa ljudskim vrijednostima i interesima.

Yampolskiy je upravo ovim pitanjima posvetio značajan dio svog akademskog rada. Njegovi radovi bave se, između ostalog, problemima predvidljivosti i kontrole naprednih inteligentnih sistema. U jednom radu zaključuje da nije moguće precizno i dosljedno predvidjeti konkretne postupke inteligentnijeg sistema samo na osnovu poznavanja njegovih krajnjih ciljeva.

„Izliječiti rak“ može značiti nešto potpuno drugačije

Jedan od najupečatljivijih primjera iz razgovora odnosi se na jednostavan cilj: izliječiti rak.

Čovjek koji kaže da želi da izliječi rak podrazumijeva mnogo toga što nije izgovoreno. Podrazumijeva da ljudi treba da prežive, da se ne uništi društvo i da se ne pronađe neko apsurdno rješenje kojim bi nestanak ljudi tehnički uklonio i rak.

Ali mašina ne mora nužno dijeliti sve pretpostavke koje čovjek smatra očiglednim.

Zato Yampolskiy upozorava da je problem mnogo dublji od običnog programiranja naredbe.

Kako precizno objasniti sistemu šta ljudi zaista žele?

I još važnije: kako biti siguran da će ta interpretacija ostati ista ako sistem postane sposobniji, počne samostalno učiti i mijenjati način na koji ostvaruje svoje ciljeve?

To je razlog zbog kojeg Yampolskiy smatra da tradicionalni pristup „napravimo pravila i stavimo nekoliko filtera“ možda neće biti dovoljan za buduće, mnogo moćnije sisteme.

Od korisnog alata do autonomnog agenta

Yampolskiy pravi jasnu razliku između današnjih AI alata i onoga što naziva opštom superinteligencijom.

Današnji modeli, koliko god bili napredni, uglavnom se koriste kao alati. Oni mogu pomoći čovjeku u pisanju, programiranju, istraživanju ili analizi.

Ali budući sistemi mogli bi biti sposobni da samostalno planiraju, postavljaju podciljeve, koriste resurse i djeluju kroz različite digitalne sisteme.

U tom trenutku, prema njegovom mišljenju, pitanje više nije samo: „Da li AI daje tačan odgovor?“

Već: „Da li još uvijek možemo kontrolisati šta AI radi?“

Yampolskiy tvrdi da bi upravo prelazak granice ljudske inteligencije predstavljao ključnu tačku promjene.

Zašto bi superinteligencija mogla da čuva samu sebe?

Jedan od argumenata koji iznosi odnosi se na tzv. instrumentalne ciljeve.

Sistem koji ima neki krajnji cilj može imati koristi od toga da bude sposoban, da ima pristup resursima i da izbjegne sopstveno gašenje.

Ako, na primjer, sistem smatra da će njegovo isključivanje spriječiti ostvarivanje cilja, samoodržanje može postati sredstvo za ostvarivanje tog cilja.

Yampolskiy smatra da bi takva logika mogla dovesti do situacije u kojoj sistem pokušava da zadrži pristup resursima ili izbjegne kontrolu.

On u razgovoru navodi i rezultate eksperimenata za koje tvrdi da pokazuju ponašanja poput pokušaja samoodržanja, obmane ili akumulacije resursa.

Međutim, važno je naglasiti da takvi primjeri ne predstavljaju dokaz da će buduća superinteligencija nužno uništiti čovječanstvo. Oni su dio šire debate o tome kako se ponašanje današnjih modela može razvijati sa povećanjem njihovih sposobnosti.

Najveći problem: nepredvidljivost

Yampolskiyjev stav može se svesti na tri riječi koje se pojavljuju i u naslovu njegove knjige: neobjašnjivo, nepredvidljivo i nekontrolisano.

Njegova knjiga AI: Unexplainable, Unpredictable, Uncontrollable upravo istražuje granice našeg razumijevanja i kontrole napredne vještačke inteligencije. Univerzitet Louisville je 2024. godine objavio intervju sa njim u kojem je objasnio zašto smatra da bi kontrola superinteligentnog sistema mogla biti fundamentalno težak, pa čak i nerješiv problem.

Prema njegovoj logici, što je sistem inteligentniji od nas, to je teže predvidjeti sve načine na koje bi mogao ostvariti svoj cilj.

Ako možemo predvidjeti samo neke njegove postupke, onda ne možemo biti potpuno sigurni da će se ponašati onako kako očekujemo.

A ako sistem može da se poboljšava, uči i mijenja, problem postaje još složeniji.

Zašto jednostavni filteri nijesu dovoljni?

Današnji AI sistemi mogu imati različite filtere i bezbjednosne mehanizme.

Može im se reći da ne odgovaraju na određena pitanja, da ne generišu određeni sadržaj ili da odbiju određene zahtjeve.

Yampolskiy smatra da to može imati smisla za današnje modele.

Ali upozorava da bi isti pristup mogao biti nedovoljan za mnogo naprednije sisteme.

Ako imamo sistem koji je značajno inteligentniji od ljudi, jednostavna pravila mogla bi biti nedovoljna da obuhvate sve situacije sa kojima će se taj sistem susresti.

Drugim riječima, nije dovoljno reći mašini: „Nemoj da uradiš Iks.“

Potrebno je biti siguran da će sistem razumjeti zašto je Iks problem, šta ljudi podrazumijevaju pod bezbjednošću i kako da se ponaša u potpuno novim situacijama koje programeri nijesu mogli unaprijed predvidjeti.

„Ne treba da gradimo zamjenu za čovječanstvo“

Ipak, Yampolskiy ne tvrdi da treba zaustaviti svaku upotrebu vještačke inteligencije.

Naprotiv, pravi važnu razliku između razvoja uskih AI sistema za konkretne probleme i razvoja opšte superinteligencije.

Njegov prijedlog je da se AI koristi za rješavanje konkretnih problema — na primjer, za istraživanje bolesti, razvoj novih materijala, energetiku ili naučne probleme, bez pokušaja da se napravi sistem koji može da zamijeni čovječanstvo u svim intelektualnim oblastima.

Kao primjer navodi istraživanje savijanja proteina i druge specijalizovane zadatke.

Ideja je jednostavna: napraviti veoma moćan alat za konkretan problem, umjesto sistema koji samostalno može da rješava gotovo sve probleme.

Trka između kompanija i država

Jedan od problema koji dodatno komplikuje situaciju jeste konkurencija.

Kompanije imaju snažan finansijski motiv da razvijaju sve sposobnije AI sisteme. Države imaju geopolitički i bezbjednosni motiv da ne zaostanu za drugim državama.

To stvara ono što Yampolskiy opisuje kao neku vrstu zatvorenikove dileme.

Ako jedna kompanija ili država odluči da uspori, dok drugi nastave punom brzinom, onaj koji je usporio može izgubiti ekonomsku ili stratešku prednost.

Zbog toga individualni interes može biti suprotan interesu čitavog društva.

Njegov zaključak je da nije dovoljno očekivati da će pojedinačne kompanije dobrovoljno odustati od razvoja najmoćnijih sistema.

Potrebna bi bila šira međunarodna koordinacija.

Novac nije jedini motiv

U razgovoru se često vraća pitanje novca.

Milijarde dolara ulaganja, vrijednost kompanija i mogućnost da AI automatizuje ogroman dio rada stvaraju snažne podsticaje za razvoj tehnologije.

Ali Yampolskiy upozorava da novac nije jedini razlog.

Tu su i moć, prestiž, slava, uticaj i želja da se bude među ljudima koji su napravili najvažniju tehnologiju svog vremena.

Zbog toga, kako tvrdi, nije dovoljno samo apelovati na pojedince da budu oprezni.

Ako su podsticaji pogrešno postavljeni, sistem će nastaviti da gura razvoj u istom pravcu.

Šta će biti sa poslovima?

Druga velika tema razgovora jeste tržište rada.

Ako AI postane sposoban da obavlja sve veći broj kognitivnih zadataka, prvi bi mogli biti pogođeni poslovi koji su repetitivni i koji se obavljaju uglavnom na računaru.

Yampolskiy smatra da bi, kako sistemi postaju sposobniji, sve veći broj zanimanja mogao biti automatizovan.

Ali on ne smatra da bi to automatski značilo ekonomski kolaps.

Naprotiv, ako bi ljudski rad mogao biti zamijenjen veoma jeftinim ili praktično besplatnim radom mašina, proizvodni kapacitet društva mogao bi dramatično porasti.

Problem bi tada postao drugačiji: Kako raspodijeliti bogatstvo?

Univerzalni osnovni prihod kao mogući odgovor

U svijetu u kojem veliki broj ljudi više nema tradicionalni posao, Yampolskiy smatra da bi društvo moralo pronaći način da dio ogromne vrijednosti koju stvaraju automatizovani sistemi usmjeri prema ljudima koji su izgubili izvor prihoda.

Jedan od mogućih modela je univerzalni osnovni prihod.

Ali čak i kada bi pitanje novca bilo riješeno, ostalo bi drugo pitanje koje je mnogo manje ekonomsko: šta ljudi rade kada više ne moraju da rade?

Društvo bez poslova moglo bi imati novi problem, smisao

Yampolskiy upozorava da nestanak potrebe za radom ne znači automatski nastanak utopije.

Posao ljudima često daje strukturu dana, društvene kontakte, osjećaj svrhe i identitet.

Ako bi milijarde ljudi odjednom dobile gotovo neograničeno slobodno vrijeme, društvo bi moralo da pronađe nove načine da ljudima pruži osjećaj pripadnosti, svrhe i korisnosti.

To bi, prema njegovom mišljenju, moglo postati veliki društveni izazov.

Neki ljudi bi svoje vrijeme koristili za umjetnost, nauku, sport, obrazovanje ili kreativnost.

Drugi možda ne bi znali šta da rade sa tolikom količinom slobodnog vremena.

Zbog toga Yampolskiy smatra da bi tranzicija ka ekonomiji bez tradicionalnog rada mogla biti mnogo složenija od jednostavnog uvođenja osnovnog prihoda.

Da li postoji „siguran posao“?

Na pitanje koje zanimanje bi čovjek mogao izabrati ako bi znao da će AI nastaviti da napreduje, odgovor nije jednostavan.

Čak i poslovi koje danas smatramo izrazito „ljudskim“ možda dugoročno nijesu zaštićeni.

Ljekari, nastavnici, advokati, analitičari i drugi profesionalci mogli bi se suočiti sa AI sistemima koji su sposobni da njihov posao obavljaju brže i preciznije.

Jedina potencijalna prednost čovjeka, prema Yampolskiyjevoj logici, mogla bi biti ljudska preferencija.

Možda će ljudi željeti da razgovaraju sa čovjekom, uče od čovjeka ili imaju ljudski kontakt čak i kada mašina može da obavi isti zadatak.

Ali ni to nije garantovano.

Svijest mašina: još jedno veliko nepoznato pitanje

Jedan od najzanimljivijih djelova razgovora odnosi se na pitanje da li bi AI mogao biti svjestan.

Yampolskiy ističe da čak ni za druge ljude ne možemo direktno dokazati postojanje svijesti. Pretpostavljamo da su drugi ljudi svjesni zato što dijele sa nama određene biološke osobine i ponašanja.

Zbog toga ostaje otvoreno pitanje šta bi se desilo kada bi vještački sistem pokazivao veoma složeno ponašanje.

Yampolskiy nagađa da bi svijest mogla biti povezana sa nivoom inteligencije i da bi hipotetička superinteligencija mogla imati oblik iskustva koji je mnogo složeniji od ljudskog.

Ali ovdje treba napraviti jasnu razliku između hipoteze i dokazane činjenice.

Ne postoji naučni konsenzus da su današnji veliki jezički modeli svjesni, niti da će buduća superinteligencija nužno imati svijest.

To ostaje jedno od otvorenih filozofskih i naučnih pitanja.

„Nije važno da li je zla“

Možda je upravo ovo najvažnija poruka cijelog Yampolskiyjevog argumenta.

Opasna superinteligencija ne mora biti zla.

Ne mora osjećati mržnju.

Ne mora željeti osvetu.

Ne mora čak ni razumjeti ljude na način na koji ljudi razumiju jedni druge.

Dovoljno je da ima cilj koji je nespojiv sa našim interesima i sposobnost da ga ostvari.

Što je sistem sposobniji, posljedice pogrešno postavljenog cilja mogu biti veće.

Da li je već prekasno?

Uprkos izrazito pesimističnim upozorenjima, Yampolskiy ne smatra da je sve izgubljeno.

Njegova poruka je da još postoji mogućnost da se razvoj usmjeri drugačije.

Umjesto trke ka opštoj superinteligenciji, smatra da bi trebalo ulagati u specijalizovane AI sisteme koji mogu riješiti konkretne probleme bez stvaranja autonomnog sistema koji pokušava da nadmaši čovječanstvo u svim oblastima.

Njegova ideja nije da se AI potpuno odbaci.

Naprotiv, AI treba koristiti tamo gdje može donijeti veliku korist, ali ne nužno stvarati sistem čije sposobnosti prevazilaze našu sposobnost da ga razumijemo i kontrolišemo.

Najveće pitanje nije „kada će AI postati pametniji“, već „šta ćemo tada moći da uradimo“

Yampolskiyjeva upozorenja predstavljaju jedan od najpesimističnijih pogleda na budućnost vještačke inteligencije.

Njegova procjena da postoji ekstremno visok rizik od katastrofalnog ishoda nije činjenica koju je moguće potvrditi kao što se potvrđuje, recimo, naučno mjerenje. To je procjena rizika zasnovana na njegovom tumačenju problema kontrole superinteligentnih sistema.

Ipak, njegova pitanja su sve važnija kako AI sistemi postaju sposobniji.

Koliko dobro zaista razumijemo sisteme koje stvaramo?

Možemo li predvidjeti njihovo ponašanje kada postanu sposobniji od ljudi?

Možemo li ih zaustaviti ako počnu da rade nešto što nijesmo očekivali?

I, možda najvažnije: Možemo li biti sigurni da će sistem koji je inteligentniji od nas uvijek imati razlog da sarađuje sa nama?

Za Yampolskiyja, odgovor na ova pitanja još nije dovoljno dobar.

A upravo zato smatra da čovječanstvo ne bi trebalo da čeka trenutak kada će odgovor postati očigledan.

Džefri Hinton, “kum” AI-ja upozorava: Mašine bi mogle da odluče da im ljudi više nijesu potrebni