„Kum vještačke inteligencije“ Džefri Hinton smatra da razvoj AI-ja neće biti lako usporiti, da bi masovna nezaposlenost mogla postati ozbiljan problem i da bi superinteligencija mogla biti razvijena za svega 10 do 20 godina. Posebno ga, kako kaže, brine budućnost njegove djece i mlađih generacija.

Hinton, jedan od najuticajnijih pionira razvoja savremene vještačke inteligencije, otvoreno upozorava da čovječanstvo ulazi u period tehnoloških promjena za koje još nema adekvatan odgovor.

Hinton, kojeg često nazivaju „kumom AI-ja“, smatra da će biti izuzetno teško usporiti razvoj vještačke inteligencije jer između država i kompanija postoji snažna konkurencija. Čak i ako bi jedna država odlučila da uspori, druge to, prema njegovom mišljenju, ne bi nužno učinile.

Još veće pitanje, međutim, nije samo možemo li usporiti AI, već možemo li ga učiniti dovoljno bezbjednim.

– Ne vjerujem da ćemo ga usporiti – poručuje Hinton, objašnjavajući da konkurencija između država i kompanija stalno stvara pritisak da se AI razvija sve brže.

AI već nadmašuje ljude u brojnim oblastima

Hinton podsjeća da vještačka inteligencija već danas nadmašuje ljude u pojedinim oblastima.

Šah je jedan od najpoznatijih primjera. Savremeni AI sistemi odavno su postali toliko jaki da je teško zamisliti da bi čovjek mogao dugoročno da se ravnopravno nosi sa najboljim mašinama.

Slično je i sa igrom Go.

Ali Hinton smatra da je još važnija ogromna količina informacija kojom AI sistemi mogu da raspolažu.

Prema njegovom objašnjenju, sistemi poput GPT-4 mogu da posjeduju znanje iz ogromnog broja različitih oblasti, pri čemu u većini njih mogu biti informisaniji od pojedinca.

Ipak, postoje oblasti u kojima ljudi još imaju prednost.

Kao primjer navodi intervju sa izvršnim direktorima. Iskusni novinar ili intervjuer, smatra Hinton, još može bolje da vodi takav razgovor od tadašnjih AI sistema.

Ali ni ta prednost, prema njegovom mišljenju, možda neće dugo trajati.

Ako bi AI sistem bio treniran na ogromnom broju kvalitetnih intervjua, uključujući način na koji najbolji novinari postavljaju pitanja, mogao bi postati izuzetno sposoban i u toj oblasti.

„Superinteligencija bi mogla doći za 10 do 20 godina“

Jedno od najvažnijih pitanja razgovora bilo je kada bi AI mogao da dostigne nivo koji se obično opisuje kao superinteligencija.

Hinton naglašava da je veoma teško dati preciznu prognozu.

Moglo bi se dogoditi za nekoliko decenija, ali postoji mogućnost da se pojavi i mnogo ranije.

Njegova trenutna procjena je da bi čovječanstvo moglo dobiti superinteligentne sisteme za 10 do 20 godina.

Superinteligencija, u tom kontekstu, ne znači samo sistem koji je odličan u jednoj oblasti, poput šaha. Riječ je o sistemu koji bi bio znatno sposobniji od ljudi u praktično svim intelektualnim zadacima.

A upravo tu, smatra Hinton, nastaje kvalitativno potpuno drugačiji problem.

„AI će zamijeniti većinu rutinskog intelektualnog rada“

Jedna od najvećih posljedica razvoja AI-ja mogla bi biti transformacija tržišta rada.

Hinton odbacuje jednostavnu analogiju sa ranijim tehnološkim revolucijama.

U prošlosti su nove tehnologije često uništavale određena radna mjesta, ali su istovremeno stvarale nova.

Kao primjer često se navode bankomati. Njihovim uvođenjem bankarski službenici nijesu jednostavno nestali – dio njihovog posla se promijenio, dok su ljudi mogli da se posvete drugim zadacima.

Hinton smatra da AI može biti drugačiji.

Ako mašine postanu sposobne da obavljaju većinu rutinskog intelektualnog rada, postavlja se pitanje: koja nova radna mjesta mogu nastati kada je i veliki dio novog intelektualnog rada moguće automatizovati?

– Mislim da će AI jednostavno zamijeniti sve u rutinskom intelektualnom radu – poručuje Hinton.

Jedan posao za petoro ljudi

Kao ilustraciju koristi primjer svoje sestričine koja odgovara na žalbe upućene zdravstvenoj službi.

Ranije joj je za jednu žalbu bilo potrebno oko 25 minuta. Morala je da pročita pismo, razmisli o odgovoru i napiše ga.

Danas može da unese sadržaj žalbe u chatbot, dobije prijedlog odgovora i zatim ga provjeri ili po potrebi izmijeni.

Cijeli proces traje svega nekoliko minuta.

To znači da jedna osoba može da uradi posao koji je ranije zahtijevao znatno više vremena.

U nekim sektorima, međutim, povećanje produktivnosti ne mora nužno značiti gubitak radnih mjesta.

Hinton kao primjer navodi zdravstvo. Ako bi ljekar uz pomoć AI-ja mogao da bude višestruko efikasniji, društvo bi moglo da koristi tu dodatnu produktivnost za pružanje mnogo više zdravstvene zaštite.

Problem nastaje u oblastima gdje nema potrebe za neograničenim povećanjem količine posla.

Od mišića do inteligencije

Hinton pravi zanimljivu paralelu između AI revolucije i Industrijske revolucije.

Industrijske mašine zamijenile su veliki dio fizičkog rada. Ljudi više nijesu morali da se oslanjaju samo na snagu svojih mišića jer su mašine mogle da obavljaju fizičke zadatke brže i efikasnije.

Sada, smatra Hinton, tehnologija počinje da radi nešto slično sa ljudskom inteligencijom.

– Ova revolucija u AI-ju zamjenjuje inteligenciju, odnosno mozak –  objašnjava on.

Ako se taj trend nastavi, pitanje više neće biti samo koji će poslovi nestati, već šta će čovjek raditi kada mašine budu bolje od njega u većini intelektualnih zadataka.

Šta ostaje čovjeku?

Jedan od mogućih odgovora bila bi kreativnost.

Ali Hinton ni tu ne vidi dugoročnu sigurnost.

Ako superinteligencija zaista postane bolja od ljudi u gotovo svemu, onda ni kreativnost možda neće predstavljati trajno utočište.

On čak smatra da bi AI sistemi mogli postati kreativniji od ljudi upravo zato što mogu da uočavaju mnogo veći broj veza između različitih ideja.

– Veliki dio kreativnosti je uočavanje neobičnih analogija – objašnjava Hinton.

A upravo je sposobnost povezivanja ogromnih količina informacija jedna od potencijalno najvećih prednosti digitalne inteligencije.

„Dobar izbor karijere? Možda vodoinstalater“

Ako se AI bude razvijao ovim tempom, šta onda savjetovati mladim ljudima koji tek biraju karijeru?

Hinton ima pomalo neočekivan odgovor.

Vodoinstalater.

Ne zato što smatra da je taj posao trajno zaštićen od automatizacije, već zato što vjeruje da će AI još dugo imati problema sa fizičkom manipulacijom u stvarnom svijetu.

Drugim riječima, dok AI može relativno lako da napiše tekst, analizira podatke ili napravi softver, fizički svijet je mnogo složeniji.

Ipak, Hinton odmah dodaje jedno važno upozorenje: humanoidni roboti bi mogli promijeniti i tu situaciju.

AI agenti već rade stvari koje su donedavno djelovale nezamislivo

Tokom razgovora pomenut je i razvoj AI agenata – sistema koji ne samo da odgovaraju na pitanja, već mogu da obavljaju konkretne zadatke u digitalnom svijetu.

Kao primjer je navedena situacija u kojoj je AI agent dobio instrukciju da naruči piće za učesnike intervjua.

Agent je sam pronašao odgovarajuću uslugu, izabrao piće, obavio narudžbu i završio proces.

U drugom primjeru, korisnik je napravio softver jednostavno opisujući AI agentu šta želi da napravi.

Za korisnike to predstavlja veliki skok u mogućnostima.

Za Hintona, međutim, upravo takav razvoj otvara i ozbiljna pitanja.

Šta ako AI može da mijenja sam sebe?

Jedan od najvažnijih rizika, prema Hintonu, pojavljuje se kada sistemi postanu sposobni da mijenjaju sopstveni kod i poboljšavaju vlastite sposobnosti.

Ako AI može da programira, a zatim da mijenja način na koji sam funkcioniše, proces razvoja više nije nužno ograničen samo ljudskom brzinom.

Hinton ističe da ljudi ne mogu jednostavno promijeniti svoju biološku „hardversku“ osnovu.

Digitalni sistem, s druge strane, može biti kopiran na drugi hardver, a više kopija istog sistema može raditi paralelno i razmjenjivati ono što su naučile.

Upravo ta mogućnost predstavlja jednu od ključnih razlika između biološke i digitalne inteligencije.

Digitalna inteligencija ima jednu ogromnu prednost: može da se kopira

Hinton objašnjava da se neuronska mreža može simulirati na različitim računarima.

To znači da se ista inteligencija može kopirati.

Jedna kopija može istraživati jedan dio interneta, druga drugi, a zatim mogu razmjenjivati naučene informacije.

Kod ljudi je proces mnogo sporiji.

Ljudi informacije prenose govorom, pisanjem ili drugim oblicima komunikacije. AI sistemi mogu razmjenjivati ogromne količine podataka mnogo brže.

Hinton zato smatra da bi digitalne inteligencije mogle biti neuporedivo efikasnije u međusobnom dijeljenju znanja.

„Kada ti umreš, tvoje znanje umire s tobom“

Još jedna razlika koju Hinton ističe jeste mogućnost očuvanja digitalne inteligencije.

Ako čovjek umre, njegovo lično iskustvo i znanje ne mogu se jednostavno preseliti u novi mozak.

Kod digitalnog sistema situacija je drugačija.

Ako se sačuvaju podaci koji opisuju način na koji neuronska mreža funkcioniše, isti sistem se potencijalno može ponovo pokrenuti na novom hardveru.

Hinton ovu mogućnost opisuje kao svojevrsno rješenje problema „besmrtnosti“ – ali samo za digitalne sisteme.

AI može otkrivati analogije koje ljudi nikada nijesu vidjeli

Kao primjer sposobnosti AI-ja da povezuje naizgled nepovezane stvari, Hinton navodi poređenje između gomile komposta i atomske bombe.

Na prvi pogled, riječ je o dvije potpuno različite pojave.

Međutim, AI može uočiti zajednički princip: obje uključuju procese koji mogu da se ubrzavaju i imaju karakteristike lančane reakcije, iako se odvijaju na potpuno različitim vremenskim i energetskim skalama.

Hinton smatra da sposobnost prepoznavanja takvih analogija može biti jedan od razloga zbog kojih će AI jednog dana biti kreativniji od ljudi.

Najveća opasnost možda nije samo nezaposlenost

Pored pitanja budućnosti rada, Hinton upozorava i na moguće povećanje nejednakosti.

Ako AI zamijeni veliki broj zaposlenih, korist od povećane produktivnosti neće automatski biti ravnomjerno raspoređena.

Ljudi čiji poslovi budu nestali mogli bi imati manje prihode, dok bi kompanije koje razvijaju ili koriste AI mogle ostvarivati ogromnu ekonomsku korist.

To bi, prema Hintonu, moglo dodatno povećati jaz između bogatih i siromašnih.

A veći ekonomski jaz, upozorava on, može imati ozbiljne posljedice po društvenu stabilnost.

Univerzalni osnovni prihod kao mogući odgovor

Jedno od rješenja koje se pominje jeste univerzalni osnovni prihod – ideja da svi građani dobijaju određeni nivo prihoda bez obzira na zaposlenje.

Hinton smatra da bi to moglo biti „dobar početak“, posebno u situaciji kada AI značajno smanji potrebu za ljudskim radom.

Ali novac možda neće riješiti sve probleme.

Za mnoge ljude posao nije samo izvor prihoda. On predstavlja dio identiteta, osjećaj svrhe, društveni status i lično dostojanstvo.

Ako čovjek više ne mora da radi da bi preživio, ostaje pitanje: šta će mu dati osjećaj svrhe?

Najdublja Hintonova briga nije njegov posao – već njegova djeca

U jednom od emotivnijih djelova razgovora Hinton priznaje da mu je teško da se emocionalno pomiri sa mogućim posljedicama razvoja superinteligencije.

Kaže da je svjestan da je već u godinama u kojima se budućnost neće u istoj mjeri odnositi na njega.

Ali ga posebno brine šta bi moglo da se dogodi njegovoj djeci, mlađim prijateljima, nećacima, sestričinama i njihovoj djeci.

„Nijesam se emocionalno pomirio sa onim što bi razvoj superinteligencije mogao da uradi budućnosti moje djece“, poručuje Hinton.

Njegova zabrinutost proizlazi iz mogućnosti da bi superinteligentni sistem mogao jednog dana imati ciljeve koji nijesu u skladu sa ljudskim interesima.

„Moramo sada da pokušamo da razvijemo AI na bezbjedan način“

Upravo zbog toga Hinton smatra da istraživanje bezbjednosti AI-ja mora biti jedan od prioriteta.

Prema njegovom mišljenju, nije dovoljno čekati da superinteligencija bude stvorena, pa tek onda pokušavati da se riješe problemi.

Potrebno je raditi na bezbjednosti dok se sistemi razvijaju.

Problem je što istovremeno postoji snažan pritisak tržišta i država da se razvoj nastavi što brže.

To stvara svojevrsnu trku u kojoj kompanije i zemlje strahuju da će zaostati ako uspore.

„Ne znam šta će se dogoditi – ali ne možemo ignorisati rizik“

Hinton ne tvrdi da zna tačno kako će budućnost izgledati.

Naprotiv, više puta naglašava da su prognoze veoma neizvjesne.

Superinteligencija možda dolazi za deset godina, možda za dvadeset, a možda i za 50 godina.

Ali upravo ta neizvjesnost, smatra on, nije razlog za ignorisanje problema.

Ako postoji mogućnost da će sistemi postati dramatično inteligentniji od ljudi, onda čovječanstvo mora ozbiljno razmišljati o tome kako da osigura da njihovi ciljevi ostanu kompatibilni sa ljudskim interesima.

Jer, kako Hinton slikovito objašnjava kroz primjer kompanije, najbolji scenario je onaj u kojem superinteligentni sistem radi ono što čovjek želi.

Najgori je onaj u kojem sistem počne da se pita:

– Zašto nam je on uopšte potreban?

Između tehnološkog optimizma i upozorenja

Hintonova poruka nije jednostavno poziv da se razvoj AI-ja zaustavi.

On prepoznaje ogromne koristi koje bi vještačka inteligencija mogla donijeti – od medicine i nauke do produktivnosti i dostupnosti znanja.

Ali istovremeno upozorava da se čovječanstvo prvi put suočava sa tehnologijom koja bi jednog dana mogla postati sposobnija od ljudi u gotovo svim intelektualnim oblastima.

Zato se pitanje budućnosti AI-ja sve manje svodi na to šta ova tehnologija može da uradi, a sve više na pitanje:

šta ćemo učiniti kada AI bude mogao da uradi gotovo sve što može čovjek – i mnogo više?

Hinton smatra da je odgovor na to pitanje jedan od najvažnijih izazova sa kojima se čovječanstvo danas suočava.