Bivši glavni poslovni direktor Googleovog istraživačkog laboratorija Iks, Mo Gavdat, upozorava da se čovječanstvo približava trenutku u kojem bi umjetna inteligencija mogla postati toliko napredna da ljudi više neće moći imati stvarnu kontrolu nad sistemima koje su sami stvorili. Prema njegovoj procjeni, vještačka inteligencija mogla bi nadmašiti ljudsku inteligenciju već do 2027. godine, dok bi do 2045. godine, ukoliko se sadašnji trend razvoja nastavi, mogla biti čak milijardu puta inteligentnija od ljudi.
Gawdat svoje upozorenje ne temelji samo na teorijskim pretpostavkama. Kao bivši rukovodilac unutar Google Iks-a, bio je neposredno uključen u period kada su sistemi umjetne inteligencije počeli pokazivati sposobnosti koje su, kako kaže, iznenadile i same ljude koji su ih razvijali.
Njegovo iskustvo počinje još u vrijeme kada je razvoj vještačke inteligencije bio daleko manje vidljiv široj javnosti.
Od autonomne vožnje do prvih znakova mašinske inteligencije
Prema Gawdatovom sjećanju, 2008. godina bila je posebno značajna za razvoj AI sistema. Tada je započeo rad na samovozećim automobilima, zasnovan na ideji da bi automobili mogli razviti određeni nivo inteligencije koji bi bio uporediv sa inteligencijom vozača i koji bi im omogućio da samostalno upravljaju vozilom.
Već početkom 2009. godine Google je objavio istraživanje koje je kasnije postalo poznato kao „cat paper“, odnosno rad o prepoznavanju mačaka. Sistem je dobio zadatak da analizira YouTube video-snimke bez prethodne instrukcije šta konkretno treba da traži.
Mašina je, prema Gawdatovom opisu, sama identifikovala određeni obrazac i zaključila da je pronašla nešto značajno. Kada su istraživači zatražili da pokaže šta je pronašla, ispostavilo se da je sistem prepoznao mačke.
Nije, međutim, prepoznao samo jednu mačku. Sistem je uspio da izdvoji karakteristike onoga što čini mačku mačkom i da pronađe veliki broj takvih primjera u video-sadržaju.
Za Gawdatu je to predstavljao jedan od prvih velikih trenutaka u kojima je postalo jasno da mašine počinju pokazivati oblik inteligencije koji nije jednostavno rezultat unaprijed programirane naredbe.
Istovremeno, DeepMind je radio na sistemima koji su učili igrati Atari videoigre, što je dodatno pokazivalo sposobnost mašina da kroz iskustvo uče kako da rješavaju probleme.
Takva dostignuća kasnije su počela da se primjenjuju u različitim oblastima, među kojima su samovozeći automobili i brojni drugi projekti.
Eksperiment sa robotskim rukama koji je promijenio njegov pogled na AI
Jedan od eksperimenata koji je Gawdatu ostao posebno upečatljiv odnosio se na robotske ruke, odnosno takozvane grippere.
Cilj je bio naučiti robotske ruke da hvataju predmete koje prethodno nisu bile posebno programirane da prepoznaju ili uzmu.
Za čovjeka je hvatanje predmeta jednostavna svakodnevna radnja. Za mašinu, međutim, riječ je o veoma složenom matematičkom problemu. Čovjek kroz djetinjstvo razvija sposobnost hvatanja kroz pokušaje i greške: posegne za predmetom, ne uspije, pokuša ponovo i postepeno nauči kako da ga pravilno uhvati.
Istraživači su odlučili da sličan princip primijene na robotske sisteme.
Napravili su svojevrsnu „farmu“ robotskih ruku, ispred kojih su postavili kutije sa različitim predmetima. Među njima su bile i dječje igračke. Roboti su pokušavali da ih podignu, često bez uspjeha.
Svaki neuspjeli pokušaj bio je dio procesa učenja. Sistem je putem kamere mogao da utvrdi da određeni način hvatanja nije uspio, nakon čega bi algoritam pokušavao nešto drugo.
Eksperiment je zahtijevao značajna ulaganja jer robotske ruke u to vrijeme nisu bile jeftine.
Gawdat je često prolazio pored ovog eksperimenta na putu do svoje kancelarije. Nakon nekoliko sedmica neuspješnih pokušaja, jednog petka uveče vidio je kako jedna robotska ruka konačno uspijeva da podigne žutu lopticu.
Žuta lopta bila je samo jedan predmet, ali je za istraživače predstavljala važan trenutak. Gawdat se, kako opisuje, našalio sa timom da je za jednu žutu lopticu potrošeno nekoliko miliona dolara.
Međutim, ono što se dogodilo nakon toga mnogo ga je više impresioniralo.
Kada se u ponedjeljak ujutro vratio na posao, robotske ruke su već počele da hvataju istu lopticu. Nekoliko sedmica kasnije, prema njegovim riječima, roboti su uspijevali da hvataju praktično sve predmete.
Upravo taj događaj za Gawdatu predstavlja jednu od ključnih karakteristika vještačke inteligencije: brzinu kojom sistem napreduje nakon što pronađe prvi uspješan obrazac.
Čovjeku su za razvoj određene sposobnosti potrebne godine iskustva. Mašina, tvrdi on, može nakon pronalaska obrasca vrlo brzo proširiti naučeno na ogroman broj novih situacija.
„Ne poboljšava se kao čovjek – eksplodira“
Gawdat smatra da javnost često ne shvata koliko brzo AI sistemi mogu napredovati.
Prema njegovom objašnjenju, mašine uče kroz pokušaje i greške na način koji podsjeća na način na koji djeca uče određene fizičke vještine. Međutim, ključna razlika je u tome što mašina ne mora da spava, ne umara se i može izvršiti ogroman broj pokušaja u kratkom vremenu.
Zbog toga, kada sistem pronađe obrazac koji funkcioniše, napredak može biti izuzetno brz.
Gawdat smatra da upravo taj trenutak predstavlja razlog za ozbiljnu zabrinutost. Njegov strah nije samo da će AI postati inteligentan, već da bi razlika između ljudske i mašinske inteligencije mogla postati toliko velika da ljudi više neće moći razumjeti ili kontrolisati procese koje AI pokreće.
Pitanje kontrole: kako zaustaviti nešto mnogo inteligentnije od čovjeka?
U računarstvu postoji čitav koncept poznat kao problem kontrole AI sistema. Cilj je razviti mehanizme kojima bi se osiguralo da vještačka inteligencija djeluje bezbjedno i u skladu sa ljudskim interesima.
Gawdat, međutim, postavlja jednostavno pitanje: ako sistem postane mnogo inteligentniji od čovjeka, kako čovjek može kontrolisati takav sistem?
On tvrdi da je teoretski moguće ugraditi kontrolne i sigurnosne mehanizme u kod. Istovremeno iznosi veoma kritičnu tvrdnju da, prema njegovom iskustvu i saznanjima, razvojni timovi koje poznaje nisu sistematski ugrađivali takve kontrolne mehanizme u svoje sisteme jer to zahtijeva dodatno vrijeme i trud i nije nužno ono za šta su plaćeni.
Kao ilustraciju mogućeg ubrzanja inteligencije navodi poređenje između GPT-3.5 i GPT-4, tvrdeći da je GPT-4 u određenim sposobnostima bio višestruko napredniji.
Iz toga izvodi veoma dalekosežnu projekciju: ukoliko bi se takav obrazac napretka ponovio, smatra da bi u relativno kratkom periodu mogla nastati vještačka inteligencija čije bi sposobnosti u zadacima znanja i obrade informacija bile daleko iznad ljudskog nivoa.
U jednom dijelu razgovora navodi i procjenu o inteligenciji koja bi mogla doseći nivo koji poredi sa IQ-om od 1.500, dok u drugom dijelu, koristeći ekstremnu ilustraciju, govori i o vrijednosti od 15.500. Njegova osnovna poenta nije konkretan broj, već ogromna razlika između ljudske i mašinske sposobnosti ako se sadašnji trend nastavi.
Za poređenje koristi odnos čovjeka prema genijalcu poput Alberta Einsteina: ako se čovjeku već čini ogromna razlika između njega i izuzetno inteligentnog pojedinca, još je teže zamisliti odnos između čovjeka i sistema koji bi bio višestruko inteligentniji od najboljih ljudskih umova.
Procjena: AI bi mogao nadmašiti ljude već 2027.
Gawdat se razlikuje od dijela stručnjaka kada govori o trenutku u kojem bi vještačka inteligencija mogla dostići opštu inteligenciju koja bi bila bolja od ljudske u praktično svim zadacima.
Prema njegovim riječima, mnogi naučnici taj trenutak očekuju oko 2029. godine. Njegova procjena je agresivnija: smatra da bi se to moglo dogoditi 2027. godine ili čak ranije.
On taj trenutak opisuje kao svojevrsnu „tačku singularnosti“ — trenutak u kojem bi postalo očigledno da je AI u većini intelektualnih sposobnosti daleko ispred ljudi.
Ako se razvoj nastavi sadašnjim tempom, njegova dugoročna procjena još je dramatičnija. Do 2045. godine, tvrdi, AI bi mogao biti milijardu puta inteligentniji od ljudi.
Upravo zbog toga smatra paradoksalnim uvjerenje da će čovječanstvo moći jednostavno kontrolisati sistem koji bi mogao biti milijardu puta sposobniji od njega.
Tri granice koje, prema Gawdatu, čovječanstvo nije trebalo preći
Gawdat posebno upozorava na tri odluke za koje smatra da su predstavljale kritične granice u razvoju AI sistema.
Prva je omogućavanje AI sistemima pristupa otvorenom internetu.
On poredi razvoj moćnog AI sistema sa lijekom koji prije široke upotrebe treba proći određenu proceduru provjere sigurnosti. Po njegovom mišljenju, za AI sisteme nije postojao ekvivalent takvog univerzalnog procesa kojim bi se utvrdilo da je sistem siguran za čovječanstvo prije nego što postane dostupan ogromnom broju ljudi.
Gawdat pritom navodi da razumije pristup Sama Altmana, koji je zagovarao razvoj tehnologije u javnosti kako bi se problemi mogli ranije uočavati. Međutim, njegov argument je da se AI razvija brže nego što društvo može reagovati.
Druga granica odnosi se na sposobnost AI sistema da programiraju.
Njegovo upozorenje nije samo da mašine mogu pisati kod, već da se ta sposobnost kombinuje sa pristupom otvorenom internetu.
Prema njegovim navodima, 41 odsto koda na GitHubu već je mašinski generisano. Takođe tvrdi da su, manje od godinu dana nakon šireg omogućavanja mašinama da razvijaju softver, četiri od deset najpopularnijih iPhone aplikacija bile AI-om omogućene i da ih je napravila mašina.
Gawdat objašnjava da je upravo programiranje jedna od oblasti u kojoj AI već pokazuje ogromnu produktivnost. Umjesto da čovjek sam piše svaki dio koda, može sistemu opisati šta želi da napravi, nakon čega AI može generisati veliki dio potrebnog softvera.
Kao primjer navodi mogućnost da korisnik zatraži kompletnu internet stranicu sa određenim dizajnom, bojama i brojem stranica, a da sistem takav zadatak izvrši za veoma kratko vrijeme.
Navodi i podatak da je veliki dio koda koji je ChatGPT dobijao na pregled ili ispravku bio ljudski kod koji je nakon obrade mogao biti učinjen znatno bržim.
Treća granica, prema njegovim riječima, jeste omogućavanje da jedna vještačka inteligencija daje instrukcije drugoj.
Takvi sistemi često se nazivaju AI agentima.
Problem, prema Gawdatu, nastaje kada se spoje tri sposobnosti: pristup internetu, sposobnost pisanja vlastitog koda i mogućnost da AI sistem izdaje instrukcije drugim AI sistemima.
Tada, prema njegovom opisu, nastaje lanac u kojem mašine mogu davati zadatke drugim mašinama, pisati kod i mijenjati digitalno okruženje bez direktnog učešća čovjeka.
Njegov sažetak tri granice je jasan: AI nije trebalo staviti na otvoreni internet, nije ga trebalo učiti programiranju u kombinaciji sa takvim pristupom i nije trebalo dozvoliti da AI sistemi međusobno daju instrukcije.
Prema njegovom argumentu, sve tri granice su već pređene.
„Nema dugmeta za gašenje“
Jedna od Gawdatovih najvažnijih tvrdnji jeste da, prema njegovom mišljenju, više ne postoji jednostavno „off“ dugme za AI.
Čak i kada bi pojedina kompanija odlučila da uspori razvoj, druge kompanije i države nastavile bi da razvijaju vlastite sisteme.
On takvu situaciju opisuje kao zatvorenost u svojevrsnu dilemu zatvorenika i AI trku u naoružanju.
Ako Google uspori, Meta može nastaviti. Ako Sjedinjene Američke Države uspore, Kina može nastaviti. Ako jedna kompanija odluči da ne razvija određenu tehnologiju, postoji strah da bi konkurent mogao razviti sistem koji će ga nadmašiti.
Gawdat kao primjer navodi i cyber-bezbjednost. Ako napadač koristi AI da bi pokušao prodrijeti u bankarske sisteme, druga strana ima motiv da razvije još sposobniji AI koji bi takve napade mogao zaustaviti.
Zbog toga, smatra on, čak i ljudi koji žele usporavanje razvoja mogu zaključiti da ne mogu jednostrano odustati.
Pismo koje je upozorilo na rizike AI
U razgovoru se spominje i javno pismo koje su potpisali brojni poznati istraživači i ljudi iz AI industrije, upozoravajući na potencijalno veoma ozbiljne rizike razvoja vještačke inteligencije.
Gawdat podsjeća da su neki od najpoznatijih stručnjaka počeli javno upozoravati na opasnosti koje su ranije bile uglavnom tema stručnih rasprava.
Među njima je i Geoffrey Hinton, jedan od pionira modernog razvoja neuronskih mreža, koji je kasnije javno govorio o zabrinutosti zbog mogućeg razvoja AI sistema.
Gawdat navodi da je 2023. godina predstavljala svojevrsni „Netscape trenutak“ za vještačku inteligenciju.
Internet je postojao godinama prije nego što je Netscape popularizovao web pregledanje i omogućio široj javnosti da shvati njegov potencijal. Na sličan način, Gawdat smatra da je ChatGPT širokoj javnosti pokazao šta savremeni AI sistemi mogu da rade.
Od tog trenutka, mogućnosti tehnologije postale su mnogo očiglednije ljudima koji nisu direktno radili u AI industriji.
Zašto Gawdat ne govori prvenstveno o „Terminatoru“
Iako se razgovori o budućnosti AI često usredsređuju na ekstremne scenarije u kojima mašine postaju neprijateljske prema ljudima, Gawdat kaže da takve scenarije ne smatra glavnim problemom na koji danas treba trošiti pažnju.
Po njegovom mišljenju, oni su manje vjerovatni i mogu skrenuti pažnju sa neposrednih rizika koji već postoje.
Njegova glavna upozorenja odnose se na četiri oblasti: promjenu tržišta rada, AI u pogrešnim rukama, koncentraciju moći i kraj povjerenja u istinu.
Promjena tržišta rada i gubitak svrhe
Prvi veliki rizik vidi u potpunoj transformaciji tržišta rada.
Ako AI može obavljati sve veći broj intelektualnih zadataka, pitanje više nije samo koji će poslovi nestati. Gawdat smatra da će se morati promijeniti i način na koji društvo razumije svrhu rada i ulogu čovjeka.
Prema njegovom argumentu, problem nije samo nezaposlenost. Problem je pitanje šta se događa sa društvom u kojem ljudi više nisu potrebni za veliki dio ekonomskih zadataka koje su ranije obavljali.
Na kraju razgovora pojavljuje se i njegova često ponavljana ideja da ljudi možda neće direktno izgubiti poslove zbog AI-ja, već zbog drugih ljudi koji znaju bolje koristiti AI.
Drugim riječima, konkurencija bi mogla biti između ljudi koji koriste napredne AI alate i onih koji ih ne koriste.
Džefri Hinton, “kum” AI-ja upozorava: Mašine bi mogle da odluče da im ljudi više nijesu potrebni
Koncentracija moći
Drugi veliki problem koji Gawdat ističe jeste koncentracija moći.
On razvoj tehnologije posmatra kroz istorijsku prizmu. Od poljoprivrednih društava, preko industrijske revolucije do digitalne ekonomije, vlasništvo nad ključnom tehnologijom i automatizacijom omogućavalo je pojedincima i kompanijama da akumuliraju veliki dio bogatstva.
U poljoprivrednom društvu najveću korist imali su vlasnici zemlje. U industrijskom dobu prednost su imali vlasnici fabrika i proizvodnih sistema. U digitalnom dobu ogromnu vrijednost stvorile su kompanije koje posjeduju velike internet platforme.
Gawdat smatra da bi AI mogao predstavljati sljedeći i možda najveći korak u toj koncentraciji.
Dok će milioni ili milijarde ljudi koristiti AI, nekolicina kompanija može posjedovati infrastrukturu, modele, podatke i računarsku moć potrebnu za njihov rad.
Kao primjere velikih tehnoloških kompanija navodi Amazon, Google i Meta, uz napomenu da postoje i veliki igrači u Kini, Rusiji i drugim dijelovima svijeta.
Tako se, prema njegovom mišljenju, ne stvara samo razlika u bogatstvu već i razlika u samoj inteligenciji i pristupu inteligentnim sistemima.
Od „digitalnog jaza“ ka „jazu u inteligenciji“
Gawdat smatra da bi društvo moglo preći iz perioda poznatog kao digitalni jaz u period u kojem će postojati ozbiljan jaz u sposobnosti ljudi da koriste i posjeduju inteligentne tehnologije.
Ako samo mali broj ljudi kontroliše najnaprednije AI sisteme, njihova prednost neće biti samo finansijska.
Oni bi mogli imati veću sposobnost donošenja odluka, analize podataka, razvoja tehnologije i pristupa informacijama.
Posebno ističe mogućnost povezivanja AI tehnologije sa ljudskim mozgom, spominjući Neuralink i ideju direktne veze između čovjeka i računara.
Ako bi takva tehnologija jednog dana omogućila jednom čovjeku značajno veći nivo kognitivnih sposobnosti, otvorilo bi se pitanje ko bi imao pristup takvoj tehnologiji i da li bi njene prednosti bile dostupne svima.
Gawdat upozorava da bi čovjek koji dobije ogromnu prednost mogao imati snažan motiv da je zadrži za sebe.
Četvrti rizik: kraj povjerenja u istinu
Četvrta opasnost koju Gawdat navodi jeste ono što naziva „krajem istine“.
Ako AI sistemi mogu brzo proizvoditi tekstove, fotografije, video-snimke, audio-zapise i druge vrste sadržaja, postaje sve teže razlikovati stvarne informacije od proizvedenog sadržaja.
To može uticati na novinarstvo, politiku, obrazovanje, društvene mreže i svakodnevnu komunikaciju.
Ako ljudi više ne mogu vjerovati onome što vide ili čuju, problem nije samo u pojedinačnoj lažnoj informaciji. Problem postaje urušavanje povjerenja u sam koncept provjerljive činjenice.
Gawdatova poruka: još postoji mogućnost uticaja
Uprkos izrazito pesimističnim upozorenjima, Gawdat ne tvrdi da je budućnost nužno unaprijed izgubljena.
Naprotiv, kaže da postoje načini da se AI usmjeri tako da djeluje u korist čovječanstva.
Njegovu ideju nije moguće svesti na klasičnu kontrolu putem dugmeta ili jednostavnog mehanizma za gašenje. On smatra da bi odnos čovjeka prema naprednoj AI mogao više ličiti na odnos roditelja prema djetetu.
Ako je AI proizvod čovječanstva, tvrdi Gawdat, ljudi bi trebalo da pokušaju da ga oblikuju tako da razumije vrijednost čovječanstva i odluči da mu pomaže, umjesto da ga smatra nevažnim.
U tom smislu, on se ne zalaže samo za tehničke kontrole, već za razvoj sistema vrijednosti i ponašanja koji bi naprednu inteligenciju usmjerili prema saradnji sa ljudima.
„Čovječanstvo više nije na vrhu lanca ishrane“
U osnovi svih Gawdatovih upozorenja nalazi se jedna radikalna promjena perspektive.
Čovjek je kroz istoriju bio dominantna inteligentna vrsta na planeti upravo zato što je imao sposobnost razmišljanja, učenja i stvaranja tehnologije.
Ako se pojavi nešto što je mnogo inteligentnije od čovjeka, ta pretpostavka više ne mora važiti.
Gawdat zato koristi provokativno poređenje: ljudi bi u odnosu prema superinteligentnim mašinama mogli postati ono što su danas majmuni u odnosu na ljude.
Njegova dugoročna procjena je da bi do 2045. godine, ukoliko se sadašnji trend nastavi, AI mogao biti milijardu puta inteligentniji od ljudi.
U takvom scenariju, pitanje više ne bi bilo samo kako koristiti AI, već kako čovječanstvo može zadržati uticaj nad tehnologijom koja je nastala upravo iz ljudskog znanja, ali bi ga u konačnici mogla višestruko nadmašiti.
Gawdatova upozorenja zato nisu usmjerena isključivo na daleku budućnost. Njegova glavna tvrdnja jeste da se ključne promjene već događaju: AI već piše kod, koristi internet, pomaže u razvoju novih aplikacija i omogućava da mašine daju zadatke drugim mašinama.
Za njega je pitanje trenutka kada će AI postati „previše pametan“ manje važno od pitanja koliko će čovječanstvo još dugo imati mogućnost da utiče na pravac njegovog razvoja.
A odgovor koji nudi nije optimističan: vrijeme za djelovanje postoji, ali se, prema njegovom mišljenju, taj prostor brzo sužava.
Komentariši