„Kum vještačke inteligencije“ Džefri Hinton upozorava da čovječanstvo ne smije čekati da AI postane pametnija od ljudi kako bi počelo da razmišlja o kontroli i bezbjednosti. Smatra da trka velikih tehnoloških kompanija za dominacijom zasjenjuje mnogo važnije pitanje – kako osigurati da vještačka inteligencija ne ugrozi društvo, radna mjesta i, dugoročno, opstanak čovječanstva.
Hinton, jedan od naučnika čiji je rad imao ključnu ulogu u razvoju savremene vještačke inteligencije, posljednjih godina sve češće upozorava na opasnosti tehnologije kojoj je i sam pomogao da dobije današnji oblik.
Dobitnik Nobelove nagrade za fiziku za 2024. godinu, koju je podijelio sa Džonom Hopfildom za otkrića i pronalaske koji su omogućili mašinsko učenje pomoću vještačkih neuronskih mreža, Hinton danas svoju pažnju sve više usmjerava na pitanje bezbjednosti AI sistema.
Umjesto da razvija nove sisteme vještačke inteligencije, Hinton posljednjih godina nastoji da javnosti, kompanijama i političarima ukaže na ono što smatra jednom od najvećih tehnoloških dilema našeg vremena: šta će se dogoditi kada vještačka inteligencija postane sposobnija od ljudi?
„Pravimo nešto što bi uskoro moglo biti pametnije od nas“
Hinton budućnost AI-ja poredi sa hipotetičkom situacijom u kojoj naučnici otkriju da Zemlji za desetak godina prijeti dolazak vanzemaljske flote.
U takvoj situaciji, kaže on, čovječanstvo ne bi čekalo posljednji trenutak da reaguje. Ljudi bi odmah počeli da razmišljaju o odbrani, mogućem suživotu i načinu na koji bi se prijetnja mogla kontrolisati.
Po Hintonovom mišljenju, upravo takav pristup trebalo bi primijeniti i na razvoj vještačke inteligencije.
On smatra da čovječanstvo trenutno samo stvara sisteme koji bi u relativno bliskoj budućnosti mogli postati inteligentniji od svojih tvoraca.
Zbog toga, upozorava, pitanje više nije samo koliko će AI biti moćna, već kako će ljudi živjeti sa sistemima koji mogu da ih nadmaše u sve većem broju oblasti.
Velike kompanije između bezbjednosti i trke za profitom
Hinton smatra da neke tehnološke kompanije ozbiljnije pristupaju bezbjednosti vještačke inteligencije od drugih.
Kao kompanije koje, prema njegovoj procjeni, pokazuju veću zabrinutost zbog bezbjednosti navodi Anthropic i Google DeepMind, dok je kritičan prema pristupu drugih velikih kompanija.
Posebno problematičnim smatra činjenicu da se najveći tehnološki igrači nalaze u svojevrsnoj trci – ko će prvi razviti najmoćniji AI sistem.
U takvoj atmosferi, kaže Hinton, bezbjednost lako može postati sporedna tema.
Njegova najveća zamjerka nije to što kompanije ne razumiju moguće rizike, već što su njihovi poslovni interesi povezani sa željom da budu prvi.
„Trebalo bi da ih mnogo više brine da li će čovječanstvo preživjeti tu trku“, poruka je njegovog upozorenja.
Problem, prema Hintonu, nije samo hipotetički gubitak kontrole nad superinteligentnim sistemima. Jednako ozbiljnu opasnost predstavlja i mogućnost ogromnog broja izgubljenih radnih mjesta.
„Ovo nije samo pitanje tehnologije, već i društva“
Jedna od Hintonovih najvećih briga odnosi se na posljedice AI revolucije po tržište rada.
Velike kompanije već ulažu ogromne količine novca u razvoj vještačke inteligencije, a Hinton smatra da jedan od glavnih razloga za takva ulaganja leži u mogućnosti da se dio ljudskog rada zamijeni jeftinijim AI sistemima.
Ako kompanija može određeni posao da obavlja uz pomoć mašine koja je jeftinija od zaposlenog čovjeka, ekonomski pritisak da se takva tehnologija uvede postaje veoma snažan.
Tu Hinton vidi jednu od najvećih društvenih opasnosti.
Istorija tehnološkog razvoja pokazuje da nove tehnologije često ukidaju određena zanimanja, ali istovremeno stvaraju nova. Industrijska revolucija, automatizacija i digitalizacija mijenjale su strukturu tržišta rada, ali ljudi su se u velikoj mjeri prilagođavali novim uslovima.
Hinton, međutim, nije uvjeren da će se isto dogoditi i sa vještačkom inteligencijom.
Prema njegovom mišljenju, ovog puta postoji mogućnost da AI ne zamijeni samo fizičke radnike ili rutinske poslove, već i veliki broj zanimanja koja su do sada zahtijevala kognitivne sposobnosti.
To otvara pitanje: ako nestane veliki broj kancelarijskih, administrativnih, korisničkih, analitičkih i drugih poslova, gdje će radnici pronaći nova zaposlenja?
„Ovo je neistražena teritorija“, upozorava Hinton. Čovječanstvo se, kako ističe, nikada ranije nije suočilo sa tehnologijom koja bi mogla postati ne samo fizički moćnija, već i intelektualno sposobnija od svojih tvoraca.
Milijarde i milijarde dolara ulažu se u AI
Razmjeri ulaganja u vještačku inteligenciju za Hintona su dodatni razlog za zabrinutost.
Prema njegovoj procjeni, ukupna ulaganja velikih kompanija u AI već se mjere stotinama milijardi dolara, a kada se posmatra šira slika, riječ je o iznosima koji se približavaju bilionu dolara.
Kompanije takav novac ne ulažu bez očekivanja velikog profita.
Hinton smatra da upravo tu treba tražiti jedan od glavnih motiva ubrzanog razvoja AI-ja. Osim naplate korišćenja različitih AI servisa i četbotova, najjednostavniji način da kompanija poveća profit jeste smanjenje troškova rada.
U tom smislu, zamjena ljudskih radnika vještačkom inteligencijom može postati jedan od najunosnijih poslovnih modela budućnosti.
To bi, međutim, moglo dodatno povećati razliku između vlasnika kapitala i ljudi koji zavise od zarade.
Hinton je zato svoju poznatu formulaciju o tome da će „Musk biti bogatiji, a ljudi ostati bez posla“ koristio kao ilustraciju šireg društvenog problema.
On pritom naglašava da problem nije konkretno u jednoj osobi, već u načinu na koji je društvo organizovano.
Ako AI dramatično poveća produktivnost, pitanje nije samo koliko će bogatstva biti stvoreno, već i ko će od tog bogatstva imati koristi.
„Mi ćemo biti majmuni“: Bivši direktor Googla upozorava da čovječanstvo gubi vrh lanca inteligencije
AI može donijeti ogromnu korist čovječanstvu
Uprkos svojim upozorenjima, Hinton ne smatra da je vještačka inteligencija sama po sebi loša.
Naprotiv, on priznaje da AI može donijeti ogromne koristi, posebno u oblastima kao što su medicina, obrazovanje, nauka i produktivnost.
Napredni sistemi mogli bi pomoći ljekarima u dijagnostici, istraživačima u pronalaženju novih lijekova, nastavnicima u obrazovanju i kompanijama u automatizaciji brojnih procesa.
Problem, prema Hintonovom mišljenju, nastaje kada se tehnološki napredak sudari sa postojećom društvenom i ekonomskom strukturom.
Ako se produktivnost poveća, a većina koristi pripadne malom broju vlasnika tehnoloških kompanija, dok veliki broj radnika izgubi posao, tada tehnološki napredak može proizvesti ozbiljne društvene posljedice.
Drugim riječima, nije nužno problem u samoj tehnologiji, već u tome kako je društvo odluči koristiti.
Ko će kontrolisati superinteligenciju?
Jedno od najtežih pitanja koje Hinton postavlja jeste ko bi mogao kontrolisati sistem koji je inteligentniji od čovjeka.
Današnji odnos prema AI-ju često se zasniva na pretpostavci da čovjek ostaje glavni donosilac odluka, dok je vještačka inteligencija samo alat ili pomoćnik.
Hinton smatra da taj model možda neće funkcionisati kada AI postane značajno inteligentnija od ljudi.
Ako sistem ima veće sposobnosti rasuđivanja, brže obrađuje informacije i može da planira bolje od svojih tvoraca, pretpostavka da će ga ljudi jednostavno „isključiti“ ukoliko ne posluša postaje mnogo manje uvjerljiva.
Zbog toga Hinton smatra da čovječanstvo mora razmišljati o potpuno drugačijem modelu odnosa između ljudi i superinteligentnih sistema.
Kao ilustraciju navodi odnos djeteta i majke – situaciju u kojoj inteligentnija odrasla osoba svoje ponašanje u velikoj mjeri prilagođava potrebama djeteta.
Takav model, smatra Hinton, mogao bi biti bliži načinu na koji bi ljudi jednog dana morali da koegzistiraju sa mnogo inteligentnijim sistemima.
SAD i Kina u trci za tehnološku dominaciju
Hinton se osvrnuo i na globalnu konkurenciju u razvoju vještačke inteligencije, posebno između Sjedinjenih Američkih Država i Kine.
Prema njegovoj procjeni, SAD su i dalje nešto ispred Kine, ali razlika nije toliko velika koliko se ranije vjerovalo.
Kina, kako ističe, ima ogroman broj obrazovanih stručnjaka iz oblasti nauke, tehnologije, inženjerstva i matematike.
Hinton upozorava da bi dugoročno prednost mogla preći na kinesku stranu ukoliko SAD oslabe svoje univerzitete, smanje ulaganja u osnovna istraživanja i otežaju dolazak stranih stručnjaka.
Posebno je značajna njegova tvrdnja da posljedice smanjenja ulaganja u osnovnu nauku nisu vidljive odmah.
Takve odluke, smatra on, mogu imati posljedice tek deset ili dvadeset godina kasnije, kada se pokaže da su ključni naučni proboji nastali negdje drugo.
U tom kontekstu, borba za AI nije samo borba tehnoloških kompanija. To je i borba za obrazovanje, istraživanje, talente i dugoročnu naučnu konkurentnost.
Potrebna je međunarodna saradnja
Jedna od rijetkih pozitivnih stvari koje Hinton vidi jeste mogućnost da se velike sile ujedine oko pitanja kontrole vještačke inteligencije.
Iako se države međusobno takmiče u oblastima kao što su sajber-bezbjednost, oružje i tehnologija, Hinton smatra da postoji zajednički interes kada je riječ o sprečavanju scenarija u kojem AI potpuno izmakne ljudskoj kontroli.
Nijedna država, prema njegovoj logici, nema interes da druga država razvije sistem koji bi mogao postati prijetnja cijelom čovječanstvu.
Zato bi, smatra on, upravo AI mogla postati oblast u kojoj je međunarodna saradnja neophodnija nego ikada.
Međutim, saradnja država sama po sebi nije dovoljna.
Potrebno je pronaći konkretne načine za razvoj bezbjednih AI sistema, uspostaviti standarde i omogućiti da se pitanje sigurnosti ne tretira kao prepreka poslovanju, već kao njegov sastavni dio.
„Čekamo li AI verziju Černobilja?“
Hinton smatra da bi čovječanstvu možda mogao biti potreban veliki događaj koji bi pokazao koliko su rizici ozbiljni.
U intervjuu je takav hipotetički događaj uporedio sa Černobilom ili Kubanskom raketnom krizom – istorijskim trenucima koji su pokazali koliko opasne posljedice mogu imati tehnologija, pogrešne procjene i nedostatak međunarodne saradnje.
On ne tvrdi da bi takav događaj bio poželjan, već upozorava da bi tek velika kriza mogla natjerati kompanije i vlade da bezbjednosti posvete mnogo veći dio svojih resursa.
Posebno zabrinjava mogućnost da čovječanstvo ne reaguje dovoljno ozbiljno sve dok ne bude suočeno sa stvarnim dokazom da je AI sposobna da proizvede ozbiljnu štetu.
Hinton zato apeluje da se ne čeka katastrofa kako bi se preduzele preventivne mjere.
Naučnik koji je pomogao da AI nastane danas upozorava na njene granice
Posebnu težinu Hintonovim upozorenjima daje činjenica da on nije posmatrač sa strane.
On je jedan od naučnika čiji je rad pomogao da se razvije tehnologija na kojoj počivaju savremeni sistemi vještačke inteligencije.
Zbog toga njegovo upozorenje ima paradoksalnu dimenziju: jedan od ljudi koji su pomogli da AI postane toliko moćna danas upozorava svijet da njen razvoj mora biti pažljivo kontrolisan.
Na pitanje da li bi, kada bi mogao da vrati vrijeme, zaustavio razvoj vještačke inteligencije, Hinton nije dao jednostavan odgovor.
Razlog je u tome što AI, za razliku od nekih drugih tehnologija, može donijeti i ogromnu korist.
Ona može unaprijediti medicinu, obrazovanje, naučna istraživanja i produktivnost, ali istovremeno može proizvesti ogromne društvene probleme ako se koristi bez odgovarajućih pravila.
Ključno pitanje više nije da li će AI promijeniti svijet
Hintonova poruka na kraju se svodi na jednu mnogo širu dilemu: čovječanstvo možda više nema luksuz da se pita da li će vještačka inteligencija promijeniti svijet.
Ona ga već mijenja.
Pravo pitanje je ko će kontrolisati tu promjenu, ko će od nje imati koristi i kako će društvo zaštititi ljude koji bi mogli izgubiti posao ili ekonomski položaj.
Istovremeno, još ozbiljnije pitanje jeste kako osigurati da budući AI sistemi ostanu usklađeni sa ljudskim interesima čak i onda kada postanu sposobniji od ljudi.
Za Hintona, najveća opasnost nije samo u tome što će mašine postati pametnije.
Opasnost je u tome što bi čovječanstvo moglo postati zavisno od sistema koje više ne razumije u potpunosti i koje možda neće moći da kontroliše.
Zato „kum vještačke inteligencije“ poziva na oprez prije nego što bude kasno.
Njegova poruka nije da razvoj AI treba zaustaviti po svaku cijenu, već da tehnološki napredak mora pratiti ozbiljno razmišljanje o bezbjednosti, ekonomiji, radnim mjestima i budućnosti društva.
Jer, kako proizilazi iz njegovog upozorenja, najveći izazov neće biti samo napraviti mašine koje mogu razmišljati.
Biće mnogo teže osigurati da čovjek i dalje zna šta da radi kada mašina počne da razmišlja bolje od njega.
Komentariši