Geoffrey Hinton, znanstvenik kojega često nazivaju i jednim od kumova umjetne inteligencije, dao je otkaz u Googleu iz straha od opasnosti koje donosi nagli razvoj umjetne inteligencije. Kako su AI, ChatGPT, Bing, strojno učenje, neuronske mreže, sada već uobičajene svakodnevne vijesti, tako je i ova vijest gotovo trenutno dospjela do naslovnica svih vodećih svjetskih medija. I s pravom, Hinton doista jest jedna od ključnih figura u razvoju umjetne inteligencije, očito i na način da se i sam poplašio njezinog naglog napretka, a za koji je i sam uvelike zaslužan.
Napisali smo kako je Hinton jedan od kumova umjetne inteligencije, a to je zato što taj epitet nosi zajedno još s Yoshuom Bengiom i Yannom LeCunom s kojima je 2018. godine dobio Turingovu nagradu za rad na dubokom učenju. Zbog toga ovu trojicu zovu kumovima umjetne inteligencije ili kumovima dubokog učenja, a često i zajedno nastupaju tumačeći što su zapravo postigli. Kako se većina čitatelja tek upoznaje s pojmovima vezanim uz umjetnu inteligenciju, vrijedi objasniti ukratko i što je duboko učenje. Riječ je o grani strojnog učenja koja se temelji na neuronskim mrežama, a primjenjuje se kod računalnog vida, prepoznavanja ljudskog govora, bioinformatike, autonomne vožnje i sličnoga. Naziva se dubokima zbog broja slojeva kroz koje prolaze podaci koji u mrežu uđu. Neuronske mreže, pak, su matematički sustavi koji uvježbavaju vještine analizirajući podatke. Da, upravo slično ljudskom mozgu, njegovim neuronima i sinapsama. Većina se modela dubokog učenja temelji na konvolucijskim neuronskim mrežama koje su razina više u odnosu na neuronske mreže.
Hinton je postao poznat i priznat kao vodeći um u ovom polju kada je 1986. godine s Davidom Rumelhartom i Ronaldom J. Williamsom objavio ključni rad o inovativnom pristupu uvježbavanju neuronskih mreža da bi onda 2012. sa svojim studentima Alexom Krizhevskym i Ilyom Suskeverom ostvario i ključni napredak u strojnom prepoznavanju slika i objekata na njima putem AlexNeta, arhitekture za konvolucijske neuronske mreže što je označilo prekretnicu na polju razvoja računalnog vida. Očito, Geoffrey Everest Hinton jest osoba iznimno zaslužna za današnji streloviti razvoj umjetne inteligencije, jedan od prvih koji je prihvatio kako su neuronske mreže najbolji temelj razvoja umjetne inteligencije. Sada kada smo završili s ovim napornijim dijelom, možemo pogledati i što je to točno zasmetalo Hintona da je odlučio napustiti Google, odnosno njihov odjel Google Brain.
Taj se odjel nalazi pod kapom Google AI-ja, divizije Googlea koja se bavi isključivo umjetnom inteligencijom. U tome se Google Brain bavi dubokim učenjem umjetne inteligencije, a to se ondje razvija na vrlo širokim rasponima i ogromnim skalama računalnih snaga i resursa. No, Google Brain, što je u stvari skupina znanstvenika, spojen je prošlog mjeseca s Googleovom sestrinskom kompanijom DeepMind kako bi se stvorila nova tvrtka, Google DeepMind. DeepMind je već poznata kompanija jer je tamo, primjerice, stvorena neuronska mreža koja uči kako igrati video igrice na ljudskoj razini. Tako je njezin program AlphaGo uspio pobijediti Leeja Sedona, profesionalca u igri Go, i to u pet rundi, postoji o tome i dokumentarni film. AlphaZero pobjeđivao je najnaprednije programe za igranje šaha, goa ili japanskog šaha shogija. AlphaFold donio je nevjerojatne proboje u istraživanju strukture proteina da bi lani bio predstavljen Flamingo, jedinstveni model koji može točno opisivati slike.
U Google je Hinton došao 2013. godine tako što je vodeća svjetska tehnološka tvrtka kupila njegov DNNResearch Inc. Za 44 milijuna dolara, a dopuštajući mu da i dalje predaje na sveučilištu u Torontu. I sada odlazi pridružujući se rastućem broju uglednika koji upozoravaju na opasnosti koje donosi ovako brzi razvoj umjetne inteligencije. Upravo njegov kolega Yoshua Bengio vjerojatno je najznačajnije ime iz tog polja koje se nalazi na nedavno pismu upozorenja koje je do sada potpisalo već 27.000 znanstvenika i inženjera. Samo par dana kasnije uslijedilo je i još jedno slično pismo, ono sadašnjih i nekadašnjih članova Udruge za napredak umjetne inteligencije, Association for the Advancement od Artificial Intelligence, među kojima je i Eric Horvitz, znanstveni direktor Microsofta pod čijim je vodstvom znanje iz Open AI-ja uspješno primijenjeno na tražilici Bing. Hinton nije potpisao niti jedno od ta dva pisma, pravda se da nije želio kritizirati kompaniju za koju je u tom trenutku radio. Bengio je ostao u znanosti, Hinton i LeCun ne, jedan je završio u Googleu kojega sada napušta, a drugi je glavni znanstvenik za umjetnu inteligenciju u Meti, roditeljskoj tvrtki Facebooka. Hoće li i LeCun otići? Možda, nakon što pročita što je imao za reći Hinton.
– Teško je ne vidjeti da se ne može spriječiti loše čimbenike da generativnu umjetnu inteligenciju ne koriste za loše stvari, rekao je za The New York Times Hinton misleći pri tome na ChatGPT prije svega, alat koji je do sada najbolje demonstrirao što omogućuje intelektualna baza koju je sam stvorio prije više desetljeća.
- Gledajte, evo jednog načina na koji bi sve moglo poći po zlu. Znamo da su mnogi ljudi koji žele koristiti te alate loši poput Putina ili DeSantisa. Žele ih iskoristiti za dobivanje ratova ili manipuliranje biračkim tijelom, govori u jednom od razgovora nakon što je objavljena vijest o njegovom odlasku iz Googlea.
Ovdje treba dodati kako je Open AI, tvrtku iz koje dolazi ChatGPT, osnovao Ilya Sutskever, Hintonov student koji je ondje danas i glavni znanstvenik. Sam Hinton otkaz je dao osobno Sundaru Pichaiju, direktoru Alphabeta, roditeljske tvrtke Googlea, ali ne želi otkriti detalje tog razgovora, dakle konkretne razloge zbog kojih je otkaz i dao. Prema sadašnjim napisima, Hinton je promijenio mišljenje o razvoju umjetne inteligencije u korporacijama nakon što su Google, OpenAI i drugi počeli graditi neuronske mreže koje su učile iz znatno veće količine podataka. Još je u tom trenutku mislio kako je stroj i dalje inferioran ljudskom mozgu. I tako sve do lani kada su Google i OpenAI tu količinu dodatno pojačali te je profesor Hinton prihvatio kako stroj u određenim segmentima počinje nadjačavati ljudski mozak.
– Možda je o što se događa u tim sustavima zapravo puno bolje od onoga što se događa u ljudskom mozgu, kazao je jasno označavajući čega se točno boji.
– Pogledajte kako je sve izgledalo prije pet godina, a kako izgleda danas. Uzmite tu razliku i multiplicirajte je prema budućnosti. To je zastrašujuće, objasnio je. Dodatno, pojava ChatGPT-ja koji je ugrađen u novi Microsoftov Bing označila je utrku između velikih korporacija koju se neće moći kontrolirati, a pri kojoj će se umjetna inteligencija razvijati na nekontrolirane načine. Jer, Google sada ubrzo radi na svoje Bardu.
– Vrlo brzo će Internet biti preplavljen lažnim fotografijama, videima i tekstovima gdje prosječna osoba više neće moći prepoznati što je u svemu doista točno i istinito, rekao je.
Naši mozgovi imaju 100 bilijuna veza. Veliki jezični modeli imaju do pola bilijuna, najviše bilijun. Ipak, GPT-4 zna stotine puta više od bilo koje osobe. Pa možda zapravo ima puno bolji algoritam učenja od nas, objašnjava.
Također, predviđa i teške poremećaje na tržištu rada.
– Danas chatbotovi poput ChatGPT-ja dopunjuju ljude, ali mogli bi zamijeniti pravnike, osobne pomoćnike, prevoditelje i druge u sličnim zanimanjima. Sada obavljaju šljakerske poslove, ali mogli bi i daleko više od toga, misli Hinton.
- Pa, evo sekundarnog cilja koji gotovo uvijek pomaže u biologiji: dobiti više energije. Dakle, prva stvar koja bi se mogla dogoditi je da će ti roboti reći: 'Idemo dobiti više snage. Preusmjerimo svu električnu energiju na moje čipove.’ Još jedan veliki sekundarni cilj bio bi napraviti više kopija samog sebe. Zvuči li to dobro?, kazao je za MIT Technology Review.
Umjetna inteligencija prema njemu može postati opasnom jer često nauči neočekivane obrasce ponašanja kojih ima u ogromnim bazama podataka koje pretražuje.
– Ovo će biti problem, jer umjetnoj se inteligenciji dozvoljava ne samo da generira vlastiti računalni kod već i da taj kod koristi na svoj način. Doista bi u budućnosti autonomna oružja poput robota ubojica mogli postati stvarnima, mišljenje je profesora Hintona tvrdeći kako je i sam mislio kako je takav scenarij dio daleke budućnosti. Bio je još eksplicitniji na recentnom primjeru.
- Nemojte ni na trenutak pomisliti da Putin ne bi napravio hiperinteligentne robote s ciljem ubijanja Ukrajinaca. Ne bi oklijevao. A ako želite da budu dobri u tome, ne želite upravljati njima jednim po jednim - želite da oni shvate kako to učiniti, kaže za MIT Technology Review.
– U zamisao da bi ove stvari zapravo mogle postati pametnije od ljudi vjerovalo je nekoliko ljudi. Većina ljudi je mislila da je to daleko. Ja sam mislio da je daleko. Mislio sam da je to za 30 do 50 godina ili čak i duže. Očito, više ne mislim tako, govori on. Utrci tehnoloških kompanija potrebna je regulacija, ali to će biti gotovo nemoguće.
– Kao kod nuklearnog naoružanja, nemoguće je znati da li tvrtke ili zemlje rade na nekoj tehnologiji u tajnosti. Najbolja je nada da najbolji svjetski znanstvenici surađuju na načinima kako kontrolirati tehnologiju. Ne mislim da treba raditi na napretku umjetne inteligencije sve dok ne shvatimo možemo li je kontrolirati, kaže. Podsjetio se i na film Don't Look Up gdje se također nije moglo postignuti opće slaganje oko opasnosti u obliku asteroida. - Mislim da je tako s umjetnom inteligencijom. Ali i s drugim velikim nerješivim problemima. SAD se čak ne može složiti da jurišne puške drže podalje od ruku tinejdžera, kaže za MIT-jevu publikaciju. Odgovorio je i na pitanje zašto je uopće, ako je sve ovo znao, radio na potencijalno opasnoj tehnologiji. Ponudio je dva odgovora – da to nije bio on, taj bi posao napravio netko drugi, a također neodoljiva je žudnja znanstvenika za otkrićem, kao kod Roberta Oppenheimera i atomske bombe: Kada je nešto tehnološki interesantno, onda to i napravite.
VIDEO Znate li pravilno izbrisati svoju povijest pretraživanja? Fora je u skrivenim postavkama
Ne miriše na dobro.