Prof. dr. He Huaihong poznat je i utjecajan kineski etičar, često zaokupljen utjecajem umjetne inteligencije na čovjeka, društvo i civilizaciju. Ima li čovječanstvo budućnost, pita se u novoj knjizi, baveći se i problemom moguće zlouporabe umjetne inteligencije, pa i okretanja robota protiv svojih stvoritelja, dakle ljudi. Zaokuplja ga propadanje duhovne kulture i zabrinut je za napredak civilizacije. Lansirao je pojam preventivna etika. Radi kao profesor filozofije na pekinškom sveučilištu.
Alan Turing je 1936. godine razvio informatičko računalo i time postavio temelje umjetnoj inteligenciji. Prošlo je od tada više od 80 godina. Bojite li se vi danas umjetne inteligencije?
Turing je dao velik doprinos računalnoj znanosti i umjetnoj inteligenciji, ali živio je tridesetih godina prošlog stoljeća bez računala. Od pojave prvog računala do danas teško da bismo mogli zamisliti život bez računala – tu se jasno vidi brzi razvoj računalne tehnologije. Inteligencija je samo jedna vrsta ljudske mentalne sposobnosti, ne svih sposobnosti. Izvanredan primjer inteligencije naša je sposobnost upravljanja materijom. Ta se sposobnost brzo razvijala kroz povijest. Sposobnost ljudskih bića da kontroliraju predmete omogućava povećavanje naše fizičke energije milijun puta, obuhvaćajući pritom naš unutarnji i vanjski svijet. Zato oduvijek možemo dominirati drugim životinjama, koje trče brže od nas, lete više i imaju veću fizičku snagu od nas. Ta sposobnost uključuje dominaciju nad zemljom i dominaciju nad ostalim tvarima koje se ne oslanjaju na našu čistu fizičku sposobnost, već na inteligenciju. No kontinuirani razvoj umjetne inteligencije danas je stvorio problem: u mogućnosti smo stvoriti nešto pametnije i inteligentnije od nas. Izmislili smo ga mi, ali nas može nadmašiti u inteligenciji. Ako se razvije stroj za opću namjenu ili umjetnu superinteligenciju, hoće li to biti alat ili prijatelj čovječanstva? To je najveći izazov koji donosi umjetna inteligencija. Ostali problemi, uključujući nezaposlenost, beskorisnu klasu ljudi i polarizaciju, nisu veći u usporedbi s tim.
Ispričat ću jednu priču. J. Good, glavni statističar i matematičar Turingova tima za dekodiranje koda tijekom Drugog svjetskog rata, objavio je 1958. godine članak “Špekulacije u vezi s prvim ultrainteligentnim strojem”. U to je vrijeme još uvijek bio relativno optimističan. Smatrao je da, ako ikada budu izumljeni superinteligentni strojevi koji u svim inteligentnim aktivnostima daleko nadmašuju ljude, da će oni biti posljednji ljudski izum. Nakon toga se ljudska vrsta može osloniti na superinteligenciju koja će nam biti zadužena za daljnje izume i donijeti sreću čovječanstvu. No trideset godina kasnije, u izvještaju koji nije objavio, pesimistično je izrazio uvjerenje da bi takva superinteligencija mogla dovesti do ljudskog uništenja.
Knjigu ste nazvali “Ima li čovječanstvo budućnost?”. Pa, ima li? Dio znanstvenika, naime, smatra da razvoj umjetne inteligencije čovjeka neumitno vodi prema samouništenju. Imamo primjere J. Brysona i J. Wyatta koji u knjizi “Artificial Intelligence” iznose tezu da će računala postati toliko moćna da se u budućnosti može očekivati da će stoj uništiti čovjeka...
Razvoj umjetne inteligencije do pojave superinteligentnih strojeva, jesu li ovo dobre ili loše vijesti? Vjerojatno postoje dva vrlo različita odgovora na ovo pitanje. Prvi je odgovor da je to sretni navještaj, evanđelje za narod. Prije svega, učinit će naš život ugodnijim. Iznenadit ćemo se sve većim brojem tehnoloških izuma i inovacija koje je stvorilo čovječanstvo. Čak i nakon što stigne, možda ćemo to moći kontrolirati i živjeti dobro u materijalnom smislu, bez rada. Drugi je odgovor da će to biti loše vijesti. Prvo, superinteligentni strojevi mogli bi uništiti čovječanstvo i prouzročiti nestanak ljudske vrste. Čak i ako ljudi opstanu, bit će prebačeni u sekundarne vrste i svi ćemo postati beskorisni. Budući da je uvijek pametniji od nas, stroj će se okoristiti. U početku ćemo još možda i razumjeti kako taj izum funkcionira, ali sve dalje naša će inteligencija sve više zaostajati za inteligencijom strojeva. Nećemo razumjeti što će učiniti, kako će to učiniti i ne znamo što će učiniti s ljudima. Moć odlučivanja neće biti u našim rukama. Naravno, umjetna inteligencija može biti mač s dvije oštrice. Možda su to istovremeno i dobre i loše vijesti. Ukratko, moramo biti oprezni i razmisliti o tim pitanjima.
Jedan drugi znanstvenik, Nick Bostrom, u knjizi “Superintelligence” dao je slikovit primjer. Kao što sudbina gorila danas ovisi više o ljudima nego o njima samima, tako bi sudbina ljudi mogla ovisiti o akcijama superinteligencije. Koliko je to, po vama, izgledno i, ako jest, kada? Tehnologija strahovito napreduje.
Da. Spomenuo sam već dva stajališta. Bostrom se otprilike slaže s pesimističnijim gledištem. Slažem se s gledištem optimista da inteligencija vlada današnjim svijetom, ali inteligencija nije cjelina ljudske svijesti i duhovni svijet, pa čak nije ni najvažniji aspekt ljudskih bića. Ljudi imaju mudrosti. “Mudrost” se razlikuje od “inteligencije”. To nije sposobnost bavljenja materijom i njenim upravljanjem i nema jasnu usmjerenost i praktičnost prema vanjskim objektima. Ali, odrazit će se i na podrijetlo i bit materijalnog svijeta te njegovu povezanost s duhovnim svijetom čovjeka. Također nastoji spoznati sebe, odnos među ljudima, pa čak i odnos između ljudi i transcendencije. Tada se postavlja pitanje: jesmo li voljni imati potpuno inteligentan svijet? Ili ste voljni imati svijet u kojem se materija kontrolira isključivo s inteligentne točke gledišta, a na kraju ćemo postati materija? Možemo li razmišljati o tome: možemo li se za ovaj duhovni svijet odreći pretjeranog materijalnog uživanja? Treba li nam stvarno sve veća količina materijalnih stvari da bismo bili sretni?
Drugo, jedan od mojih stavova o strojnoj inteligenciji jest da ona nikad ne može dostići pune sposobnosti ljudskih bića, posebno sposobnost da stvore svijet mudrosti i značenja, ali se mogu samoostvariti u drugim aspektima. Tu navodim pamćenje i računanje kao dva primjera u kojima strojevi imaju sposobnost premašiti ljude. Također, stroj nema bogate i složene emocije temeljene na osjetljivosti prirodnih bića, ali ima moć uništavanja ljudi. Kao što mnogi ljudi kažu, stroj nikada neće biti poput čovjeka, ali to nije jamstvo našeg opstanka. Možda neće trebati nalikovati na osobu niti namjeravati nalikovati na osobu. Superinteligencija ne treba biti poput ljudske inteligencije. Razvit će se samostalno. Mogla bi otkriti i upotrijebiti znanje koje ljudi još ne poznaju i razviti sredstva i sposobnosti koje ljudi ne mogu zamisliti kako bi ih kontrolirala ili zamijenila. Goethe je rekao: “Volim te, to nema nikakve veze s tobom.” Superinteligencija bi također mogla reći: “Uništavam te, to nema nikakve veze s tobom.”
Treći argument koji sam iznio odnosi se na proces stvaranja superinteligencije. Generacija superinteligencije može biti mirna, ona koja čini ljude stalno zaprepaštenima, pa čak i ugodno iznenađenima, donosi velike koristi i sreću, a ljudi je doživljavaju izuzetno pitomom. Sve dok ne zada iznenadan i možda konačan smrtni udarac ljudima. S tim u vezi, umjetnu inteligenciju možemo usporediti s nuklearnim oružjem. Čak i u nuklearnoj zimi izazvanoj nuklearnim ratom, čovječanstvo još uvijek može preživjeti, a civilizacija može dobiti priliku za regeneraciju. No, uz superinteligenciju koja će biti pametnija i sposobnija kontrolirati stvari od ljudi ljudima će biti gotovo nemoguće pronaći priliku za oporavak. Napokon, nuklearno oružje i dalje je alat, a pametni strojevi mogu postati sami sebi gospodari.
Kad ste se vi počeli baviti pitanjem umjetne inteligencije? Pročitao sam negdje da je to bilo nakon što je računalni program AlphaGo, koji je razvila tvrtka Google DeepMind, u misaonoj igri gou pobijedio svjetskog prvaka Ke Jiea?
Izravni je povod bio kad je 2017. godine na Svjetskoj konferenciji o filozofiji predstavljen akademski rad s naslovom “Učiti postati čovjekom”. Da, u to je vrijeme računalo Alpha Dog pobijedilo svjetskog prvaka u igri go. Činilo se da mnogi strojevi pokušavaju “naučiti biti čovjekom”. Naravno, željeli su biti samo jedan aspekt ljudskog bića, odnosno inteligencije. A ljudi možda ne razmišljaju o tome kako “naučiti biti čovjekom”.
Volite li SF filmove? Ima odličnih koji se bave ratom robota i ljudi. Naravno, roboti su u tim filmovima uglavnom “bad guys”, postali su problem jer su se okrenuli protiv ljudi. Može li se na to gledati i kao na otpor izrabljenih protiv izrabljivača? Zašto se smatra da bi umjetna inteligencija evolucijom razvila osjećaje poput mržnje i nasilja? U redu, imaju od koga to naučiti, no kako možemo biti sigurni da roboti te negativne, nasilne osjećaje ne bi nadišli?
Znanstvena fantastika i filmovi počeli su mi se dopadati posljednjih nekoliko godina. Prvi put je koncept “robota” prikazan u Čapekovoj drami R.U.R. – Rossumovi univerzalni roboti. To je kazališni scenarij. Predstava govori o tvornici robota. Osim pet upravitelja najviše razine, ne možete razlikovati ljude i strojeve, tajnica s recepcije i radnici, svi su roboti. No nakon nekoliko godina roboti u tvornici udružili su se s robotima širom svijeta kako bi se pobunili. Porazili su ljude, ali se ne mogu reproducirati i na kraju će propasti. Asimov je napisao mnogo romana o robotima i iznio tri zakona robotske etike. Prvi je zakon da roboti ne smiju svojim činjenjem i nečinjenjem nauditi ljudima. Drugi je poštivanje svih ljudskih uputa. Treće je da robot mora zaštititi i vlastiti opstanak. Ali, s ova tri zakona i dalje će postojati dilema izbora. Kako odvagnuti? Kasnije su neki učenjaci iznijeli neke nove zakone. Opća je tendencija dodavanja, zakona je sve više i više. Jedino što stroj ne smije jest naštetiti ljudima. Stoga bi bolje bilo da se inteligentni strojevi razvijaju samo specijalizirano i uz minijaturizaciju te da im se strogo zabrani upotreba nasilja i sredstava prisile. Uz to, mislim da ne bismo trebali razvijati opće i superinteligentne strojeve. Za film “Ja, robot” možemo reći da je upozorenje protiv generalizacije i nasilja inteligentnih strojeva. U filmu je najnovija generacija robota stekla nadmoć, a zatim i svijest o sebi. Glavno računalo počelo je razvijati vlastitu interpretaciju triju Asimovljevih pravila. Osjećalo je da može bolje procijeniti sreću ljudi od ljudi samih. Izdalo je upute za novu verziju robota koji će uništiti staru, zatvorilo je ljude i poubijalo pobunjenike. Kao rezultat, policajac u filmu sarkastično kaže: “Nedostajat će nam dobra stara vremena kad su samo ljudi ubijali ljude.”
Tehnologija nam, činjenica je, olakšava svakodnevni život. Imamo virtualne osobne asistente kao što su Siri, Cortana, Google Assistant, Alexa, Bixby... Nisu skupi, a učinkoviti su. Biste li vi koristili njihove usluge?
Koristim ih vrlo malo. Možda zato što se moram nositi s manje stvari. Kao humanist uglavnom čitam, razmišljam i pišem. Želim što češće raditi samo ono što mi se sviđa i smanjiti sve one nepotrebne stvari.
Bojite li se da će roboti jednog dana postati samosvjesni?
Da. Ne želim razvoj inteligentnih strojeva koji bi imali ljudske osjećaje i ljudsku samosvijest. Mislim da je to i nemoguće. Postoji jedna osnovna razlika: mi smo organizmi na bazi ugljika, oni su organizmi na bazi silicija. Ako doista imaju samosvijest, to je također i “samosvijest” koja se potpuno razlikuje od naše, “samosvijest” koju uopće ne razumijemo. A sa samosviješću postojat će i subjektivna svijest, a oni će možda postati ne samo vlastiti gospodari, već i naši.
Kad bi roboti postali samosvjesni, pa i religiozni, što mislite, koju bi religiju izabrali?
Mogu samo nagađati. Možda fetišizam?
A ljubav između ljudi i robota, je li ona moguća?
Moglo bi biti romanse. No to će biti samo jednostrana, nesretna ljubav. Zar neki ljudi ne gaje duboke osjećaje ne samo prema „robotima“ već i prema određenim predmetima? Mislim ipak da je malo vjerojatno da će to biti obostrana ljubav. Emocionalni rast usko je povezan s tijelom, s tjelesnom osjetljivošću, pa čak i ranjivošću. Ova vrsta fizičkog senzibiliteta povezana je s našim duhom, pa čak i s kulturnom baštinom koju su ljudi razvijali milijunima godina. Mislim da između ljudi i robota postoji emocionalni jaz koji je vrlo teško premostiti.
Umjetna inteligencija nam, vjerujem da to pozdravljate, pomaže u očuvanju zdravlja, u medicinskoj dijagnostici, na primjer. Zahvaljujući tehnologiji, ljudski životni vijek se produljuje i čovjek ima sve više slobodnog vremena (Karl Marx rekao je da je količina slobodnog vremena znak društvenog napretka). Je li to dobro?
Da, povećanje slobodnog vremena je sjajna stvar, ali moramo se pitati: za što će ljudi koristiti slobodno vrijeme? Brzi razvoj tehnologije i gospodarstva u zadnjih stotinu godina dao je ljudima puno više slobodnog vremena nego ikad u prošlosti, ali pogledajte okruženje. Za što mnogi ljudi koriste ovo slobodno vrijeme? Koristi li se za bavljenje duhovnim aktivnostima koje ljude čine ljudima ili se nastavlja koristiti za zadovoljavanje naših rastućih materijalnih i fizičkih želja?
Rekli ste jednom da su u usporedbi sa znanošću i tehnologijom drugi aspekti ljudske duhovne kulture pokazali određenu zaostalost, stagnaciju, pa čak i nepovratan pad. Možete li to objasniti?
Uz ljudsku svijest i sposobnost koja se očituje u inteligenciji znanja i tehnologije kontroliranja materijalnog, ljudska bića imaju i razne duhovne sposobnosti poput umjetničkog stvaranja, filozofskog razmišljanja, moralnih propisa i potrage za vjerom. Međutim, mislite li da su se od 20. stoljeća naše sposobnosti i dostignuća u tim područjima poboljšali i razvili zajedno s tehnologijom? U glazbi imamo neke poznate izvođače i dirigente, ali što je s velikim skladateljima poput Bacha, Beethovena, Čajkovskog? U filozofiji se čini da smo daleko od velikih filozofa poput Kanta, Hegela, Heideggera i Wittgensteina. No najvažniji nedostatak je naša moralna sposobnost, a ona je najvažnija sposobnost samokontrole. Bez ove sposobnosti nećemo moći uravnotežiti brzi razvoj sposobnosti čovječanstva u kontroliranju materijalnog. Jesu li se i naše moralne sposobnosti poboljšale napretkom tehnologije? U razdoblju smo kada se vrijednosti i moral raspadaju.
Što je preventivna etika?
Jedan od razloga zašto sam iznio preventivnu etiku je tehnološki razvoj. Za nove tehnologije poput umjetne inteligencije i genetskog inženjeringa teško je predvidjeti posljedice, a neke se negativne posljedice možda neće moći poništiti. Stoga prvo moramo upozoriti na opasnost – čak i ako ne znamo koja to točno opasnost jest. Neophodno je uspostaviti mehanizam prevencije koji kombinira etiku i zakon te postaviti neka ograničavajuća područja, poput nemogućnosti uređivanja ljudskih spolnih stanica, što može poboljšati naš faktor sigurnosti i spriječiti neke nepredvidive opasnosti.
Fiziološka razlika između čovjeka i stroja, rekli ste, jest u tome što je čovjek izgrađen na bazi ugljika, kisika, dušika, vodika..., a stroj na bazi silicija. U medicini se koristi sve više umjetnih materijala koji zamjenjuju ili nadograđuju one ljudske. Vidite li u tome što etički sporno?
Kombinacija visokotehnoloških dostignuća poput umjetne inteligencije, genetskog inženjeringa i nanotehnologije duboko zadire u ljudsko tijelo. Oštećeni ljudski organi mogu se popraviti i zamijeniti. Neki bogati ljudi mogu čak održavati svoje zdravlje takvim stalnim zahvatima, ali i kontinuirano nadograđivati svoje zdravlje, dosežući vrlo dug život. Moralno pitanje koje se postavlja jest kakav će biti odnos ljudi koji su se na takav način promijenili s ljudima koji se nisu promijenili? Hoće li ovakav “optimizirani čovjek” i “domorodac” postati dvije različite, čak i neprijateljske vrste? Uz to, implantacijom čipova, fuzijom mozga i računala i drugim tehnologijama ljudi postaju jači i zdraviji, i konačno, u određenom trenutku može se doseći takav stupanj razvoja da će biti teško razlikovati ljude od materije. Kao u onoj zagonetki o Tezejevu brodu na kojem se mijenjaju daske pa se postavlja pitanje je li to još uvijek isti taj brod? Pitat ćemo: “Je li ovo još uvijek taj čovjek?”
Neki znanstvenici predviđaju da će za nekoliko desetljeća zaživjeti generalna umjetna inteligencija i da će egzaskalna računala moći simulirati cijeli mozak na razini neurona i sinapsi pa će moći imati bitno veću brzinu rada od biološkoga mozga. Hoće li računalo ostati sluga ili će postati gospodar mozga?
Prema mom osobnom pogledu na tehnologiju i ljude, mislim da, bez obzira na to kako računala mogu simulirati cijeli mozak na razini neurona i sinapsi, još uvijek ne mogu razmišljati i osjećati poput ljudskog mozga. Na primjer, kako može simulirati ljudske suptilne, promjenjive osjećaje? To je usko povezano s osjetljivošću našeg tijela i ukupnom sviješću svih životinja na bazi ugljika. Međutim, “električni mozak” u ljudskom mozgu doista može biti puno moćniji od običnog ljudskog mozga u smislu računanja i pamćenja. Baš kao što superinteligentni stroj izvan nas jednog dana može kontrolirati ljude, ovaj “električni mozak” može kontrolirati i “ljudski mozak”.
Što mislite o genetskom inženjeringu?
Mislim da bismo mogli dopustiti primjenu neke genetske tehnologije: to jest, liječiti osobe s ozbiljnim bolestima koje je teško izliječiti drugim medicinskim tehnologijama. Međutim, to mora biti strogo ograničeno na somatske stanice. Genetska tehnologija ne bi smjela ulaziti u područje korištenja ljudskih spolnih stanica za proizvodnju beba s novim genima. Moglo bi doći do toga da se kvocijent inteligencije, sposobnosti, pa čak i osobnost i osjećaji novorođenčadi, mogu prilagođavati željama. Ljudski će život biti određen, kontroliran... Neki će se ljudi ponašati kao stvoritelji, a većina će izgubiti prirodnost i prevlast nad vlastitim životom. Kakav će to svijet biti? Ne želim vidjeti takav vrli novi svijet.
Eh, umjetna inteligencija ko Kineska država...