Budite se jednog kišnog jutra 2068. godine. Vaš virtualni osobni asistent – nakon što je aktivirao kuhinjskog robotića koji vam priprema čaj jer zna da za kišnih dana pijete čaj – toplim vas glasom upozorava da ste nažalost kišobran prošli vikend ostavili na poslu, unatoč njegovu (ili njezinom, kako vam drago) upozorenju, no da ste tijekom noći na WhatsAppu budućnosti zaprimili poruku da je prvi jutarnji sastanak otkazan.
Budući da će kiša nakratko prestati za točno 42 minute, predlaže vam da ostanete u krevetu još cijelih osam minuta kako biste zatim posrkali čaj na idealnoj temperaturi. Zadovoljno pristajete pa, dok nešto kasnije pijete čaj, vaš virtualni asistent predlaže vam da optimalno iskoristite trenutak i pročitate sažetak novosti posebno generiran za vas poštujući vaše političke preferencije kako se ne biste odmah na početku dana uzrujali jer vam je tlak od jutra nešto viši. Nedugo zatim, pješke i bez kišobrana, šećete se do stanice prijevoznog sredstva budućnosti koje, kako je predvidio vaš asistent, dolazi točno nakon 12 sekundi (ako ste u Zagrebu, to će sigurno i dalje biti tramvaj i procjena bi mogla biti nepouzdana).
>> Pogledajte kako je bilo na panelu 2068. Pogled u budućnost - Oružje i ratovanje
Dok putujete do posla, uzevši u obzir sve ove važne novonastale okolnosti, asistent vam na vašem mobilnom uređaju servira novi optimizirani plan današnjeg dana, naravno prilagođen vašem tipu ličnosti i svim mogućim kontingencijama, o vjerojatnostima kojih može zaključiti na temelju podataka koji se kontinuirano prikupljaju iz senzora raspoređenih po cijelom gradu te podataka koji prikupljaju drugi virtualni asistenti, a koji se marljivo na nekoj farmi servera neprekidno obrađuju najnovijim algoritmima hibridnog simboličko-konekcionističkog strojnog učenja.
Umjetna inteligencija jedna je od uzbudljivijih tema današnjice: prije dvije godine umjetna inteligencija prvi je put pobijedila suparnika ljudskog roda, i to šampiona u intelektualno vrlo zahtjevnoj igri go, a samo godinu poslije ostvarila je još bolji rezultat učeći igrati potpuno samostalno, i to praktički od nule. Tehnološki div Google prije dvije godine zamijenio je svoj deset godina star sustav statističkog strojnog prevođenja vrlo kvalitetnim sustavom temeljenim na umjetnoj neuronskoj mreži, dok je u srpnju ove godine predstavljen prvi sustav koji asistira kirurzima u operativnim zahvatima. Erik Brynjolfsson i Andrew McAfee, znanstvenici s američkog MIT-a, govore o ulasku u “drugo doba strojeva”, prijelomnom trenutku u kojem se naglo ubrzava razvoj umjetne inteligencije i digitalnih tehnologija.
Kako bi moglo izgledati ljudsko društvo u suživotu s umjetnom inteligencijom 2068. godine? Da je predviđanje budućnosti nezahvalan posao, najbolje znaju autori romana znanstvene fantastike koji imaju tu nesreću da požive do tobožnjeg dana ostvarenja njihova predviđanja. Znanstvenici u području umjetne inteligencije poznati su po tome da dolazak istinske umjetne inteligencije u pravilu naviještaju za doba svoje starosti, u nadi da će si osigurati besmrtnost pretakanjem svog vrijednog uma u elektronički mozak. Ujedno je općepoznato da su notorno loši u davanju bilo kakvih procjena o pravcima i dinamici razvoja vlastitoga područja. Ja tu nisam nikakva iznimka premda vjerujem da su moja predviđanja manje spektakularna i da će za prosječnoga tehnoentuzijasta biti utoliko manje uzbudljiva.
Umjetna inteligencija područje je računalstva koje se bavi razvojem računalnih sustava sposobnih za ostvarivanje složenih ciljeva, što tipično iziskuju neki aspekt ljudske inteligencije. Osamdesetogodišnja povijest područja umjetne inteligencije puna je uspona i padova, ekstravagantnih obećanja, nakon kojih su redovito slijedila depresivna razdoblja triježnjenja. Tijekom tih razdoblja razvoj umjetne inteligencije bio je puzajući i bolan, a frustracije iz tog vremena najbolje je opisao američki psiholog Steven Pinker ustvrdivši da je glavna pouka da su za umjetnu inteligenciju laki zadaci teški, a teški zadaci laki.
Unatoč sporom razvoju, primijenjena umjetna inteligencija postigla je konkretna rješenja za cijeli niz praktičnih problema te se početkom stoljeća napokon etablirala kao respektabilna znanstvena disciplina s teorijskim i praktičnim dosezima. Desetak godina poslije, oko godine 2010., pokrenut je novi val entuzijazma probojima u području strojnog učenja, koji su doveli do ponovnog oživljavanja paradigme umjetne neuronske mreže te etabliranja nove paradigme “dubokog učenja”. Strojno učenje – potpodručje umjetne inteligencije koje se bavi razvojem algoritama što mogu samostalno učiti iz podataka – glavni je kotač zamašnjak umjetne inteligencije.
Ključno pitanje za naš nezahvalni prognostički zadatak jest pitanje mogućnosti i dinamike razvoja “umjetne opće inteligencije” – sustava koji bi po svojim sposobnostima parirali ljudima u smislu da bi posjedovali univerzalnu inteligenciju primjenjivu na širok spektar zadataka. Današnji primjeri uspješne umjetne inteligencije ne pripadaju toj kategoriji budući da su primjenjivi isključivo za specifične zadatke za koje su oblikovani, algoritam za igranje šaha ne zna odgovarati na telefonske pozive korisnika, kao što algoritam za procjenu kreditnog rizika ne može upravljati industrijskim robotom u tvornici automobila. Takve sustave zovemo sustavi “slabe umjetne inteligencije”. Premda su znanstvenici što se tiče pitanja mogućnosti razvoja umjetne opće inteligencije podijeljeni, većina ih takvo što smatra mogućim te predviđa da bismo umjetnu opću inteligenciju mogli imati već u ovome stoljeću. Očito je da bi ekonomske i društvene posljedice razvoja takve tehnologije bile radikalne.
No, još radikalnije posljedice mogao bi imati razvoj “umjetne superinteligencije” – umjetne inteligencije mnogo nadmoćnije onoj čovjekovoj. Švedski filozof Nick Bostrom smatra da bi superinteligencija neizbježno nastala kao rezultat procesa samopoboljšanja sustava umjetne opće inteligencije. Ako prihvatimo mogućnost ovakvoga scenarija, predviđanje budućnosti postaje još nezahvalnije jer je u igri previše nepoznanica i broj mogućih scenarija je ogroman. S druge strane, Bostrom i drugi opravdano skreću pozornost na to da bismo neke stvari ipak mogli pretpostaviti. Na primjer, cilj i inteligencija međusobno su nezavisni, otud bi se lako moglo dogoditi da superinteligentan sustav ima posve banalan cilj za čije će ostvarenje upregnuti svu svoju superinteligenciju. Nadalje, neovisno o krajnjem cilju, postoje neki očekivani međuciljevi koje bi takav sustav sigurno usvojio, poput cilja očuvanja vlastitog integriteta i prikupljanja svih resursa potrebnih za provedbu cilja. Ove pretpostavke sugeriraju jednu za ljudsku vrstu mračnu prognozu: sustav superinteligencije, jednom kada usvoji neki svoj moguće banalni cilj, mogao bi eliminirati ljudsku vrstu iz puke potrebe za prikupljanjem resursa potrebnih za ostvarenje svoga cilja.
Drugo zanimljivo pitanje za našu prognozu jest pitanje mogućnosti “jake umjetne inteligencije” – sustava umjetne inteligencije koji bi posjedovao mentalna stanja (npr. vjerovanja i želje), reprezentirao značenje i razumijevao, stvarao misli, moguće i emocije, te u konačnici imao subjektivno iskustvo, odnosno posjedovao svijest. Pitanje svijesti je delikatno, radi se o teškom i kontroverznom filozofskom konceptu koji još uvijek uspješno izmiče empirijskim metodama, no istovremeno iskustvo svijesti osnovna je karakteristika onoga što zovemo biti čovjek. Odnos između inteligencije i svijesti nije razjašnjen: nije jasno je li svijest uvjet ili popratni efekt opće inteligencije. Znanstvenici u području umjetne inteligencije u pravilu javno ne raspravljaju o pitanju svijesti vodeći ipak računa o svojoj reputaciji, no vjerojatno ih većina drži kako se mentalni procesi mogu opisati algoritamski, što znači da jaku umjetnu inteligenciju barem načelno smatraju mogućom. Jaka umjetna inteligencija otvara i niz drugih pitanja, od onih praktičnih – kako mjeriti svijest? – do etičkih – koji bi moralni status imala jaka umjetna inteligencija?
Prema onome što danas znamo, čini se da su u razvoju umjetne inteligencije moguća tri ishoda: daljnji razvoj umjetne inteligencije, ali ostajanje u okvirima slabe umjetne inteligencije, razvoj opće umjetne inteligencije, i kao treće, razvoj umjetne superinteligencije. U potonja dva slučaja možemo u obzir uzeti i mogućnost razvoja jake umjetne inteligencije.
Osobno ne vidim konceptualne prepreke na putu razvoja opće umjetne inteligencije – činjenica da još nismo tamo, posljedica je toga što se premalo znamo o ljudskoj inteligenciji da bismo te procese mogli vjerno reproducirati na računalu. Daljnji napredak neuroznanosti i psihologije, a ponajviše interdisciplinarni pothvat nazvan “kognitivna znanost”, s vremenom će morati donijeti nove spoznaje koje će se moći operacionalizirati u sustavima umjetne inteligencije. Ipak, unatoč trenutačnom optimizmu, ne čini se izglednim da ćemo do 2068. godine riješiti ključna pitanja potrebna za razvoj umjetne opće inteligencije, što onda isključuje i superinteligenciju i jaku umjetnu inteligenciju. Drugim riječima, 2068. ljudi će svojom općom inteligencijom i dalje dominirati nad strojevima i neće ih porobiti zli roboti.
Ključni mehanizmi koje bismo morali razviti na putu do opće umjetne inteligencije jesu mehanizmi rasuđivanja i razumijevanja jezika – dva visokokognitivna zadatka po kojima se ljudska vrsta ističe u odnosu na druga živa bića. Posebno su se problematičnima, još od radnih dana umjetne inteligencije, pokazali zadatci koji uključuju opće znanje i zdravorazumsko zaključivanje. Rani su istraživači s pomiješanim osjećajima razočaranja i divljenja ustanovili da ljudi ipak mnogo toga znaju, a da je pretakanje tog znanja u sustav umjetne inteligencije sve samo ne jednostavan zadatak. Strojno učenje, posebice duboko učenje, doista jest omogućilo velike napretke u pojedinačnim zadacima. U računalnom obliku, primjerice, sustavi temeljeni na dubokom učenju nadmašili su ljude u zadatku raspoznavanja objekata na slici.
No, i dalje je riječ o sustavima vrlo uske, specifične namjene, koji su naučeni na veliku količinu podataka, mnogo većoj nego što bi za rješavanje istoga zadatka trebao čovjek. Takvi sustavi ne pretendiraju biti univerzalno primjenjivi na zadatke koji iziskuju inteligenciju niti biti kognitivno vjerodostojni. Kognitivna vjerodostojnost možda nije nužna za ostvarivanje opće umjetne inteligencije, moguće je da postoje prečice koje evolucija naprosto nije uzela u obzir, ali je očekivati da će sustavi opće umjetne inteligencije morati instancirati nekakvu kognitivnu arhitekturu koja bi orkestrirala rad više specijaliziranih kognitivnih modula, kao što se čini da je to slučaj s ljudskim mozgom, odnosno umom (teza o modularnosti uma američkog kognitivnog znanstvenika Jerryja Fodora).
Kako će, dakle, izgledati umjetna inteligencija 2068. godine? U sljedećih pedeset godina možemo očekivati uglavnom spor, premda na trenutke skokovit razvoj strojnog učenja i primijenjene umjetne inteligencije. U razvijenim državama nastavit će se širenje primjene umjetne inteligencije u gotovo svim gospodarskim granama i na svim razinama društva. Glavna područja primjene u civilne svrhe bit će, očekivano, ona koja generiraju najveći profit, a to su osobni virtualni asistenti, sustavi za preporučivanje, sustavi za pristup sadržaju i informacijama te sustavi potpore zaključivanju i odlučivanju. Do 2068. možemo očekivati da će sustavi umjetne inteligencije moći integrirati više sofisticiranih specijaliziranih modula i tako omogućiti rješavanje većeg broja međusobno povezanih zadataka.
Podlogu za razvoj i integraciju takve umjetne inteligencije činit će i dalje platforme digitalne tehnologije – internet i Internet stvari (umreženi uređaji i senzori) – dok će gorivo za razvoj algoritama biti goleme količine podataka koje korisnici na tim platformama što svjesno, a što nesvjesno generiraju. Najveći utjecaj na svakodnevicu imat će napredak u razvoju virtualnih agenata – sustava koji će, u sklopu ograničenih domena, komunicirati s ljudima, obavljati jednostavnije zadaće te davati preporuke. Priča kojom je otvoren ovaj tekst primjer je takvog jednog sustava. Pokoji čitatelj mogao bi pomisliti da je ovaj problem već riješen, no to je daleko od istine. Učinkovit virtualni agent mora imati zadovoljavajuće sposobnosti rasuđivanja i razumijevanja jezika – a to su središnji problemi umjetne inteligencije. Godine 2068. nećemo imati umjetnu inteligenciju s kojom bismo mogli voditi filozofske rasprave, no imat ćemo kompetentne virtualne agente koji će nam pomagati u sklopu specijaliziranih domena.
U poslovnom i javnom sektoru 2068. mogla bi vidjeti primjenu sustava umjetne inteligencije koji mogu “predviđati budućnost” integrirajući velike količine heterogenih podataka, nalazeći uzorke u tim podacima, generirajući hipoteze i nalazeći kauzalne veze. Računalni znanstvenik i filozof Judea Perl drži da je kauzalno rasuđivanje ključna karakteristika koja nedostaje istinski inteligentnoj umjetnoj inteligenciji. U svome romanu “Stand on Zanzibar” – usput rečeno, napisanom stotinu godina prije naše ciljane 2068. – američki pisac znanstvene fantastike John Brunner opisuje distopijsku budućnost tada daleke 2010. u kojoj superračunalo Shalmaneser, poput proroka, odgovara na upite stručnjaka te predlaže optimalne ekonomske i političke strategije za upravljanje izmišljenom afričkom državom Beninijom. Današnja umjetna inteligencija nije ni do koljena Shalmaneseru, međutim 50 godina moglo bi biti dovoljno za razvoj takvih sustava koji bi, u okviru visoko specijaliziranih domena, mogli razumijevati i objašnjavati kauzalnost. Simboličko-konektivistički Shalmaneseri predlagali bi optimalne ekonomske i političke poteze pa bi se kao uspješnije nametnule one države koje imaju noviju verziju Shalmaneserovog algoritma.
Istovremeno će se do 2068. nastaviti i vjerojatno povećati ulaganja u razvoj umjetne inteligencije u obavještajne i vojne svrhe – sustavi za praćenje i nadzor temeljeni na prediktivnim modelima, smrtonosna autonomna oružja, sustavi za potporu strateškom odlučivanju te sustavi za kibernetičko ratovanje i obranu. Na koncu, američka agencija Ministarstva obrane DARPA još je od šezdesetih godina prošlog stoljeća bila glavni financijer razvoja umjetne inteligencije, s očitim ciljem da SAD zadrži primat u tom strateški važnom području. Tako je u srpnju ove godine DARPA ponosno obznanila da kratkoročno kani uložiti dvije milijarde američkih dolara u razvoj projekata umjetne inteligencije s “visokim rizikom i visokom isplativošću”. Što je točno dotičnoj agenciji isplativo ostavljamo na procjenu čitatelju.
Tehnologija umjetne inteligencije 2068. imat će, bez sumnje, velik utjecaj na živote ljudi. No, gdje je tu čovjek? Svakako, osobni virtualni asistenti koji optimiziraju svaku minutu našeg života učinili bi ga lagodnim. No, je li to svijet u kojem želimo živjeti? Želimo li biti optimizirane jedinke u algoritmu umjetne inteligencije ili ipak želimo osjetiti (makar privid) slobodne volje, povremeno se prepustiti serendipitetu, tu i tamo donijeti i koju pogrešnu odluku? John Brunner u ranije spomenutom romanu konstatira da najprije koristimo strojeve, zatim ih nosimo na sebi, a na koncu im služimo. Digitalna tehnologija već danas pokazuje i svoju mračnu stranu: hiperoptimizacija tržišta mikroposlova doprinijela je povećanju prekarnog rada koji postepeno uništava stoljećima uspostavljane mehanizme socijalne sigurnosti.
Umjetna inteligencija može 2068. situaciju učiniti mnogo gorom: vaš osobni asistent, zapravo u posjedu neke megakompanije – nazovimo ju Boogle – mogao bi se pobrinuti da vidite plaćene oglase koje trebate vidjeti, pročitate ono što biste trebali pročitati i radite ono što biste trebali raditi, a kako biste u konačnici potrošili što više i pitali što manje – imajući pritom savršenu iluziju znanja i kontrole. Ako je znanje moć, onda je iluzija znanja supermoć.
Vojne primjene umjetne inteligencije u pravilu u široj javnosti već danas izazivaju negativne reakcije. Google (ne brkati s fiktivnim Boogle iz prethodnog odlomka) je nedavno javno obznanio (doduše, nakon pritisaka vlastitih zaposlenika) da se povlači iz Pentagonova projekta primjene umjetne inteligencije za upravljanje vojnim dronovima. Google je zatim razradio i objavio svoja etička načela razvoja umjetne inteligencije u kojima, uz ostalo, deklarira da neće raditi na razvoju oružja. Etička pitanja umjetne inteligencije posljednjih godina postaju sve aktualnija, pa danas postoji više inicijativa da se uvedu etička načela koja bi trebala osigurati razvoj sigurne, pravedne i odgovorne umjetne inteligencije. Sve su to hvalevrijedne inicijative, ali sumnjam da će spriječiti da profit “nađe svoj put”, a još manje da će spriječiti vlade onih država koje si to mogu priuštiti, uključivo onih sklonih totalitarizmu, da razvijaju umjetnu inteligenciju kojom će nadzirati i upravljati svojim građanima te moći “odgovoriti na sigurnosne ugroze”. Vojni i obavještajni sustav većine država 2068. bit će poduprt i vjerojatno u velikoj mjeri upravljan sofisticiranim specijalističkim sustavima umjetne inteligencije.
Umjetna inteligencija u idućih pedeset godina učinit će aktualnim niz temeljnih etičkih i društvenih pitanja, a koja se isprepliću s drugim društvenim izazovima nadolazećeg doba (rastuća ekonomska nejednakost, klimatske promjene, globalizacija). Kao i do sada, razvoj tehnologije prvenstveno će biti motiviran profitom ili željom za kontrolom, stoga tehnologija ne utječe na sve ljude jednako. U tom smislu ne vidim zašto bi daljnji razvoj umjetne inteligencije nužno za društvo bio pozitivan. Umjetna inteligencija do 2068. povećat će problem tehnološke nezaposlenosti i nezapošljivosti: većina fizički ili kognitivno rutinskih poslova bit će u idućih pedeset godina automatizirani sustavima slabe umjetne inteligencije.
Kako ističu Brynjolfsson i McAfee, gubitnici u toj priči bit će slabo obrazovani (koji neće moći konkurirati jeftinoj umjetnoj inteligenciji i koji će se biti prepušteni brutalnoj borbi za još neautomatizirana radna mjesta), radnici (koji će primati sve manji dio kolača u odnosu na investitore) te općenito svi koji se srećom ili talentom (ovisno u što vjerujete) nisu nametnuli kao superzvijezde (digitalna ekonomija rađa i voli superzvijezde). Posljedično, bez promišljene strategije, razvoj umjetne inteligencije pridonijet će povećanju nejednakosti između bogatih i siromašnih slojeva društva te između razvijenog i nerazvijenog dijela svijeta. Istovremeno, negdje na drugom kraju svijeta, totalitarni režimi 2068. upregnut će punu snagu umjetne inteligencije (doduše još uvijek slabe) za savršeno upravljanje svojim građanima.
Može li društvo u idućih pedeset godina minimizirati očekivane negativne i maksimizirati pozitivne učinke razvoja i primjene umjetne inteligencije? Čini mi se da se nameću tri mogućnosti. Prva je neoludistički pokret, kojim bi se spriječio daljnji razvoj umjetne inteligencije i možda digitalne tehnologije općenito, i u ekstremu doveo do neke vrste regresije u preddigitalno doba. Druga mogućnost je globalno usvajanje univerzalnih etičkih načela koja bi spriječila zloporabu umjetne inteligencije u civilnom ili vojnom sektoru. I jedno i drugo iziskivalo bi neku vrstu globalnog društvenog konsenzusa koji se protivi interesu profita i partikularnih političkih skupina. Stoga mi se takvo što čini beskrajno naivnim i nemogućim, mislim da bismo prije mogli razviti umjetnu superinteligenciju nego ostvarili takav nekakav konsenzus.
Konačno, treća mogućnost – koja mislim da je ključ osiguravanja pozitivnog ishoda razvoja i primjene umjetne inteligencije – jest obrazovanje. Obrazovanje je jedini mehanizam koji bi mogao preokrenuti ishod i dovesti do utopijskog scenarija u kojemu bi umjetna inteligencija bila glavni pokretač za neslućen razvoj društva u svim sferama. Nove generacije trebaju usvojiti znanja i vještine za život u društvu vođenom umjetnom inteligencijom, tako da nisu samo konzumenti te tehnologije i podatkovne točke u optimizacijskom algoritmu strojnog učenja, nego da doprinose stvaranju društva u kojem će tehnologija služiti čovjeku.
U godinama koje vode do 2068. umjetna inteligencija preuzimat će sve više rutinskih poslova, bilo fizičkih ili intelektualnih. Neće imati smisla natjecati se sa strojevima koje iste zadatke obavljaju jeftinije, jer tu bitku sigurno gubimo. Zadaci koji će 2068. sigurno ostati izvan dosega umjetne inteligencije bit će oni koji iziskuju rad s ljudima, generiranje ideja i složene oblike komunikacije. No, usmjeravanje samo na takve poslove dovelo bi do velikog i neodrživog suparništva. Obrazovanje nam može omogućiti da odemo korak dalje i iskoristimo komplementarnost ljudi i strojeva. Umjetna inteligencija ima potencijala da bude sinergistička, a ne samo zamjenska tehnologija. Sinergistička umjetna inteligencija omogućila bi ljudima da pojačaju svoje kognitivne sposobnosti i stvore nove ekonomske i društvene vrijednosti. Put do takvog društva vodi kroz obrazovanje koje se zasniva na rješavanju problema, kreativnosti i razvoju ekspertnih vještina, a ne na pamćenju informacija i deriviranju plitkoga znanja. Na tom polju strojevi su već bolji od nas.
Kako će 2068. izgledati suživot s umjetnom inteligencijom još nije upisano u kamen. Opcije su otvorene, na nama je da odaberemo kojim putem želimo ići. Distopijska utopija u kojoj umjetna inteligencija optimizira našu svakodnevicu, no u kojoj je egzistencija većine svedena na puke potrošače s iluzijom kontrole nad vlastitim životom? Totalitarni sustav koji s pomoću umjetne inteligencije nadzire svoje građane i upravlja njihovim životima? Ili utopijsko društvo u kojem je većina građana visoko obrazovana i koji u sinergiji s umjetnom inteligencijom stvaraju nove vrijednosti i pomiču granice spoznaje? Društva i države danas mogu odabrati gdje žele biti 2068.
>> Pogledajte video Igora Rudana o umjetnoj inteligenciji
Danas mnogi pokušavaju graditi egzistenciju na novim trendovima kao što je umjetna inteligencija. Napiši puno a ne reci ništa novo, recept za modus operandi.