Henry Shevlin filozof je sa Sveučilišta Cambridge, a predmet je njegova interesa i proučavanja svjesnost, bilo da je riječ o onoj ljudskoj, bilo pak o životinjskoj te posebice onoj koju tehnološka zajednica pokušava oformiti – svijest umjetne inteligencije. Profesor Shevlin nedavno je gostovao u Zagrebu, na konferenciji AI2Future, te je na impresivnom predavanju naglasio kako su ljudi već ušli u vrlo aktivne odnose s proizvodima AI, posebice s chatbotovima, te je istaknuo sve dobre i loše strane takvih odnosa, koji će u budućnosti biti sve više u uporabi s obzirom na to da tehnologija nezaustavljivo napreduje. S Henryjem Shevlinom razgovarali smo o prednostima i, naravno, zloporabama AI, kao i o tome kako bi mogao izgledati suživot i društvo preplavljeno AI proizvodima i uslugama.
U svojim radovima tvrdite da smo usred nevjerojatnog razdoblja rasta i razvoja umjetne inteligencije. Što vas se najviše dojmilo ili što smatrate najznačajnijim postignućem?
Teško je izdvojiti samo jednu stvar! U smislu čistog spektakla, teško je nadmašiti pobjedu DeepMindova AlphaGoa protiv Lee Sedola 2016. Igra Go dugo se smatrala jednim od najtežih izazova za umjetne sustave i većina je istraživača mislila da će trebati godine, možda čak i desetljeća, prije negoli računala mogu pobijediti najbolje ljudske igrače, pa je ovo bio vrlo dramatičan trenutak. Međutim, u smislu napretka, mislim da je uspon velikih jezičnih modela poput GPT-2 i GPT-3 najznačajniji razvoj. Vrlo je malo ljudi očekivalo da se mogu unaprijediti sustavi poput ovih kako bismo dobili sposobnosti razgovora strojeva koji su gotovo poput ljudskih, a najnovije iteracije tehnologije mogu čak raditi stvari poput pisanja računalnog koda.
U tom kontekstu ističete da će emocionalni chatbotovi postati zanimljiviji i realniji u bliskoj budućnosti, ali promatrate posljedice takvih interakcija. Chatbotovi poput Replice već imaju milijune pretplatnika, a neki su i u "romantičnim odnosima" poput onih iz filma "Her". Koje to sve posljedice donosi?
Iskreno, nemam pojma! I to je ono što mi je istodobno uzbudljivo i zastrašujuće kod ovih sustava! Optimistično gledano, mogli bismo pronaći nevjerojatno korisne primjene u obrazovanju: svako bi dijete moglo imati "osobnog učitelja" u pripravnosti 24/7 koji bi mu pomogao razumjeti složene pojmove u znanosti ili filozofiji, a svi bismo mogli imati pristup AI terapeutima koji bi nam pomogli obraditi traumu ili razviti bolje navike razmišljanja. Pesimističnije gledano, postoji rizik da bi nas te tehnologije mogle više izolirati i dovesti do društvenog "dekvalificiranja" jer bismo se mogli odreći ljudskih razgovora i upustiti u te sigurnije i manje izazovne razgovore sa strojevima.
Iako umjetna inteligencija sama još nema svijest, već obavlja velik dio posla. U isto vrijeme, umjetna inteligencija nezaustavljivo prodire u naše živote, u različitim oblicima i u različitim stupnjevima. Upravo sada govorimo o "glupoj" umjetnoj inteligenciji, koja je daleko od svjesne umjetne inteligencije, ali imaju li ljudi probleme s trenutnim oblicima umjetne inteligencije? Ili, koji su izazovi za korisnike, a koji za programere koji je stvaraju?
Ovo je značajno pitanje. Globalno, stavovi prema umjetnoj inteligenciji znatno se razlikuju. Studija Oxford Internet Institutea, na primjer, otkrila je da je 47 posto stanovnika Sjeverne Amerike zabrinuto zbog štete povezane s umjetnom inteligencijom, u usporedbi sa samo 11 posto u istočnoj Aziji. Ima puno zaslužnih za javni skepticizam prema stvarima kao što su društveni mediji i njihova sposobnost da utječu na stvari kao što je nacionalna politika, ali mislim kako je važno da ljudi razlikuju složene i raznolike potencijalne primjene AI sustava od trenutačne infrastrukture "velike tehnologije".
U vrlo smo ranoj fazi našeg putovanja s umjetnom inteligencijom i još će biti mnogo pozitivnih i negativnih primjena. Mislim da bi bilo korisno preusmjeriti razgovor s umjetne inteligencije općenito na specifičnije oblike sustava: automobile bez vozača, velike jezične modele, vizualne jezične modele i tako dalje. Dodao bih kako mislim da neki od najuzbudljivijih razvoja umjetne inteligencije u posljednje vrijeme, kao što je Stable Diffusion (nevjerojatan sustav za generiranje slika koji je besplatan za preuzimanje), koriste decentraliziranu umjetnu inteligenciju otvorenoga koda, koju su zajednički razvili pojedinačni entuzijasti, potencijalno slijedeći put institucija poput Wikipedije.
U svojim radovima govorite o neljudskoj svijesti. Dokle je umjetna inteligencija stigla u tom kontekstu? Kako uopće definirati AI svijest i trenutak u kojem danas živimo?
Većinu svoje akademske karijere bavim se sviješću i još nemam pojma što je to! Ono što mogu sa sigurnošću reći jest da je to apsolutno ključno za moral. Velik dio mog rada usmjeren je na svijest životinja, a tu je njegov etički značaj očit: može li životinja osjetiti bol, iskusiti negativne emocije ili imati osjećaj vlastitog identiteta ili ne, sve su to čimbenici vrlo važni za dobrobit životinja. Mislim da smo znatno napredovali u razumijevanju životinjske svijesti, ali AI svijest je teža; čak se i najnapredniji sustavi umjetne inteligencije mnogo više razlikuju od nas nego psi, ptice ili ribe. Filozofi i znanstvenici i dalje su podijeljeni oko pitanja je li svijest uopće moguća u nebiološkim sustavima. Sve je rečeno, stvari se brzo mijenjaju; prije deset, čak i pet godina, AI svijest osjećala se kao nešto vrlo daleko, stvar znanstvene fantastike. Ali s porastom sofisticiranijih umjetnih inteligencija za razgovor i brzim tempom napretka općenito, pitanja o AI svijesti – može li stroj ikada razumjeti, osjetiti emocije ili istinski iskusiti svijet – postala su sve hitnija.
Vi ste filozof uma i kognitivne znanosti, specijalizirani za umjetnu inteligenciju i umove životinja. Kako se umjetna inteligencija odnosi na druge oblike svijesti. Koje su razlike?
Sjajno pitanje. U istraživanjima često grupiram životinje i umjetnu inteligenciju, na primjer govoreći o "ne-ljudskoj svijesti", umjesto da ih tretiramo odvojeno. Svakako postoje važne zajedničke točke – mnoga od najtežih pitanja (kao što je kako uopće možemo znati je li životinja ili umjetna inteligencija pri svijesti) imaju goleme zajedničke točke između životinja i strojeva. U širem smislu, mislim da bismo se trebali pokušati odmaknuti od antropocentrizma – stavljanja ljudi u središte svega – u načinu na koji razmišljamo o drugim umovima. Umjesto da budemo vrhunac inteligencije, mi smo samo jedan (neobično pametan!) oblik kognitivnih sustava, sa svojim osobinama, snagama i slabostima. Različite životinje razlikuju se od nas kognitivno i bihevioralno na mnoge fascinantne načine, a isto vrijedi i za AI! Postoje, naravno, i važne razlike između biološke i umjetne inteligencije; sva biološka inteligencija vođena je u svom razvoju evolucijom, dok je umjetna inteligencija vođena ljudskom znatiželjom i tržišnim poticajima. Također imamo puno više iskustva u radu sa životinjama nego s umjetnom inteligencijom – imamo dugogodišnje protokole i moralne standarde koje možemo primijeniti, dok ih u slučaju umjetne inteligencije još izmišljamo i otkrivamo. Ali nadam se da će nas naše interakcije s umjetnom inteligencijom također potaknuti da preispitamo neke svoje stavove prema životinjama, ozbiljnije shvaćajući njihovu dobrobit.
Što biste u kontekstu etike istaknuli onima koji razvijaju umjetnu inteligenciju, odnosno onima koji se njome koriste, što mislite da prvo treba razlikovati i na što treba obratiti pozornost?
Iznimno se divim mnogim ljudima koji rade na razvoju sustava umjetne inteligencije i mislim da u industriji raste svijest o važnosti suradnje s filozofima i društvenim znanstvenicima kako bi se osiguralo da umjetna inteligencija koristi čovječanstvu, a ne da nas ograničava ili šteti. Naglasio bih svijetu tehnologije da mnogi znanstvenici izvan industrije iskreno žele pomoći u tom smislu i ne žele samo grditi ili ograničavati programere. Još jedno pitanje koje naglašavam u razgovorima s radnicima u tehnološkom sektoru jest da u mnogim od tih domena nemamo ustaljene odgovore ili moralne standarde. Je li umjetnost stvorena umjetnom inteligencijom kreativna? Možemo li imati smislen odnos s umjetnim sustavima? Je li prihvatljivo da smrtonosno autonomno oružje donosi odluke o životu ili smrti? To su teška pitanja koja ćemo morati riješiti kolektivno kao društvo, a ne određuju ih samo tehnologija, stoga je vanjska ekspertiza prijeko potrebna.
U svom radu postavljate brojna pitanja o umjetnoj inteligenciji i budućnosti. Vi ste filozof, mislite li da se filozofi dovoljno bave tim temama ili još ne percipiraju ispravno novost modernih tehnologija poput umjetne inteligencije? Stasa li nova generacija filozofa?
Složio bih se s vašom karakterizacijom filozofije u pitanju. Velik dio filozofije prilično je akademski konzervativan, a mnogi filozofi radije djeluju u raspravama s dobro utvrđenom dijalektikom i argumentima. AI etika i filozofija umjetne inteligencije relativno su nove, a pravila rasprave su manje jasna, tako da tek nedavno dolazi do izražaja kao glavno područje nove filozofije. I, naravno, tehničke prepreke za doprinos raspravi – učenje o raznim tehnologijama te njihovim prednostima i ograničenjima – mogu biti zastrašujuće. Također mislim da ste u pravu da postoji nova generacija filozofa koja odrasta u ovom svijetu. Jedan članak u kojem sam sudjelovao 2020., "Filozofi na GPT-3", sadržavao je izbor izvrsnih filozofskih perspektiva, uglavnom iz ove nove generacije. Naravno, postoje iznimke – neki vodeći filozofi, poput Davida Chalmersa, sudjelovali su u raspravama o umjetnoj inteligenciji tijekom cijele svoje karijere.
Kako je tehnologija u punom zamahu, svijet se suočava s nedostatkom programera i informatičara, a društvene i humanističke znanosti nekako su po strani. Ima li posla za društvene znanstvenike u budućnosti? Koji su to poslovi?
Na neki način uvjeren sam da će biti sve više poslova za društvenjake te humanističke znanstvenike negoli za programere! Sa svakim tehnološkim skokom koji čovječanstvo učini moramo dokučiti što to znači za nas, naša društva, naše nade i strahove za budućnost. Taj zadatak – objašnjavanje samih sebe – upravo je ono za što su društveni znanstvenici i istraživači humanističkih znanosti kvalificirani, i to je gotovo po definiciji zadatak koji je teško automatizirati. Uz to, radujem se čitanju prvog istinski originalnog filozofskog djela umjetne inteligencije!
Promoviranje perverznih ljevičarskih ideologija!