Regulatorni okvir EU o umjetnoj inteligenciji je u nastajanju. Takozvani AI act, odnosno prijedlog Uredbe upravo je u fazi javne rasprave. Njegovo donošenje očekuje se u skorije vrijeme, vjerojatno tijekom 2022., zatim slijedi faza implementacije u nacionalna zakonodavstava država članica, kaže nam Marijana Šarolić Robić, pravna stručnjakinja i jedna od osnivačica Hrvatske udruge za umjetnu inteligenciju s kojom smo razgovarali upravo na temu regulacije umjetne inteligencije. Kako nam govori, prijedlog Uredbe proizvod višegodišnjeg nastojanja tijela EU i Stručne skupine na visokoj razini (eng. AI HLEG) kako regulirati umjetnu inteligenciju.
– Zaista je važno da se i sada u ovoj fazi raspravljanja uključe svi dionici. Zajednički cilj je imati kao rezultat sustave umjetne inteligencije koji su pouzdani i odgovorni, odnosno za koje je jasno tko je za njih odgovoran.
Svi govore o umjetnoj inteligenciji, koja je sastavni dio mnogih proizvoda i alata, brzo se razvija i jasno je da njezinom primjenom dolazi do velikih promjena u svim područjima života. Ipak, dio koji još uvijek nedostaje jest jasna regulativa. EU je odlučio upravo tomu se posvetiti, predložili su niz pravila i mjera. No jesu li zakasnili?
Jako zanimljivo pitanje. Područje zahvata Uredbe zapravo je jako široko jer se odnosi na cijelo područje primjene umjetne inteligencije. Mislim da će biti iznimno važno u ovom slučaju osigurati da sama EU regulativa bude poput svakog sustava umjetne inteligencije, da brzo uči, u svakoj iteraciji osigura bolju, jednostavniju i učinkovitiju primjenu s pravom dozom regulacije, koja neće onemogućavati daljnji razvoj i koristi koje umjetna inteligencija donosi. Umjetna inteligencija tek se razvija kao tehnologija te ju je nemoguće i nepotrebno zaključati u postojeće okvire, već treba osigurati razmjernu zaštitu i pravnu sigurnost u skladu s fazom razvoja same tehnologije.
Je li doista moguće pravilima i mjerama doći do pouzdane i odgovorne umjetne inteligencije, odnosno na pravi način nadzirati proces primjene?
Vjerujem da trgovačka društva koja stavljaju na tržište svoje proizvode i usluge u pravilu imaju jasan cilj da njihov proizvodi i usluge služe na dobrobit njihovih kupaca te da im se kupci vraćaju i ponovno koriste njihove proizvode i usluge te se tako već unutar pojedinih industrija provodi samonadzor i regulacija. Neke industrije poput proizvodnje lijekova ili medicinskih uređaja već imaju jasno uspostavljene sustave eksternih nadzora te postoje mehanizmi prijavljivanja incidenata od samih kupaca, krajnjih korisnika. Jako je opasno da dodatno uvodimo posebne mehanizme nadzora samo za sustave umjetne inteligencije te time usložnjavamo, poskupljuljemo i ograničavamo pristup tržištu i korisnicima. Iz uvoda Uredbe da se iščitati da je namjera regulatora bila da se u najvećoj mogućoj mjeri koriste postojeći mehanizmi regulacija unutar pojedinih industrija.
Naglasak buduće Uredbe je na reguliranju visokorizičnih sustava umjetne inteligencije.
Tako je, iako unutar novog regulatornog okvira ostaje na svakoj pojedinoj industriji i njezinim sadašnjim i budućim propisima da se samoreguliraju, prijedlog teksta uredbe ipak jasno uvodi takozvani pristup utemeljen na riziku (eng. risk based approach) te jako regulira putem sustava upisa u registar visokorizičnih sustava umjetne inteligencija te obaveze trajnog usklađenja takvih sustava bilo kakvo stavljanje na tržište proizvoda i usluga koje se temelje, odnosno u sebi sadrže umjetnu inteligenciju te su prepoznate kao visokorizične primjene umjetne inteligencije.
Kako će takva samoregulacija utjecati na tvrtke koje žele inovirati i razvijati se?
Takav teret regulacije i usklađenja koji se stavlja na trgovačka društvo mogao bi dovesti do gušenja inovacije i kreativnosti i dovesti do toga da trgovačka društva svoje usluge i proizvode temeljene na umjetnoj inteligenciji.
Primjerice, kao visokorizični sustavi prepoznati su oni u područjima poput obrazovanja ili osposobljavanja koje osobi može odrediti pristup obrazovanju i usmjeriti profesionalni život (npr. bodovanje ispita), sigurnosnim dijelovima proizvoda (npr. primjena umjetne inteligencije u robotski potpomognutim kirurškim zahvatima), zapošljavanju, kadrovskom upravljanju i pristupu samozapošljavanju (npr. softver za razvrstavanje životopisa u postupcima zapošljavanja), osnovnim privatnim i javnim uslugama (npr. ocjenjivanje kreditne sposobnosti koje građanima može uskratiti mogućnost da podignu kredit, provođenje zakona koje se može kositi s temeljnim pravima građana (npr. evaluacija pouzdanosti dokaza), upravljanju migracijama, azilom i granicama (npr. provjera vjerodostojnosti putnih isprava), pravosuđu i demokratskim procesima (npr. primjena zakona na konkretan skup činjenica).
Dodatna je zamjerka da bi moguća prereguliranost dovela do zastoja u razvoju startupa?
Slažem se s tom zamjerkom i zaista smatram da je iznimno opasno obvezom pretjeranog i preranog usklađenja, koja se stavlja na startup, manja i srednja trgovačka društva, pa čak i velika društva s područja EU staviti u neravnopravan položaj u odnosu na ostatak svijeta. Nažalost, može doći do egzodusa u liberalnije zemlje, koje na fleksibilniji način, pristupaju obvezama usklađenosti svojih kompanija. Vjerujem da veliki dio tog pretjeranog inzistiranja na usklađenosti dijelom proizlazi iz neznanja o samom načinu funkcioniranja i logici rada takvih sustava.
Dakle, koji su najkritičniji dijelovi AI Acta gdje bi moglo doći do ‘uskog grla’ u primjeni?
Prvi iznimno veliki izazov stavljen na svaku državu članicu jest što uz centralni EU registar svih visokorizičnih sustava umjetne inteligencije trebaju osigurati dovoljan broj profesionalca i stručnjaka u tijelima javnih servisa koji će imati znanja i vještine za praćenje napretka umjetne inteligencije i pravovremenu i učinkovitu podršku svim dionicama sustava primjene umjetne inteligencije. Postavlja se pitanje tko će osigurati takvu trajnu edukaciju javnih službenika u nacionalnim tijelima država članica. Drugi izazov je teret usklađenosti koji na svakog pružatelja proizvoda ili usluga koji su označeni visokorizičnim stavlja iznimno velike obveze rezervacija resursa po pitanju internih stručnjaka za usklađenost, postupaka i troškova usklađenosti, koji će se razvojem same tehnologije i u svakoj iteraciji razvoja sustava umjetne inteligencije koji budu na tržištu dodatno usložnjavati i poskupljivati ulazak, ostanak i opstanak na tržištu.
Većina inovacija na području umjetne inteligencije dolazi od startupa te malih i srednjih društava te će njima biti iznimno teško, a u nekim slučajevima i nemoguće osigurati konstantu usklađenost koja se traži temeljem Uredbe.
Jedan dio AI, posebice tehnologija prepoznavanja lica, često je u medijima. Zemlje imaju različit pristup tome, od Kine koja je snima sve do SAD-a koja ima raznolik pristup, s tim da su je neki gradovi i države potpuno zabranili u javnoj primjeni. Tu su i ostale biometrijske tehnologije te društveno vrednovanje. Što zagovara EU i kakav je vaš stav?
Social scoring ili društveno vrednovanje smatra se neprihvatljivim rizikom, dok sam prijedlog Uredbe ostavlja mogućnost da se takva tehnologija može iznimno koristiti za borbu protiv tzv. ozbiljnijih zločina poput otmica ili terorizma. Čitali smo da je nedavno donesena neobvezujuća rezolucija Europskog parlamenta kojom se tehnologija prepoznavanja lica na javnim mjestima prilikom postupaka predviđanja potencijalnog počinjenja mogućih kaznenih djela zabrani te se na nju stavlja moratorij dok ne postane pouzdanija jer su u protivnom ograničenja ljudskih prava prevelika. Ostaje vidjeti kako će na kraju izgledati konačan tekst Uredbe o umjetnoj inteligenciji i u kojim će slučajevima, ako uopće, takva tehnologija biti dopuštena. Ja se u načelu slažem s takvim pristupom u regulaciji biometrijskih primjena sustava umjetne inteligencije u javnom prostoru te smatram da je svaku takvu primjenu treba dobro obrazložiti i osigurati da postoji nezavisni mehanizmi nadzora primjene i upotrebe takvih podataka kako ne bi nastupilo kršenje ljudskih prava uključenih pojedinaca.
Što je s Hrvatskom, koliko znam još uvijek nemamo strategiju o umjetnoj inteligenciji, koliko je ona bitna?
Koliko je meni poznato, u prijedlogu Nacionalnog programa oporavka bili su naznačeni neki milijunski iznosi za izradu takve strategije pa se nadam da ćemo u uskoro i dobiti i osigurati da nismo opet na začelju EU. Prije nekoliko godina udruga HUP ICT ponudila je tadašnjoj Vladi prijedlog teksta takve strategije, ali ona nažalost nije doživjela da se raspravi te usvoji tom prilikom. Strategija je iznimno važna jer, ako ne znate kojim putem idete, nemate pojma kamo ćete stići te vam je svaki put dobar. Zemlja veličine Hrvatske takav si luksuz ne može i ne smije priuštiti te je iznimno važno da se strategija donese što prije i da svi dionici hrvatskog ekosustava umjetne inteligencije sudjeluju u tom procesu.
Postoji prijedlog CroAI udruge o prilici Hrvatske da postane svojevrsni testni poligon (sandbox) za razvoj AI proizvoda, kako gledate na taj prijedlog?
Testni poligoni (tzv. sandbox) mogu biti jako dobar kanal za testiranje sustava umjetne inteligencije, u kontroliranim uvjetima uz samoregulaciju i dogovor s regulatorima mogu osigurati da se pojedina tehnologija testira prije pravog izlaska na tržište. Tako će, kada takva tehnologija zaista bude stavljena na tržište, ona već imati određena usklađenja, prilagodbe koje su nastale u testnoj fazi te je također moguće da neke upravo zbog loših rezultata i neće izaći na tržište.
Facebook zviždačica Frances Haugen protekli tjedan provela je u Europi i tijelima EU. Ono što je, između ostalog, poručila jest da EU ima povijesnu priliku regulirati AI i digitalne tehnologije. Mislite li da bi EU mogao postaviti svjetske standarde?
EU je već 2018. godine u svojim dokumentima istaknuo da želi stvoriti AI brend “made in EU” te biti vodeći u regulaciji umjetne inteligencije globalno. U tom smjeru EU i ide te postavlja tzv. zlatne standarde regulacije za druge zemlje koje dijele iste sustave vrijednosti.
Kada se radi o Facebooku, Haugen zapravo ne krivi AI algoritme nego upravljanje njima, a EU se zalaže za čovjeka kao glavnog donosioca odluka. No, bar u početku, neke zloporabe su nastale nesvjesnim korištenjem krivo postavljenih algoritama. Može li se od AI tvrtki, odnosno njihova vodstva tražiti svijest i tko bi to mogao nadzirati? Haugen se zalaže za veliki ekosustav takvih nadziratelja. Što vi mislite?
Sam prijedlog Uredbe o AI te svi raniji dokumenti koje je donio AI HLEG postavljaju sedam zahtjeva koje sustavi umjetne inteligencije moraju zadovoljavati tijekom svoga životnog ciklusa, a stalno čovjekovo upravljanje/nadzor, objašnjivost donošenja odluka i preporuka predviđanja već su među njima. Tako da, odgovor je da se već sada postavljaju takvi zahtjevi pred sve koji razvijaju sustave umjetne inteligencije na području EU, a sam tekst Uredbe previđa i registar visokorizičnih sustava te nadzor nad njima.
Zuckerberg se nakon svih optužbi zapravo nije povukao, već je osmislio novi proizvod. Promijenio je ime grupacije u Meta i predstavio metaverzum. Kako gledate na njegov novi projekt?
Facebook kao društveni medij lagano doživljava svoj zalazak te je za očekivati da će njegovi autori posegnuti za novim proizvodima i uslugama da bi osigurali nastavak rasta koji su imali dosad. Sve koristi i opasnosti društvenih medija opstat će, vjerujem, i u Meti i na nama je kao i dosad da razumno koristimo tehnologiju za dobro i stalno se educiramo o njezinu načinu rada.
AI je i dalje u području kontroverzi, pod povećalom, pokušavaju se predvidjeti zloupotrebe i negativne posljedice, no postoje i prednosti, gdje ih vi vidite i mislite li da će regulativa postići cilj i ubrzati prednosti i spriječiti zloporabe?
Jako dobro pitanje. Sama narav tehnologije poput umjetne inteligencije itekako ovisi od kvaliteti i točnosti podataka kojima je hranimo te iz kojih ona uči. Na nama je da stalno propitujemo takve podatke i koristi koje želimo postići te utvrđujemo jesu li u skladu s vrijednostima koje naše društvo ima. Jednako je važno da osvijestimo da je tehnologija samo jedan kanal, medij ljudske aktivnosti i mi smo oni koji njome upravljamo i koristimo je za dobre i loše svrhe. Zasad nema univerzalne umjetne inteligencije koja bi podložila čovjeka, ali nažalost ima nas lijenih ljudi koji needucirano koristimo tehnologiju ne propitujući njezinu svrhu i korist za naš život i posao te tako zapravo od konzumenta postajemo konzumirani tehnologijom. Izazov pred čovječanstvom je velik, ali vjerujem u Prometeje među nama te da će nam i ova evolucija donijeti dobro. Smatram da je iznimno važno da se svi kao profesionalci u svojim strukama te pojedinci u svojim privatnim životima aktivno uključimo u rasprave o izazovima koje tehnologija stavlja pred nas kako bi zaista i njezine koristi bile za dobrobit čovječanstva.
Koliko su odvjetnici zapravo upoznati s novim tehnologijama, koliko će trebati učiniti da bi postali kompetentni u tom dijelu? Nedostaje li ih možda u tom području?
Zadnjih nekoliko godina, pogotovo među mojim mlađim kolegama, vidi se rast broja tzv. tehnoloških odvjetnika i to me zaista veseli. Tehnologija je tu da ostane s nama i mi kao struka moramo pomoći i poduprijeti i naše klijente, bili oni fizičke ili pravne osobe, u njihovim životima i poslovanju. Mi kao struka moramo se iznutra mijenjati i osigurati da kroz tehnologiju dajemo bolju podršku svojim klijentima te da podupremo inovativne i kreativne pomake unutar struke, a i društva. To je naša profesionalna odgovornost.
