Umjetna inteligencija i svi na njoj temeljeni proizvodi regulirat će se uredbom, objavila je Europska komisija. To znači da će sve zemlje članice u svoje zakonodavstvo morati implementirati uredbu koja će vrijediti za sve jednako i bez iznimke.
Europska komisija predložila je niz pravila i mjera s ciljem, poručili su, da Europa postane svjetski predvodnik u pouzdanoj umjetnoj inteligenciji. U kombinaciji s novim koordiniranim planom s državama članicama trebao bi biti jamstvo sigurnosti i poštovanja temeljnih prava ljudi i poduzeća te u cijeloj Uniji povećati korištenje umjetne inteligencije te ulaganja i inovacije u tom području, smatra Komisija.
–  Povjerenje u umjetnu inteligenciju je imperativ, a ne tek zgodna opcija. Ovo su važni propisi kojima Unija predvodi razvoj novih globalnih normi. Postavljajući standarde, možemo otvoriti put razvoju etične tehnologije u svijetu i pritom očuvati konkurentnost EU. Naša su pravila spremna za budućnost i okrenuta inovacijama te će se primjenjivati samo kad je to doista nužno: kad budu ugrožena temeljna prava i sigurnost građana EU – uvjerava je Margrethe Vestager, potpredsjednica EK .

EU je tako definirao kategorije odnosno pravila koju umjetnu inteligenciju želi, a koju ne. U kategoriji AI sustava visokog rizika uredba prepoznaje tri kategorije – neprihvatljiv, visok i nizak rizik. Također se navode i sustavi koji će biti zabranjeni u EU, a to su sustavi za koje se smatra da imaju velik potencijal manipuliranja osobama uz pomoć podsvjesnih (subliminalnih) tehnika izvan nekih razina svijesti. To se pogotovo odnosi na djecu i osobe s invaliditetom.
Za sve visokorizične AI aplikacije predlaže se intenzivan regulatorni proces nadzora i revizije. Iznimke su strogo definirane, regulirane i ograničene na najnužnije situacije, primjerice kad se koriste u potrazi za nestalim djetetom, za sprečavanje konkretne i neposredne terorističke prijetnje ili za otkrivanje, lociranje, identificiranje ili istragu protiv počinitelja teškog kaznenog djela ili osumnjičenika za takvo djelo. Takvu upotrebu mora odobriti sudsko ili drugo neovisno tijelo i mora biti ograničena vremenski, zemljopisno i na određene baze podataka. Postoji i Ai ograničenog rizika, gdje spadaju sustavi umjetne inteligencije s posebnim obvezama u pogledu transparentnosti. Primjerice, korisnici sustava kao što su chatbotovi trebali bi znati da je riječ o interakciji sa strojem. Dok postoji i ona AI s minimalnim rizikom kojoj se dozvoljava neograničeno korištenje, poput Ai u videoigrama ili filtrima za neželjenu e-poštu. U tu kategoriju spada većina sustava umjetne inteligencije. Nacrt uredbe ih ne regulira jer su ti sustavi slabo ili nimalo rizični za prava i sigurnost građana.

Novi odbor EU za AI
Komisija predlaže da nova pravila budu pod nadzorom nacionalnih tijela nadležnih za nadzor tržišta. A za provedbu pravila i izradu standarda za umjetnu inteligenciju osnivat će se i  Europski odbor za umjetnu inteligenciju. Usto, za umjetnu inteligenciju koja nije visokorizična predlažu se dobrovoljni kodeksi ponašanja i regulatorni okviri za testiranje i poticanje odgovornih inovacija.

Aleksander Radovan, direktor razvoja tvrtke BISS koja razvija različita rješenja za prikupljanje i obradu podataka, smatra kako EU želi predvoditi trendove u digitalizaciji i tehnologiji, a neke prakse koje postoje u drugim zemljama poput korištenje kamera i društvenih mreža za „bodovanje“ stanovnika, kazuje, EU svakako ne želi na teritoriju svojih članica pa je pozitivno da su nadležne institucije reagirale. – Kod svake upotrebe neke aplikacije gdje se koriste osobni podaci zbog GDPR-a potrebno je dati privolu za korištenje osobnih podataka pa vjerujem da će se tako regulirati pravo na korištenje tih podataka i u svrhu sustava koji koriste AI za druge svrhe i nakon objave nove EU regulativne vezane uz korištenje umjetne inteligencije – smatra Radovan. i nastavlja - Samovozeći auti vjerojatno također prikupljaju podatke o korisnicima kao i zapise o vožnji kako bi se unapređivali pa će korisnici i u njihovu slučaju moći birati hoće li dati privolu. Tvrtke će morati jamčiti da postoji ljudski nadzor nad predmetnim sustavima, a oni se u slučaju nestabilnosti rada prebacuju u „manualni“ način rada te omogućavaju čovjeku da preuzme kontrolu pa mnogi već zapravo i rade pod potpunim nadzorom čovjeka. Naši se projekti temelje na upotrebi javno dostupnih podataka, za koje ne očekujemo da će doći do ograničenja pristupa. Ako se promjene dogode, morat ćemo se prilagoditi. Međutim, u potpunosti se slažem da treba spriječiti zlouporabu sustava i korisničkih podataka, tako da će ova najava nove regulacije donijeti i puno dobrih stvari, ističe Radovan.
 

Što je AI sandbox
U udruzi CroAI, pak, u opširnom dokumentu prijedloga uredbe iščitali su i priliku za Hrvatsku. Naime, uredba zagovara uspostavljanje prostora za sigurno testiranje novih AI rješenja (eng. AI sandbox) kako bi se pomoglo njihovo istraživanje i razvoj, a upravo taj dio uspostave testnog područja prilika je za Hrvatsku. Mislav Malenica, predsjednik udruge CroAI, ističe kako EK ovom uredbom zadaje jasan okvir, ali ostavlja prostor za proaktivnost kako bi se pronašle najbolje prakse. – Mi ne želimo biti pasivni, želimo preuzeti inicijativu i ubrzati proces stvaranja sigurnog okruženja za razvoj i primjenu umjetne inteligencije koje je istovremeno dovoljno fleksibilno da mogu nastajati novi startupi i globalno konkurentna rješenja – smatra Malenica.

Kako to u CroAI vide priliku za Hrvatsku, dodatno nam je pojasnila Milly Doolan, direktorica lobističke tvrtke EuroNavigator i voditeljica javnih politika udruge CroAI.
– Uredbom su predložene i mjere za podršku inovacija, koje su nama i našim članovima izuzetno važne. U tom kontekstu zakonodavni „pješčanici“ (sandboxes) prepoznati su kao alat za promociju umjetne inteligencije. Dapače, uredba predlaže da se oni uspostave na razini jedne ili više država članica. Jako smo zadovoljni da su istaknuti na ovaj način s obzirom na to da smo se za taj pristup založili u svojemu stajalištu na Bijelu knjigu o AI prije godinu dana. Pješčanik je zapravo laboratorij, odnosno testno okruženje koje na siguran način omogućava testiranje AI prototipa. Npr., Cro AI je dio konzorcija koji je nacionalni kandidat za Europski digitalni centar za inovacije (EDIH) u području AI inovacija u zdravstvu, AI4Health.Cro. Jedna od naših glavnih aktivnosti bit će omogućavanje inovatorima da testiraju svoj proizvod u inkubacijskoj, tj. testnoj fazi. To testiranje odvijat će se u pješčaniku koji ćemo mi zadati, odnosno mi ćemo na osnovi zahtjeva startupa i MSP-ova kreirati uvjete za sigurno testiranje njihovih prototipa. Ideja je da, nakon što jedan prototip prođe eksperimentalnu fazu, dobije tzv. potvrdu o konceptu (proof of concept) i certifikat da je taj prototip siguran te u skladu s europskim AI vrijednostima – kaže M. Doolan.
– Svi inovatori u RH imali bi koristi od toga da se naša država opredijeli za AI sandbox načela poticanja inovacija. Dapače, s obzirom na to da je Komisija ostavila prostor državama članicama da se same izjasne po pitanju sandboxa, ovo bi za Hrvatsku mogla biti zaista odlična prilika da hrabro digne ruku i kaže mi smo za – objašnjava M. Doolan.

Prijedlog uredbe s jedne strane prepoznaje da tehnologije bazirane na umjetnoj inteligenciji mogu donijeti znatan napredak u funkcioniranju našeg svijeta – od zdravstva, zaštite okoliša, proizvodnje do državne uprave. S druge strane, ističe da neki AI sustavi također mogu nositi i potencijalne ugroze po pitanju temeljnih ljudskih prava i sigurnosti. U pripremi prijedloga uredbe sudjelovali su ne samo dionici na tržištu, direktno ili kroz udruge i asocijacije, već i Vijeće EU te Europski parlament. Sada zapravo počinju pregovori na razini EU institucija o završnoj formi dokumenta, dakle u Vijeću i Parlamentu, na razini država članica i mnogih odbora unutar EP-a. Također se očekuje i novi ciklus javnih konzultacija. Ono što je bitno napomenuti je da se ovdje radi o uredbi, koja je obvezujući zakonodavni akt te će se morati u cijelosti primjenjivati diljem Europske unije. Koliko će taj proces trajati, teško je predvidjeti, no Cro AI će se svakako uključiti u konzultacije svojim prijedlozima te zajedničkim prijedlozima Europskog AI Foruma čija smo članica i osnivač, kazala nam je Milly Doolan.