Sustavi umjetne inteligencije (AI) koji se koriste za neselektivni masovni nadzor bit će zabranjeni, osim u iznimnim slučajevima kad to zahtijeva sigurnost. Zabranit će se i AI sustavi za “društveno ocjenjivanje” (social scoring), koji se koriste sve više kako bi se vrednovalo ponašanje pojedinca u društvu. Sve vrste umjetne inteligencije koje su označene kao visoko rizične, u što ulaze i samovozeći automobili i kirurške operacije na daljinu, morat će proći posebnu inspekciju prije primjene i morat će se provoditi pod ljudskim nadzorom. Tvrtke koje se ogluše i krše nove propise bit će kažnjene i morat će platiti do četiri posto svoje zarade na globalnom tržištu.
EU tako novim propisima želi regulirati korištenje umjetne inteligencije te zabraniti svaku upotrebu koja izlazi iz okvira ili se kosi s osnovnim principima i vrijednostima Unije.
Zadiranje u privatnost
Ove odredbe nalaze se nacrtu prijedloga o korištenju umjetne inteligencije, koji je još podložan promjenama do sljedećeg tjedna, kad će se očekuje da će ga službeno predstaviti Europska komisija. U nacrtu se, između ostalog, kaže da neće biti dozvoljeno korištenje sustava umjetne inteligencije za manipulaciju ljudskog ponašanja te za dobivanje informacija o pojedincima ili grupama.
Također, pod zabranom će biti korištenje AI sustava za neselektivni masovni nadzor, no bit će dopuštene iznimke kod nekih slučajeva kad je posrijedi javna sigurnost. Novost je da se regulira i korištenje sustava umjetne inteligencije za socijalno ocjenjivanje, postupka koji se već u određenoj mjeri primjenjuje u svijetu.
Pojednostavnjeno, kod takve procjene svaki postupak pojedinca – ili detalji o njegovu kretanju – mogu se ocijeniti koristeći se unaprijed određenom ljestvicom, čime se dobiva društvena vrijednost i procjena pojedinca.
Ponašanje koje se smatra pozitivnim diže vrijednost pojedinca, a ono negativno ga spušta. Primjeri već postoje – od onih najjednostavnijih, kad vlasnici restorana ili drugih objekata jednostavno zabrane ulazak nekome tko je izazivao probleme, do primjera u ekonomiji dijeljenja, kao Airbnb ili taksi-prijevoznicima gdje postoji sustav ocjenjivanja korisnika i davatelja usluga. Razne osiguravajuće kompanije koriste sustave koji omogućuju prikupljanje informacija o ponašanju pojedinaca iz podataka s društvenih mreža kojima se koriste. Ova pitanja posebno su došla u fokus kod pandemije koronavirusa, kad se pojavilo pitanje zaštite ljudskih prava, zadiranja u privatnost i ograničavanja širenja bolesti.
Nadalje, novi propisi EU kažu da će biometrijski identifkacijski sustavi na daljinu koji se koristi u javnim prostorima, poput prepoznavanja lica, trebati posebnu autorizaciju vlasti.
Primjene umjetne inteligencije koje se smatraju visokorizičnima prije primjene morat će proći inspekciju kako bi se osiguralo da se temelje na neutralnim i nepristranim baznim setovima i morat će imati ljuski nadzor.
Certifikati i kazne
Oznaka “visokorizične” umjetne inteligencije označavaju se svi sustavi koji bi mogli ugroziti sigurnost i živote ljudi, fundamentalna prava, kao i EU demokratske procese, a u njih se, primjerice, ubrajaju samovozeći automobili ili operacije koje se izvode na daljinu. Određene visokorizične primjene AI uključuju i one koje se koriste kao sigurnosne komponente u važnim mrežama javne infrastrukture, uključujući ceste, opskrbu vodom, plinom i električnom energijom.
Međutim, nacrt predviđa da se takve zabrane neće primjenjivati na vlade i javne vlasti EU kada se provode “radi zaštite javne sigurnosti”. To znači da bi vlade EU mogle u budućnosti opravdati upotrebu intruzivnih AI aplikacija iz sigurnosnih razloga. Neke kompanije moći će same provesti ocjenu prikladnosti i usklađenosti s novim pravilima, dok će ostale provjeravati treća strana te im izdavati certifkate koji će vrijediti do pet godina. Ista pravila vrijedit će za kompanije sa sjedištem u EU, kao i izvan Unije.
Države članice EU morat će osnovati posebna tijela koja će testirati, certifcirati i pregledavati sustave. One kompanije koje razvijaju zabranjene usluge u kojima se koristi umjetna inteligencija, predočuju netočne podatke ili odbiju surađivati s nacionalnim tijelima kaznit će se kaznom do četiri posto zarade koje ostvare u svijetu.
Malo ljudi shvaca da je svijet u jednom velikom eksperimentu na dva polja: cjepiva i IoT. Jedna od komponentni IoT je AI koja je u Kini jako razvijena; slijede UK i USA. U Kini se koristi software koji prepoznaje Ujgure na ulici; sto bi se u EU kosilo sa zakonima. Sva ta tehnologija se moze koristiti za pozitivne svrhe ali i obratno. Previse tehnologije ima za posljedicu i zdravstvene probleme: nedavno i kontinuirano lansiranje i aktiviranje satelita ima negativne ucinke na zdravlje ljudi, zivotinja diljem planeta. Javljaju se ljudi iz NZ, Australije, Slovenije, USA i drugih zemalja o problemima sa spavanjem, nemirom, uginucem zivotinja i kucnih ljubimaca ( pogledati pisanje Arthur Firstenberg-a). Jedna znacajka za farmaceutsku i telekom industriju je neprihvacanje odgovornosti za nuspojave. Osobno nikad ne bih zelio biti na stolu a da netko operira na daljinu. Samovozeci auti su nepotrebni. Vise stete nego koristi.