Tehnološki divovi u bojkotu: Sustave za prepoznavanje lica više neće prodavati policiji

Američki tehnodivovi IBM, Amazon i Microsoft odlučili su povući bitan korak prema regulaciji tehnologije prepoznavanja lica, očito motivirani masovnim prosvjedima protiv rasizma u SAD-u i pozivima na reformu policije. Trojka je, naime, zabranila prodaju sustava za prepoznavanje lica policiji, dok se ne donese pravna regulativa na nacionalnoj razini.

– Zabrana će biti na snazi dok se ne donesu zakoni koji će regulirati upotrebu ove vrste umjetne inteligencije i koji će se temeljiti na zaštiti ljudskih prava – kazao je jučer Brad Smith, čelnik Microsofta.

U pismu američkom Kongresu IBM pak piše da bi se svi AI sustavi koji se koriste u provedbi zakona trebali najprije testirati “na pristranost”. “Borba protiv rasizma hitna je kao i uvijek”, napisao je čelnik IBM-a Arvind Krishna. “IBM se odlučno protivi i neće odobravati uporabu tehnologije prepoznavanja lica za masovni nadzor, rasno profiliranje, kršenje osnovnih ljudskih prava i sloboda.”

Tehnologija prepoznavanja lica, inače, spada u dostignuća u razvoju umjetne inteligencije i vjerojatno je mnogi već koriste u nekom dijelu poput otključavanja novih smartfona koji su otisak prsta uglavnom zamijenili prepoznavanjem lica. Postoji i niz aplikacija koji se koriste tom tehnologijom, ugrađena je, primjerice, i unutar Facebooka, najpopularnije društvene mreže.

Kada postaje ozbiljno

Facebook automatski prepoznaje lica na fotografijama i pridružuje im imena osoba. Može samostalno tagirati sve osobe s vaše fotografije ako su u Facebookovoj bazi. Istina, ponekad pogriješi, no ipak radi se o bezopasnim aplikacijama koje služe poglavito zabavi. No alati za prepoznavanja lica imaju i svoju puno svrhovitiju primjenu, a samim tim i opasniju ako se nađu u krivim rukama, a pri tom još nisu ni potpuno pouzdani, već skloni pogreškama te su “pristrani”.Prepoznavanje terorista, kriminalaca, huligana i ostalih vrsta zlikovaca na prvu zvuči primamljivo i vjerojatno ne postoje policijske snage i službe reda koje za takvom tehnologijom ne bi posegnule, no što kada tehnologija nije dovoljno usavršena i griješi.

I što ako represivne snage u ime sigurnosti žele snimati sve i svakoga, i to non-stop na javnim mjestima? Ako se pita Europu, odnosno zemlje članice Europske unije, tada to nije prihvatljivo jer se time krše ljudska prava i temeljne slobode. Rasprava o primjeni regulative koju treba uspostaviti u tom dijelu upravo se događa. Jer u veljači je Europska komisija izdala “bijelu knjigu” umjetne inteligencije s ciljem da se nakon niza javnih rasprava, potom i onih u parlamentu, izbistre pravila i donesu zakoni kojima će regulirati primjena umjetne inteligencije, samim tim i ovaj najsporniji dio tehnologije prepoznavanja lica. Prvobitna intencija bila je da se upravo na tehnologiju prepoznavanja lica uvede moratorij od nekoliko godina, dok se ne razjasne sve moguće posljedice koje bi izazvala primjena masovnog nadzora na javnim površinama, no sada moratorij nije više na stolu, a regulativa i dalje jest.

Da je korištenje tehnologije prepoznavanja lica kao alat za masovni nadzor policijskih snaga pristrano, posebice kada se radi o etničkim skupinama, pokazale su i razne studije. Studija iz 2019. koju je proveo Massachusetts Institute of Technology utvrdila je da nijedan alat za prepoznavanje lica Microsofta, Amazona i IBM-a nije bio 100 posto precizan kada je u pitanju prepoznavanje muškaraca i žena s tamnom kožom, prenosi BBC.

Nepouzdana tehnologija

Istraživanje američkog Nacionalnog instituta za standarde i tehnologiju sugeriralo je da su algoritmi prepoznavanja lica daleko manje precizni u identificiranju afroameričkih i azijskih lica u usporedbi s licima bijelaca. Brojne udruge neprestano upozoravaju na nepouzdanost i nereguliranost upotrebe tehnologije prepoznavanja lica u SAD-u. A poteze moćnih tehnoloških tvrtki sada su okarakterizirali kao cinične. Razvoj tehnologije ipak nije moguće zaustaviti, moguće ga je tek regulirati i usmjeravati. Europska unija, možda troma i birokratski opterećena, u ovome je mnogo opreznija, svjesna da zaostaje u razvoju modernih tehnologija.

S druge strane, najrazvijenija Kina dovodi u pitanje i ljudska prava i privatnost kada se radi o tehnologiji prepoznavanja lica. Masovni nadzor je sveprisutan te se opravdava razvojem i tehnološkim iskorakom. Kinezi su pri tom i kulturološki različiti premda je i tamo sve više glasova u prilog privatnosti. SAD, u želji da ostane u utakmici tehnološkog razvoja, donekle je zanemarivao regulativu, no čini se da će ipak o tome morati povesti veću brigu.