AI je onoliko dobar koliko su dobri i podaci na kojima se trenira

Širenje primjene umjetne inteligencije je i vruća društvena tema. Mnogi su lideri poznatih tehnokompanija i znanstvenici izrazili zabrinutost zbog potencijalne opasnosti za čovječanstvo.

O pristranosti i predrasudama u AI sustavima razgovarali smo Talijankom Francescom Rossi, uglednom svjetskom lidericom na temu etike umjetne inteligencije, članicom IBM-a i sveučilišta u Padovi.

Zašto imamo tako puno primjera pristrane umjetne inteligencije?

AI sustavi su dobri samo onoliko koliko su dobri i podaci na kojima su izgrađeni. Svaki model strojnog učenja je potencijalno podložan nekoj vrsti pristranosti, ovisno o podacima koje koristi i na kojima se trenira. Možda su ti podaci slabo istraženi, nejasni ili potječu od nepotvrđenih izvora, možda sadrže rasne, rodne ili ideološke predrasude. Ključno je da osiguramo razvijanje AI sustava s podacima koji su fer, razumljivi i nepristrani. To je proces koji treba suradnju i stalno procjenjivanje i poboljšanja.

Može li loša reputacija postati prepreka u usavršavanju umjetne inteligencije?

Pristrana umjetna inteligencija doista može biti opravdani razlog za lošu reputaciju tog polja u tehnologiji. To je još jedan razlog zašto moramo riješiti problem predrasuda u AI sustavima.

Trebala su desetljeća da se poboljšaju neuronske mreže, kako problem pristranosti AI riješiti u samo pet godina?

Tehnološki iskoraci nisu linearni. Tijek inovacija često teče eksponencijalno. Posljednjih 50 godina AI istraživanja i razvoj postavili su temelje za naš rastući ubrzani napredak. Predviđa se da će ulaganja u razvoj AI sustava porasti za 380% u sljedeće tri godine, s lanjskih 12 milijardi dolara na 57,6 milijardi 2021. godine. U sklopu Partnerstva za umjetnu inteligenciju (PAI) donijeli smo prvi paket etičkih smjernica za AI razvoj – principe spoznajnog doba. Želimo identificirati mogući sustav ocjenjivanja razine AI pristranosti. Čovjek onda sam može odlučiti koliko će povjerenja nekom AI sustavu dati.

Jesu li mediji i neki stručnjaci u krivu kada upozoravaju na opasnost od AI-ja za čovječanstvo?

Tehnološki napredak mijenjao je društvo i osnaživao naše živote još od 1. industrijske revolucije. Isti potencijal vidimo i s umjetnom inteligencijom. Ali, kao i prethodne, i ova se transformacijska tehnologija sučeljava sa strahovima i pitanjima. Umjesto da se bojimo umjetne inteligencije ili napustimo tehnologiju prije nego što se može ostvariti njezin puni potencijal, moramo prepoznati rizike i raditi na tome da ih riješimo. Također, moramo prepoznati da je neznanje ono što je stvarni rizik za društvo. Svaki dan plaćamo cijenu jer ne znamo što ne valja s nekim pacijentom ili ne znamo pronaći ključne prirodne resurse ili zato što ne znamo gdje leže rizici globalne ekonomije. Vrijeme je da razgovor usmjerimo na onaj koji je zasnovan na stvarnom istraživanju, a ne na nagađanju.