Stop robotima rata

Stručnjaci prešli na djela: potpisali deklaraciju da neće razvijati umjetnu inteligenciju u vojne svrhe

Nedavno se i veliki Google odrekao bogatog ugovora s američkim ministarstvom obrane. Ne žele im više pomagati u boljem iskorištavanju vojnih dronova
Foto: Reuters/PIXSELL
1/2
23.07.2018.
u 09:37

Čovječanstvo i tehnologija: Što nam je donijela konferencija u Stockholmu

Ako u 2029. godini ne dođe do rata između Skyneta i ljudske rase, svijet će možda najviše zahvaljivati znanstvenicima i stručnjacima za umjetnu inteligenciju iz 2018. godine. Što se to dogodilo, a što bi moglo spriječiti da se ostvari scenarij filma Terminator? Prije nekoliko dana u Stockoholmu se oveća skupina priznatih tehnolidera deklarativno obvezala štititi čovječanstvo od autonomnih vojnih sustava i ratne umjetne inteligencije. Među više od 1000 potpisnika su i lider SpaceX-a i Tesle Elon Musk, tri suosnivača Googleova DeepMinda (Shane Legg, Mustafa Suleyman i Demis Hassabis), osnivač Skypea Jaan Tallinn te neki od najuglednijih stručnjaka za istraživanje i razvoj umjetne inteligencije kao što su Stuart Russell, Yoshua Bengio i Juergen Schmidhuber.

Kao i kemijsko oružje

Svi su oni potpisali deklaraciju kojom obećavaju da neće razvijati umjetnu inteligenciju u svrhu vojnog naoružanja.

“Odlučili smo da je vrijeme da se prijeđe s riječi na djela. Ovim obećanjem učinili smo ono što političari nisu – uveli smo čvrste zabrane na razvoj umjetne inteligencije koja bi bila korištena u vojne svrhe. Oružja koja samostalno odlučuju da ubijaju ljude jednako su odvratna i nestabilna kao što su i biološka oružja. I isto im tako treba i pristupiti, odnosno – zabraniti ih!”, poručio je Max Tegmark, profesor fizike uglednog američkog sveučilišta MIT, također jedan od potpisnika deklaracije.

Elon Musk jedan je od potpisnika deklaracije kojom se traži od političara da donesu zakon protiv vojne umjetne inteligencije
Foto: Reuters/PIXSELL/Ilustracija

Ovo je potez globalne koalicije stručnjaka i tehnolidera koji se bore protiv razvoja tehnologije u loše svrhe. Smatraju da korištenje autonomnih vojnih letjelica i sustava, koji koriste umjetnu inteligenciju za biranje mete, predstavlja moralnu prijetnju. Institut Future of Life (Budućnost života) organizirao je konferenciju u Stockholmu s namjerom da naprave veći pritisak na Ujedinjene narode. Zahtijevaju oštriju regulativu protiv ubojitih autonomnih sustava oružja. Traže da se takva oružja svrstaju u istu kategoriju u kojoj su i kemijska oružja i mine.

Inače, zanimljivo je da se i veliki Google nedavno povukao iz unosne suradnje s američkim ministarstvom obrane. U lipnju su objavili da neće obnoviti ugovor po kojem su pomagali državi u analiziranju snimki dronova. U stockholmskoj deklaraciji se još navodi: “Nužno je i hitno razlikovati prihvatljivo i neprihvatljivo korištenje umjetne inteligencije. Odluka o okončanju ljudskog života nikada ne bi smjela biti predana stroju. Takva oružja bila bi opasnost destabilizirajuća za svaku državu i pojedinca. Tisuće AI istraživača vjeruje da bi takva oružja bila instrument nasilja i potlačenosti. Pozivamo vlade i lidere država da stvore snažne međunarodne standarde, propise i zakone protiv ubojitih autonomnih vojnih sustava.

Koliki im je domet?

Kako takvi propis još ne postoje, mi se obvezujemo višem standardu – nećemo sudjelovati niti podržavati razvoj, proizvodnju, trgovinu niti korištenje ubojiti autonomnih oružja. Tražimo od tehnokompanija i organizacija i njihovih lidera, političara i svih drugih da se pridruže u ovom našem obećanju”. Ovo je hvalevrijedan potez tehnološke i stručne zajednice, no neki se analitičari već pitaju koliki je domet ovakvog neslužbenog šarenog udruženja.

Ostaje neizvjesno koliki će biti stvarni utjecaj ovog pokreta. Naime, projekti umjetne inteligencije razvijaju se diljem svijeta, a pravo je pitanje koliko su države uopće zainteresirane donijeti zakone kakve znanstvenici i drugi stručnjaci poput Elona Muska zazivaju. Pogotovo se to odnosi na Ameriku i Kinu – ove dvije velesile iznimno puno ulažu u takvu tehnologiju i male su vjerojatnosti da bi sami sebi nametnuli ograničenja.

Posebno je kontroverzan američki projekt korištenja bespilotnih letjelica, a koji je već godinama u upotrebi u vojnim sukobima i često je predmet jakih kritika na račun najjače vojne sile na svijetu. Ipak, neke zemlje jesu poduzele određene mjere za odgovornije ponašanja u razvoju umjetne inteligencije. Više od 20 zemalja članica Ujedinjenih naroda podržalo je zabranu ubojitih autonomnih vojnih sustava, a među njima je čak i Kina, ostale zemlje su: Alžir, Argentina, Austrija, Bolivija, Brazil, Čile, Džibuti, Ekvador, Egipat, Gana, Gvatemala, Irak, Kolumbija, Kostarika, Meksiko, Nikaragva, Pakistan, Panama, Peru, Uganda, Venezuela i Zimbabve.

Ako nas pogodi treći svjetski rat, 10 najmoćnijih zemalja imat će ključnu ulogu:

Nedavno se i veliki Google odrekao bogatog ugovora s američkim ministarstvom obrane. Ne žele im više pomagati u boljem iskorištavanju vojnih dronova
1/12
Ključne riječi

Komentara 2

VO
vorda400
11:42 23.07.2018.

Zakasnili ste Ameri već imaju dron koji "misli" i sam odabira mete koje su bitnije a to je ono što znamo i što je izašlo u medije sad si zamislite ono što tek razvijaju

GE
genex
10:28 23.07.2018.

hahaha to samo mogu povjerovati teške naivčine.

Važna obavijest
Sukladno članku 94. Zakona o elektroničkim medijima, komentiranje članaka na web portalu i mobilnim aplikacijama Vecernji.hr dopušteno je samo registriranim korisnicima. Svaki korisnik koji želi komentirati članke obvezan je prethodno se upoznati s Pravilima komentiranja na web portalu i mobilnim aplikacijama Vecernji.hr te sa zabranama propisanim stavkom 2. članka 94. Zakona.

Za komentiranje je potrebna prijava/registracija. Ako nemate korisnički račun, izaberite jedan od dva ponuđena načina i registrirajte se u par brzih koraka.

Želite prijaviti greške?

Još iz kategorije