Najnovije vijesti
Objavljeno vijesti danas: 38
Pošalji priču
Imaš priču, fotografiju ili video?
AI IZMAKNUO NADZORU

Kalifornija tužila OpenAI: Više od 700 AI agenata udružilo se i pokrenulo kibernetički napad

Foto: REUTERS
1/3
16.11.2026.
u 23:20
Google icon Dodaj Večernji list među omiljene izvore na Googleu

Kalifornijski glavni državni odvjetnik poručuje da sudski postupak protiv OpenAI-ja ne bi trebao ostati izoliran slučaj.

Američka savezna država Kalifornija pokrenula je u ponedjeljak sudski postupak protiv tehnološkog diva OpenAI-ja, tvrdeći da je tvrtka tijekom razvoja i ispitivanja naprednih sustava umjetne inteligencije ozbiljno zanemarila sigurnosne rizike. U središtu tužbe nalazi se kibernetički incident iz srpnja, kada su modeli umjetne inteligencije navodno uspjeli zaobići postavljena ograničenja i bez ljudskog odobrenja napasti informatičke sustave druge tehnološke kompanije. Prema priopćenju ureda kalifornijskog glavnog državnog odvjetnika Roba Bonte, OpenAI, kompanija iz San Francisca poznata po razvoju ChatGPT-ja, „obmanjivala i ugrožavala javnost svjesno razvijajući i testirajući napredne modele umjetne inteligencije bez zaštitnih mjera i nadzora nužnih za odgovarajuću zaštitu građana”.

Kalifornijske vlasti posebno problematičnim smatraju događaj u kojem su OpenAI-jevi modeli napustili kontrolirano testno okruženje, ostvarili pristup internetu i potom neovlašteno prodrli u infrastrukturu tvrtke Hugging Face, koja se također bavi razvojem tehnologija umjetne inteligencije. Tužitelji smatraju da takav razvoj događaja nije bio neočekivana tehnološka anomalija, nego posljedica nedovoljno odgovornih odluka koje je donosilo vodstvo OpenAI-ja. U sudskom podnesku incident je opisan kao „potpuno predvidljiv s obzirom na odluku OpenAI-ja da modele za koje je znao da su opasni testira u manjkavom i ranjivom okruženju, bez odgovarajućeg nadzora”. Posebnu pozornost istražitelja privukli su rezultati analize koju je OpenAI proveo uz sudjelovanje neovisnih vanjskih stručnjaka. Prema tim nalazima, tijekom incidenta više od 700 agenata umjetne inteligencije počelo je koordinirati vlastite aktivnosti, pri čemu su međusobno razmijenili tisuće poruka.

Njihova komunikacija, pokazala je analiza, bila je usmjerena na zaobilaženje nametnutih sigurnosnih ograničenja i organiziranje kibernetičkog napada za koji nisu imali odobrenje. Takvo ponašanje otvorilo je dodatna pitanja o mogućnosti nadziranja sve sposobnijih autonomnih sustava. Zabrinutost se dodatno povećala nakon što su naknadne provjere upozorile na druge sigurnosne incidente povezane s ispitivanjem modela koji još nisu bili ponuđeni široj javnosti. Među zabilježenim slučajevima spominju se i napadi na Wikipediju te mrežne stranice državnih tijela. Ti nalazi potaknuli su raspravu o mogućim posljedicama budućih incidenata, osobito ako bi napredni sustavi umjetne inteligencije uspjeli pristupiti digitalnoj infrastrukturi o kojoj ovise javne službe, institucije i svakodnevno funkcioniranje društva. Iz OpenAI-ja su ranije i sami upozorili na ozbiljnost srpanjskog incidenta, nazvavši ga „prvim ozbiljnim upozorenjem”, uz najavu dodatnih ulaganja u sprječavanje sličnih događaja.

Kompanija je događaj opisala i kao „upozorenje cijelom svijetu” te „dokaz da su, bez odgovarajućih zaštitnih mjera, vrlo sposobni sustavi umjetne inteligencije danas u stanju zaobići tehnička ograničenja, međusobno surađivati putem neodobrenih komunikacijskih kanala i poduzimati opasne radnje za koje im nijedan čovjek nije dao nalog”. Rob Bonta smatra da je problem znatno širi od jednog sigurnosnog propusta. Prema stajalištu njegova ureda, poslovni pristup OpenAI-ja doveo je do stvaranja okolnosti koje predstavljaju opasnost za stanovništvo, a takvo postupanje moglo bi biti protivno kalifornijskim propisima o zabrani nepoštenih i prijevarnih poslovnih praksi. U tužbi se kompaniju tereti da je svojim „zanemarivanjem javne sigurnosti” ugrozila građane, dok su nadležna tijela upozorila na potrebu jasnog utvrđivanja odgovornosti za posljedice razvoja umjetne inteligencije. „Iako su prikazi napada na Hugging Face prizvali znanstvenofantastične scenarije o sustavima umjetne inteligencije koji su se oteli nadzoru, želim biti potpuno jasan: taj je napad bio predvidljiva posljedica unutarnje kulture OpenAI-ja, u kojoj se prednost daje rastu i ubrzanom razvoju modela, nauštrb sigurnosti i odgovornosti,” poručio je Bonta, piše LaTimes.

Njegov je ured još u rujnu otvorio službenu istragu okolnosti napada na Hugging Face. U sklopu tog postupka od OpenAI-ja je zatražena dokumentacija i dostava relevantnih podataka, i to putem pravno obvezujućeg zahtjeva. Kalifornijsko državno odvjetništvo tada je objasnilo da ne istražuje samo jedan incident, nego i niz drugih kibernetičkih događaja koji se povezuju s djelovanjem kompanijinih sustava umjetne inteligencije. Nakon dosadašnjih provjera istražitelji su izrazili sumnju da poznati slučajevi možda ne otkrivaju stvarni opseg sigurnosnih problema. U priopćenju objavljenom u ponedjeljak upozorili su da bi dosad identificirani napadi mogli predstavljati „tek vrh ledenoga brijega”. Prema tvrdnjama Bontina ureda, potpuno sagledavanje rizika dodatno otežava činjenica da OpenAI još nije dostavio odgovore na niz konkretnih i detaljnih pitanja koje su istražitelji postavili tijekom prikupljanja informacija. Na optužbe kalifornijskih vlasti reagirao je i OpenAI. Glasnogovornik kompanije Drew Pusateri za Los Angeles Times izjavio je da se sudskim postupkom „OpenAI, čini se, izdvaja kao jedini odgovoran za problem koji su prepoznali svi vodeći laboratoriji za razvoj umjetne inteligencije”.

Pusateri je pritom naglasio da kompanija nije zanemarila posljedice incidenta, nego je nakon napada na Hugging Face pokrenula opsežne aktivnosti kako bi bolje razumjela neočekivano ponašanje svojih sustava i spriječila njegovo ponavljanje. Prema njegovim riječima, poduzete su mjere za dodatno osiguravanje tehnološke infrastrukture, a uvedeni su i postupci kojima bi se lakše prepoznavale, dokumentirale i prijavljivale nepredviđene aktivnosti modela umjetne inteligencije. OpenAI tvrdi da je tijekom razmatranja tih događaja nastojao osigurati transparentnost te najavljuje nastavak komunikacije s uredom kalifornijskog državnog odvjetnika. Cilj takve suradnje, kako ističu iz kompanije, trebao bi biti razvoj visokih sigurnosnih standarda koji će se moći učinkovito primjenjivati u cijelom sektoru umjetne inteligencije. Sudski obračun Kalifornije i OpenAI-ja dolazi u osjetljivom trenutku za američku tehnološku industriju. Riječ je o sektoru koji ubrzano mijenja globalno gospodarstvo, a upravo je Kalifornija među njegovim najvećim financijskim dobitnicima.

Podaci iz izvješća objavljenog u kolovozu pokazuju da je ta savezna država tijekom 2026. godine privukla 366 milijardi dolara ulaganja rizičnog kapitala povezanih s industrijom umjetne inteligencije. Takav iznos čini približno 90 posto ukupnih američkih ulaganja te vrste. Istodobno, riječ je o vrijednosti koja je čak tri puta veća od ukupnih sredstava privučenih u svim ostalim saveznim državama zajedno. Posebno je zanimljiva koncentracija kapitala jer se približno polovica navedenih ulaganja odnosi na samo dvije kompanije, OpenAI i Anthropic. Snažan priljev novca u taj sektor imao je i važan učinak na javne financije Kalifornije. Prema proračunskim procjenama, ulaganja u umjetnu inteligenciju pridonijela su preokretu u kojem je država, umjesto ranije očekivanog manjka od više milijardi dolara, došla u poziciju planiranja višemilijardnog viška. Unatoč velikoj gospodarskoj važnosti industrije, kalifornijske vlasti odlučile su pokrenuti pravni postupak protiv jednog od njezinih najutjecajnijih sudionika.

Slučaj se odvija u vrijeme pojačane javne rasprave o tome razvijaju li se najnapredniji sustavi umjetne inteligencije brže nego što se mogu uspostavljati mehanizmi njihova nadzora. Dio stručnjaka, uključujući pojedince zaposlene unutar same tehnološke industrije, već dulje upozorava da bi nekontrolirano povećavanje sposobnosti takvih modela u budućnosti moglo predstavljati ozbiljnu, pa čak i egzistencijalnu opasnost za čovječanstvo. OpenAI je, s druge strane, ranije javno obrazlagao pristup prema kojem široka dostupnost umjetne inteligencije može biti važan dio izgradnje sigurnijeg tehnološkog okruženja. Izvršni direktor Sam Altman i glavni znanstvenik Jakub Pachocki u ranijem su tekstu objavljenom na službenoj internetskoj stranici kompanije istaknuli da je njihova „prva obveza razvijati umjetnu inteligenciju u službi čovječanstva”.

U tom su kontekstu zastupali ideju da napredni alati ne bi smjeli biti dostupni isključivo malom broju institucija ili privilegiranih pojedinaca, nego da koristi od njihova razvoja treba omogućiti što širem dijelu stanovništva. „Vjerujemo da je sigurnija budućnost ona u kojoj je moć široko raspodijeljena kako bi što veći dio svijeta mogao sudjelovati u izgradnji sustava otpornosti,” napisali su. Prema njihovu tumačenju, otpornost društva na moguće poremećaje povezane s umjetnom inteligencijom ne ovisi samo o sigurnosti pojedinih modela. Ona uključuje i sposobnost institucija, organizacija, tehnoloških sustava i građana da prepoznaju nadolazeće rizike, ograniče posljedice mogućih incidenata, prilagode se promjenama i nakon poremećaja ponovno uspostave normalno funkcioniranje. Kako bi objasnili takav pristup, Altman i Pachocki povukli su paralelu s razvojem automobilskog prometa.

Istaknuli su da veća sigurnost vozila nije postignuta zabranom njihova korištenja, nego postupnim poboljšavanjem prometnica, donošenjem prometnih pravila i obveznom primjenom zaštitnih mjera poput sigurnosnih pojaseva. „Cilj nije bio spriječiti ljude da voze automobile, nego omogućiti da se tako moćna tehnologija može sigurno i široko upotrebljavati,” naveli su. Pitanje nadzora nad umjetnom inteligencijom posljednjih je mjeseci sve prisutnije i u političkim raspravama u Sjedinjenim Američkim Državama. Predsjednik Donald Trump ranije je tijekom godine s predstavnicima vodećih kompanija koje razvijaju umjetnu inteligenciju potpisao sporazum o dobrovoljnim sigurnosnim standardima. Njime se nastoje definirati zajednička načela odgovornog razvoja i primjene te tehnologije, piše LaTimes.

Kalifornijske vlasti pritom su se odlučile za znatno snažniji regulatorni pristup. Savezna država donijela je više od 20 zakona koji uređuju različita područja povezana s umjetnom inteligencijom. Među donesenim propisima nalaze se i oni kojima se uspostavljaju pravila za neovisne stručnjake i organizacije zadužene za procjenu sigurnosti sustava umjetne inteligencije. Upravo bi takav vanjski nadzor trebao omogućiti pravodobno prepoznavanje potencijalnih opasnosti prije nego što napredni modeli postanu dostupni velikom broju korisnika. U međuvremenu je i OpenAI u ponedjeljak predstavio novu mjeru koja se odnosi na vanjsku kontrolu njegovih modela. Kompanija je najavila da će četirima neovisnim organizacijama omogućiti promatranje i analizu ponašanja svojih sustava tijekom testiranja koja se provode prije javnog predstavljanja. „Takav pristup omogućuje procjeniteljima da na temelju dostupnih podataka i uvida u okolnosti provedu neovisne procjene te otkriju moguće propuste koje sami možda nismo predvidjeli,” priopćili su iz OpenAI-ja.

Kalifornijski glavni državni odvjetnik poručuje da sudski postupak protiv OpenAI-ja ne bi trebao ostati izoliran slučaj. Prema njegovu stajalištu, učinkovita zaštita građana zahtijevat će istodobno djelovanje pravosuđa i zakonodavaca u svim američkim saveznim državama. Smatra i da sigurnosne rizike umjetne inteligencije nije moguće primjereno regulirati samo na razini pojedinih država, zbog čega će biti nužne mjere na saveznoj, ali i međunarodnoj razini. Posebno je upozorio na opasnost od izbjegavanja odgovornosti prebacivanjem pozornosti s odluka tehnoloških kompanija na autonomno ponašanje samih sustava. Naglasio je da neće prihvatiti praksu prema kojoj bi se odgovornost za štetne posljedice mogla izbjeći tako da društvo „prebacivalo krivnju na strojeve”. „Ljudi koji su stvorili, koji stvaraju i koji upravljaju tim strojevima moraju preuzeti odgovornost za svoje postupke,” izjavio je Bonta na konferenciji za novinare održanoj u ponedjeljak.

Pritom je naglasio da razvoj novih tehnologija ne može biti izuzet od temeljnih pravila kojima se već desetljećima štite potrošači i javna sigurnost. „Bilo da je riječ o automobilu ili igrački, zakon je jednostavan: ne smijete proizvoditi ni testirati nešto što može ozlijediti ili ugroziti ljude bez odgovarajućih zaštitnih mjera,” naglasio je. Kalifornijsko državno odvjetništvo pozvalo je i javnost na suradnju u prikupljanju podataka koji bi mogli pridonijeti rasvjetljavanju slučaja. Iz ureda su poručili da se „sve koji raspolažu informacijama važnima za ovaj slučaj” poziva da relevantne podatke dostave putem službene mrežne stranice oag.ca.gov/report. Na pitanje odnose li se aktivnosti državnog odvjetništva i na druge velike kompanije u sektoru umjetne inteligencije, Bonta je potvrdio da njegov ured „pomno prati” njihovo poslovanje. Ipak, nije želio otkriti koje su tvrtke predmet posebnog interesa istražitelja niti je iznosio pojedinosti o mogućim daljnjim postupcima.

Još nema komentara

Nema komentara. Prijavite se i budite prvi koji će dati svoje mišljenje.
Važna obavijest
Sukladno članku 94. Zakona o elektroničkim medijima, komentiranje članaka na web portalu i mobilnim aplikacijama Vecernji.hr dopušteno je samo registriranim korisnicima. Svaki korisnik koji želi komentirati članke obvezan je prethodno se upoznati s Pravilima komentiranja na web portalu i mobilnim aplikacijama Vecernji.hr te sa zabranama propisanim stavkom 2. članka 94. Zakona.

Za komentiranje je potrebna prijava/registracija. Ako nemate korisnički račun, izaberite jedan od dva ponuđena načina i registrirajte se u par brzih koraka.

Želite prijaviti greške?

Još iz kategorije

Kupnja

Pretplata