Dok je svijet usred ključne izborne godine, integritet demokratskih procesa ugrožen je dezinformacijama i deepfakeovima koje pokreće umjetna inteligencija – alatima koji mogu prevariti glasače, iskriviti diskurs i narušiti povjerenje u političke sustave, smatraju u Microsoftu te dodaju u propćenju kako Microsoft korištenjem vrhunske tehnologije osmišljene za zaštitu izbornog procesa i njegovih dionika nastoji unaprijediti sigurnost izbora i zdravog informacijskog okruženja. U današnjem složenom digitalnom krajoliku, nije riječ samo o tehnologiji – riječ je o osiguravanju budućnosti same demokracije, ističu iz Microsofta
Nova era izbornih prijetnji
Naslovi u medijima nas često podsjećaju na krhkost demokracije, a deepfakeovi joj ubrzano postaju jedna od najznačajnijih prijetnji. Deepfake tehnologija koja koristi umjetnu inteligenciju da kreira uvjerljive, no lažne fotografije, video ili zvučne zapise, predstavlja ozbiljne rizike za integritet izbora. Porast deepfakeova i ostalog sadržaja generiranog pomoću umjetne inteligencije dodao je novu dimenziju brizi za sigurnost izbora.
Nedavno istraživanje koje je proveo Sumsub pokazalo je deseterostruki porast deepfakeova u svim industrijama globalno, pri čemu je Sjeverna Amerika zabilježila porast od nevjerojatnih 1740% u broju deepfakeova otkrivenih samo tijekom prošle godine. Tijekom 2023. godine na društvenim mrežama širom svijeta podijeljeno je više od 500.000 deepfake videa i zvučnih zapisa, pokazujući razmjere problema.
Porast deepfakeova u političkim kampanjama
Deepfakeovi više no ikada olakšavaju zlonamjernim akterima manipulaciju medijima. Ono što je nekada zahtijevalo sofisticirane vještine sada je dostupno svakome s internetskom vezom i osnovnim AI alatima. Ova promjena ne samo da potiče krađe identiteta i phishing prevare, već i ugrožava povjerenje javnosti u izborne procese, informacije i rezultate.
Drugi Microsoft izvještaj o sigurnosnim prijetnjama izborima otkriva ključne uvide o tome kako se umjetna inteligencija koristi kao „oružje“ na izborima, ističući da sadržaj poboljšan umjetnom inteligencijom – u odnosu na onaj u potpunosti kreiran korištenjem umjetne inteligencije – može imati jači utjecaj, posebno kad je osmišljen da odaje dojam da je riječ o osobnom sadržaju, kao što je na primjer lažni zvučni zapis iz privatnog telefonskog razgovora.
Kako se umjetna inteligencija koristi za prevaru glasača Izvještaj ističe nekoliko čimbenika koji doprinose riziku koji generativna umjetna inteligencija predstavlja za izbore u 2024. godini:
· Sadržaj poboljšan umjetnom inteligencijom utjecajniji je od sadržaja koji je u potpunosti generiran korištenjem umjetne inteligencije;
- Zvučni zapis kreiran pomoću umjetne inteligencije je utjecajniji od videa kreiranog korištenjem AI-ja;
- Lažni sadržaj koji djeluje kao da dolazi iz privatnog okruženja, kao što je telefonski poziv, učinkovitiji je od lažnog sadržaja iz javnog okruženja, kao što je deepfake video svjetskog vođe;
- Distribucija dezinformacija ima veći učinak tijekom razdoblja krize i udarnih vijesti;
- Oponašanje manje poznatih ljudi učinkovitije je od oponašanja vrlo poznatih ljudi, poput svjetskih vođa.
Amy Larsen, direktorica globalnog angažmana i strateških projekata u Microsoftovoj inicijativi Democracy Forward, naglasila je koliko je tvrtka predana borbi protiv ovih prijetnji: „Microsoft je lider u poticanju odgovornog razvoja umjetne inteligencije i radi na tome da osigura da nove tehnologije budu otporne na zlouporabu. To uključuje niz radnji za pomoć u zaštiti glasača, kandidata, kampanja i izbornih tijela u Europi i diljem svijeta.“
Suradnja u borbi protiv dezinformacija koje pokreće umjetna inteligencija
Na sigurnosnoj konferenciji u Münchenu u veljači 2024. Microsoft se pridružio dvadeset tehnoloških kompanija u potpisivanju Tehničkog sporazuma za borbu protiv prijevarne upotrebe umjetne inteligencije na izborima 2024. Ovo dobrovoljno obećanje usmjereno je na borbu protiv deepfakea u obliku videa, zvučnih zapisa i fotografija kojima se pokušavaju lažirati ili promijeniti izgled, glas ili radnje političkih kandidata, kampanja ili izbornih dužnosnika. Okupljanjem čelnika industrije, Tech Accord fokusira se na to da zlonamjernim akterima oteža stvaranje i distribuciju lažnih ili izmjenjenih medijskih sadržaja političkih kandidata ili dužnosnika.
Microsoft je također predstavio alate i treninge za otkrivanje deepfakea, educirajući tisuće političkih dionika u više od 20 zemalja. Ovi napori uključuju proširenje Microsoftovih alata za integritet sadržaja koji političkim kandidatima i redakcijama omogućuju provjeru autentičnosti digitalnih medija. Alat temeljen na standardu otvorenog koda koji je razvila Coalition for Content Provenance and Authenticity (C2PA), pruža transparentnost pokazujući kada i gdje je sadržaj kreiran te je li se mijenjao od svog nastanka. Na Baltiku, Microsoft AccountGuard dionicima demokracije besplatno nudi napredne usluge otkrivanja prijetnji i obavještavanja te štiti stotine računa. Uz to, Microsoftove kampanje podizanja javne svijesti o deepfakeu u srednjoj i istočnoj Europi doprle su do oko pola milijuna ljudi ove godine.
Rastuće prijetnje državnih aktera
Unatoč tim naporima, demokracije se još uvijek suočavaju s novim i sve većim izazovima u digitalnom dobu. Kao što je Amy Larsen naglašava „državni akteri prijetnji također usavršavaju svoje vještine, što dovodi do potencijala za sve sofisticiranije i skalabilnije kibernetičke napade i kampanje dezinformiranja.“ Microsoftov centar za analizu prijetnji (MTAC) je u nedavnim izvješćima napomenuo da državni prijeteći akteri poput Kine i Rusije koriste generativne alate umjetne inteligencije dok nastavljaju pogoršavati političke i društvene podjele u Sjedinjenim Državama i drugim demokracijama.
Microsoftova liderska pozicija u razvoju umjetne inteligencije istaknuta je kroz tvrtkina partnerstva i neprestano zagovaranje uravnotežene regulative. U suradnji s organizacijama kao što je TrueMedia.org, tvrtka razvija okvire za rješavanje rizika umjetne inteligencije dok istovremeno maksimizira njene prednosti za demokratske procese.
