Lideri Facebooka, najpopularnije društvene svjetske mreže koja ima preko dvije milijarde korisnika odlučili su zabraniti deepfake uratke i takav sadržaj ukloniti s mreže.
Radi se o video sadržaju koji je izmijenjen pomoću umjetne inteligencije tako da obični korisnici ne mogu prepoznati radi li se o autentičnom ili kreiranom sadržaju s ciljem da obmanjuje javnost, objavljeno je ovog tjedna na blogu Facebooka.
Iako deepfake uradci još uvijek nisu toliko česti projekcije govore da će ih uskoro biti sve više jer alati za njihovu izradu postaju sve jednostavniji i bolji.
“Postoje ljudi koji se bave medijskim manipulacijama kako bi zaveli i obmanuli ljude”, napisala je na blogu Monika Bickert, potpredsjednica u Facebooku.
O tome što jest a što nije obmanjujući sadržaj procjenjivat će zaposlenici Facebook-ai ali i neovisni 'fact checkeri' odnosno ljudi koji se bave provjeravanjem činjenica.
Poplava lažnjaka zbog izbora
Do sada su ljudi već navikli na fotošopirane fotografije, na montirane fotografije i na montirana videa, no dolazi doba u kojem to mogu računala sama činiti, a već su sposobna i na temelju tekstualnog opisa napraviti uvjerljivu fotografiju. a ne samo kombiniranjem postojećih fotografija. Online obmane stoga postaju i vjerojatno će postati sve učestalije i sve kreativnije.
Deepfake je, naime, mogućnost umjetne inteligencije da s pomoću metode strojnog i dubokog učenja, odnosno na temelju baze fotografija ljudi sintetizira novo lice koje zapravo ne postoji ili pak da zamijeni stvarna lica. U mogućnosti je da vrlo vjerno iz baze fotografija zamijeni lice u videozapisu i tome lažni govor tako da doista mnoge može uvjeriti da se radi o stvarnom događaju.
Mogućnosti manipulacije tek će doći do izražaja, a s obzirom na to da se približavaju izbori u Sjedinjenim Državama niz je napora usmjereno upravo na to da se 'očiste' društvene mreže od obmanjujućeg i lažnog sadržaja. Facebook je često bio kritiziran da ne čini dovoljno da zaustavi širenje dezinformacija i govora mržnje stoga je ovo novi korak u bitci protiv lažnjaka.
Facebook je odlučio ukloniti videozapise ako se ispostavi da su uređeni tako da prosječna osoba ne može primijetiti da nisu autentični. No, to je iznimno težak izazov i mnogi vjeruju da razmjeri takvog ‘čišćenja’ nikada ne mogu biti potpuni. Postoje programi koji su sposobni prepoznati lažnjake, no u toj cijeloj priči mogli bi stradati i mnogi uraci koji služe za zabavu a ne za prijevare ljudi.
Odluka Facebooka u načelu, ne odnosi se na parodije i satiru ili pak na video snimke koje su montirane tako da su izostavljene riječi ili im je promijenjen redoslijed.
No, osim što će se posvetiti uklanjaju deepfakea, Facebook će također nastaviti uklanjati audiovizualni sadržaj koji krši “standarde zajednice” ili pokušati smanjiti izloženost onih sadržaja koje vanjski kontrolori s kojima surađuje označe kao lažne.
Facebook je 2016. pokrenuo program provjere istinitosti sadržaja koji se objavljuje na njegovim stranicama i na Instagramu u suradnji s vanjskim kontrolorima (Third party fact-checking) u kojem sudjeluje šezdesetak medija širom svijeta. Prošlog rujna, pak, Facebook je objavio da će 10 milijuna dolara dati fondu za poboljšanje tehnologija otkrivanja 'deepfake' prijevara.
Nije sve deepfake
William Tunstall-Pedoe, informatičar koji je svoju AI kompaniju prodao Amazonu, kazuje da je već dovoljan napredak u tome da su Facebook i ostale društvene mreže krenule označavati i uklanjati videa koja su lažna i namijenjena obmani neovisno o tome koliko je sofisticiranja njihova tehnika izrade.
Facebook je priopćio kako planira surađivati s akademskom zajednicom, vladom i tvrtkama na otkrivanju ljudi koji stoje iza deepfakea. Dodali su da će nastaviti uklanjati sve videozapise koji uključuju golotinju, nasilje, govor mržnje, obmane birača na bilo koji način. Facebook je kritiziran zbog odbijanja uklanjanja izmijenjenog videa predsjednice Predstavničkog doma Nancy Pelosi, koji je pokrenuo viralno prošlog ljeta.
Videozapis je uređen kako bi izgledao kao da ‘guta’ riječi. Međutim, iz Facebooka su poručili da u skladu s novom politikom neće ukloniti taj videozapis.
"Facebook politika, smatraju kritičari ne dovodi do suštinskog rješenja pitanja kako se njihova platforma koristi za širenje dezinformacija, već se usmjerava na način na koji se ta dezinformacija profesionalno stvara.", rekao je Bill Russo glasnogovornik kampanje demokratskog kandidata za predsjednika.