UMJETNA INTELIGENCIJA I VIZUALNA MANIPULACIJA

Autor: Robert Geček

Umjetna inteligencija i vizualna manipulacija označavaju upotrebu sustava umjetne inteligencije za stvaranje, mijenjanje, kombiniranje ili prilagođavanje slika i videozapisa na način koji može utjecati na njihovo značenje, vjerodostojnost i interpretaciju. Takvi sustavi mogu izrađivati potpuno nove vizualne sadržaje, uklanjati ili dodavati elemente, mijenjati lica i identitete, oponašati fotografske stilove, rekonstruirati nedostajuće dijelove slike te stvarati prizore koji se nikada nisu dogodili.

Vizualna manipulacija nije nastala pojavom umjetne inteligencije. Fotografije su se mijenjale retuširanjem, fotomontažom, izrezivanjem kadra, izborom perspektive i naknadnom obradom znatno prije digitalnog doba. Umjetna inteligencija promijenila je brzinu, dostupnost, razmjer i uvjerljivost takvih postupaka. Za stvaranje vjerodostojno oblikovanoga lažnog prizora više nisu nužni napredno dizajnersko znanje, specijalizirana oprema i dugotrajan rad.

Oblici vizualne manipulacije

Potrebno je razlikovati tehničku obradu, kreativnu transformaciju i obmanjujuću manipulaciju. Tehnička obrada obuhvaća korekciju osvjetljenja, kontrasta, oštrine, boje i drugih svojstava radi poboljšanja kvalitete prikaza. Kreativna transformacija uključuje svjesno oblikovanje stiliziranih, ilustrativnih ili umjetničkih sadržaja. Takvi postupci nisu nužno problematični ako publici ne stvaraju pogrešnu predodžbu o prikazanoj stvarnosti.

Obmanjujuća manipulacija nastaje kada se vizualni sadržaj izrađuje ili mijenja s namjerom da ga publika prihvati kao vjerodostojan prikaz stvarne osobe, događaja ili okolnosti. Ona može uključivati uklanjanje osoba i predmeta, premještanje sadržaja u drugi kontekst, mijenjanje vremena i mjesta događaja, prikazivanje nepostojećih posljedica ili stvaranje lažnih dokaza. Poseban oblik predstavljaju deepfake sadržaji, odnosno sintetičke slike i videozapisi u kojima se lice, tijelo, glas ili ponašanje stvarne osobe računalno oponašaju ili zamjenjuju. Osoba može biti prikazana kao da izgovara riječi, izvodi radnje ili sudjeluje u događaju koji se nije dogodio. Deepfake je dio šire kategorije sintetičkih medija i ne treba ga poistovjećivati sa svakom računalno izmijenjenom slikom.

Vizualna manipulacija može nastati i bez složenih tehnoloških zahvata. Autentična fotografija postaje obmanjujuća ako se objavi uz netočan opis, lažni datum ili tvrdnju da prikazuje drugi događaj. Takve se metode ponekad nazivaju jednostavnim ili „jeftinim krivotvorinama” jer se obmana ostvaruje promjenom konteksta, a ne samoga vizualnog zapisa.

Stvaranje i promjena značenja

Vizualni sadržaji često se doživljavaju kao potvrda da se određeni događaj stvarno dogodio. Fotografija i videozapis zbog toga imaju dokumentarnu i dokaznu vrijednost, iako nikada nisu potpuno neutralni prikazi stvarnosti. Izbor kadra, trenutka, perspektive i sadržaja koji ostaje izvan prikaza uvijek sudjeluje u oblikovanju značenja.

Generativna umjetna inteligencija dodatno slabi pretpostavljenu vezu između vizualnog zapisa i stvarnog događaja. Fotorealističan sadržaj više ne mora nastati fotografiranjem fizičkog svijeta. Publika zato ne može procjenjivati autentičnost samo prema tome izgleda li nešto uvjerljivo.

Manipulacija djeluje i u suprotnom smjeru. Mogućnost stvaranja uvjerljivih krivotvorina omogućuje osobama i organizacijama da autentične snimke proglase umjetno generiranima. Taj se učinak naziva „korist lažljivca” (liar’s dividend): samo postojanje deepfake tehnologije može poslužiti za osporavanje vjerodostojnih dokaza. Posljedica nije samo prihvaćanje lažnog sadržaja nego i opće slabljenje povjerenja u fotografiju, video, medije i digitalne izvore. Istraživanja političkih deepfake sadržaja pokazuju da njihova posljedica ne mora biti potpuno uvjeravanje publike u lažnu tvrdnju. Dovoljno je povećati nesigurnost, zbunjenost i nepovjerenje u vijesti koje se šire društvenim mrežama.

Komunikacijski i reputacijski rizici

U odnosima s javnošću umjetna inteligencija može pomoći pri izradi ilustracija, vizualizaciji zamisli, prilagodbi sadržaja različitim formatima i razvoju kreativnih rješenja. Njezina legitimna uporaba ovisi o svrsi poruke, jasnoći označavanja i mogućnosti publike da razlikuje dokumentarni od sintetičkog sadržaja.

Rizik nastaje kada organizacija umjetno generiranu osobu, prostor ili događaj predstavi kao stvaran. Primjer može biti prikaz nepostojećih zaposlenika, lažne humanitarne aktivnosti, nedovršenog objekta kao izgrađenog ili izmišljene potpore građana određenom projektu. Čak i kada je sadržaj vizualno privlačan, njegovo otkrivanje može izazvati optužbe za obmanjivanje i dovesti u pitanje vjerodostojnost drugih organizacijskih poruka.

Organizacije mogu biti i mete manipulacije. Lažni videozapis člana uprave, krivotvorena snimka nesreće, izmijenjena fotografija proizvoda ili lažna objava na društvenim mrežama mogu izazvati kriznu situaciju. Brzina širenja vizualnog sadržaja često je veća od brzine njegove provjere, a ispravak ne mora dosegnuti sve korisnike koji su vidjeli izvornu obmanu.

Priprema za takve slučajeve uključuje praćenje digitalnog okruženja, arhiviranje izvornog sadržaja, utvrđivanje postupka provjere, određivanje osoba ovlaštenih za odgovor i suradnju komunikacijskih, pravnih, sigurnosnih i informatičkih stručnjaka. Reakcija treba jasno objasniti što je krivotvoreno, kako je to utvrđeno i gdje se nalazi provjereni izvorni sadržaj. Prepoznavanje i provjera autentičnosti Vizualne manipulacije mogu se provjeravati analizom izvora, metapodataka, vremena objave, obrnutim pretraživanjem slike, usporedbom s drugim snimkama i uporabom forenzičkih alata. Mogući znakovi manipulacije uključuju nelogične sjene, neusklađene refleksije, anatomske pogreške, promjene teksture, neprirodne pokrete, neusklađenost usana i govora te nepravilnosti na rubovima izmijenjenih dijelova.

Takvi znakovi nisu trajan kriterij. Generativni se sustavi razvijaju, a postupci koji danas ostavljaju prepoznatljive nepravilnosti sutra ih mogu ukloniti. Ni automatizirani detektori nisu potpuno pouzdani. Njihova uspješnost može se smanjiti kada analiziraju sadržaj stvoren novim modelima ili višestruko komprimirane, izrezane i naknadno obrađene datoteke. NIST zato razlikuje više komplementarnih postupaka: detekciju, označavanje, autentifikaciju i dokazivanje podrijetla sadržaja.

Sustavi podrijetla sadržaja bilježe podatke o nastanku i promjenama digitalne datoteke. Standard C2PA koristi kriptografski povezane vjerodajnice sadržaja koje mogu sadržavati informacije o autoru, uređaju, uporabljenom programu i provedenim izmjenama. Njihova svrha nije utvrditi je li prikaz istinit, nego omogućiti provjeru njegova podrijetla i povijesti obrade.

Nepostojanje vjerodajnice ne dokazuje da je sadržaj lažan, kao što njezino postojanje samo po sebi ne jamči istinitost prikazanoga. Metapodaci se mogu izgubiti pri preuzimanju, komprimiranju i ponovnom objavljivanju. Zbog toga se provjera mora temeljiti na kombinaciji tehničkih, kontekstualnih i uredničkih postupaka.

Etička i regulatorna odgovornost

Etička uporaba umjetne inteligencije zahtijeva da publika bude obaviještena kada je vizualni sadržaj bitno generiran ili izmijenjen, osobito ako bi mogao biti shvaćen kao dokumentarni prikaz. Potrebno je zaštititi privatnost, osobni identitet, autorska prava i dostojanstvo prikazanih osoba te izbjegavati stvaranje lažnih svjedočanstava i preporuka.

Akt Europske unije o umjetnoj inteligenciji utvrđuje obveze transparentnosti povezane s određenim generiranim i manipuliranim sadržajima, uključujući deepfake sadržaje. Njihova je svrha smanjiti rizike obmane, lažnog predstavljanja i dezinformiranja te omogućiti korisnicima donošenje informiranih odluka.

Odgovornost organizacije ne završava stavljanjem oznake „generirano umjetnom inteligencijom”. Potrebno je procijeniti svrhu, kontekst i moguće posljedice objavljivanja. Vizualni sadržaj može biti formalno označen, a ipak ostati neetičan ako diskriminira, iskorištava tuđi identitet ili stvara pogrešnu predodžbu. Ključno uredničko načelo glasi da umjetna inteligencija može pomagati vizualnom oblikovanju, ali ne smije ukinuti ljudsku odgovornost za značenje i posljedice objavljene poruke.

Povezane natuknice

Autentičnost digitalnog sadržaja; Deepfake; Dezinformacije; Digitalna etika; Medijska pismenost; Sintetički mediji; Umjetna inteligencija; Vizualna komunikacija; Vizualna poruka; Vizualni komunikacijski rizici.