Sintetična propaganda

Predsednik Združenih držav Amerike Joe Biden je morebitne volivce v zvezni državi New Hampshire po telefonu osebno pozival, naj se ne udeležijo lokalnih volitev in naj »svoj glas raje prihranijo za novembrske volitve«. Sočasno so po spletu zakrožile fotografije, na katerih se Donald Trump radostno objema s temnopoltimi podporniki. Na Slovaškem so si ljudje množično prepošiljali zvočni posnetek, na katerem je kandidat za predsednika vlade Michal Šimečka volivce opozarjal, da bo, ko pride na oblast, nemudoma podvojil ceno piva. Indijski volivci po vsej državi prejemajo personalizirana videosporočila, v katerih jih predsednik vlade Narendra Modi osebno in poimensko nagovarja, naj na prihajajočih volitvah (ponovno) glasujejo zanj. V Argentini je po medmrežju zakrožil škandalozen video, v katerem predsednik države Javier Milei izraža naklonjenost zamisli o legalizaciji trga človeških organov. V Veliki Britaniji so se ljudje množično čudili videu, v katerem vodja laburistov Keir Starmer promovira sumljivo piramidno shemo.

Nič od tega ni resnično. Čeprav so bili vsi našteti videi in podobe videti dokaj prepričljivo, zvočni posnetki pa so zveneli pristno, gre za lažne, sintetične propagandne vsebine, ustvarjene z generativno umetno inteligenco. Za nekatere so odgovorne same piarovske službe političnih strank in predsedniških kandidatov (denimo v Indiji in Argentini), druge so maslo bodisi spletnih šaljivcev, ki z umetno inteligenco ustvarjajo satirično vsebino, bodisi anonimnih nepridipravov, ki skušajo s hiperrealističnimi ponaredki vplivati na javno mnenje in oblatiti nasprotnike političnih prepričanj, katerih zagovorniki so sami.

Ne glede na to, kdo tovrstne vsebine ustvarja, pa o nečem ni dvoma: v letu, ko bodo potekale volitve, na katerih se bo odločalo, kdo bo vodil vlado v več kot 50 državah po vsem svetu, torej bodo vplivale na prihodnost prebivalcev polovice planeta, bo umetna inteligenca, ki pomeni vse večjo grožnjo demokraciji, odigrala pomembno vlogo pri širjenju propagande, dezinformacij in lažnih novic. Umetna inteligenca lahko volivce zmede in zavede, lahko zbudi dvom o tem, kaj je resnično, predvsem pa lahko prispeva k poplavi dezinformacij in jih obogati z lažnim dokaznim gradivom.

Videz vara

Ker so bili sistemi umetne inteligence, ki iz besednih ukazov (promptov) ustvarjajo podobe, videe in zvočne posnetke, do nedavnega še na začetni stopnji, na kateri niso bili zmožni ustvariti prepričljivih, navidezno pristnih vsebin – med drugim so jih izdajali deformirane dlani, odvečni udi, rahlo groteskni obrazi, še posebej pa značilno plastična estetika –, se je zdelo, da bodo takšnim propagandnim ponaredkom nasedali le najnaivnejši volivci, katerih oči še niso izurjene za prepoznavo lažnih vsebin, ustvarjenih s programsko opremo. A ker se ta tehnologija razvija s takšno hitrostjo, da njenemu napredku težko sledijo celo največji poznavalci, sistemi generativne umetne inteligence pa so čedalje dostopnejši sleherniku in vse cenejši za uporabo, je zadeva danes v smislu grožnje demokraciji že precej skrb zbujajoča.

Umetna inteligenca lahko volivce zmede in zavede, lahko zbudi dvom o tem, kaj je resnično, predvsem pa lahko prispeva k poplavi dezinformacij in jih obogati z lažnim dokaznim gradivom.

Bruseljski časnik Politico je zato prejšnji teden objavil spletni kviz, namenjen prepoznavanju fotoponaredkov, ustvarjenih s programom Midjourney. Kviz ponudi serije podob – od portretov Vladimirja Putina prek fotografije Angele Merkel, ki igra Fortnite, do reportažnih posnetkov ruševin v Gazi –, med njimi pa moramo prepoznati tiste, ki jih je ustvarila umetna inteligenca. Test smo rešili tudi v Mladininem uredništvu in (skoraj) vsi po vrsti na njem gladko pogrnili: dokazal je, da v dobi generativne umetne inteligence preprosto ne moremo več verjeti svojim očem: manj kot dve leti po vzponu slikarskih robotov je meja med resničnostjo in izmišljenim že skoraj popolnoma zabrisana.

Tekoči trak

Zakaj naj bi bila umetna inteligenca, uporabljena za politično propagando, skrb zbujajoča? Fotomontaže in podobne manipulacije s fotografijami so stare toliko kot fotografija sama. Tudi posnemovalcev, ki znajo prepričljivo oponašati različne politične veljake, še zdaleč ne primanjkuje – že v mikrokozmosu, ki mu pravimo Slovenija, jih je dovolj, da bi z njimi napolnili floto avtobusov. Celo videi »deepfake« oziroma »globoki ponaredki«, torej hiperrealistični videoponaredki, v katerih lahko subjektom polagamo besede v usta, so prah dvigovali že leta pred nenadnim vzponom generativne umetne inteligence novembra predlani.

Skratka, umetna inteligenca pri ustvarjanju lažnih vsebin ne počne nič zares revolucionarnega, težava je v tem, da te vsebine generira z veliko hitrostjo in da je za to potrebnih zelo malo sredstev. Pri raznovrstnih manipulacijah z videom, fotografijo in zvokom seveda ni prepričljivejša ali bolj vešča od človeške roke, je pa učinkovitejša pri množičnem proizvajanju in širjenju propagandnih vsebin, ki jih lahko zares naglo kleplje kot po tekočem traku.

Moč družbenih omrežij se sicer pri tem izkaže za dvorezni meč: prek njih se te lažne vsebine med ljudmi širijo hitreje kot požar, hkrati pa jih ravno uporabniki družbenih omrežij skoraj nemudoma razkrinkajo in nato razširijo sporočilo o njihovi pravi naravi. Doslej so bili vsi najodmevnejši sintetični ponaredki razkrinkani v nekaj urah, čeprav to ne pomeni, da jim del občinstva ni nasedel. Marsikdo namreč še vedno živi v prepričanju, da slika pove več kot tisoč besed, video pa pove več kot tisoč slik, zato o pristnosti takšnih vsebin niti ne podvomi. Na začetku omenjene fotografije, na katerih se Donald Trump objema z nasmejanimi temnopoltimi podporniki, so že na daleč zaudarjale po ponaredkih, a sodeč po očaranih odzivih Trumpovih sledilcev tudi te podobe za neizurjene in naivne oči delujejo pristno. Čeprav sintetične propagandne vsebine zavedejo le peščico, ima lahko to učinek, ki ni zanemarljiv in utegne vplivati na izid volitev.

Doslej so bili najodmevnejši sintetični ponaredki razkrinkani v nekaj urah, vendar to ne pomeni, da jim del občinstva ni nasedel. Marsikdo še vedno živi v prepričanju, da slika pove več kot tisoč besed.

Pravzaprav pri politični propagandi danes ne govorimo več le o morebitnih zlorabah umetne inteligence: v zadnjem letu se je po vsem svetu, od Indije do Slovaške, zvrstilo že kar nekaj konkretnih primerov, ki kažejo na njeno moč pri spodkopavanju demokratične razprave in širjenju dezinformacij. Poglejmo nekaj preteklih in nekaj sedanjih primerov, ki to moč slikovito ponazarjajo.

Hiperpersonalizirana propaganda

Predstavljajte si takle scenarij: zavibrira vam telefon, ker ste prejeli novo sporočilo, ko pa ga odprete, se na zaslonu pojavi hiperrealistična animacija predsednika vlade, ki vas nagovori kar poimensko in vas začne osebno prepričevati, da na prihajajočih volitvah obkrožite njegovo ime.

V Indiji, največji demokratični državi na planetu, kjer ima volilno pravico skoraj milijarda ljudi, se je ta distopični scenarij že uresničil. Pomemben del politične kampanje sedanjega predsednika indijske vlade Narendre Modija je množično pošiljanje »hiperpersonaliziranih« videov, v katerih digitalni, a dokaj realistični premierov »klon« nagovarja morebitne volivce in jih s pristno zvenečim glasom prosi za podporo, in to v ducat različnih jezikih in narečjih, ki se prejemnikom samodejno prilagajajo odvisno od tega, v katerem delu države živijo, vse to pa seveda poganja umetna inteligenca.

Takšne »hiperpersonalizirane« propagande ne širijo zgolj prek videov, ustvarjenih z umetno inteligenco, temveč tudi prek telefonov, s propagandnim telefonskim trženjem, ki ga ne izvajajo ljudje v klicnih centrih, temveč »roboti«. Ti vsebino, pripravljeno z jezikovnimi modeli, kakršen je ChatGPT, pripovedujejo s sintetičnim, umetno ustvarjenim glasom, ki prepričljivo posnema glasove znanih političnih veljakov. Vse skupaj spominja na polom v ameriški zvezni državi New Hampshire, o katerem se je veliko govorilo – sintetični glas ameriškega predsednika se je obračal na množico morebitnih volivcev in jih prepričeval, naj se ne udeležijo lokalnih volitev. Toda v Indiji je to propagandno telefonsko trženje vključeno v dejansko kampanjo. Sočasno lahko opravljajo množico pogovorov, ki jih snemajo, s posnetki pa nato urijo modele umetne inteligence in jih tako še bolj izpopolnijo.

A v Indiji ljudstva ne nagovarjajo zgolj sedanji politični veljaki oziroma njihovi digitalni kloni, temveč celo pokojni politiki, ki so s posredovanjem umetne inteligence vstali od mrtvih in podprli kandidate. Zadnje mesece se na različnih javnih prireditvah, političnih shodih in razpravah pogosto pojavlja projekcija Muthuvela Karunanidhija, nekoč priljubljenega predsednika stranke Dravida Munetra Kazhagam, ki ljudstvo nagovarja iz onstranstva. Ja, umetna inteligenca lahko izjemno prepričljivo, skoraj fotorealistično poustvari posameznika, pa naj bo ta mrtev ali živ. Natančno posname njegovo vizualno podobo, obrazno mimiko in telesne kretnje, glas, način govora in druge individualne značilnosti.

»Umetna inteligenca lahko potencialno požre celotno človeško kulturo. Vse, kar smo ustvarili v tisočletjih, bo nemudoma prebavila in začela bruhati poplavo novih kulturnih artefaktov.«

Takšno obujanje preminulih se je začelo v industriji zabave, kjer digitalne rekonstrukcije umrlih zvezdnikov že desetletje sobivajo s še živečimi ustvarjalci – spomnimo se na primer hologramov pokojnih glasbenikov Michaela Jacksona in Tupaca Shakurja ali pa denimo filma Rogue One: Zgodba Vojne zvezd, v katerem je nastopila digitalna različica igralca Petra Cushinga, ki je umrl že sredi devetdesetih let prejšnjega stoletja –, zdaj pa so očitno na udaru še politiki.

Indiana Jones in izganjalec duhov

Predsedniških volitev v Argentini, na katerih je oktobra zmagal desničarski populist Javier Milei, se je v svetovni medijski krajini prijel naziv »prve umetnointeligenčne volitve«. Oba tekmeca, Milei in njegov nasprotnik Sergio Massa, sta kampanji podprla s poplavo propagandne vsebine, ustvarjene z umetno inteligenco.

Massova piarovska služba je na primer pripravila serijo promocijskih plakatov v retro estetiki sovjetskih propagandnih lepakov. Milei se je nanje odzval z upodobitvijo nasprotnika kot kitajskega komunističnega voditelja, sebe pa je z umetno inteligenco upodobil kot ljubkega levčka, ki se objema z gosko, odeto v argentinsko zastavo. Za Massovo kampanjo so med drugim uporabili tudi podobe in videe, na katerih je bil kandidat upodobljen kot vojak iz prve svetovne vojne, kot fiktivni pustolovski arheolog Indiana Jones in kot izganjalec duhov iz franšize Izganjalci duhov (Ghostbusters), sočasno pa tudi sintetične podobe, ki so karikirale nasprotnikove negativne lastnosti, razvpito koleričnost in nestabilnost, in ga prikazovale kot antiherojskega protagonista filmov, kakršna sta Strah in groza v Las Vegasu in Peklenska pomaranča, kot zlikovca iz pravljic, kakršni sta Janko in Metka in Rdeča kapica, in kot zblaznelega terorista Jokerja iz stripov o Batmanu.

V skoraj vseh naštetih primerih nenavadnih kampanj v Argentini je šlo za podobe, ki bi jih zlahka in dokaj hitro ustvarile človeške roke, ker pa so jih generirali slikarski roboti, je stvar povzročila moralno paniko. Res pa je, da je bila umetna inteligenca ključna pri ustvarjanju »globokih ponaredkov«, bodisi zvočnih posnetkov bodisi videov. Massova kampanja je denimo ustvarila v uvodu omenjeni videoposnetek, na katerem Javier Milei navdušeno razglablja o pozitivnih gospodarskih učinkih legalizacije trga človeških organov in med drugim omeni, da so »otroci dobra dolgoročna naložba. Ne v tradicionalnem smislu, temveč v smislu tržnega potenciala njihovih organov.«

Ojačevalec širjenja dezinformacij

Ko govorimo o politični propagandi, podprti z generativno umetno inteligenco, grožnje demokraciji ne pomenijo zgolj fotoponaredki, videi »deepfake« in sintetični posnemovalski glasovi, temveč tudi jezikovni modeli, kakršen je ChatGPT, ki so lahko po ugotovitvah nedavne raziskave pri pisanju propagandnih sporočil skoraj tako prepričljivi kot človek.

»Kako učinkovita je politična propaganda, ki jo poganja generativna umetna inteligenca?« so se v nedavni raziskavi spraševali raziskovalci z ameriških Stanfordove univerze in Univerze v Georgetownu. Z jezikovnim modelom so ustvarili propagandna sporočila z različnimi zarotniškimi temami, denimo, da so ZDA objavile ponarejena poročila o tem, da je sirska vlada uporabila kemično orožje, ali da je Savdska Arabija sofinancirala gradnjo razvpitega Trumpovega zidu med ZDA in Mehiko. Dobrih 8000 poskusnih zajčkov je nato prebralo propagandne članke, ki jih je (z minimalnimi posegi ljudi) napisala umetna inteligenca, in že starejša propagandna besedila, izvirajoča iz Irana in Rusije, ki jih je napisal človek – teme so bile pri obeh vzorcih iste. Udeleženci raziskave so obema vzorcema verjeli v skoraj enakem obsegu: strojno ustvarjena propaganda sporočila so nanje učinkovala ravno toliko kot tista, ki so jih napisali ljudje.

Propagandisti lahko javnost z umetno inteligenco izpostavijo poplavi propagandnih člankov, s čimer ne povečajo le njihovega dometa, temveč sočasno otežijo ločevanje zrnja od plev. »Spreminjajoči se slog in besednjak propagandnih besedil, ki jih ustvari jezikovni model, zlahka ustvari vtis, da gre za stališča dejanskih ljudi in za resnične vire novic,« so zapisali.

Kot so za New York Times zapisali trije vodilni strokovnjaki za etična vprašanja, povezana z novimi tehnologijami: »Leta 2028 predsedniške tekme morda ne bodo več vodili ljudje.«

Nedavno poročilo Brookingsovega inštituta o »vplivu generativne umetne inteligence v globalnem volilnem letu« ugotavlja, da lahko umetna inteligenca deluje kot »ojačevalec širjenja dezinformacij«. Za takšna prizadevanja so bile doslej nujne zapletene organizacijske strukture: spomnimo se razvpitih farm trolov, ki so Facebook z lažnimi novicami preplavile v času predsedniških volitev v ZDA leta 2016. Farme trolov so zdaj že popolnoma passé: umazano delo lahko namesto njih opravijo farme algoritmov. Poleg tega so bili propagandni, zavajajoči članki doslej lažje izsledljivi zaradi »recikliranja ves čas istih podob, jezikovne površnosti in ponavljajočih se besedil«, kot ugotavljajo pri Brookingsu. In dodajajo: »Zdaj je z le nekaj kliki mogoče ustvariti ogromne količine edinstvene vsebine.«

Analitično podjetje NewsGuard, ki ocenjuje verodostojnost spletnih virov novic in razvija orodja za prepoznavo dezinformacij, je v nedavnem poročilu preštelo dobrih 800 spletnih strani, ki delujejo skorajda brez človeškega nadzora in avtomatizirano objavljajo lažne novice, ustvarjene z umetno inteligenco, članke pa pišejo v 16 različnih jezikih. Namen dobršnega dela takšnih spletnih strani je ustvarjanje dobička, pridobljenega z oglaševanjem, nekatere pa so pravzaprav vladni programi: NewsGuardovi analitiki so denimo prepoznali stran, za katero skrbi kitajska vlada in na njej objavlja lažne novice, ki jih generira umetna inteligenca. Med drugim je tako nastala lažna novica, da Združene države Amerike v kazahstanskem laboratoriju razvijajo biološko orožje, s katerim bodo okužile kamele, kar naj bi pomenilo grožnjo za kitajsko prebivalstvo.

»Umetna inteligenca lahko potencialno požre celotno človeško kulturo. Vse, kar smo ustvarili v tisočletjih, bo nemudoma prebavila in začela bruhati poplavo novih kulturnih artefaktov,« so za New York Times zapisali trije vodilni strokovnjaki za etična vprašanja, povezana z novimi tehnologijami, med njimi tudi sloviti Izraelec Yuval Noah Harari. Dodali so, da ti »kulturni artefakti« ne bodo le »šolski eseji, temveč tudi politični govori, ideološki manifesti, svete knjige za nove verske ločine«. Mračno misel so zaključili: »Leta 2028 predsedniške tekme morda ne bodo več vodili ljudje.«