Ta oseba ne obstaja

Prav v času, ko je sporna tehnologija prepoznave obrazov začela s polno paro prodirati v naš vsakdanjik, si je večji del človeštva zaradi pandemije koronavirusne bolezni nadel zaščitne maske, to pa je učinkovitost algoritmov za prepoznavo obrazov sicer začasno, a močno ohromilo. Toda tudi ko se ti ne uporabljajo za svojo prvobitno nalogo, torej identifikacijo obrazov, delujejo kot temelj za razvoj novih (navadno spornih) tehnologij, s katerimi znanstvenofantastični koncepti postajajo resničnost.

Lani so splet začeli preplavljati tako imenovani posnetki deepfake, hiperrealistični videoponaredki, ustvarjeni z umetno inteligenco in algoritmi strojnega učenja. Deepfake je sprva dvignil prah zaradi nekonsenzualnih pornografskih montaž, kmalu pa se je začel razkrivati tudi njegov politični potencial: teoretično lahko deluje kot učinkovito propagandno ali sabotažno orodje, ki pomeni resno grožnjo demokraciji. Na začetku letošnjega leta se je svetovna medijska krajina obregnila ob zagonsko podjetje Clearview AI oziroma njegovo aplikacijo, ki obraze prepoznava na podlagi ogromne podatkovne zbirke. V podjetju so jo sestavili iz milijarde fotografij, ki so jih pridobili na družabnih omrežjih, ne da bi imeli za to kakršnakoli dovoljenja.

Sočasno je potekal razvoj še ene veje komercialne rabe tehnologije, ki umetno inteligenco povezuje z analizo množičnih zbirk fotografij človeških obrazov: njen namen je ustvarjanje popolnoma lažnih, a fotorealističnih obrazov, ki jih povprečno človeško oko na prvi pogled ni sposobno zaznati kot ponaredke. Ta tehnologija se je sprva pojavila na spletu kot plod ljubiteljskega eksperimenta: Phillip Wang, inženir, ki je nekoč programiral za podjetje Uber, je iz raziskovalne radovednosti razvil algoritem, ki deluje podobno kot tehnologija deepfake in na podlagi zbirke fotografij resničnih oseb ustvarja lažne, sintetične obraze realističnega videza. Da bi svetu pokazal, kako napredna in prepričljiva ter kako preprosta za rabo je ta tehnologija, je postavil spletno stran thispersondoesnotexist.com (ta oseba ne obstaja), ki vsaki dve sekundi ustvari nov lažni obraz: vsakič, ko spletno stran osvežimo, se pred našimi očmi izriše nov fiktivni človek.

Wangov namen je bil plemenit: predvsem je želel opozoriti na naglo razvijajoče se sposobnosti umetne inteligence. Priložnostni poslovneži, ki pri razvoju novih tehnologij kar gomazijo drug čez drugega, pa so v lažnih obrazih nezmotljivo prepoznali dobičkonosno možnost; kmalu so se pojavila številna podjetja, ki sintetične obraze ponujajo za plačilo. Takšno je denimo podjetje Generated Photos, ki trdi, da so njegove storitve, torej generiranje lažnih, edinstvenih obrazov, med drugim namenjene »novinarjem, ki varujejo svojo identiteto, ali podjetjem, ki strankam predstavljajo programsko opremo«. Podjetje na svoji spletni strani še zapiše, da je bila njegova storitev doslej uporabljena predvsem »pri ustvarjalni produkciji in za anonimnost, vendar je obseg rabe precej širši«. Ciljne stranke takšnih storitev naj bi bile torej predvsem v ustvarjalnih panogah, kot sta igričarstvo in oglaševanje, a večinoma so v rabi prav za vzpostavljanje in ohranjanje anonimnosti na spletu.

Skrajno desno usmerjene ameriške publikacije so propagandistične prispevke podpisovale z lažnimi imeni izmišljenih avtoritet in njihov obstoj podkrepile z objavo lažnih obrazov.

Ko podjetje Generated Photos pravi, da so možnosti rabe te tehnologije »obsežne«, se zdi ta trditev nekoliko skromna. Možnosti aplikacije lažnih obrazov so v resnici neskončne, njen potencial pa je v marsikaterem scenariju izrazito sporen, to se je v zadnjem času večkrat pokazalo tudi v praksi. Podjetje se ponaša s tem, da lahko novinarjem omogoči varovanje identitete, pravzaprav pa lažni obrazi pomagajo ohranjati anonimnost predvsem nepridipravom: spletnim prevarantom na primer pomagajo pri ustvarjanju realističnih spletnih person, anonimnežem na družabnih omrežjih – na primer spletnim trolom in podobnim nadlegovalcem – pa pomagajo ustvariti iluzijo legitimnosti njihove prisotnosti na spletu.

Najspornejši potencial tehnologije pa je političen. Ameriška tiskovna agencija Associted Press je na primer poročala, da so umetno ustvarjene obraze uporabljali vohuni, ki so se na platformi LinkedIn z viri v Washingtonu povezovali pod lažnimi identitetami. The Daily Beast je poročal, da so konservativne, skrajno desno usmerjene publikacije, kot sta Newsmax in Washington Examiner, propagandistične članke in mnenjske kolumne legitimirale s ponarejenim avtorstvom: podpisovale so jih z lažnimi imeni izmišljenih avtoritet in njihov obstoj podkrepile z objavo lažnih obrazov.

Kot opozarjajo številni strokovnjaki, pa je to šele začetek. Prepričljivost sintetičnih obrazov je lahko opozorilo, s kakšno hitrostjo se razvija umetna inteligenca. Fotografije lažnih ljudi so bile še pred petimi leti videti kot liki iz računalniške igre, danes pa se zdijo lažni ljudje prav tako prepričljivi kot vi in jaz.