Soditi po obrazu

Algoritmi, ki s pomočjo umetne inteligence prepoznavajo obraze, so eno izmed temeljnih tehnoloških orodij, ki vodijo v distopični scenarij družbe popolnega nadzora. Med najspornejšimi vidiki uporabe te tehnologije je nedvomno kršenje zasebnosti, ki jo je – kot v razvpitem članku razkriva časnik The New York Times – ameriško startup podjetje Clearview AI poneslo na višjo raven: ustvarilo je namreč učinkovito aplikacijo, ki obraze prepoznava na podlagi ogromne podatkovne baze, v kateri je več kot tri milijarde fotografij, pridobljenih na spletu. Represivni organi že več let uporabljajo podobna orodja, ki se zanašajo na algoritme za prepoznavanje obrazov, a Clearview se od teh razlikuje po tem, da je podatkovno bazo obrazov zgradil s črpanjem podatkov oziroma fotografij z različnih družabnih omrežij, spletnih platform in aplikacij, denimo s Facebooka, Instagrama, YouTuba in bančne aplikacije Venmo.

Tehnologija prepoznavanja obrazov ima tako nevaren potencial, da so se razvijanja tovrstnih algoritmov vzdržali celo tech velikani, kot je podjetje Google, za katerega sicer ne moremo trditi, da ravno slovi po moralnih in etičnih načelih. Clearview AI pa tovrstnih zadržkov nima, a se vprašljivosti svojega poslovnega modela očitno zaveda, saj deluje v tajnosti: Times poudarja, da je naslov sedeža, ki ga podjetje navaja na uradni spletni strani, pravzaprav neobstoječ, prav tako pa podjetje skrbi za anonimnost svojih zaposlenih: vse do temeljitega brskanja Timesovih novinarjev je pod generičnim lažnim imenom John Good skrivalo celo identiteto izumitelja aplikacije Hoana Tona-Thata, enaintridesetletnega Avstralca vietnamskega rodu.

Uporaba prelomne aplikacije Clearview AI je dokaj preprosta: policisti vanjo naložijo fotografijo osebe, ki jo želijo identificirati, in Clearview jim ponudi fotografije te osebe, ki so javno dostopne na spletu. Te podobe jih nadalje pripeljejo do mesta na spletu, od koder izvirajo, denimo do Facebook profila osumljenega portretiranca. Podjetje aplikacijo za pičlih dva tisoč ameriških dolarjev prodaja represivnim organom po vseh Združenih državah Amerike: od lokalnih policijskih postaj prek zvezne policije FBI do »ameriške Udbe«, ameriške agencije za notranjo varnost.

Times poroča, da naj bi preiskovalci s pomočjo aplikacije uspešno identificirali zlikovce, vpletene v najrazličnejše zločine: od tatvin, kraj identitete in goljufij do umorov in spolnih zlorab otrok.

Možnosti zlorab so neskončne: z uporabo aplikacije bi lahko potencialno identificirali vsakogar, ki ga vidimo, razkrila pa naj ne bi zgolj njihovih imen, temveč tudi podatke o tem, kje živijo, kaj so počeli in koga poznajo.

Kritiki opozarjajo, da se uporaba aplikacije Clearview in sorodnih programov, denimo Amazonovega Rekognitiona, širi tudi zaradi lažnih poročil o učinkovitosti tehnologije, ki še ni dovolj razvita, da bi se nanjo lahko zanašali: neki obraz lahko na primer zmotno poveže z napačno identiteto. Program Rekognition dela največ napak pri prepoznavanju temnopoltih, ki jih zelo pogosto narobe identificira. Tudi umetna inteligenca je očitno lahko rasistična.

Učinkovitost aplikacije Clearview je vprašljiva: podjetje se je ponašalo s tem, da je newyorška policija (NYPD) aplikacijo uporabila pri identifikaciji osumljenca, ki naj bi 16. avgusta na postajah newyorške podzemne železnice nastavil tri bombe, zakamuflirane v kuhalnike riža (za katere se je pozneje sicer izkazalo, da so zgolj kuhalniki brez eksploziva). NYPD je uporabo aplikacije Clearview zanikala: osumljenca je identificirala s pomočjo lastne baze fotografij, ki jih posname ob aretacijah. Lažno prilaščanje zaslug pa je pri aferi Clearview še najmanjša skrb. Največja težava je predvsem v številnih možnostih zlorabe tovrstne tehnologije: od zasebnih do komercialnih.

Podjetje Clearview AI svoj produkt sicer zagovarja z dejstvom, da aplikacija ni na voljo širši javnosti: »Clearview obstaja zato, da roki zakona pomaga rešiti najzahtevnejše primere; našo tehnologijo spremljajo stroga navodila in varovala, ki zagotavljajo, da jo preiskovalci uporabljajo zgolj po predpisih,« je podjetje zapisalo v obvestilu za javnost, ki je sledilo Timesovemu članku. Ta je opozarjal, da je kljub temu, da si aplikacije navadni smrtnik načelno ne more naložiti na svoj pametni telefon, ta lahko uporabljena v zasebne namene, če denimo pride v roke skorumpiranega policista. Možnosti zlorab so neskončne. »Od zalezovanja potencialnih romantičnih partnerjev do pridobivanja podatkov, ki bi bili lahko uporabljeni za izsiljevanje,« zapiše avtor članka. In nadaljuje: »Uporabniki aplikacije bi lahko prepoznali vsakogar, ki ga vidijo: orodje lahko identificira aktivista na protestu ali privlačnega tujca na podzemni železnici. Razkrilo pa naj ne bi zgolj njihovih imen, temveč tudi podatke o tem, kje živijo, kaj so počeli in koga poznajo.«