Grega Repovž

11. 5. 2018  |  Mladina 19  |  Uvodnik

V mojih možganih ste

»Nekatere primerjave so morda grobe in na prvi pogled bo tudi ta taka,« je pred nabito polno dvorano konference Re:publica na robu berlinske občine Kreuzberg dejala Danah Boyd, gostujoča profesorica na New York University, sicer pa raziskovalka v podjetju Microsoft Research. »Ko namreč danes opazujemo, kaj se dogaja na internetu, se je treba spomniti na knjigo Hannah Arendt Banalnost zla. In se vprašati – mar se danes tehnološka podjetja in različne platforme, socialna omrežja ne vedejo podobno, kot se je vedel Adolf Eichmann? Mar ne gre za primerljivo odgovornost, kot je bila odgovornost tega nacističnega zločinca, seveda na drugi ravni? Če sledimo Hannah Arendt: mar se danes lastniki in razvijalci platform od Facebooka naprej ne vedejo podobno, ko jih soočimo z njihovo odgovornostjo za sovražni govor, za razrast nedopustnega, laži, manipulacij? Česa pa ne vedo?«

Kdor si prikliče v spomin zagovor ustanovitelja omrežja Facebook Marka Zuckerberga pred ameriškimi senatorji, ko je odgovarjal na vprašanja, kaj dejansko počnejo z osebnimi podatki dveh milijard uporabnikov te platforme, lahko zlahka uzre Eichmannov obraz na sodnem procesu v Jeruzalemu. Enaka mirnost, enaka odsotnost. Česa ne razume? Res ne razume?

A še korak naprej je šla Chelsea Manning, ki je Wikileaksu posredovala skoraj pol milijona zaupnih dokumentov o vojni v Iraku in Afganistanu, bila pri 22 letih obsojena na 35 let zapora, jih odsedela sedem, od tega eno v samici, danes pa se spet ukvarja z »državljansko nepokorščino«. Prst je namreč usmerila v programerje, razvijalce družbenih omrežij, v skupnost, ki se najbolj širi, ki dejansko drži prihodnost v svojih rokah, pa zanjo kljub tej moči ne obstajajo nobene zakonske obveze, nobeni kodeksi, nobena etična pravila, nič. Vse je dovoljeno, ker je za tem pač poslovni interes – ta pa lahko legitimira vse, celo laž. Danes družbenega razvoja ne usmerjajo več politiki, mnenjski voditelji, mediji in novinarji, temveč prav ti različni razvijalci programske opreme, ki pa v veliki večini sploh ne vidijo niti ne vedo za vse razsežnosti, ki jih prinaša v svet, v družbe, ne nazadnje pa v vsakega posameznika njihovo delo. Pri tem pa niso niti malo transparentni, celo več, popolnoma so anonimni in jih praktično ni mogoče poklicati na odgovornost – za kar tako ali tako v praktično nobeni državi ni niti zakonske osnove. A Chelsea Manning gre še naprej: in v tej stihiji, v vsem tem, kar je bilo že povzročeno, zdaj z odprtimi rokami sprejemamo današnjo umetno inteligenco, ko je že to, kar imamo, postalo popolnoma neobvladljivo, nihče ne zna rešiti problema Facebooka in dejstva, da se danes prek različnih omrežij vdira v naše možgane in se nas, ne da bi se zavedali, usmerja. Pa ne le nakupno, ne le v željah po dobrinah. Poglejte, kako zlahka je Trumpova propagandna mašinerija v glave demokratskih volivcev vsajala dvome o Hillary Clinton – koliko ljudi je o njej govorilo točno tisto, kar so propagandisti hoteli, da govorijo? Pa to ni hvalnica Hillary Clinton – je pa opozorilo, da je v naše možgane z dovolj profesionalnim pristopom pač zlahka vstopiti in jih polzavedno usmerjati tako, da bomo mislili, da so te misli proizvod našega lastnega razmisleka. Saj, to poskuša narediti vsak propagandist, vsak mnenjski voditelj, vsak mislec, a ko na primer beremo tekste, vemo, da nas nekdo poskuša prepričati, vemo, kaj se dogaja. Nove tehnologije omogočajo, da nas zasipajo z informacijami, ki sprožajo prav določene reakcije pri prav določenih prepričanjih – kot je razkrilo perfidno delovanje družbe Cambridge Analytica, ki se je ta teden samoukinila. In kljub vsem tem izkušnjam nismo pri uvajanju sodobne umetne inteligence prav nič bolj previdni, pravi Chelsea Manning. Oprostite, v mojih možganih ste. Lahko rečete to? Ne. Prvič, ker nimamo mehanizmov, da bi se tega lahko zavedali, in drugič, ker nimamo nobenih orodij, da bi lahko ugotovili, kdo je tisti, ki po njih šari.

Pravica do mentalne nedotakljivosti v nasprotju z nedotakljivostjo na primer bivališča namreč ni nikjer opredeljena, prvo zakonodajo zdaj pripravlja prav Nemčija. Vse današnje razprave o Facebooku, Cambridge Analytici, Googlu itd. so se vrtele okoli odgovornosti lastnikov in vodij – nihče pa ni izpostavljal odgovornosti programerjev in razvijalcev opreme. Kot da nimajo nič s tem, kar počnejo. Pa imajo. Kot je imel vsak uradnik tretjega rajha, ki je »zgolj« administrativno sodeloval pri zločinih, kot je primerjavo potegnila Danah Boyd – ni se mogoče več izogibati osebni odgovornosti vsakega izmed njih.

Sliši se noro – a po vseh razkritjih vemo, da vse to drži. A najbolj grozljivo je, da se tega dejansko zavedamo že ves čas in da nam je nekako odveč soočiti se s tem. A nam bo pač priletelo v glavo. Tako kot je na primer Američanom v glavo priletel Donald Trump.