Frances Haugen, Facebookova žvižgačka: »Sovraštvo je najhitrejša pot do klika«

Zato je več tisoč dokumentov dala na vpogled javnosti in tako postala Facebookova žvižgačka. Pred dvema tednoma je nastopila na spletnem pogovoru, ki ga je pripravila slovenska pobuda za digitalno vzgojo Vsak.si, in na njem posebno pozornost namenila grožnjam, ki jih Facebook in Instagram pomenita za mlade, dotaknila pa se je tudi vprašanja lažnih novic in njihovega vpliva na demokratično odločanje. Po spletnem pogovoru si je vzela čas tudi za pogovor z Mladino.

Delali ste že v tehnoloških podjetjih, podobnih Facebooku oziroma Meti – recimo pri Googlu in Pinterestu. Kaj je bilo pri Facebooku drugače in kaj vas je spodbudilo k temu, da ste naposled postali žvižgačka? 

Facebook je zelo odvisen od ljudi, ki pridejo v podjetje neposredno s kolidža, in ljudi na vodilnih položajih, ki so doslej delali izključno za to podjetje. Vanj so prišli zgodaj, ko je bilo še zagonsko podjetje, in so v njem ostali vse do danes. Ravno zato, ker sem prej delala pri Googlu, Pinterestu, tudi pri Yelpu, sem po prihodu k Facebooku hitro ugotovila, da nekaj ni v redu. Ključna težava je bila v tem, da se je pri vsakem problemu ali nepravilnosti, ki sem jo zaznala, vedno našel izgovor, zakaj nečesa ni mogoče spremeniti. Delali so se nemočne, čeprav so bili v resnici nosilci moči. Ali pa se niso niti dobro zavedali, da nekatere stvari, ki jih počnejo, preprosto niso v redu. Mislim, da je ravno ta kognitivna disonanca med zaposlenimi najbolj prispevala k temu, da sem se odločila »žvižgati«.

Iz dokumentov, ki ste jih razkrili, med drugim razberemo, da kar 13,5 odstotka najstnic zaradi rabe Instagrama pogosteje občuti samomorilne misli, 17 odstotkov najstnic pa je zaradi njega poročalo o poslabšanju motenj hranjenja. Gre za podatke iz raziskav, ki jih je opravilo podjetje samo. 

Tako je, njegove lastne raziskave so pokazale, da je Instagram toksičen za najstnike, predvsem za dekleta, in da imajo mladi zaradi rabe te platforme pogosteje samomorilne misli in motnje hranjenja. Najbolj tragično pri tem se mi zdi, da najstnice, ko začnejo posegati po spornih vsebinah, kot so vsebine o motnjah hranjenja, postajajo vse bolj depresivne, hkrati pa jih to spodbudi, da aplikacijo uporabljajo še pogosteje. Tako se znajdejo v nekakšnih začaranih krogih povratnih informacij in vedno bolj sovražijo svoje telo, to pa lahko ima tragične posledice.

Opozarjate tudi na težavo zasvojljivosti mladih z novimi tehnologijami in družabnimi omrežji. Kaj o zasvojljivosti mladih izvemo iz Metinih raziskav? 

Pri Meti so preiskovali težavo, ki so jo sami poimenovali »sporna raba«, čemur načeloma pravimo zasvojljivost. Vendar so za to, kaj se šteje za dejansko sporno rabo platform, letvico postavili precej visoko. Po njihovem mnenju so uporabniki, ki imajo težave, samo tisti, ki se tako samoidentificirajo in priznavajo, da nimajo nadzora nad rabo platform in da s tem škodijo svojemu zdravju, delu za šolo ali vsakdanjemu življenju. Samo pet do šest odstotkov 14-letnikov je premoglo dovolj samozavedanja in iskrenosti, da so na to odgovorili pritrdilno. Verjetno pa bi hitro ugotovili, da je ta odstotek med uporabniki Instagrama v resnici veliko večji.

Kako nevaren je Instagram v primerjavi z drugimi družabnimi omrežji?

Raziskava je pokazala, da Instagram ni samo nevaren za najstnike in da jim škoduje, ampak je celo občutno nevarnejši od drugih družabnih omrežij. Kljub temu se v podjetju niso odločili za odziv. Čeprav so vedeli, da je Instagram škodljiv za najstnike, so se celo začeli pogovarjati, da bi razvili nov produkt – Instagram za otroke.

»Čeprav so vedeli, da je Instagram škodljiv za najstnike, so se celo začeli pogovarjati, da bi razvili nov produkt – Instagram za otroke.«

Kakšno vlogo pri vsem tem igrajo Metini algoritmi? 

Algoritmi na Facebooku in Instagramu nas lahko hitro privedejo od sicer neškodljivih vsebin do izredno škodljivih. To lahko poskusite tudi sami. Ustvarite si nov profil in začnite brskati po nedolžnih stvareh, kot so recimo recepti za zdrave jedi. Klikajte na podobne vsebine vsak dan in se vračajte na te vsebine, sledite ključnikom, ki vam jih predlagajo pod njimi, in algoritmi vas bodo v zelo kratkem času porinili do vsebin, ki promovirajo anoreksijo. Stvari so zares ušle z vajeti leta 2018, ko so Facebookovi algoritmi začeli dajati prednost aktivnosti uporabnikov, ne več času, ki ga ti preživijo na Facebooku. Zaradi tega so bili viri novic (news feed) na Facebooku kmalu polni negativnih, polarizirajočih in ekstremističnih vsebin. Algoritmi so preklopili na sledenje nečemu, čemur pri Meti pravijo »pomenljive družbene interakcije«. Gre za število klikov, komentarjev, všečkov in delitev, ki jih dobi posamezna objava. V praksi pa to pomeni, da k »pomenljivim družbenim interakcijam« štejejo tudi sovražni komentarji, ki se praviloma kopičijo pod najspornejšimi vsebinami. Gre za vsebine, ki ljudi delijo, so neresnične ali škodljive. Najskrajnejše vsebine imajo tako največji doseg. Facebookove algoritme torej poganja jeza, sovraštvo pa je najhitrejša pot do klika.

Ljudje so verjetno opazili, da so se njihovi viri novic precej spremenili.

Šest mesecev po uvedbi novega sistema je Facebook uporabnike vprašal, kako pomenljiv se jim po novem zdi njihov vir novic – večina je odgovorila, da bistveno manj kot prej.

Zakaj so se potem odločili za to? 

Dejanski razlog – in to je bilo tudi dokumentirano – je bil, da je Facebook na neki točki začel doživljati zmanjšanje produkcije vsebin uporabnikov. Edini način, kako ljudi pripraviti do tega, da bi producirali več vsebin, je bila zagotovitev vedno več majhnih dopaminskih nagrad. Začeli so se pojavljati na novih virih novic, zato so dobivali vse več všečkov, komentarjev, delitev in klikov. Ta ključna sprememba je iz ljudi naredila zgolj pritiklino Facebookovega stroja. Vsebine, ki so dobile prednost med vašimi novicami, so lahko nekoga spodbudile, da je ustvarjal še več vsebin, in tako naprej. Ne smemo pozabiti, da je Facebook v resnici trg proizvajalcev in potrošnikov. Na neki točki je začel zgolj optimizirati mrežo, namenjeno temu trgu, namesto da bi si prizadeval za splošno zadovoljstvo uporabnikov.

Posledica tega je tudi razcvet lažnih novic. 

Facebook je zagotovo kriv za razrast lažnih novic. Toda težav z njim ne povzročajo uporabniki ali slabe vsebine, to je nujno poudariti. Gre za sistem, ki največji doseg omogoča najekstremnejšim vsebinam. Ne moremo pa se zanašati samo na lastnike platform, da bodo to spremenili, potrebujemo zakonsko ureditev in zagotovitev preglednosti. Na tem področju moramo zahtevati ukrepanje vlad.

Kako močan vpliv imajo družabna omrežja na družbo in informacije, smo najočitneje opazovali ob ameriških volitvah in ob neslavnem napadu na Kapitol. Tudi v Sloveniji bomo kmalu odšli na volišča. Na kaj moramo biti pri tem še posebej pozorni? 

Kot smo videli pri veliko volitvah po svetu, verjetno najočitneje pri ameriških, so grožnje integriteti volitev nepričakovane in lahko hitro prerastejo v kaj hujšega. Slovenija, kjer bodo volitve ravno zdaj, ko se na evropskih mejah dogaja tragedija, ni nobena izjema. Družabna omrežja so pomemben prenašalec usklajenih kampanj dezinformacij. Prilivajo olje na ogenj zmede in lažnih novic, spodbujajo najbolj senzacionalistične vsebine in škodujejo razmerju med dejstvi in neresnicami.

Kaj lahko storimo uporabniki družabnih omrežij, da bi se temu izognili?

Na res osnovni ravni se lahko odločimo, kako se bomo vedli v spletnih razpravah. Lahko vlagamo dodaten trud v to, da opozarjamo na dezinformacije. Sem odločna zagovornica tega, da bi ljudje morali imeti pogovore na Facebooku v majhnih skupinah, in to z ljudmi, ki jim zaupajo. Z njimi bi se morali pogovarjati o novicah. To, da se pogovarjamo med seboj, je ena od najučinkovitejših rešitev, ki jih lahko uporabimo, da preživimo v vprašljivih informacijskih okoljih.

Imate račun pri Facebooku? 

Imam. Ne razumite me narobe, ne nasprotujem rabi Facebooka. Težava ni v družabnih omrežjih samih po sebi, pač pa v Facebookovih odločitvah.

Podjetje Facebook se je v vmesnem času sicer preimenovalo v Meto. Gre zgolj za posodobitev poslovne znamke ali je s tem povezan tudi kvalitativni premik?

Mislim, da so nedavno izdana priporočila za starševski nadzor na Instagramu dobra. Gre za prvi korak. Ni veliko, ampak kaže vsaj na to, da nas slišijo. Spomnim se, kako je na eno od prireditev, kjer sem govorila, prvič prišel nekdo, ki je delal za Meto. Prišel se mi je predstavit in sprva sem se kar malo prestrašila. Nisem bila prepričana, kaj bo rekel. Povedal mi je, da se z menoj sicer ne strinja vedno, ampak da je res vesel, da to počnem. In kar me je takrat navdalo s prijetnim občutkom, je bilo upanje, da sem morda odprla prostor za dobre ljudi znotraj podjetja, ki bodo počeli prave stvari.

Pa vaše življenje, se je kaj spremenilo? 

Ko nisem na poti, moje življenje ni kaj dosti drugačno kot prej, razen tega, da lahko zdaj končno mirno spim.

Ste se z Markom Zuckerbergom v tem času že sestali? 

Zelo rada bi se sestala z njim, ampak te priložnosti za zdaj še nisem dobila.