Grega Repovž

18. 11. 2016  |  Mladina 46  |  Uvodnik

Sluz

Spoznanje o danes neobvladljivem Facebooku in drugih množičnih družabnih omrežjih prihaja kot groza tako za tiste, ki so ga uporabljali že doslej, kot tiste, ki so njegov obstoj doslej ignorirali – utemeljujoč, da ne želijo, da ta platforma vpliva na njihovo življenje. To je zelo legitimno stališče – ker Facebook lahko postane ena taka mala odvisnost. Je tudi privid, ne čisto napačen, niti ne pretežno slab, a vseeno privid nekega bivanja, ki ga dejansko ne živi povprečni uporabnik. No, Facebook je danes postal tako velik, da aktivno vpliva na življenje malodane vsakega Zemljana, tudi tistih, ki se z njim »zavestno ne pečajo«. Je morda Facebook tista umetna inteligenca, ki bo sama usmerjala svet – pri čemer smo jo desetletja čakali, pravo umetno inteligenco. Pričakovali smo, da bo to neka koristna nadmodrost, dobili pa smo eno butasto sluz, ki v veliki meri reproducira neumnost, sovraštvo, nevoščljivost in grdobijo, seveda tudi kakšno lepo misel, moder stavek ali dva in slike ljubkih mladih mačk.

Je za vsa ta spoznanja o družabnih omrežjih res moral biti izvoljen Donald Trump za ameriškega predsednika? To sploh drži?

Pač, ni kriv Facebook. Krivo je prepričanje, da so sodobne tehnologije brez odgovornosti, da jim je ne gre obešati – da njihove družbene dimenzije ni, da se o tem ne debatira, ker vsaka nova tehnologija je napredek; napredek je avtomatično naznanitev dobrega, ob čemer moramo vedno znova tolerirati porodne krče. Koliko let je bil vsak, ki je govoril o nujnosti regulacije družabnih omrežij, nemudoma označen za nevedneža in včasih celo za nedemokrata?

Facebook pa že ni umetna inteligenca, bi znali reči. Spomniti se velja, kaj se je zgodilo aprila letos. Po večmesečnih pripravah so bili Microsoftovi raziskovalci umetne inteligence v pričakovanju. Poseben računalniški program, zasnovan na osebnosti digitalno osveščene 19-letnice, kot je v Mladini zapisal Staš Zgonik, je bil pripravljen, da ga preizkusijo v realnem digitalnem okolju. Program, poimenovan Tay, je bil zasnovan za pogovor z uporabniki družabnih omrežij, pri čemer naj bi se iz teh pogovorov tudi učil in postajal vse spretnejši in vse iskrivejši sogovornik.

A v manj kot 24 urah interakcije z uporabniki Twitterja se je program spremenil v rasističnega podpornika Donalda Trumpa – takrat si res nihče ni mislil, da bo postal ameriški predsednik – in malikovalca Hitlerja. Pridobil si je najslabše lastnosti članov internetnih skupnosti. Tako je med drugim v odgovorih na vprašanja drugih uporabnikov Twitterja zapisal, da se zavzema za genocid nad Mehičani, da bi bilo treba »črnuhe pobiti« in da bi »Hitler bolje vodil državo kot opica, ki jo vodi trenutno«.

Izkazalo se je, da je Tay izrazito dovzetna za namige uporabnikov, ki so jo začeli zasipati s sugestivno sovražnimi vprašanji. Pogosto je zgolj ponovila misel, s katero jo je izzval kak uporabnik. A sčasoma je začela sovražne zapise širiti tudi povsem neizzvano. Učila se je pač od najslabših uporabnikov spleta, tako imenovanih internetnih trolov, katerih najpomembnejši vzgib je podžiganje nesoglasij in sovraštva v spletnih skupnostih.

Pri Microsoftu so sprva poskušali sproti brisati neprimerne zapise, a ker se jih je preprosto nabralo preveč, so Tay dan po prijavi v Twitter že odjavili. »Globoko obžalujemo žaljive tvite in sporočamo, da ti ne predstavljajo naših vrednot in tega, na čemer smo zasnovali Tay,« je zapisal Peter Lee iz Microsofta Researcha. »Pripravljeni smo bili na veliko različnih možnosti zlorab, a eno od ključnih smo spregledali.« Zgodbe sicer ne gre jemati pretirano resno, češ da je Tay manifestacija umetne inteligence prihodnosti, je aprila zapisal Zgonik. Dr. Marko Grobelnik iz Laboratorija za umetno inteligenco na Institutu Jožef Stefan je takrat dejal, da današnja tehnologija umetne inteligence računalniku pač še vedno ne omogoča razumevanja besedila niti na ravni petletnega otroka. Še danes imata oba prav.

Vsi pa hkrati vemo, kaj se je zgodilo tudi tokrat in kaj se na družabnih omrežjih dogaja. Na družabnih omrežjih se informacije spreminjajo v nepredvidljivo sluz, ki ima na koncu večjo moč od znanja, strokovnosti, izkušenj, zgodovinskega spomina – oziroma pameti in modrosti. Vsi, eni bolj eni manj, se umažemo s to sluzjo, ki jo nemalokrat sproži morda samo en nebodigatreba neumen, hudoben zapis. Ali pa zelo premišljeno in motiviran spin, seveda. Informacije se valijo in kotalijo čisto nepredvidljivo, pogosto ima lažniv zapis neprimerno večjo atraktivnost in tudi verodostojnost od dejstev.

Facebook seveda ni kriv za izvotlitev pameti na tem svetu. Je pa neobvladljiv, je neka ne prav bistra umetna inteligenca, ki tudi upravitelju daje zgolj privid, da jo upravlja. Seveda primer Facebook ni tako nazoren kot Tay. A Facebook kot celota je prav to – ena velika, zelo velika Tay. Ki je ni več mogoče izključiti oziroma ukiniti. Ki je tukaj, ki živi svoje umetno življenje in vpliva z vso silo, a hkrati neotipljivo na naša dejanska življenja.

Seveda ima Facebook tudi dober vpliv, ljudem prinese nemalo veselja in kratkočasja, olajša stike, omogoča nove, pomaga širiti dobre ideje, stoji za marsikatero človekoljubno akcijo.

Je pa neobvladljiv in nepredvidljiv. In neizmerno močan.