Komu bi prepustili regulacijo umetne inteligence – demokraciji ali diktatorju?

Nedavno je novice iz Gaze za hip ali dva zasenčila presenetljiva novica, da je upravni odbor superzvezdniškega tehnološkega podjetja OpenAI, najslavnejše tovarne umetne inteligence, graditelja »splošne superinteligence« (ki naj bi koristila »celotnemu človeštvu«), stvarnika klepetalnega robota ChatGPT, nepričakovanega globalnega megahita, odpustil izvršnega direktorja Sama Altmana, soustanovitelja podjetja OpenAI in čudežnega dečka umetne inteligence, trenutno verjetno njenega najvplivnejšega carja. Nenadna odstavitev je povzročila pravi triler, saj je 700 zaposlenih pri tem podjetju napovedalo odhod: če gre Altman, gremo tudi mi!

Takšne grožnje z eksodusom sodobni korporativni svet ne pomni – če bi Altman šel, bi po tej logiki pri podjetju OpenAI ostalo le še 70 zaposlenih. Najprej je kazalo, da bodo morali Altmana vzeti nazaj, a so potem pogajanja padla v vodo – in ko se je že zdelo, da bo Altman dvakrat ali trikrat izgubljena Evridika, se je vrnil na prestol.

Igre prestolov je bilo konec, toda eksplozivna kaotičnost te situacije govori o kaotični eksplozivnosti same umetne inteligence. Ali bolje rečeno: eksplozivnost vprašanja, kdo bo vodil največjo tovarno umetne inteligence, govori o eksplozivnosti vprašanja, kaj bo z umetno inteligenco.

Tu se kakopak postavi vprašanje, zakaj je upravni odbor sploh hotel odstaviti Altmana. Ne vemo. Vse je bilo zelo skrivnostno. Sporočili so le, da Altman ni bil »konsistentno iskren v komunikacijah z upravnim odborom«, da ni povedal vsega, da je nekaj prikrival. Kaj? Niso razkrili.

Juhej, pa špekulirajmo! Altman je storil dvoje: prvič, opozarjal je, da je umetna inteligenca zelo nevarna, da ima moč jedrske vojne in pandemije in da lahko uniči človeštvo (najdete ga tudi med podpisniki slovitega svarila, ki ga je napisal Center za varnost umetne inteligence); in drugič, ameriški kongres je pozval, naj sprejme zakonodajo, ki bo regulirala umetno inteligenco. Treba je poskrbeti za varnost in transparentnost umetne inteligence!

Je bil problem v tem, da je Altman svaril pred apokaliptičnim, kataklizmičnim potencialom umetne inteligence, obenem pa je navijal za totalno in pospešeno komercializacijo umetne inteligence, tega novega »zlatega teleta«? Altman je tehnooptimist, ki je hotel trg zasuti z novimi modeli in produkti – so v upravnem odboru prevladali tehnopesimisti (recimo Ilya Sutskever), ki se bojijo, da bi umetna inteligenca lahko res pokončala človeštvo, in ki pozivajo k previdnosti in strogemu nadzoru?

Prav – zdaj pa to vzemimo zares in se delajmo, da ima umetna inteligenca res eksploziven, apokaliptičen potencial (in da Altman tega potenciala ni napihnil le zato, da bi svojemu podjetju, ki ima menda v lasti apokaliptični produkt, dvignil ceno). Ne le da lahko uniči delovna mesta, opustoši demokracijo, rasno, etnično in spolno diskriminira, marginalizira že itak marginalizirane, spodkoplje svobodo, potencira nadzorovanje prebivalstva in še poglobi ekonomsko neenakost, ampak lahko tudi izbriše človeštvo in uniči svet. Altman že ve, saj je njen Robert Oppenheimer. Vsaj tako pravi. In OpenAI je njegov Manhattan Project.

Kar nas pripelje do zoprnega, a neizogibnega vprašanja: kaj bi naredili, če bi ugotovili, da lahko UI res pokonča človeštvo in uniči svet? Kako bi ustavili UI, če bi ugotovili, da je ni mogoče ustaviti? Bi jo morali ustaviti zdaj, ko je še »v povojih«, ko je torej še otrok, ko še ne vemo, na kakšne načine vse lahko uniči svet?

Kdo bi lahko zdajle, v tem trenutku, ustavil umetno inteligenco? Kdo bi jo lahko zdajle prepovedal? Bi lahko to storila demokracija?

Kar me spomni na reklamo za novega mercedesa oziroma za sofisticirani preventivni sistem, ki vnaprej zazna nevarnost nesreče. Leta 2013 so jo posneli štirje nemški filmski študentje, gre pa takole: skozi avstrijsko vasico drvi najnovejši mercedes. Ker ima state-of-the-art preventivni sistem, pravočasno ustavi, tako da ne povozi deklic, ki skočita na cesto, toda takoj zatem povozi dečka, ki na cesti spušča zmaja. Mama Klara panično krikne: »Adolf!« Takoj zatem se prikaže krajevna tabla: Braunau am Inn.

Pomeni, da mercedes – no, preventivni sistem za zaznavo nevarnosti – izbriše Hitlerja. Nacizma ne bo. Tretjega rajha ne bo. Druge svetovne vojne ne bo. Holokavsta ne bo.

Vprašanje je logično: kdo bi zdaj tu, pri umetni inteligenci, odigral vlogo mercedesa oziroma preventivnega sistema, ki vnaprej zazna nevarnost konca sveta? Kdo bi lahko zdajle, v tem trenutku, ustavil umetno inteligenco? Kdo bi jo lahko zdajle prepovedal? Bi lahko to storila demokracija, parlamentarna demokracija? Bi jo lahko prepovedala in ustavila? Vojn in holokavsta ni mogla ustaviti niti preprečiti. Bi to lahko storil kapital, neoliberalni kapital, obseden z brezmejno in neskončno rastjo? Bi lahko ustavil in odpovedal umetno inteligenco? Bi se res odpovedal bajnim dobičkom, ki jih obljublja umetna inteligenca? Bi se odpovedal največjemu poslu v zgodovini? Nehajte. Leta 2023? Ne bo šlo. Bi to lahko storila država, nacionalna država? Če ne more več regulirati demokracije, podnebnega kaosa in skriziranega kapitalizma, kako bo regulirala ali ustavila umetno inteligenco?

Dilema je strašna, toda nič novega – v zelo podobni strašni dilemi smo že zdajle: podnebne spremembe. Pokončale naj bi človeštvo in uničile svet. Kdo jih bo ustavil? Andreas Malm, švedski ekolog, je pred kratkim objavil knjigo Kako razstreliti naftovod (How to Blow Up a Pipeline) in v njej postavil ultimativno vprašanje: če so ekologi res prepričani, da izpusti toplogrednih plinov povzročajo podnebne spremembe in da bodo pokopali planet, zakaj potem ne razstrelijo naftovodov in plinovodov? Ironija je v tem, da so podnebne spremembe že tako ušle, da bi bila v temle trenutku tudi razstrelitev naftovodov in plinovodov že premalo. Podnebne spremembe so že zamudile tega, ki bi jih preventivno povozil. Kdo jih bo zdaj ustavil, odpovedal, prepovedal? Demokracija? Kapital? Država?

Naloga novih tehnologij je, da nas strašijo – da potencirajo in radikalizirajo naš strah, da bomo kaj zamudili. Nove tehnologije delujejo kot ojačevalke strahu, da bomo izpadli.

Konec človeštva

Strašen odgovor na to strašno vprašanje lahko dobimo pri strašnih dilemah, ki jih zbuja transhumanizem. Transhumanisti so, kot veste, ljudje, po navadi kaki tehnotajkuni, ki hočejo – z nanotehnologijo, genskim inženiringom in eksponentno rastjo tehnoloških inovacij – postati nesmrtni. Nočejo umreti. Živeti hočejo večno. Smrt je napaka, pravijo. Toda ameriški politolog Francis Fukuyama je v knjigi Konec človeštva (Our Posthuman Future), v kateri je popisal posledice revolucije v biotehnologiji, transhumanistom očital, da z genskim spreminjanjem človeške narave in iskanjem »genske bližnjice k nesmrtnosti« ogrožajo demokracijo, politične pravice in družbeni red ter ustvarjajo razmere za totalitarno družbo. »Človeška narava oblikuje in omejuje politične režime – tehnologija, ki nas je sposobna preoblikovati, bi tako imela pogubne posledice za liberalno demokracijo in naravo politike same.« Daljšanje življenja bi »porušilo večino obstoječih starostnih hierarhij«, tako da bi »naravni potek, v katerem se ena generacija umakne prihajajoči, zamenjalo hkratno bivanje treh, štirih ali celo petih generacij«. Še huje: »Kvarne posledice podaljšane generacijske zaporednosti v avtoritativnih režimih, ki nimajo nobenih zakonskih omejitev, že poznamo. Vse dokler so diktatorji, kot so Francisco Franco, Kim Il Sung in Fidel Castro, fizično živi, jih njihove družbe ne morejo zamenjati – vse politične in družbene spremembe so v bistvu ustavljene do njihove smrti. V prihodnosti, ki s tehnologijo podaljšuje življenjsko dobo, lahko takšne družbe desetletja tičijo v nesmiselnem čakanju na smrt.« Na diktatorjevo smrt.

Iz evolucijskih in političnih razlogov – za dobro demokracije – je torej »dobro, da umremo, ko umremo«. Toda Ray Kurzweil, kontroverzni transhumanist, znanstvenik, računalniški izumitelj in futurolog, avtor bestsellerjev Doba duhovnih strojev (The Age of Spiritual Machines, 1999) in Singularnost se približuje (The Singularity Is Near, 2005), ki na dan zaužije po 200 tablet in prehranskih dodatkov, da bi dokazal, da je življenje že zdaj mogoče podaljšati, je odvrnil, da bi lahko tehnologije, ki prinašajo transhumanistično nesmrtnost, ustavil ali prepovedal le »totalitarni sistem« – le diktator.

Ergo: tehnologije, ki lahko z imortalizacijo človeškega življenja uničijo svet, so šle predaleč, tako da že živimo z njimi in njihovimi učinki, obenem pa so tako mamljive, da jih lahko ustavi in prepove le še diktator. Kar ni ravno obetavno, še zlasti če pomislite, kaj bi se zgodilo, če bi o usodi tehnologije, ki lahko imortalizira človeško življenje, odločal diktator – če bi torej ta tehnologija za imortalizacijo človeškega življenja prišla ekskluzivno v njegove roke. Nikoli ne bi odšel. Živel bi večno. Postal bi nesmrten. In konec sveta bi odpovedal. V njegovem interesu bi bilo, da svet še naprej obstaja.

Kaj zdaj: bi tehnologijo za imortalizacijo človeškega življenja prepustili demokraciji ali diktatorju? Res strašna, pošastna, nečloveška dilema: če jo namreč prepustimo demokraciji, bo morda konec sveta – če pa jo prepustimo diktatorju, bomo živeli v večni, neskončni diktaturi. Kar bi spet pomenilo konec sveta.

Mar ni to tudi dilema umetne inteligence? Če jo prepustimo demokraciji, nas morda čaka konec sveta – če pa jo prepustimo diktatorju, potem nas morda čaka življenje v večni diktaturi. Kar bi spet pomenilo konec sveta. In da ne bo kakega nesporazuma: pod rubriko »diktator« lahko mirno uvrstite tudi sodobne vsemogočne, skrivnostne, niti malo transparentne tehnološke korporacije, znanilke novega »tehnopolarnega sveta«, predvsem kakopak tiste, ki se jih je oprijel akronim GOMA – Google, OpenAI, Microsoft in Anthropic.

Tehnologije, ki lahko z imortalizacijo človeškega življenja uničijo svet, so šle predaleč, obenem pa so tako mamljive, da jih lahko ustavi in prepove le še diktator.

Te absurdne dileme nas navdajajo z občutkom, da živimo v simulaciji Odstopne klavzule (Escape Clause, 1959), ene izmed epizod slovite serije Cona somraka (The Twilight Zone), v kateri neki moški, sicer paranoidni hipohonder, sklene pakt s hudičem in postane nesmrten. Nekajkrat preizkusi, ali je res nesmrten, in ko se izkaže, da je, umori ženo in kar takoj prizna umor, prepričan, da ga bodo obsodili na električni stol, tako da se mu na vsesplošno začudenje ne bo nič zgodilo (lahko se bo posmehoval nemoči sveta), toda sodnik ga potem ne obsodi na smrt, temveč na dosmrtno ječo brez možnosti pogojnega izpusta. Ha!

Serija Cona somraka, ki se je poigravala z alternativnimi scenariji, absurdi psihopatologije vsakdanjega življenja, kontingentnostjo zgodovine, eksistencialnimi paradoksi in patetičnimi fantazijami malih ljudi, je zelo dobro anticipirala dileme našega časa, v katerem bi se lahko umetna inteligenca, če bi jo tehnološke korporacije pograbile preveč diktatorsko, izrodila v dosmrtno ječo brez možnosti pogojnega izpusta.

V nekem smislu se torej vendarle zdi, da živimo na koncu sveta, na koncu zgodovine. Francis Fukuyama je takoj po padcu Berlinskega zidu in komunističnih režimov objavil Konec zgodovine in zadnji človek (The End of History and the Last Man, 1992), zelo odmevno, že kar razvpito knjigo, v kateri je oznanil, da je zdaj, ko je ves svet prevzel parlamentarno demokracijo in kapitalizem, konec zgodovine. Z demokracijo in kapitalizmom je človeštvo prišlo do konca, do zadnje točke, do najpopolnejše oblike bivanja – v nebesa. In ta nebesa so univerzalna in večna.

Kar je z današnjega vidika več kot absurdno: modela, ki sta nas pripeljala v nebesa Zgodovine, demokracija in kapitalizem, nas ne moreta rešiti pred potencialnim koncem sveta – pred kataklizmičnim potencialom podnebnih sprememb in umetne inteligence.

Toda ko je Fukuyama rekel, da smo prišli do konca zgodovine, je bilo tako, kot bi rekel, da smo končno prišli tja, kamor smo hoteli priti, da smo končno tam, kjer smo hoteli biti – da imamo torej končno vse. Da imamo dostop do vsega. Demokracija in kapitalizem nam omogočata, da imamo dostop do vsega. In v naslednjih desetletjih je kapitalizem, ki se je povsem virtualiziral, lansiral nove in nove digitalne, transformativne, viralne, disruptivne tehnologije, ki so počele natanko to: ustvarjale so dostop do vsega. Na lepem smo dobili dostop do vsega. Do vseh povezav, vseh videov, vseh produktov, vseh storitev, vseh priporočil, vseh informacij, vseh opcij, vseh vsebin, vseh nekdanjih sošolcev, vseh prijateljev, tudi tistih, ki jih sploh ne poznamo. Na lepem imamo vse. Hipervse. Trg neskončnih možnosti – brez precedensa v zgodovini. Prišli smo do konca zgodovine.

Konzumiramo, kot da bo jutri konec sveta. Sveta bo morda konec, toda kapitalizem bo preživel konec sveta.

Naše edino upanje so virusi

In res, mi, konzumenti vsega, prepojeni s kulturo »fear of missing out« (alias FOMO), nočemo ničesar zamuditi. Nočemo, da gre kaj mimo nas. Nočemo se narobe odločiti. Med spanjem in budnostjo ter med nočjo in dnevom ne ločimo več. Nočemo ostati zadaj. Hočemo biti podjetni, storilni, osredotočeni, stalno budni, ažurirani, panoptični, hiperinformirani, posodobljeni, prenovljeni, trendovski, na tekočem. Skrolamo, svajpamo, strimamo, všečkamo, linkamo. Nočemo izpasti. Zato hočemo biti povsod hkrati. In vse poti vodijo tja, res vse, tudi aplikacije, hitra moda, klepetalne skupine in TikTok, celo teorije zarote, v katerih so vsi vedno povezani z vsemi in v katerih se vse vedno ujema. Nič ni več le to, kar je – vse je tudi metafora dostopnosti in povezanosti.

Naloga novih tehnologij pa je, da nas strašijo – da potencirajo in radikalizirajo naš strah, da bomo kaj zamudili. Nove tehnologije delujejo kot ojačevalke strahu, da bomo izpadli. In prav izraz streaming najbolje povzema naš položaj – od povsod teče in curlja, se cedi in izliva. Streaming nam omogoča, da ostajamo na tekočem s hipervsem. Nespečni, stalno budni, prižgani, vznemirjeni, vzburjeni, razburjeni, amazonski, brezstični, brez slabe vesti, onstran naravnih ciklov, z odprtimi usti, okamneli od groze in navdušenja, v permanentnem objemu hipervsega, ki deluje utopično.

Utopija pa je vedno distopija. Vsak produkt ali vsaka storitev – vsak člen hipervsega – je moralna dilema, če ne že kar moralna past. Ne le da vse te nove tehnologije prikrijejo, da dostop do hipervsega ustvarjajo algoritmi, za katere nihče sploh ne ve, kako delujejo, ampak tudi prikrijejo, da hipervse nastaja v nemogočih, nečloveških, napol suženjskih razmerah. Ne, vsi tisti produkti, magični členi hipervsega, ne nastanejo magično, ne padejo z neba, ne ustvari jih internet, ne proizvede jih čudežna tehnologija, ne nastanejo brezstično, ne izdela jih nevidna roka trga, ampak nevidna človeška roka. Sadje in zelenjavo sadi in obira cenena migrantska delovna sila v Španiji, oblačila izdelujejo mizerno plačani otroci v Bangladešu, kobalt za naše telefone kopljejo rudarji v pošastnih rudnikih v Kongu. In tako dalje.

Prihodnost umetne inteligence, tehnokapitalizma in sveta oblikuje le nekaj korporacij, le nekaj diktatorjev, ki so se dokopali do orodja za svojo lastno imortalizacijo.

Naloga vseh teh novih tehnologij je, da to prikrijejo – da delo skrijejo, da zabrišejo vse sledi človeškega dela in človečnosti, pravi Aaron Horvath (Current Affairs). Vse te nove tehnologije obenem tudi skrbijo, da ne zaspimo več, da smo stalno v pogonu, da stalno sodelujemo, da stalno kupujemo, da smo stalno v središču dogajanja – v središču kapitalizma. Da torej sedimo v prvi vrsti. Zdaj bo to počela umetna inteligenca. In umetna inteligenca bo lahko s svojo nadzgodovinsko in postzgodovinsko močjo, s svojo eshatološko vsemogočnostjo še bolje, učinkoviteje in obsceneje prikrila čedalje bolj nečloveške in pošastne razmere, v katerih nastaja hipervse.

Tako kot je avto na bencin ali elektriko, bo kapitalizem na umetno inteligenco. Kdor bo obvladoval umetno inteligenco, bo obvladoval kapitalizem – ekonomijo, politiko, geopolitiko, družbo, nacionalno državo. Problem pa je na dlani: prihodnost umetne inteligence, tehnokapitalizma in sveta oblikuje le nekaj korporacij, le nekaj diktatorjev, ki so se dokopali do orodja za svojo lastno imortalizacijo. Vprašanje je le, na kaj se bodo skrčile naše možnosti – in česa se lahko nadejamo.

Da se ne obeta nič dobrega, zaslutimo, ko pomislimo, na kaj so se skrčile naše možnosti pri podnebnih spremembah. Klimatologi svarijo, da bo šlo podnebje k vragu, če radikalno ne zmanjšamo izpustov toplogrednih plinov, a nič ne pomaga – količina toplogrednih plinov se iz leta v leto le povečuje. Posledice so vse strašnejše, ekstremnejše in kataklizmičnejše – Koroška je letos poleti doživela konec sveta. Kras je konec sveta doživel lani. Toplogredni plini postajajo orožje za množično uničevanje. Z demokracijo jih ni mogoče ustaviti, z miroljubnimi protesti, uličnim teatrom, pogozdovanjem, oblačenjem v drevesa, blokiranjem prometa, priklepanjem na kljuke, »čudežno« tehnologijo in izvolitvijo »pravih« politikov pa tudi ne.

Molitev bi bolj pomagala – in to pravim jaz, ateist.

Vsi pa dobro vemo, kaj bi lahko ustavilo podnebne spremembe – ustavitev kapitalizma. Toda leta 2020, v času velike pandemije, se je zgodilo nekaj presenetljivega: kot je poročala organizacija Global Carbon Project, so se izpusti toplogrednih plinov zmanjšali za sedem odstotkov, kar je bil absolutni svetovni rekord. In zakaj so se izpusti toplogrednih plinov rekordno zmanjšali? Iz preprostega razloga: zaradi ustavitve kapitalizma.

Samo kapitalizem malce ustaviš, pa je takoj bolje. A kapitalizma, kot vemo, ne more ustaviti nič, čisto nič – razen virusa. Smo zaznali še kako ustavitev kapitalizma? Ne. Kar pomeni, da ga lahko ustavi le virus.

In to je srhljivo: prišli smo tako daleč, da lahko ustavitev kapitalizma in zmanjšanje izpustov toplogrednih plinov zagotovi le virus.

Še huje: naše edino upanje so virusi. V cinizmu, požrešnosti, veri v neskončno rast in kanibalizmu smo prišli tako daleč, da nas lahko pred koncem sveta rešijo le virusi.