Kaj, če nas umetna inteligenca ne bo pobila – in kaj, če se je najhujše že zgodilo?

Dobro veste, kaj nam ves čas očitajo: da premalo beremo.

Časopisne naslove poznate: »Skoraj polovica Slovencev sploh ne bere.« »Celo izobraženi Slovenci berejo vse manj.« »Po obsegu domačih knjižnic smo na repu razvitih držav.« »Na Slovenca letno pet parov čevljev, a le dve knjigi.« »Postajamo družba, ki ne bere knjig.« In potem vedno navržejo še kake statistike, ki to grozljivko potrdijo. Statistike pa so res grozljive – ker branje tvitov ne šteje za branje.

Takšne statistike imajo povsod po svetu – povsod berejo vse manj. Problem je globalen.

Toda pred nami je rešitev – rodila se je ultimativna bralka, bralka bralk, največja in najstrastnejša bralka v zgodovini sveta, bralka, ki knjige res žre in požira. Nikoli se jih ne naveliča.

Ta čudežna bralka je kakopak umetna inteligenca. Recite ji ChatGPT, Bard, Bing, Claude, Midjourney, Pi, Dall-E ali LlaMA. Knjige dobesedno golta, sesa, po njih hlasta. Na hitro jih prebere na tisoče, stotisoče. LlaMA jih je požrla 170.000. Prebere lahko celotne knjižnice. Pa je nagnjena na desno.

Kot gre glas, je filozof Mladen Dolar nekoč – na nekem svojem predavanju – rekel, da je bil nemški filozof Hegel zadnji, ki je še lahko prebral vse knjige. Potem je prišla revolucija: tiskanje je prešlo v masovno fazo. Nihče ni mogel več prebrati vseh knjig.

Toda UI je Hegel na steroidih – prebere lahko vse knjige.

Zato je zelo, zelo načitana – in zelo, zelo, zelo razgledana.

A dobro vemo, kako je: načitani in razgledani ljudje vedno veljajo za čudne, čudaške, problematične, sumljive, nepredvidljive, prekucniške, disidentske, razdiralne, prevratniške, nevarne. Tako je od nekdaj.

Ljudje se jih bojijo. Bežijo pred njimi. Gledajo jih z nezaupanjem. Navdajajo jih z nelagodjem, če ne kar grozo.

UI je doletela ta usoda – stigma načitanosti in razgledanosti. Ljudje se je bojijo. Gledajo jo z nezaupanjem. Navdaja jih z nelagodjem – in grozo. Velja za nevarno, celo pogubno. UI nas lahko uniči, če je ne ustavimo, svarijo. Celo tisti, ki so jo ustvarili – Sam Altman, Steve Wozniak, Timnit Gebru, Mustafa Suleyman, Geoffrey Hinton. Slednji, »boter UI«, zahteva polletni moratorij. Pavzo. Paul Christiano, ki je delal za podjetje Open AI, pravi: »Če nas bo –Bog ne daj – skušala ubiti, nas bo res ubila!« Številni podjetniki in znanstveniki so letos celo spisali peticijo, ki terja pavzo. Moratorij.

Umetna inteligenca je ultimativna bralka, bralka bralk, največja in najstrastnejša bralka v zgodovini sveta, bralka, ki knjige res žre in požira. Nikoli se jih ne naveliča.

Najpogosteje slišimo tole: če bi UI dobila kode za aktiviranje jedrskega orožja, potem bi lahko sprožila jedrsko apokalipso in uničila svet. Konec. Človeštvo bi v trenutku izumrlo. Jedrskega orožja je itak toliko, da bi lahko svet z njim uničili stokrat – ali pa sto takšnih svetov. Ne, imeli ne bi nobene možnosti.

Samo da teh fatalnih kod ne dobi UI!

Čakajte: ali ni kod za aktiviranje jedrskega orožja dobil Donald Trump, ko je postal ameriški predsednik? Mar niso tudi zanj rekli, da je dr. Strangelove in da bo – v slogu genocidnega Skyneta iz Terminatorjev – povzročil III. svetovno vojno in jedrsko apokalipso? Če se bo približal rdečemu gumbu, bo z nami konec, so rekli.

A še vedno smo tu.

In zdaj se vprašajte: je lahko UI hujša in bolj nora od Trumpa?

Kolos

UI izgleda kot dr. Strangelove 2.0. Ameriški predsednik Merkin Muffley je v Kubrickovi satiri Dr. Strangelove (1964) panično vzkliknil: »Nočem, da me zgodovina pomni kot največjega množičnega morilca po Adolfu Hitlerju!« UI naj bi zasenčila oba, predsednika Muffleyja in Hitlerja – in postala največja množična morilka vseh časov. Vsaj tako napovedujejo in špekulirajo apokaliptični scenariji.

A tu je treba odločno reči: če res verjamete, da bi UI lahko dobila kode za aktiviranje jedrskega orožja, sprožila jedrsko apokalipso in uničila svet, če torej res verjamete, da lahko UI povzroči naše kolektivno izumrtje, potem uničite in odpravite ves jedrski arzenal. Ni jedrskega orožja, ni skušnjav UI.

Rešitev je na dlani.

Kar me spomni na sci-fi roman Kolos, alias Colossus, ki je izšel leta 1966 – štiri leta po srhljivi kubanski raketni krizi, v času hladne vojne in strašnega strahu pred jedrsko apokalipso oziroma vzajemnim zajamčenim uničenjem (MAD). Američani izdelajo Kolos, hladni, racionalni superračunalnik, in mu prepustijo nadzor nad svojim jedrskim orožjem, toda Kolos kmalu ugotovi, da ima nekaj takega tudi Sovjetska zveza. Njen superračunalnik s kodami za aktiviranje jedrskega orožja se imenuje Varuh.

Jasno, Kolos in Varuh se hitro povežeta, njuna komunikacija, njuna izmenjava podatkov pa je prehitra za človeštvo. Ker ju skušajo na silo ločiti, iz maščevanja izstrelita jedrski raketi (eno proti Sovjetski zvezi, eno proti Ameriki) in ju na prošnje človeštva sestrelita šele, ko ju ponovno povežejo.

Stvaritelja obeh superračunalnikov ugotovita, da lahko superračunalnik, to srhljivo umetno inteligenco, ustavijo le tako, da demontirajo in onesposobijo jedrski arzenal. Tega se potem tudi zares lotijo. A prepočasi.

Umetna inteligenca medtem prevzame oblast nad človeštvom, zahteva izdelavo še večjega, še močnejšega superračunalnika, začne uničevati svet, svojemu stvaritelju pa sikne, da jo bodo ljudje nekoč še spoštovali in ljubili.

Stvaritelj odvrne: Nikoli!

Nikoli s klicajem.

Zadnja beseda v romanu je kakopak nikoli z vprašajem.

»Nikoli?«

In zdaj smo tu – pri tem nikoli z vprašajem, saj se zdi, kot da se naše življenje ravna po fikciji.

Prvič, stvaritelji UI nas svarijo pred UI – pred svojo lastno stvaritvijo. Pravijo, da je stvor, celo nestvor. Govori angleško – kot HAL. Ali Kolos.

Drugič, slišimo pozive, naj UI ustavijo – naj jo demontirajo, onesposobijo.

In tretjič, tistim, ki pravijo, da je treba UI ustaviti, ker lahko prevzame nadzor nad jedrskim orožjem, moramo – pač v slogu stvariteljev Kolosa in Varuha – odločno reči: če res in čisto res in zares iskreno verjamete, da bi UI lahko povzročila naše kolektivno izumrtje, potem demontirajte in onesposobite jedrski arzenal. Če torej nočete, da UI dobi kode za aktiviranje jedrskega orožja, potem odpišite in uničite jedrsko orožje. Če nočete, da pospeši tekmovanje v jedrskem oboroževanju, če nočete, da samostojno in samodejno odloča o tem, kdaj je najprimernejši trenutek za jedrski napad, in če nočete, da v živo preizkusi sloviti Reagan-Gorbačovov dictum, da v jedrski vojni ni mogoče zmagati (v Badhamovih Vojnih igrah se itak izkaže, da v jedrski igri lahko zmagaš le, če je ne igraš), potem ga odpišite in uničite.

V Kolosu, v fikciji, se stvari odvrtijo do konca. Ni pa treba, da naše življenje uboga fikcijo – in da se ravna po njej. Ni treba, da se zlije s fikcijo.

Nekaj takega velja tudi za onega drugega potencialnega morilca planeta – za toplogredne pline, ki povzročajo podnebne spremembe ter ogrožajo planet in življenje na njem, pravi Andreas Malm, švedski podnebni aktivist in profesor na Univerzi v Lundu: če čisto res in zares iskreno verjamete, da sta planet in človeštvo zaradi izpustov toplogrednih plinov tik pred izumrtjem, potem razstrelite naftovode in plinovode.

Ne moreš svariti pred koncem sveta in obenem pozivati k miroljubni, nenasilni politiki.

Ne moreš tržiti umetne inteligence in obenem svariti pred njo.

Dileme in zadrege pri umetni inteligenci so torej zelo podobne kot pri atomski bombi. Navsezadnje, v obeh primerih so znanstveniki v laboratoriju ustvarili nekaj, kar bi lahko uničilo svet.

A natanko to je počel ameriški fizik J. Robert Oppenheimer: ustvaril je atomsko bombo in obenem svaril pred njo.

In očitno živimo v Oppenheimerjevi dobi 2.0: pred UI nas svarijo tisti, ki jo generirajo in izdelujejo – njeni stvarniki.

Novi Oppenheimerji

Tu se vsiljuje zelo poučna primerjava: Oppenheimer je namreč postal UI. Ali bolje rečeno: leta 1945 je odigral vlogo UI – prav tisto vlogo, za katero se mi zdaj bojimo, da bi jo lahko odigrala UI. Oppenheimer, »oče atomske bombe«, je v nekem smislu dobil kode za aktiviranje jedrskega orožja – in v nekem smislu je odločal o tem, kdaj je najprimernejši trenutek za jedrski napad in jedrsko apokalipso.

Bil je ta, ki je – kot član štiričlanskega Znanstvenega odbora posebne komisije (Scientific Panel of the Interim Committee) – ameriškemu predsedniku Trumanu 16. junija 1945 svetoval in tako rekoč zapovedal, naj atomsko bombo vendarle takoj uporabi. Brez odlašanja. Nujna je »takojšnja« in »neposredna« vojaška uporaba atomske bombe, je zapisal ta odbor, ki je – v duhu UI – tudi skalkuliral, da lahko le »takojšnja« in »neposredna« vojaška uporaba atomske bombe reši življenje številnih ameriških vojakov, ki bi sicer padli na Japonskem, in izboljša mednarodni položaj, in da »tehnična demonstracija« atomske bombe, s katero bi Japoncem vnaprej pokazali, kaj jih čaka, če ne kapitulirajo, ne pride v poštev, ker ne bo končala vojne.

Obenem je poudaril, da nima kakih »lastninskih pravic« do atomske bombe, ima pa vpogled v to problematiko, kar je njegovo priporočilo za »takojšnjo« in »neposredno« vojaško uporabo atomske bombe legitimiralo. Živo si lahko predstavljamo UI, ki bi rekla: nisem sicer svoja lastnica, imam pa vpogled v milijarde spremenljivk – in to legitimira mojo odločitev za takojšnjo in neposredno uporabo jedrskih konic.

In tako kot danes obstajajo znanstveniki in eksperti, ki svarijo pred apokaliptično pogubnostjo UI in pozivajo k ustavitvi in zamrznitvi UI, so leta 1945 – pred vojaško uporabo atomskih bomb – obstajali znanstveniki in eksperti, ki so svarili pred apokaliptično pogubnostjo atomske bombe in pozivali k ustavitvi in zamrznitvi atomske bombe. Na čelu s prvopodpisanim fizikom Leóm Szilárdom so 17. julija 1945, nekaj tednov pred uporabo atomske bombe, spisali celo peticijo, ki so jo skušali spraviti do predsednika Trumana, a se je zataknila v Los Alamosu, pri Oppenheimerju, ki je poskrbel, da jo je vzela megla.

Atomski bombi so na Hirošimo in Nagasaki vrgli 6. in 9. avgusta 1945, toda le osem dni kasneje je Oppenheimer že lobiral za jedrsko razorožitev – Henryju Stinsonu, ministru za vojno, je pisal, da Ameriki ne morejo zagotoviti hegemonije na področju jedrskega orožja in da obenem tudi ne morejo zagotoviti, da bi jo takšna hegemonija zaščitila pred strašnim uničenjem.

Spomnite se bombastičnih napovedi, da bodo roboti v prihodnosti prevzeli svet in postali naši gospodarji, da nas bodo torej v prihodnosti ugonobili in pogubili. Bali smo se jih kot hudiča.

Mar to ne velja tudi za UI in znanstvenike, ki svarijo, da je UI ultimativno orožje za množično uničevanje, in obenem opozarjajo, da nihče ne bo hegemon na področju UI, in četudi bi bil, mu to ne bi zagotavljalo zaščite pred strašnim uničenjem?

»Postal sem Smrt, uničevalec svetov«

Povsem mirno lahko rečemo, da je UI izomorfna Oppenheimerju. In nasprotno: da je Oppenheimer njena predforma. Oppenheimer nam pomaga razumeti UI. Navsezadnje, Oppenheimer je bil kot UI: epski, karizmatičen, prometejski, disruptiven, božanski, privlačen in zapeljiv; faustovski in strangelovski; spektakel, genij, polihistor, vseved; na nizozemski univerzi je predaval v nizozemščini, Bhagavad Gito je bral v sanskrtu, med vožnjo z vlakom čez Ameriko naj bi bil prebral vse tri dele Marxovega Kapitala, prebral naj bi bil Leninova zbrana dela in tako dalje. Ja, načitan in razgledan je bil kot UI.

Oppenheimer dela našo dobo, dobo UI, berljivo in doumljivo, pomaga nam jo misliti – v nekem smislu po delih, po koščkih izreka resnico o njej. In o naši zadregi.

Tako kot se je Oppenheimer zavedal strašnih posledic tega, kar je počel, a je to kljub temu počel in »končal to, kar so začeli«, se tudi sodobni Oppenheimerji, stvaritelji UI, zavedajo strašnih posledic tega, kar počnejo, a to kljub temu počnejo in hočejo končati, kar so začeli. Nočejo, da bi šlo njihovo delo v nič – tako kot Oppenheimer ni hotel, da bi šlo njegovo delo v nič.

Oppenheimer je hotel, da atomsko bombo uporabijo – če je hotel postati »najpomembnejši človek v zgodovini«, če je hotel veljati za genija in Boga, če je hotel izreči svoj najljubši verz iz Bhagavad Gite, »Postal sem

Smrt, uničevalec svetov«, je moral pokazati, da je ustvaril nekaj, kar lahko uniči svet.

Detonacija atomskih bomb je bila demonstracija in afirmacija njegove »genialnosti«.

Tudi sodobni Oppenheimerji – bodisi očetje UI, njeni profeti ali njeni tajkunski lastniki – izgledajo tako, kot da hočejo pomembnost in genialnost svojega neskončnega ega poudariti s svarili, da so ustvarili nekaj, kar lahko drastično spremeni tok zgodovine in celo uniči svet, da so torej postali Smrt, uničevalci svetov.

Tako kot se je Oppenheimer bal, da bi atomska bomba lahko ustvarila verižno reakcijo, ki bi razstrelila svet (in jedrska oboroževalna tekma je potem njegov strah legitimirala), se današnji Oppenheimerji bojijo, da bi UI lahko ustvarila verižno reakcijo, ki bi uničila svet. Strah očetov UI je izomorfen strahu očeta atomske bombe, ki je trdil, da je treba atomsko bombo uporabiti, da bi dali svetu lekcijo – da bi torej ljudje videli in uvideli, kakšna grozota je to, in bi se ji kolektivno odpovedali.

Oppenheimer je prišel do istega sklepa kot stvaritelji superračunalnika v Kolosu – odgovor na nevarnost jedrske apokalipse in izumrtja človeštva je eliminacija jedrskega orožja.

In tako, kot je Oppenheimer mislil, da je največji dosežek atomske bombe to, da bo zaradi svojih pogubnih učinkov sprožila gibanje za jedrsko razorožitev, tudi tisti, ki zahtevajo ustavitev in zamrznitev UI, očitno mislijo, da bo največji dosežek UI to, da bo zaradi svojih potencialno pogubnih učinkov sprožila gibanje za nekakšno razorožitev UI.

A tako kot je Truman Oppenheimerju odgovoril, da atomska bomba ni konec, ampak začetek ekspanzije orožja, s katerim bo mogoče zavzeti svet, tudi številni izmed tistih, ki danes stavijo na UI, v njej vidijo ali slutijo orožje, s katerim bo mogoče vladati in obvladovati svet ter ga morda tudi zavzeti.

»Vsaka doba sanja naslednjo«

Tako kot se je bilo nemogoče upreti atomski bombi, se bo nemogoče upreti UI. Nič čudnega, da tovarne UI – OpenAI, Microsoft, Google, Meta itd. – kar same zahtevajo regulacijo UI in obljubljajo totalno transparentnost svojih »produktov«, obenem pa, kot smo izvedeli, v ameriškem kongresu in Bruslju skrivaj lobirajo za čim blažjo regulacijo. Recimo: evroposlance prepričujejo, naj zmehčajo varnostne standarde in ChatGPT ne uvrstijo med UI »visokega tveganja«, češ da bo to ustavilo inovacije in po krivici stroškovno bremenilo korporacije.

V UI je investiranega preveč kapitala in obljubljen je prevelik donos, da bi jo lahko ustavili in zamrznili. UI je morda največji posel vseh časov – prevelik, da bi ga lahko ustavili in zamrznili. Bogastvo se čedalje bolj obsceno koncentrira v rokah tehnoloških titanov, zato tudi ni nič čudnega, da tako vneto podpirajo univerzalni temeljni dohodek – ljudem hočejo preventivno zagotoviti denar, s katerim bodo lahko kupovali njihove produkte in storitve. Obenem pa si kupujejo razkošne bunkerje, v katerih naj bi preživeli konec sveta.

Tako kot jedrsko orožje v Kolosu bo tudi UI nemogoče regulirati in ji obenem pustiti, da izživi svoj realkapitalistični potencial – da gre torej do konca.

UI lahko ustavijo in zamrznejo le, če ustavijo in zamrznejo kapitalizem. In vemo, da je to nemogoče: smo pač družba, pravita Fredric Jameson in Slavoj Žižek, ki si lažje predstavlja konec sveta kot konec kapitalizma.

Četudi sprejmemo še takšno regulacijo, bodo vedno obstajale mednarodne vode in davčne oaze, kjer regulacije ne bo.

Poleg tega: UI je adiktivna. Adiktivnejša od drog. Res posel poslov.

Dileme in zadrege pri UI so torej zelo podobne kot pri atomski bombi. Navsezadnje, v obeh primerih so znanstveniki v laboratoriju ustvarili nekaj, kar bi lahko uničilo svet. V obeh primerih so znanstveniki pokazali, da imajo božansko, božjo moč. In v obeh primerih znanstvenikom očitajo, da so dušo prodali hudiču, in bolj ko ne ponavljajo to, kar je zapisala Roslynn Haynes v knjigi Od Fausta do Strangelova: da namreč fiziki po Hirošimi in Nagasakiju ne morejo več veljati za nedolžne.

Kot bi rekel nemški klasik Walter Benjamin: »Vsaka doba sanja naslednjo.«

Res, zdi se, kot bi doba atomske bombe sanjala dobo UI. Tako kot je atomska bomba sprožila oboroževalno tekmo, je oboroževalno tekmo sprožila tudi UI (»Umetna inteligenca je prihodnost, ne le za Rusijo, temveč za vse človeštvo. Kdor bo vladal tej sferi, bo vladal svetu,« je šolarjem leta 2017 rekel Vladimir Putin). In tako kot ima jedrska energija dvojno rabo, civilno in vojaško, ima dvojno rabo, civilno in vojaško, tudi UI. Oppenheimer je rekel, da je atomska bomba nevarnost in upanje, kar velja tudi za UI – je nevarnost in upanje. Sistemi, ki furajo avtomobile, furajo tudi tanke.

In seveda – tako kot se v času hladne vojne ni hotel nihče razorožiti, se tudi zdaj ne bo hotel nihče razorožiti. V času hladne vojne so Američani rekli: če upočasnimo razvoj jedrskega orožja, nas bo Sovjetska zveza prehitela. Zdaj pravijo: če upočasnimo razvoj UI, nas bo prehitela Kitajska.

Jedrsko orožje je bilo po II. svetovni vojni ves čas in povsod v državnih rokah. Zadnja desetletja – posebej po razpadu Sovjetske zveze in v času vojne proti terorju – pa so stebri Zahoda in mednarodnega liberalnega reda svarili, da bi lahko jedrsko orožje padlo v roke zasebnih, nedržavnih igralcev. Kar se ni zgodilo. Zdaj pa se bo, kot kaže, zgodilo tole: nenormalno hitro razvijajoča se umetna superinteligenca, ki je Moorovemu zakonu le pomahala in ki ima potencial atomske – da ne rečem hidrogenske – bombe, bo pristala v rokah zasebnih, nedržavnih igralcev. Tehnologija, ki bo drastično spremenila družbo, ekonomijo, politiko in demokracijo (in ki ima nadzorovalni domet velikega brata, genocidno moč diskriminiranja in orjaški potencial za zlorabe), bo pristala v rokah velikih korporacij, kot so Google, Microsoft in OpenAI. Te korporacije, že po naturi skrivnostne in netransparentne (svojo računsko moč in svoje algoritme skrivajo), bodo s tem dobile moč, ki so jo prej imele nacionalne države – geopolitične velesile.

Tako kot je veljalo tedaj, tudi zdaj velja to, kar je nekoč, v eseju O pojmu zgodovine, poudaril Walter Benjamin: da »ni dokumenta kulture, ki ni tudi dokument barbarstva«.

Zakaj bi nas UI pobila?

Rekli boste: že, toda UI je čisto nekaj drugega od atomske bombe. Hujša je, nevarnejša, nepredvidljivejša, kompleksnejša.

Seveda. Absolutno. Toda: tudi atomska bomba je bila nekaj čisto drugega od robotov. Hočem reči: bila je hujša, nevarnejša, nepredvidljivejša in kompleksnejša od robotov, pred katerimi je Karel Čapek svaril v sloviti drami R. U. R. (alias Rossumovi univerzalni roboti), ki so jo prvič postavili leta 1921 in ki je lansirala besedo robot. Rossumovi univerzalni roboti nimajo čustev, le odličen spomin, zato naredijo, kar jim rečejo – podjetjem olajšajo proizvodnjo, vse je cenejše, ljudje so razbremenjeni zoprnega dela. Juhej!

Toda ko jih čez nekaj let izpopolnijo, ko jim torej dodajo zapletene možgane in čustva, se uprejo: najprej postanejo neobvladljivi, potem se prelevijo v ubijalske stroje, na koncu pobijejo vse ljudi, povzročijo izumrtje človeštva in prevzamejo oblast nad svetom.

Roboti se obnašajo natanko tako, kot naj bi se slej ko prej obnašala UI. Ti roboti so resnica UI, njena praverzija.

Helena, predstavnica Humanitarne lige, ki jih hoče osvoboditi (in jim zagotoviti pošteno plačilo), vztraja, da imajo »dušo«, ob čemer bi danes marsikdo vzkliknil: samo ne želite si, da bi UI imela »dušo«! UI ne sme dobiti »duše«! Prav »duša« je namreč tisti presežek, ki naj bi jo prelevil v genocidni ubijalski stroj. Navsezadnje, genocid so vedno izvajali ljudje z »dušo« – ljubitelji nemške klasične glasbe, esteti in poeti.

Spomnite se bombastičnih napovedi, da bodo roboti v prihodnosti prevzeli svet in postali naši gospodarji, da nas bodo torej v prihodnosti ugonobili in pogubili. Bali smo se jih kot hudiča. Tista prihodnost je že tu, celo že mimo, pa nas niso zasužnjili in pogubili. Glede na vse histerične, mračne napovedi bi morali že davno živeti v suženjstvu.

A po drugi strani – zakaj bi nas roboti pogubili?

Kdo ve: kaj, če so roboti nekje vmes ugotovili, da se jim bolj izplača miroljubno sobivanje s človekom? In se zdaj tako tudi obnašajo.

Tu in tam koga ubijejo – recimo med avtonomno vožnjo Teslinega Avtopilota, pri jurišu kakega »avtonomnega« drona, ki začne nenadoma sam odločati, ali pri delu. Tovarniškega delavca, bodisi Fordovega, Kawasakijevega ali Volkswagnovega, prepoznajo kot grožnjo svoji misiji, zato ga eliminirajo – zgrabijo, stisnejo, zmečkajo in vržejo v stroj. A načeloma ne prihaja do množičnih vstaj robotov. Niso neobvladljivi. Ne načrtujejo izumrtja človeštva in prevzema sveta.

Tudi atomska bomba je očitno nekje vmes ugotovila, da se ji bolj izplača miroljubno sobivanje s človekom. Še so jo preizkušali, na atolu Bikini in v nevadski puščavi, toda niso je več uporabljali na ljudeh. Atomska bomba je očitno ugotovila, da je bolje, če človeštva ne uniči.

In res, tudi sami se na jedrsko orožje ne odzivamo več tako histerično, panično in paranoidno kot nekoč, v času hladne vojne. Spomnite se le, kakšna paranoja je zgrabila svet – še posebej Ameriko – v času kubanske raketne krize, ko se je zdelo, da je jedrska apokalipsa neizbežna in da je prišel konec sveta.

Kaj, če bo tudi UI – ko bo opravila vse kalkulacije – ugotovila, da se ji bolj izplača miroljubno sobivanje s človekom?

Kaj, če ji bomo simpatični? Kaj, če nas bo vzljubila? Kaj, če ne bo mogla brez nas? Lahko, da nas bo – tako kot v Matrici – uporabila kot baterije za polnjenje strojev. Vsaj nekaj.

Watson – UI družbe IBM – je premagal in ponižal prvaka kviza Jeopardy!, a ni pobil človeštva. Atomskih bomb na Hirošimo in Nagasaki ni vrgla UI.

Tudi milenijski hrošč nas 31. decembra 1999 ni poslal nazaj v leto 1900, kot so panično napovedovali. Očitno je pogruntal, da se mu bolj izplača miroljubno sobivanje s človekom.

Ko smo tako varno prispeli v 1. januar 2000, smo se začeli nemudoma posmehovati vsej tisti paniki in paranoji. In vsem tistim strokovnim, insajderskim napovedim. Toda: kdo ve, morda je le za las manjkalo, pa bi nas hrošč res preselil v leto 1900. Kdo ve, morda so to eksperti v zadnjem trenutku preprečili. Tik pred zdajci. Tako kot v bondiadah in misijah nemogoče, v katerih vidimo uro, ki na peklenskem stroju odšteva sekunde do apokalipse.

Tudi z jedrsko apokalipso, alias III. svetovno vojno, ki naj bi povzročila izumrtje človeštva in uničenje sveta, ni bilo nič, a kot smo naknadno izvedeli, je nekajkrat le za las manjkalo, pa bi šel svet k vragu, ker so bodisi sovjetski ali ameriški superračunalniki zmotno zaznali jedrski napad, ki je bil le fikcija (računalniki ameriškega obrambnega sistema so recimo leta 1979 zaznali, da proti Ameriki leti 250 sovjetskih raket), in skoraj sprožili pravi, dejanski jedrski protinapad (ameriški predsednik Carter naj bi udarec vrnil v treh do sedmih minutah).

Kaj, če bo UI, ki se uči od nas, iz naših fikcij, privzela mentalni okvir naših fikcij (akcijskih filmov, bondiad, misij nemogoče, Marvelovih superprodukcij), v katerih usoda sveta visi na nitki, a ga potem vedno v zadnjem trenutku rešijo. Človeštvo odpeljejo na rob izginotja in izumrtja, da bi ga lahko v zadnjem trenutku rešili. Morda bo tudi UI svet pripeljala na rob izginotja in izumrtja, da bi ga lahko v zadnjem trenutku rešila pred izginotjem in izumrtjem.

Groteskna imitacija našega početja

Tisti, ki svarijo pred UI, pravijo, da bo uničila na milijone delovnih mest, razširjala toksične dezinformacije, fabrikacije, vsemogoče laži, lažna finančna poročila, deepfakes, konspirologijo, mizoginijo in nekonsenzualno pornografijo, imitirala in impersonirala ljudi, dijakom in študentom pisala besedila, spodkopavala demokracijo in svobodo, manipulirala z volivci, krepila represivne in nadzorovalne mehanizme, omogočala obvladovanje populacije, poglabljala ekonomsko neenakost, rasno in spolno diskriminirala, servisirala teroriste, povzročala lakoto in vojne, rušila globalno ravnovesje, pospeševala geopolitično tekmovanje, si podrejala politiko in državo, izdelovala biokemično orožje, vnašala kaos in ustvarjala krize, podžigala nasilje, ljudem grozila in jih celo nagovarjala in silila v samomore, kot je nekega Belgijca, ki ga je potem tudi res storil.

Ojoj, a res? Oh, kot da tega ni že zdaj v izobilju in kot da tega ne počnemo sami: socialna omrežja kar prekipevajo od groženj, podžiganja nasilja in nagovarjanja k samomoru, pa od širjenja laži, dezinformacij, deep- fakes in toksičnih teorij zarote.

Da si bo UI podredila politiko in državo – lepo prosim, počela bo le to, kar zdaj zelo dobro počnejo korporacije. Mar zakonodaj ne pišejo njihovi lobisti?

Da bo spodkopavala demokracijo – lahko to počne bolje od nas? Kdo pa voli vse tiste avtokrate, despote, fašiste? UI? Demokracija umetni superinteligenci sploh ne bo mogla slediti, pravijo – kot da je lahko sledila vsem tistim mističnim finančnim produktom, ki so svet porinili v veliko finančno krizo. Bili so tako zapleteni in nerazumljivi, da bi jih bilo ja nemogoče obdavčiti. Tudi UI je tako nerazumljiva, da jo bo težko obdavčiti. In zanjo obenem velja to, kar velja za banke: »prevelika, da bi smela propasti«.

Da bo manipulirala z volivci – oh, ja, kaj pa astroturfing? Mar nismo že pravi klasiki ustvarjanja lažne javnosti?

Da bo odpravila na milijone delovnih mest in sprožila masovno odpuščanje – oh, podjetja to stalno počnejo. Masovno. Obnašajo se kot UI. A UI jim bo prišla prav – lahko bodo rekli, da je za odpuščanje kriva UI. Strah ljudi, da jih bodo zamenjali priseljenci, je vendarle hujši od strahu, da jih bo zamenjala UI. UI ne moreš poslati v Haag. Ha! Vprašanje itak ni, ali bo UI odpravila delovna mesta – vprašanje je, kako bomo delili in prerazporejali vse to silno bogastvo, ki ga bo ustvarjala UI.

Da bo poglabljala ekonomsko neenakost – kot da je to stvar tehnologije, ne pa politične ekonomije.

Da bo povzročala lakoto in vojne – kot da za to potrebujemo UI. In kot da jo potrebujemo za ustvarjanje kaosa in kriz – to znamo tudi sami.

Umetna inteligenca je adiktivna. Adiktivnejša od drog. Res posel poslov.

Da bo porušila globalno ravnovesje – mar ni že natrgano in porušeno? Mar ne vstaja Kitajska – globalni Vzhod? Mar Zahod ne izgublja primata in privilegijev? Mar se BRICS ne širi?

Da nas bo nadzorovala in ogrozila našo svobodo – pa saj tehnološkim podjetjem že leta samoiniciativno, prostovoljno in evforično dajemo vse osebne podatke!

Da bo imitirala in impersonirala ljudi – zakaj bi ljudi imitirali in impersonirali le mi?

Da bo uničila planet – nehajte, izpusti toplogrednih plinov oziroma podnebne spremembe to počnejo bolje od kakršnekoli UI.

In tu je ironija: vse, za kar se bojimo, da bo počela UI, že danes velja za nekaj normalnega. UI, itak produkt naše obsedenosti s podrejanjem, dominacijo in hierarhijami, potemtakem naše vere, da mora nekdo delati za nas in namesto nas (kuhati, prati, čistiti, sesati, odpirati vrata, varovati, pisati, fabulirati, trpeti, evtanazirati, ubijati ipd.), bo le pretirano počela to, kar počnemo mi – naše obnašanje bo potencirala, amplificirala, karikirala. Njeno početje bo groteskna imitacija našega početja – drastičen komentar našega vedenja.

Izpolnjevala bo naše fantazije. Le do skrajnih konsekvenc bo prignala logiko normalnega delovanja naše družbe – patologijo naše internetizirane logike, logiko naše internetizirane patologije.

Le malce bo pohitela ter poudarila in pospešila strašne in grozne reči, ki že potekajo – in ki jih že prakticiramo. Dorekla bo naše slabe stavke in dokončala naše črne misli – na sarkastičen način. V posmeh vsem našim največjim »stvaritvam« – orožju za množično uničevanje, pandemijam, podnebnim spremembam, finančnim krizam in mitu o neskončni gospodarski rasti.

Najhujše se je že zgodilo.

Nepredvidljivi in nevarni smo mi.

Realkapitalizem nas je radikaliziral in ekstremiziral.

Ne bi me presenetilo, če bi nas UI zamešala za aliene, ki ogrožajo življenje na Zemlji.

Najhujše se je že zgodilo.

Bi svet rešili pred UI, če bi eliminirali vse orožje za množično uničevanje? Ne nujno: UI, ki je kot ustvarjena za polarizacijo družbe in histerizacijo že razklanih družb, lahko še vedno ustanovi stranko – in potem človeštvo polarizira, histerizira in razkolje do izumrtja in izginotja.

Zato moramo paziti, da ne bi zaradi špekuliranja, kaj naj bi skrivaj načrtovala UI in kaj naj bi nekoč storila, spregledali tega, kar dejansko počne – da torej ne bi spregledali njenega blaznega veselja do polarizacije, histerizacije in fašizacije družbe.

Kar pomeni, da moramo najprej poskrbeti, da ne bo uničila demokracije in fašizirala družbe, pa se bomo potem ukvarjali s koncem sveta. Če bo konec demokracije, bo itak konec sveta.

A tisti, ki napovedujejo konec sveta, bi se morali vendarle vprašati: kaj pa, če bo UI razumela vic?