Se nam lahko zgodi Hal?

Janko Lorenci

8. 11. 2019  |  Mladina 45  |  Kolumna

Filozof Marko Uršič je nedavno predaval o smislu in pri tem omenil Odisejo v vesolju, kultni Kubrickov film, ki govori o iskanju smisla, a tudi o tem, kako se človek, zaprt v vesoljsko plovilo, bori za preživetje z računalnikom, imenovanim Hal. Film, živ, čeprav star že pol stoletja, je v tem morda preroški. Google je nedavno izdelal kvantni računalnik, neskončno zmogljivejši od današnjih superračunalnikov. Če bi tak izpopolnjeni kvantni računalnik povezali z umetno inteligenco – se pravi z današnjimi računalniki, ki se lahko sami učijo in odločajo –, bi umetna inteligenca silovito napredovala in se morda izmaknila nadzoru svojega stvarnika – človeka.

Ali se torej lahko nekje v prihodnosti čisto zares ponovi zgodba s Halom, pri čemer bi se za preživetje borilo celotno človeštvo? Vprašanje spada v poglavje o razmerju med človekom in njegovim produktom – tehnologijo. Ta je dvorezna. Ob njeni pomoči smo postali (namišljeni) gospodarji narave; brez strojev, računalnikov itd. ne bi niti približno dosegli sedanjega razvoja in v marsičem preoblikovali kar vsega planeta. Hkrati pa smo zdaj v težavah prav zato, ker smo, opremljeni z močjo tehnologije, podrli marsikatero naravno ravnotežje in padli v multiplo okoljsko krizo, morda najhujšo v zgodovini človeštva.

V tej krizi znova upamo, da se bomo rešili s tehnologijo. Upanje temelji na hotenju, da bi vse drugo – družbena ureditev, razmerja moči, potrošništvo – ostalo bolj ali manj nespremenjeno. Tehnologija bi bila uporabljena kot nekakšen obvod. Iz te vere v odrešilnost tehnologije rastejo na primer načrti o geoinženiringu, umetnem uravnavanju naravnih sistemov (podnebja itd.). Lokalno geoinženiring že preskušajo; na Kitajskem so na primer s kemikalijami začasno očistili ozračje nad Pekingom. Če se bo podnebna kriza ostro stopnjevala (in skoraj zanesljivo se bo), bomo v stiski in tako početje se bo ne glede na tveganja začelo uporabljati na veliko – z nepredvidljivimi, morda katastrofalnimi posledicami.

Skratka, račun se ne izide, zgolj tehnološke rešitve ekoloških težav ni, ker so te vseprisotne in preveč prepletene. To ne pomeni, da nam tehnologija ne bo v pomoč, saj že zdaj ne moremo brez nje. Vendar je lahko samo pripomoček, nekakšna bergla za lažje premagovanje težav.

Toda problem ni bergla, ampak človek, ki se nanjo preveč zanaša in opira. Tudi kvantna fizika, čuden svet samih negotovosti, ki ga še vedno razume zelo malo ljudi, spada v to poglavje dvoumnih bergel in negotovih bližnjic. Prvič se ne ve, kaj lahko zares prinese. Če pa bi bil rezultat (spoj kvantnih računalnikov in umetne inteligence) res tako veličasten, bi bil obet in grožnja hkrati.

Na splošno velja, da je tehnologija nevtralna, njena koristnost ali škodljivost pa odvisna od človeka, od tega, kako in za kaj jo uporablja. Klasičen primer za to je jedrska energija – lahko je bogat vir elektrike ali pa uničevalna jedrska bomba. Pri kvantni fiziki in umetni inteligenci pa ni zanesljivo nič več – ker je samoučljiva, je tudi nepredvidljiva. Celo resni znanstveniki trdijo, da bi lahko postala Hal – se silovito razvila, osamosvojila in se obrnila proti človeku.

Bi bilo torej razvoj kvantne fizike in umetne inteligence pametno ustaviti? Pametno morda že, vendar nemogoče – pač zato, ker bo človek, kakršen je, tako intrigantno stvar razvijal naprej, ker države na tem področju že tekmujejo med seboj, ker bo ta tehnologija morda še bolj nepogrešljiva, kot je že. Neki poznavalec je o tem zapisal, da razpravi o novih tehnologijah nič ne škodi bolj kot napol informiran strah ali slepo navdušenje nad napredkom. To lepo kaže razvoj digitalizacije. V zadnjih 20 letih je evforija v ZDA vodila v razmah tehnologij in koncernov, obotavljivost v Evropi pa v zaostajanje. O takih stvareh, nadaljuje poznavalec, je treba razpravljati. O jedrski energiji se je razpravljalo veliko prepozno, o biotehnologiji pa pravočasno. Prvo je vodilo v katastrofo, drugo v kar smiseln napredek.

Kakorkoli, tehnologija ni in ne bo vsemogočna. Zlasti ne more, kot rečeno, popraviti ranjenega okolja. Pri tem zmanjkuje časa, da bi čakali na morebitnega tehnološkega (kvantnega) odrešitelja. Hkrati se ponuja otipljiva, realna in varnejša pot: tip razvoja, ki ne bo tako uničeval družbe in narave – sprememba sistema (kapitalizma) torej. Težava je v tem, da je ta varnejša pot očitno zgolj priprta, ker je preveč družbene moči nakopičene v rokah sebične, neodgovorne manjšine, ki ji status quo koristi. Če bomo to pot vendarle ubrali, brez tehnologije ne bo šlo, a vse bo še vedno najbolj odvisno od človeka. Oziroma od večine ljudi: ali bo splošni interes vsilila manjšini ali ne.

Končajmo s filozofskim vprašanjem, povezanim z Uršičevim predavanjem: je smiselno iskati smisel? Odgovor ni jasen, a morda se nam bo smisel zgodil, pa če to hočemo ali ne. To stoletje, morda kar tisočletje bo zelo verjetno čas, ko se bo človeštvo bojevalo za ohranitev znosnega stanja planeta in s tem za svoje civilizirano preživetje. V ta namen bo treba spremeniti tako rekoč vse – individualne življenjske sloge, kolektivno obnašanje, vrednote, sistem … Človeštvo lahko (ob pomoči tehnologije) to dolgo, nevarno, negotovo bitko izgubi ali pa se v njej najde in – prvič kot celota – najde tudi smisel.