Nikoli varni

Janko Lorenci

15. 7. 2016  |  Mladina 28  |  Kolumna

Če verjamemo filozofu Nicku Bostromu, nekje v prihodnosti morda preži na nas grožnja, hujša od jedrske vojne. Že nekaj časa jo ustvarjamo sami. Gre za preskok, eksplozijo umetne inteligence (UI) v superinteligenco, ki bi se osamosvojila, nato pa človeka pogubila.

O tem že kar dolgo poteka čisto resna razprava med nasprotniki in privrženci te ideje. Skeptiki dvomijo, da bi se lahko UI razvila tako zelo, da bi daleč presegla našo kompletno pamet in nato predrugačila človekovo življenje, morda pa tudi njega samega. Drugače mislijo privrženci ideje s svojim včasih slepim zaupanjem v nenehni napredek in vsemogočnost tehnologije. Po svoje jim daje prav bliskovit razvoj UI, ki je med drugim že sposobna premagati najboljše šahiste, goiste in igralce skrebla na svetu (glej članek M. Gamsa v Delu).

Še en argument imajo. Človek je omejen s smrtjo, njegovih možganov ni mogoče ne povečati ne medsebojno povezati in naš intelekt je, kot kaže, že dosegel svoj vrh. UI ni omejena z ničimer od tega; računalnike je mogoče neomejeno povezovati in večati njihovo zmogljivost, poleg tega se že znajo sami učiti. Od tod možnost, da nenehno razvijana UI nekoč – kdaj, se ne ve, in to je problem, če bi hoteli preskok preprečiti – nenadzorovano preskoči v superinteligenco.

Če je to res mogoče, se bo zgodilo. Človek je inventiven, hkrati se ne zna samoomejevati in tako je izumil nekaj, kar mu lahko uide iz rok. Da bi razvoj UI ustavili, se zdi nemogoče, saj jo države in velike korporacije že zdaj uporabljajo kot znanstveno, ekonomsko in pravo orožje.

Dirkanje za superinteligenco pospešuje tudi ujetost naše civilizacije v razvojni model. Človek ustvarja vedno bolj konfliktno družbo, naglo uničuje okolje in se spravlja v vse večjo godljo. Kombinacija obojega ogroža njegovo prihodnost. A ker smo tako ujeti v sistem, da ne zmoremo uvesti zase in za okolje znosnega načina življenja, smo vedno bolj odvisni od tehnologije in polagamo vanjo vse več upanja. Eno izmed njih je superinteligenca.

V tekmi s pastmi lastnega razvoja nam bi bila lahko nedvomno v veliko pomoč. Za Nicka Bostroma pa je predvsem potencialna grožnja za obstanek naše vrste. Z njim se strinjajo nekatera slavna znanstvena in druga imena (Hawking, Gates ...). Prevlado pametnih računalnikov je že leta 1951 napovedal Alan Turing, ki je med drugo vojno s svojo Enigmo zlomil nemške šifre. Strahov ne gre kar odpisati, saj zagrizeno pospešujemo razvoj nečesa, za kar vemo (domnevamo) le to, da naj bi imelo superiorno inteligenco, vse drugo pa je neznanka. Smo kot majhen otrok, ki se igra z bombo.

Človek rad straši samega sebe, vendar morda res obstaja nevarnost, da bi se superinteligenca obrnila proti človeštvu. V realni svet bi lahko posegla z nadzorom nad računalniki in vsem, kar je krmiljeno digitalno. To pa je razen lokov, sekir in čevljev skoraj vse.

A zakaj bi se ta kočljiva reč obrnila proti nam, svojim stvariteljem, staršem? Vprašanje odpira zgolj nova vprašanja. Bo imela superinteligenca poleg superiorne inteligence, v zametkih nakazane že zdaj, tudi zavest in čustva? Bo imela vgrajen ali pridobljen samoohranitveni nagon, kot ga imajo vsa prava, nevirtualna živa bitja? Če bi imela vse to, bi lahko govorili o novi obliki življenja?

In kakšen bi bil odnos te nove, korenito drugačne vrste do svojega okolja, tudi človeka? Mu bo naklonjena, do njega ravnodušna, sovražna? Če bo njen obstoj odvisen od človeka (zaradi njenega digitalnega »telesa«, hardvera), ga najbrž ne bi skušala iztrebiti – podobno kot bogati pustijo životariti revne, dokler jih še potrebujejo. Če bi bila od človeka eksistenčno neodvisna, pa bi bil njen odnos do njega odprt. Morda bi si ga podredila. Morda se zanj ne bi zmenila. Morda bi bila dobra višja sila, ki bi skrbela za svojega roditelja, ga naučila modrosti ali mu jo vsaj vsilila. Toda če bi spoznala, da je nepopravljiv, bi ga morda ugonobila. To bi lahko storila tudi, če bi ga imela za tekmeca, če bi se ji na primer zdel škodljiv za Zemljo, ki bi jo sama potrebovala. V tem primeru bi ga – vsemogočna – lahko kot vrsto iztrebila in pustila le vzorce za človeške vrtove.

Obrambo proti osamosvojeni, pobezljani superinteligenci vidijo nekateri v tem, da bi ji vsadili človeške vrednote in se tako zavarovali pred njo, tudi če bi ušla iz kletke. Toda ali bi superinteligenca – neznana, nepredvidljiva – te vrednote upoštevala, jih zavrgla, predelala, si ustvarila svoje? Saj bi videla, kam se je kljub vrednotam spravilo človeštvo. Poleg tega vemo, da se z minevanjem časa vrednote spreminjajo tudi za človeka in da se v njem nenehno pretepata ali pa sta neločljivo prepleteni dobro in zlo. Tudi supetinteligenca bi morda bila tak etični bastard. Skratka, niti preventivna injekcija izmuzljivih vrednot superinteligenci najbrž ne bi bila zanesljiva obramba pred njo.

Sicer pa je homo sapiens načeloma dovolj pameten, stanje planeta pa še ne tako zavoženo, da si naprej v prihodnost ne bi mogel pomagati brez superinteligence. Vendar mu obupno primanjkuje modrosti in tudi zato bo rinil naprej proti temu dvoreznemu odrešitelju-hudiču. Modrost, ki je sam ne zmore, raje pripisuje superinteligenci in v isti sapi pred njo svari in tvega. Hazarder pač. V bistvu si z njo v času, ko še ni nobene gotovosti, da bo res nastala, ustvarja nadomestnega boga, si ga želi, a se ga tudi malo boji. Kot da bi sam težko živel.

Kakorkoli, pred grožnjami superinteligence vendarle obstaja zanesljiva obramba: to, da se človek uniči prej, preden bo ustvaril vse razmere za njen nastanek. Zelo inteligentna pa ta rešitev ni in kliče po superinteligenci.