Znanstveni prerok

Dr. Niklas Boström je švedski filozof z obsežnim znanjem iz fizike, nevrotehnologije, matematične logike in umetne inteligence, ki si je zaradi kariere v angleško govorečem svetu nadel temu primerno poenostavljeno ime. Vodi Inštitut za prihodnost človeštva, ki je del Fakultete za filozofijo na Oxfordski univerzi, na kateri seveda tudi predava kot redni profesor. Preden se je preselil v Anglijo, so njegova predavanja poslušali študenti na ameriškem Yalu. Meni, da obstaja nemajhna možnost, da bomo prihodnost, ki jo danes označujemo za »daljno«, dosegli že v tem stoletju. Prepričan je, da bo naravna človeška evolucija s tehnološkim razvojem postajala vse manj pomembna. Ne bi ga presenetilo, če bi izvedel, da živi v simulirani realnosti.

Glede na vaš položaj direktorja inštituta, ki se ukvarja s prihodnostjo človeštva, bi vas lahko označili za nekakšnega znanstvenega preroka.

> Sam se verjetno ne bi opisal tako. Zveni pa dobro.

Kaj je najbolj gotova stvar, ki jo lahko napoveste za prihodnost človeštva?

> Dogajale se bodo spremembe.

Kakšne spremembe?

> Če jih skušamo natančneje opisati, takoj postanejo manj gotove.

Nedavno je izšla knjiga Globalna katastrofična tveganja, katere urednik ste in ki obravnava mogoče scenarije korenitega poslabšanja blaginje ali pa celo izumrtja človeške vrste v bližnji in daljni prihodnosti. Kaj je po vašem največja grožnja človeški prihodnosti?

> Na dolgi rok sta to po mojem napredna molekularna nanotehnologija in umetna inteligenca. To sta tehnologiji, ki utegneta povzročiti precejšnja eksistenčna tveganja, če in ko bosta zadosti razviti.

Kako?

> Napredne oblike molekularne nanotehnologije bi, med drugim, omogočale izdelavo izjemno močnih orožij. Čim več uničevalne moči je skoncentrirane v rokah majhne skupine ljudi ali posameznikov, tem bolj negotova je človeška prihodnost. Kar pa se tiče umetne inteligence, bi tveganje postalo realno, ko in če bi stroji v sposobnosti mišljenja postali enakovredni ljudem ali pa bi jih celo presegli.

Bi se Terminator lahko izkazal za preroški film?

> Menim, da umetna inteligenca ne bi dejansko zavzela oblike robota. To je bolj antropomorfna interpretacija tega, kako naj bi bili videti superinteligentni stroji. Taki stroji bi namreč za doseganje svojih ciljev lahko uporabljali tudi spretnost prepričevanja, manipulacije in načrtovanja. Tako da to ne bi bil spopad med ljudmi in ljudem podobnimi roboti s strojnicami. Bitke bi bilo najverjetneje konec, še preden bi ljudje ugotovili, da se je začela.

Kaj je verjetneje, da bo človeštvo izumrlo »v trenutku« ali da bo šlo za dolgotrajen proces?

> Za obe možnosti obstajajo scenariji, če pa bi se moral odločiti, bi rekel, da je nenadno izumrtje nekoliko verjetnejše. Ko rečem nenadno, imam v mislih obdobje, ki ni daljše od nekaj tednov.

Kako verjetno je, da se bodo ljudje, po izumrtju, z evolucijo vnovič razvili?

> Če bi izumrla samo človeška vrsta, ne pa tudi drugi živi organizmi na planetu, potem bi obstajala verjetnost, da se bo razvila neka nova inteligentna vrsta. Natančno verjetnost česa takega je težko napovedati, je pa to definitivno realna možnost. Če bi to inteligentno vrsto, ki bi nas nasledila, lahko šteli za človeško, pa bi bilo odvisno od dveh dejavnikov - kakšne bi bile druge značilnosti te vrste in kako uporabljamo pridevnik »človeško«. Možno je, da bi ta vrsta razvila podobno raven inteligence, ne bi pa razvila nekih občečloveških vrednot. Morda je glasba, humor, romantika ipd. ne bi zanimali.

Kaj je ta trenutek, po vašem mnenju, najodločilnejši dejavnik v naši evoluciji?

> Če govoriva o biološki evoluciji, ki danes še vedno poteka - verjetno celo hitreje kot kadarkoli prej, še vedno pa seveda zelo počasi v primerjavi z drugimi spremembami v našem življenju -, potem bi za ključni dejavnik postavil željo po naraščaju. Preživetje, vsaj v razvitem svetu, je danes veliko bolj gotovo kot pa prenašanje genov na potomce. Številnost vaše družine je tako veliko bolj odvisna od vaše želje po taki družini kot pa od vaše odpornosti proti različnim boleznim ipd.

Je človeštvo verjetneje na poti k večji uniformnosti ali k večji raznolikosti?

> To je ena tistih stvari, pri katerih je zelo težko napovedati, kako bodo potekale. Obstajajo različne sile, ki nas potiskajo v obe smeri. Po eni strani imamo z globalizacijo vedno večji dostop do ljudi iz drugih kultur, do njihovih običajev in idej, ki se širijo vedno hitreje, kar pripomore k večji uniformnosti. Po drugi strani pa si lahko predstavljamo prihodnost, v kateri postanejo tehnologije izboljševanja človeških sposobnosti zelo raznolike, poleg tega pa jih ljudje uporabljajo na različne načine, da se lahko oblikujejo v skladu s svojimi lastnimi ideali, kar vodi v večjo raznolikost. Danes na to ne moremo odgovoriti.

Kakšne so nevarnosti skrajnosti obeh možnosti?

> Popolna uniformnost predvideva radikalno izgubo nečesa, kar zelo visoko cenimo - raznolikosti in individualnosti. V tem primeru bi bila lahko prihodnost zelo dolgočasna. Prav tako bi se morali vprašati, kako bi taka uniformnost sploh nastala. Bi se ljudje odločili zanjo ali bi jim jo kdo vsilil? Zagotovo si želimo odpraviti nekatere raznolikosti. Nekateri ljudje so zdravi, drugi bolni. Idealno bi bilo, če bi bili vsi zdravi. Če bi odpravili tako diverziteto, bi bilo to seveda dobro. Sicer pa je zelo veliko odvisno od družbenega okvira, v katerem raznolikost obstaja. V visoko pravični družbi z veliko močjo bi lahko zelo raznoliki posamezniki živeli v harmoniji, v svetu, kakršnega poznamo danes, pa si z lahkoto predstavljam, da bi bili nekateri diskriminirani. Če si predstavljamo, da bo raznolikost enkrat dosegla mejo, pri kateri bomo govorili o več človeških vrstah, bi zagotovo obstajalo tveganje, da se te vrste zapletejo v konflikt, kot se je to dogajalo z različnimi rasami. Stopnja uspešnosti družbe z zelo raznolikimi posamezniki, celo pripadniki različnih vrst, je odvisna predvsem od napredka v socialni strukturi in moralnosti, ki ga je bila taka družba deležna v svojem razvoju.

Se bo povprečni človeški inteligenčni kvocient (IQ) v prihodnosti zviševal ali zniževal?

> Približno v zadnjih sto letih je povprečni IQ rasel za približno tri točke na desetletje. To je pojav, znan kot Flynnov efekt. O razlogu za to povečanje sicer še vedno poteka burna razprava. Možno je tudi, da je to povečanje večidel zgolj posledica sprememb v metodologiji merjenja. Po mojem bomo v prihodnosti razvili možnosti za povečevanje inteligence, pa naj bo to na farmakološki način, z genetiko ali pa, nekoliko bolj dolgoročno, z vse večjo integracijo informacijske tehnologije in človeške pameti. Menim, da bodo imeli ti dejavniki odločilen vpliv na prihodnji razvoj človeške inteligence, veliko večji kot biološka evolucija. Predvsem zato, ker, kot sem že omenil, je biološka evolucija zelo počasen proces, prek katerega se spremembe uveljavljajo skozi številne generacije, tehnologija pa lahko radikalno napreduje v desetletju ali dveh.

Ste eden od ustanovnih članov Svetovne transhumanistične zveze (angl. World transhumanist association oz. WTA) in torej eden od nosilcev transhumanističnega gibanja. Kaj je sploh transhumanizem?

> Transhumanizem je ideja, ki spodbuja razvijanje etično primernih znanstvenih načinov povečevanja človeških sposobnosti. WTA je neprofitna mednarodna organizacija, ki spodbuja širjenje te ideje.

Ideja se imenuje transhumanizem, človeka prihodnosti, ki ga ta ideja predvideva, pa najpogosteje označujete za postčloveka (angl. Posthuman) in ne za transčloveka. Kako je s tem?

> Nobeden od obeh izrazov ni najprimernejši za opis ljudi prihodnosti. Izraz postčlovek je najbolj uveljavljen, a je lahko zavajajoč. Če ga razumemo dobesedno, dejansko označuje nekaj, kar naj bi prišlo po človeku, v resnici pa pomeni zgolj človeka z zelo izboljšanimi sposobnostmi, pa naj gre za izboljšane intelektualne vrline ali pa daljšo pričakovano življenjsko dobo.

Vaša vizija idealne postčloveške družbe temelji na predvidevanju, da bodo vsi ljudje imeli dostop do vseh tehnologij za izboljševanje svojih sposobnosti, ki bodo na voljo. Si je to v današnjem, kapitalistično usmerjenem svetu, sploh mogoče predstavljati?

> Veliko je stvari, ki v današnjem svetu niso mogoče, pa se bodo morda v prihodnosti uresničile. Želeli bi si, da bi vsi ljudje imeli dostop do kakovostnih zdravstvenih storitev, pa to v današnjem svetu ni mogoče. To je ideal, h kateremu moramo težiti. To, da se ta ideal še ni uresničil, ne more biti razlog za to, da vsem ljudem prepovemo dostop do zdravstvenih storitev. Enako je z dostopnostjo tehnologij za izboljševanje sposobnosti.

Ali ne bi možnost povečevanja sposobnosti, ki ne bi bila dostopna vsem, pomenila nevarnosti za nastanek nadrase?

> Vprašanje, ali bo napredek v tehnologiji povečevanja sposobnosti povečal ali zmanjšal razlike med ljudmi, je odprto. Privilegirani in bogati bodo verjetno res imeli dostop do boljše tehnologije in to jih bo naredilo biološko superiorne, hkrati pa je tehnološko najlaže izboljšati sposobnosti ljudi, pri katerih je prostor za izboljšave največji, to pa so tisti, ki so najbolj deprivilegirani. Težko je napovedati, kateri vidik bo navsezadnje prevladal. Seveda pa obstaja možnost reguliranja vprašanja s politiko na tem področju. Tako kot je to urejeno pri določeni stopnji šolanja, tako bi lahko bila tudi neka stopnja povečanja sposobnosti brezplačno dostopna vsem.

Če bomo v prihodnosti sposobni nadzirati staranje in tako še dodatno podaljševati življenjsko dobo, kaj to pomeni za prihodnost planeta? Že zdaj je gneča precejšnja.

> Čezmerna populacija je problem v nekaterih delih sveta, v drugih ne. V številnih evropskih državah je naravni prirastek negativen. Število rojstev bi bilo treba prilagoditi tako, da bi lahko število prebivalcev vzdrževali na določeni trajnostni ravni. Ta raven pa je seveda odvisna od gospodarskih razmer in tehnološke razvitosti posamezne države. Menim, da je veliko bolj etično omejiti število rojstev kot pa siliti živeče ljudi, naj umrejo. Ljudem je mogoče ponuditi izbiro - če želiš dostop do sredstev za podaljševanje življenja, moraš privoliti v omejitev števila otrok, ki jih lahko imaš.

Z vse bolj naprednimi postopki izboljševanja človeških sposobnosti bodo ljudje vse bolj umetno ustvarjeni, vse manj odvisni od narave same. Kdaj po vašem človek postane stroj? Kje je meja?

> Odvisno od zornega kota. Nekateri bi rekli, da lahko že današnje žive organizme označimo za biološke stroje. Če pa rečemo, da lahko za stroj označimo le nekaj, kar je izdelano, kar je umetno, potem lahko sklepamo, da bomo vedno bolj umetni in da precej že smo. Samo pomislimo, kako velik vpliv na naša življenja ima npr. jezik, ki je človeška iznajdba. Že danes smo precej odvisni od tehnologije, ki specifično vpliva na nas in nas oblikuje.

Naj vprašam tako: kdaj ljudje zaradi tehnološkega napredka prenehajo biti ljudje, izgubijo človeške značilnosti?

> Beseda »človek« ima vsaj dva različna pomena. V skladu s prvim je to homo sapiens, pripadnik naše biološke vrste. V tem primeru človek neha biti človek takrat, ko se posamezniki v neki skupini lahko razmnožujejo med sabo, ne morejo pa se razmnoževati z drugimi homo sapiensi. To je navadna definicija biološke vrste, ki pa, če pomislimo na prihodnost človeštva, ni zelo relevantna. Veliko pomembnejši je drugi vidik, človek kot moralna kategorija. Po mojem prepričanju bi lahko popolnoma izgubili svojo biološko konstitucijo, a bi še vedno veljali za ljudi v tem drugem pomenu besede. Četudi vsebino svojih možganov prenesemo na računalnik, lahko ohranimo človeške izkušnje, misli in odnose drug z drugim, s čimer ohranimo svoj moralni status človeka in sposobnost prepoznavanja človeških vrednot. Naši geni ali pa to, da so naši možgani narejeni predvsem iz ogljika namesto iz silicija, niso tako nujni za našo človečnost, kot so pomembni naše izkušnje, naša dejanja, naši odnosi itd.

Prenašanje človeške zavesti v računalnike je tudi glavni postulat t. i. simulacijskega argumenta, katerega avtor ste in katerega sklep je, da obstaja precejšnja možnost, da živimo v simulirani realnosti (glej okvir Bostromov simulacijski argument, op. p.). Ste vi navdihnili film Matrica ali je film navdihnil vas?

> Nič od tega. Zadevi sta nastali povsem neodvisno. Mislim, da sem argument oblikoval, preden sem gledal film.

Če res živimo v navidezni resničnosti, ali ni potem naša evolucija lažna oz. umetna, ker jo nadzirajo neka višja bitja? Ni to bliže kreacionizmu?

> Niti ne. Razlogi, zaradi katerih gre simulacijski argument jemati resno, niso dvomi o tem, da bi lahko naključna evolucija ustvarila tako stopnjo kompleksnosti v naravi in človeškem organizmu, ampak bolj logično sklepanje o posledicah trendov, ki jih opažamo že danes, npr. vse zmogljivejši računalniki, napredek v nevrotehnologiji.

Pa vendar, ali ne bi mogli reči, da so tisti, ki upravljajo našo simulacijo, naši bogovi?

> V nekaterih pogledih bi bili kot bogovi. Ustvarili bi svet, ki ga občutimo. Verjetno bi bili superinteligentni, sicer ne bi bili zmožni razviti take tehnologije. Lahko bi videli vse, kar se dogaja v našem simuliranem svetu, lahko bi se vanj vključevali na načine, ki bi jih mi dojemali kot nadnaravne. Vendar pa bi se od tradicionalne percepcije boga ločili po tem, da bi bila to še vedno naravna bitja, ki jim vladajo zakoni fizike, kakršnikoli že so na njihovi stopnji realnosti, in ki bi bila končna.

Eno največjih življenjskih vprašanj je, kaj se zgodi po smrti. Ali si lahko kaj bolje predstavljamo, kaj se zgodi po simulirani smrti?

> To je odvisno od tistih, ki upravljajo simulacijo, in od same zasnove simulacije. Obstaja več različnih možnosti. Ena bi bila ta, da bi bilo simulacije preprosto konec in bi jo zamenjala simulacija koga drugega. Lahko bi simulacijo tudi samo vnovič zagnali, lahko bi vas prestavili v kako drugo simulacijo, teoretično pa bi vam lahko tudi dovolili, da se jim, npr. s pomočjo kakega robotskega vmesnika, pridružite na njihovi stopnji realnosti. Možnost življenja po smrti bi v simulaciji postala realna možnost.
Bi rekli, da so danes znani računalniški navidezni svetovi, kakršen je Second life ali pa World of Warcraft, prva stopnja na poti v tako simulacijo ali eno z drugim nima nobene zveze?
> Zagotovo jo ima. Če ne drugega nam olajša predstavo o tem, kako in zakaj bi nekatere naprednejše civilizacije želele izdelati tako simulacijo. V tem primeru npr. z namenom zabave. Te simulacije so seveda še zelo primitivne, predvsem zaradi tehnoloških omejitev. V navideznih svetovih, ki jih upravljamo mi, simulirana bitja, ki so računalniško generirana in jih ne upravljamo posamezniki, nimajo sposobnosti lastnega mišljenja, nimajo zavesti, nimajo notranje kompleksnosti, ki bi jim omogočala ustvarjanje lastnih izkušenj. Z napredkom pa bodo te simulacije postajale vse bolj prefinjene.

Če dejansko živimo v simulaciji, ali obstaja možnost, da se tega zavemo in postanemo grožnja tistim, ki simulacijo upravljajo?

> Težko si predstavljam, da bi postali grožnja zgolj s tem, da bi se zavedli svoje situacije. Če si simulatorji želijo ustvariti karseda realističen navidezni svet, če se trudijo posnemati svojo dejansko zgodovino, potem ne bi smeli posegati v sposobnost simuliranih ljudi, da se zavejo svojega položaja. Resnični ljudje, simulatorji, so namreč v svoji zgodovini verjetno tudi sami špekulirali o možnostih simuliranega sveta.

Predpostavimo, da živimo v takšni simulaciji. Kateri od ljudi, ki jih poznate, je po vašem najverjetneje resničen človek, ki je v simulaciji zgolj na obisku?

> Če špekuliramo, da bi ljudje prihodnosti tako simulacijo ustvarili z namenom turističnih potovanj v preteklost, potem bi seveda upravičeno pričakovali, da so turisti v naši simulacij tisti, ki imajo najzanimivejša življenja. Če bi imel možnost, bi se verjetno vsak odločil, da raje izkusi npr. življenje Napoleona kot pa recimo kakega neznanega kmeta.

Morda pa ste vi eden od tistih resničnih ljudi, ki nadzirajo našo simulacijo, in s svojim delom zgolj preverjate našo sposobnost dojemanja dejanske situacije, v kateri smo ...

> Moja usta so zapečatena.