Computatrum sapiens

»Razvoj popolne umetne inteligence bi lahko pomenil konec človeštva,« je decembra lani za BBC izjavil teoretski fizik dr. Stephen Hawking. »Od tam bi se razvijala sama, sama sebe bi preoblikovala z vedno večjo hitrostjo. Ljudje, omejeni s počasnostjo biološke evolucije, ji ne bi mogli konkurirati.« Ko eden najpametnejših ljudi na svetu in eden javno najbolj prepoznavnih svetovnih znanstvenikov tako jasno opozori na po njegovem kritičen eksistencialni problem človeštva, je to seveda odmevna novica. Njegova izjava je sprožila obširno javno razpravo, ki po nekaj mesecih še kar ne poneha.

Najodmevnejši svetovni znanstveni reviji Nature in Science sta napredku pri razvoju umetne inteligence posvetili vrsto člankov, tematika je prišla na naslovnice številnih svetovnih medijev. Hawkingu so se pri opozarjanju na nevarnosti pridružili številni ugledni posamezniki, na primer ustanovitelj Microsofta Bill Gates, soustanovitelj Appla Steve Wozniak, ustanovitelj podjetij Tesla in SpaceX Elon Musk ter nekdanji predsednik britanske akademije znanosti Royal Society Martin Rees.

Ne gre za to, da bi se razvoj umetne inteligence že nevarno bližal tako imenovani tehnološki singularnosti, točki, ko bi računalniki po sposobnostih na vseh področjih presegli ljudi. Velika večina strokovnjakov se strinja, da bo za kaj takega moralo preteči še vsaj nekaj desetletij. A napredek na področju umetne inteligence v povezavi s skokovitim razvojem komplementarnih področij, na primer sposobnosti obdelave vse večje količine podatkov in splošne zmogljivosti računalnikov, človeštvo kljub temu že danes postavlja pred težke preizkušnje, ki bodo z napredkom verjetno vse težje.

Nevarnost umetne inteligence je tema, s katero so se doslej ukvarjali predvsem futuristi, pisatelji in filmski ustvarjalci. Še danes, ko so avtonomni avtomobili brez voznika del rednega prometa na nekaterih območjih v ZDA, ko živimo v svetu pametnih telefonov in je naše ravnanje vedno bolj odvisno od vedno bolj izpopolnjenih računalniških algoritmov, je omemba nevarnosti umetne inteligence prej popkulturna referenca kot resno izražanje skrbi. Le redko kdo njen katastrofični potencial jemlje povsem resno. Vizija robotske vojske pod poveljstvom vsemogočnega računalnika Skynet, ki nam jo je vcepila filmska franšiza Terminator, hkrati zamegljuje verjetnejše scenarije in nevarnosti.

Računalniki bi utegnili v prihodnjih desetletjih ogroziti skoraj polovico obstoječih delovnih mest v razvitem svetu.

Hawking se je januarja letos s skupino uglednih znanstvenikov in podjetnikov, doslej se jih je nabralo že več kot šest tisoč, podpisal pod odprto pismo s pozivom k resnejšemu pristopu k raziskovanju potencialnih posledic napredka na področju umetne inteligence. »Potencialne koristi so ogromne. Glede na to, da so vsi dosežki civilizacije plod človeške inteligence, ni mogoče napovedati, kaj vse lahko dosežemo, če to inteligenco povečamo s pomočjo orodij umetne inteligence, a odprave bolezni in revščine si ni mogoče zamisliti. Zaradi tega ogromnega potenciala umetne inteligence pa je pomembno, da ugotovimo, kako uživati koristi in se hkrati izogniti morebitnim pastem.«

Opozarjajo na primer na potrebo po razmisleku o vplivu razvoja avtomatizacije na trg delovne sile. Glede na analizo, ki sta jo pred dvema letoma izvedla Carl Frey in Michael Osborne z Univerze v Oxfordu, bi utegnili računalniki v prihodnjih desetletjih ogroziti skoraj polovico obstoječih delovnih mest v razvitem svetu. Bo to pomenilo večjo kakovost življenja ljudi ali bo zgolj vodilo v še večjo razslojenost in odvečnost večine populacije?

Še hitreje bo treba odgovoriti na vprašanja v zvezi z odgovornostjo in etičnim ravnanjem avtonomnih vozil in plovil. Kdo je odgovoren, če avto brez voznika povzroči prometno nesrečo? »Četudi avtonomnim avtomobilom uspe število smrtnih žrtev na ameriških cestah znižati s 40 tisoč na 20 tisoč na leto, avtomobilski proizvajalci verjetno ne bodo dobili 20 tisoč zahvalnih pisem, temveč 20 tisoč tožb,« pišejo v odprtem pismu.

Kako naj se vozilo odloča v primeru dveh slabih možnosti? Kako naj se odloča med majhno možnostjo poškodovanja človeka in veliko verjetnostjo velike materialne škode? Naj vozilom zaupamo, da bodo uspešno rešila filozofska vprašanja, o katerih se ljudje ne morejo strinjati že več stoletij? Nikakor ni nujno, da bi bila odločitev slabša od človeške, a misel, da bi jo stroj sprejel sam, je strašljiva.

To je posebej izrazito pri vojaških aplikacijah umetne inteligence. Ravno ta teden je skupina znanstvenikov na čelu s Hawkingom objavila novo odprto pismo, namenjeno izključno grožnji avtonomnih vojaških robotov, na primer oboroženih miniaturnih letalnikov, ki bi lahko na podlagi vnaprej določenih meril brez človeškega nadzora sami izsledili in uničili tarče, tudi ljudi, na določenem območju. »Umetna inteligenca je dosegla točko, na kateri je uporaba takih sistemov vprašanje let, ne desetletij. /.../ Če katerakoli od velikih vojaških velesil nadaljuje razvoj avtonomnih orožij, je nova globalna oboroževalna tekma neizogibna.« In posledica tega je po njihovem mnenju lahko le ena: »Avtonomna orožja bodo jutri postala kalašnikovi.«

Če se zdi, da je na tem področju konsenz strokovnjakov precej širok, je pri vprašanju splošne nevarnosti umetne inteligence za obstoj človeštva to precej drugače. Strokovnjakov za umetno inteligenco, ki bi takšne scenarije jemali resno, je malo. Kot na večini drugih področij znanosti se zdi, da se nove tehnologije najmanj bojijo tisti, ki jo najbolje razumejo.

Po mnenju dr. Marko Grobelnika iz Laboratorija za umetno inteligenco na Institutu Jožef Stefan je v razpravi, ki jo je sprožil Hawking, »precej kvantanja, zares pa se ni spremenilo nič«. Računalniki so že dolgo časa boljši od ljudi na nekaterih specifičnih področjih, na primer računanju in igranju šaha, na številnih področjih osnovne človeške inteligence pa so še povsem nebogljeni. »Računalnik nima možnosti, da bi razumel otroško knjigico, ki jo razume petletni otrok,« pravi Grobelnik. »Ne vidi, kaj je zares na slikah, komajda sliši, ne vonja, ne razmišlja in ne počne še vrste stvari, ki so običajne za človeka.« Poskusi, da bi računalnik razumel svet okoli sebe, so po njegovih besedah ostali na ravni 80. ali 90. let prejšnjega stoletja. Večji napredek se je zgodil na področju enostavne obdelave velikih količin podatkov, ki je možna zaradi brutalne moči računalnikov. »Gre bolj za kvantiteto kot kvaliteto. Nove tehnologije imajo zveneča imena in obljubljajo veliko, rezultati so pogosto impresivni, vendar ne zaradi globine rešitev, temveč bolj zaradi razpoložljivosti podatkov in razvoja računalniških zmogljivosti.«

O tem, da bodo računalniki zavzeli svet, po njegovem mnenju lahko razmišljajo le ljudje, ki zadeve ne razumejo ali pa se gredo poceni populizem. Kar pa seveda ne pomeni, da ob misli na potencialne nevarnosti lahko zgolj zamahnemo z roko. »Umetna inteligenca vsekakor ni kriva in nevarna sama zase, sinergije raznih delov tehnologije pa omogočajo rešitve, ki so lahko v korist ali v škodo človeštvu.«

Tudi vodji laboratorija za umetno inteligenco na ljubljanski fakulteti za računalništvo in informatiko dr. Ivanu Bratku se zdijo razmišljanja o superinteligenci, tehnološki singularnosti in koncu človeštva neresna. Povsem realna pa se mu zdi možnost, da bi umetna inteligenca prevzela (politično) oblast. Tej možnosti je v začetku junija posvetil celo predavanje na Slovenski akademiji znanosti in umetnosti. Zaradi vse večje količine osebnih podatkov, ki jih puščamo na internetu in se vedno bolj avtomatizirano obdelujejo in vrednotijo, bi namreč lahko po njegovem mnenju internet in umetna inteligenca privedla do konca demokracije, ko bi bila ta tehnologija zlorabljena za ugotavljanje in izrabljanje političnih preferenc in manipulacijo vsakega potencialnega volivca posebej.

Omemba nevarnosti umetne inteligence je danes prej popkulturna referenca kot resno izražanje skrbi.

S tega vidika se moramo bolj kot računalnikov bati njihovih današnjih gospodarjev. Največji nosilci razvoja umetne inteligence, kot so Google, Facebook in Apple, so hkrati tudi gospodarji naših osebnih podatkov in katalizatorji naših odločitev, ki jim precej slepo zaupamo. Odvisni smo od njihove tehnologije in odvisnost se bo le povečevala.

Nekako pa ljudje že danes postajamo vse večji sužnji svoje tehnologije. Do neke mere se že uresničuje vizija, ki jo je v znamenitem eseju v reviji Wired z naslovom ‘Zakaj nas prihodnost ne potrebuje’ že leta 2000 zapisal ameriški računalniški strokovnjak Bill Joy, in sicer da se utegne človeštvo zlahka spraviti v položaj, v katerem bo tako odvisno od strojev, da nam ne bi preostalo drugega kot sprejemati njihove odločitve. »S tem, ko družba in njeni problemi postajajo vse bolj zapleteni, stroji pa vse bolj inteligentni, bodo ljudje strojem prepustili vse več odločitev, preprosto zato, ker bodo njihove odločitve prinašale boljše rezultate od človeških odločitev.« Ali bodo vse skupaj nadzorovali stroji sami ali pa bo nadzor ohranila peščica najbogatejše elite, je pravzaprav vseeno.