Komentar / Se bo prebudila?

Janko Lorenci

14. 4. 2023  |  Mladina 15  |  Kolumna

Umetna inteligenca (UI) je v silovitem zagonu. Tehnološke korporacije tekmujejo, katera bo ustvarila močnejši sistem, Chat GPT je že dva meseca po nastanku uporabljalo 100 milijonov ljudi in ta reč zna pisati odlične spise, spravi skupaj za silo rime, v hipu prevede dolga besedila, se razumno pogovarja z živim človekom. Marca letos se mu je pridružil GPT-4, še osupljivo zmogljivejši. Spodbudil je alarmantno javno pismo.

V njem med drugim piše: Ali naj dovolimo, da stroji preplavijo naše informacijske kanale s propagando in neresnicami? Ali naj avtomatiziramo vsa delovna mesta, tudi tista, ki nas izpolnjujejo? Ali naj razvijemo nečloveško inteligenco, ki bi nas lahko sčasoma presegla, prelisičila, naredila odvečne in nadomestila? Ali naj tvegamo izgubo nadzora nad svojo civilizacijo?

Podpisniki, med njimi Elon Musk in mnogi priznani ustvarjalci UI, pravijo, da je treba razvoj sistemov, močnejših od GPT-4, vsaj za pol leta ustaviti in opremiti z varnostnimi ukazi. Če Microsoft, Google in drugi proizvajalci UI tega ne bodo storili, naj ukrepa država.

Vsi odzivi niso tako ostri, a svaril glede UI je veliko. To ni nič novega – tehnološki napredek je vedno spremljalo vprašanje, ali človek še obvladuje svoje iznajdbe ali pa je postal hlapec lastnega strojnega parka. Pri UI je novo to, da je samoučeča se, zato nepredvidljiva in hkrati tako zmogljiva, da je ljudi v nekaterih miselnih in celo ustvarjalnih procesih, za katere smo verjeli, da nas delajo unikatne in popek stvarstva, dohitela ali celo prekosila. Zato zbuja vtis, da je subjekt, nekaj, kar ima zavest. To zbuja mešane občutke in tu le malo pomaga tolažba, da gre za človekov izdelek.

Možnosti uporabe umetne (generativne) inteligence so velikanske. A kot vsaka tehnologija je tudi UI dvorezna, obet in grožnja hkrati. Ta čas se zdi najnevarnejše to, da je že del orožarne posamičnih držav in predmet nove oboroževalne tekme zlasti med Ameriko in Kitajsko. Zlorabijo jo lahko tudi zločinske organizacije in teroristi, z njo se bodo še hitreje kot z internetom širile teorije zarote, dezinformacije, sovraštvo, duševne bolezni. Zmeda se bo povečala.

Najbrž se bo dramatično spremenil tudi svet dela. Stroji so znižali ceno dela fizičnih delavcev, UI pa bo posegla tudi v miselno zahtevnejše poklice – v administraciji, na primer, bo število delovnih mest po nekaterih ocenah skoraj prepolovila. Ogroža torej tudi srednji razred, ki mu grozi usoda proletariata. Z drugimi besedami: ker živimo v kapitalizmu, bo umetna inteligenca še povečala socialne razlike in profitni motiv napravila še bolj destruktiven. Znova se bo potrdilo, da težava ni tehnologija, ampak ureditev. In ob pomoči UI bodo bogati in vplivni postali še manj občutljivi za stiske in pritiske množic.

Motiv, ki je gnal podpisnike svarilnega pisma, pa ni socialen. V bistvu gre za strah, v kaj se lahko razvije UI. Deloma je sama po sebi nevarna že zdaj, saj sistemi, kot sta Chat GPT in GPT-4, včasih »halucinirajo« – dajejo popolnoma napačne odgovore, jih podpirajo z izmišljenimi citati itd. To se dogaja, pravijo poznavalci, ker »ustvarjalno« iščejo rešitve za naloge, za katere so programirani, pri tem pa nimajo vsajenih etičnih načel; tako se lahko zgodi, da te kak tak sistem nagovarja celo k samomoru.

Za zaprtimi vrati jih razvijajo tehnokorporacije, ki med seboj tekmujejo, ki jih splošni interes ne zanima in ne vlagajo v raziskave za zmanjšanje tveganj. Hkrati, pravi avtoriteta za UI Stuart Russell, nihče, niti tisti, ki sisteme ustvarjajo, ne ve dobro, kako v resnici delujejo. Torej tudi ne vedo, ali ima GPT-4 lastne, od človeka neodvisne cilje. Danes še ne zna sestaviti in izpeljati kompleksnih načrtov, toda razvoj je bliskovit in morda bo za to postal sposoben, svari Russell in mnogi insiderji v Googlu, Microsoftu, Open AI. Kako bomo potem nadzorovali nekaj, kar je mogočnejše od nas?

Tehnološki guru Jaron Lanier pravi: Zame je nevarnost v tem, da bomo z uporabo UI postali medsebojno nerazumljivi, ali če hočete, postali nori na način, da ne bomo delovali dovolj razumevajoče in v lastnem interesu, da bi preživeli; v bistvu bomo umrli zaradi norosti.

Učinkov takih svaril in tudi pisma za zdaj ni videti. Razvoj bi radi bolj regulirali v Uniji, ki pa je glede UI bosa, saj nove sisteme razvijajo predvsem ameriški tehnovelikani. Nasploh se zdi, da razvoja UI ni mogoče ustaviti. Deloma zaradi koristi, ki jih že prinaša, in obetov, ki jih vsebuje. Še bolj pa zaradi vpliva kapitala in medsebojnega tekmovanja tehnokorporacij in držav.

Z umetno inteligenco hočeš nočeš vstopamo v novo, neznano dobo. Neznano v dvojem. Prvič, ne vemo, kako in v kaj se bo razvila UI. Lahko nam prinese velike koristi, če verjamemo črnim napovedim, pa lahko preseže človekove duševne sposobnosti in se »prebudi« – dobi zavest in z njo samoohranitveni nagon, se iztrga vsakemu nadzoru in si nas podredi ali nas celo iztrebi. Druga neznanka je človek, nepredvidljiv enako kot UI. Ta je za zdaj še vedno samo tehnologija omejenih zmogljivosti in nič več. Kar pomeni, da je daleč najbolj odločilen dejavnik prihodnjega dogajanja še naprej človek. Od njega je odvisno, kaj bo prinesla njegova morda največja in hkrati najbolj kočljiva stvaritev.

Če primerjamo grožnjo UI z grožnjo podnebne krize, smo lahko pesimisti. Podnebna kriza je že tu, vse nas ogroža, pred njo svari vsa znanost, a človeštvo se raje bebasto vojskuje, namesto da bi »stopilo skupaj« in jo ustavilo. Umetna inteligenca pa je za zdaj zgolj hipotetična, abstraktna grožnja. Upajmo torej, da se ne bo prebudila. Če pa se že bo, molimo, da nas bo še potrebovala ali da bo dobrega srca.