Obljuba pogube

Umetna inteligenca je že tu in bo med nami tudi ostala – pa čeprav od vsepovsod slišimo glasne krike, ki opozarjajo, da človeštvo nanjo še ni pripravljeno. Upravičeno zaskrbljeni uradniki jo lahko skušajo na vse pretege preprečevati in omejevati, kot je to na primer s prepovedjo rabe razvpitega pogovornega robota ChatGPT pred nedavnim storila italijanska vlada, a ambiciozni tehnološki velikani bodo še naprej vztrajno gradili in nadgrajevali dobičkonosne algoritme, ki napredujejo s tolikšno hitrostjo, da je njihov razvoj skorajda nemogoče dohajati – in to ne le slehernikom, temveč tudi njim samim.

Futuristi iz Silicijeve doline napovedujejo, da bo umetna inteligenca popolnoma preoblikovala temelje delovanja sveta, vprašanje za milijardo dolarjev pa je, ali bo to sprememba na bolje ali na slabše. Ravno tisti, ki dirigirajo razvoj te nepredvidljive tehnologije in vztrajno pridigajo o njenem bajnem potencialu – od Sama Altmana (OpenAI) prek Elona Muska do Sundarja Pichaia (Google) – so hkrati »doomerji«, ki nenehno opozarjajo, da bo umetna inteligenca morda pogubna za človeštvo.

Prvi mož razvoja umetne inteligence Sam Altman, izvršni direktor podjetja OpenAI, glavne gonilne sile razvoja tako imenovane generativne umetne inteligence, ki je ustvarila denimo razvpitega pogovornega robota ChatGPT – ta je med nepoznavalci postal sopomenka za umetno inteligenco – priznava, da ga »umetna inteligenca malce plaši«. Opozarja, da je lahko ta tehnologija, ko se znajde v rokah »avtoritarnih režimov«, med drugim nevarno orožje za širjenje dezinformacij, za izvajanje kibernetskih napadov in rušenje temeljev demokracije: generativna umetna inteligenca bo sposobna ustvarjati prepričljive propagandne vsebine, napredni algoritmi pa jih bodo pretkano ponujali pravemu občinstvu in vplivali denimo na izide volitev. Farme trolov, ki so pred petimi leti, v času predsedniške kampanje v ZDA, družabna omrežja preplavile z lažnimi novicami, ne bodo več potrebne. Delo bodo namesto njih opravile farme algoritmov. »Umetna inteligenca lahko potencialno požre celotno človeško kulturo. Vse, kar smo ustvarili v tisočletjih, bo prebavila in začela bruhati poplavo novih kulturnih artefaktov,« so za New York Times zapisali trije vodilni strokovnjaki za etična vprašanja, povezana z novimi tehnologijami, med njimi tudi sloviti izraelski zgodovinar Yuval Noah Harari. Dodali so, da ti »kulturni artefakti« ne bodo le »šolski eseji, temveč tudi politični govori, ideološki manifesti, svete knjige za nove verske ločine«, in mračno misel zaključili: »Do leta 2028 predsedniške tekme v ZDA morda ne bodo več vodili ljudje.«

Sundar Pichai, prvi mož podjetja Google, je z nedavnim intervjujem za CBS dvignil precej prahu, ko je rekel, da bo imela »umetna inteligenca na človeštvo večji vpliv kot iznajdba ognja in elektrike«. Prepričan je, da bo ta tehnologija »nekega dne veliko zmogljivejša od vsega, kar smo kdaj videli«. A tudi on ni odporen proti strahovom, ki prežemajo črnoglede skeptike – pravzaprav mu, kot pravi, »ne pustijo spati«. »Tudi ogenj lahko ubija,« je rekel. Zdaj glasno poziva h globalnim protokolom za nadzor nad razvojem umetne inteligence, podobnim mednarodnim pogodbam, ki urejajo rabo jedrskega orožja.

Sam Altman, prvi mož razvoja umetne inteligence, opozarja, da je lahko ta tehnologija, ko se znajde v rokah »avtoritarnih režimov«, med drugim nevarno orožje za širjenje dezinformacij, za izvajanje kibernetskih napadov in rušenje temeljev demokracije.

Precej zastrašujoče se zdi, da pred potencialno škodljivimi, po nekaterih napovedih celo apokaliptičnimi posledicami novih tehnologij svarijo tudi tisti, ki jih lastnoročno razvijajo in jih potemtakem razumejo veliko bolje od laikov, katerih dojemanje umetne inteligence je navadno dokaj abstraktno in pogosto zamegljeno z znanstvenofantastičnimi predstavami o zlobnih terminatorjih, ki bodo zasužnjili svoje stvarnike. Ugotovitve na podlagi lanske ankete, pri kateri je sodelovalo dobrih 700 strokovnjakov, ki raziskujejo na področju umetne inteligence, namigujejo, da bi morala jezna drhal z baklami in vilami v rokah kolektivno stopiti na ulice Silicijeve doline in za vselej pokopati superračunalnike. Kar polovica vprašanih namreč verjame v vsaj desetodstotno možnost, da bo človeštvo izumrlo zaradi nesposobnosti obvladovanja umetne inteligence.

Izjemno črnogled je tudi Geoffrey Hinton, tako imenovani »boter umetne inteligence«, ki je pred nedavnim zapustil podjetje Google, da bi lahko brez omejitev spregovoril o nevarnosti tehnologije, ki jo je pomagal ustvariti. 75-letni znanstvenik, ki se z umetno inteligenco ukvarja že od zgodnjih sedemdesetih let prejšnjega stoletja, je namreč pred dobrim desetletjem (skupaj z dvema študentoma) razvil temelje nevronskih mrež, ki danes poganjajo sisteme generativne umetne inteligence, zdaj pa pravi, da obžaluje svoje življenjsko delo. Hintona ne skrbita zgolj množična izguba delovnih mest in potencialna poplava prepričljivih lažnih vsebin, ki ju prinaša nenadzorovana bitka v razvoju čedalje naprednejših sistemov umetne inteligence, niti ga ne skrbi zgolj dejstvo, da lahko umetna inteligenca »avtoritarnim vladam pomaga pri uničevanju resnice in manipuliranju z volitvami«, kot je povedal za The Guardian. Ne, njegovi strahovi so mnogo usodnejši: pravi, da scenarij, v katerem ti sistemi prekašajo človeške možgane, ni več stvar daljne prihodnosti, kot je bil prepričan do nedavnega, poudarja pa, da to za človeštvo predstavlja »eksistenčno tveganje«. »Ne poznam primera, v katerem bi manj inteligentne stvari nadzorovale bolj inteligentne stvari, zato nisem ravno optimističen«, je dodal.

Inštitut Future of Life (slo. Prihodnost življenja, op. p.) je prejšnji mesec objavil poziv k začasni ustavitvi razvoja sistemov umetne inteligence, ki so zmogljivejši od trenutnega prvaka GPT4. Med to ustavitvijo, ki bi morala po mnenju piscev poziva trajati vsaj pol leta, naj bi odločevalci in stroka vzpostavili mehanizme za nadzor in odgovorno rabo umetne inteligence. Podpisalo ga je malo morje strokovnjakov, ki so prepričani, da napredni algoritmi uhajajo izpod nadzora. »Laboratoriji, ki razvijajo umetno inteligenco, so ujeti v nenadzorovano tekmo za uvajanje čedalje močnejših digitalnih umov, ki je ne more nihče – niti njihovi ustvarjalci – razumeti, predvideti ali zanesljivo nadzorovati,« je zapisano v dokumentu, pri nastanku katerega so med drugimi sodelovali številni inženirji iz vodilnih tehnoloških podjetij, kot so DeepMind, Google, Meta, Amazon in Microsoft, podpisali pa so ga tudi Steve Wozniak, soustanovitelj korporacije Apple, Emad Mostaque, ustanovitelj vodilnega evropskega laboratorija za UI Stability AI, in celo Elon Musk, prvi mož Tesle, ki je soustanovil zloglasno podjetje OpenAI in ga v zgodnjih obdobjih, ko je bilo še nepridobitno, napajal z radodarnimi naložbami.

Zakaj nas direktorji, kot so Musk, Altman in Pichai, vztrajno opozarjajo na nevarnost tehnologije, ki jo razvijajo in tržijo? Odgovor je dokaj preprost: obet pogube pomeni tudi obet neverjetne moči umetne inteligence. Strah je postal trženjsko orodje.

Musk vztrajno opozarja, da nas bo »umetna inteligenca zadela kot asteroid«, da ima »potencial za uničenje civilizacije«, da »smo na poti do UI-distopije« in podobno. Nekaj tednov za tem, ko je podpisal poziv inštituta Future of Life, pa je napovedal ustanovitev svojega podjetja za razvoj umetne inteligence, imenovanega X.AI. V približno istem času je napovedal razvoj lastnega pogovornega robota TruthGPT, ki naj bi bil tekmec robota ChatGPT. Velikopotezno trdi, da naj bi bilo poslanstvo te umetne inteligence »iskanje resnice in razumevanje narave vesolja«. Medtem ko je podpisoval omenjeno pismo, so Teslini inženirji naprej razvijali sisteme umetne inteligence, ki bodo nekoč poganjali samovozeče avtomobile.

Skratka, precej licemersko in sumljivo se zdi, da nas pred apokaliptično nevarnostjo umetne inteligence nenehno svarijo ravno tisti tehnološki kapitalisti, ki vztrajno prilivajo olje na ogenj. Pri vsem skupaj se moramo vprašati, zakaj nas direktorji, kot so Musk, Altman in Pichai, ves čas opozarjajo na nevarnost tehnologije, ki jo razvijajo in tržijo. Odgovor je dokaj preprost: obljuba pogube pomeni tudi obljubo neverjetne moči umetne inteligence. Strah je postal trženjsko orodje.

Kot je izjemno zgovorno zapisal Brian Merchant, kolumnist LA Timesa: »Strašenje kupcev ni nikakršna skrb, če je to, kar prodajaš, strašljiva moč, ki jo napoveduje tvoja storitev.« Dodal je, da je »popolnoma upravičeno, da se bojite moči novih tehnologij, a vedite le, da si podjetja, kot je OpenAI, želijo, da bi vas bilo strah«.

Tehnofobija ali upravičeni strah?

S tem ko nam tehnološki velikani z apokaliptičnimi napovedmi naganjajo strah v kosti, v razvoj umetne inteligence polagajo (pre)velike upe, zaradi katerih se je Silicijeva dolina (ponovno) spremenila v prizorišče zlate mrzlice 21. stoletja. Kako tanka pa je pravzaprav meja med upravičenim strahom pred umetno inteligenco in umetno ustvarjeno tehnofobijo, torej nerazumnim strahom pred novimi tehnologijami?

Marko Robnik Šikonja, profesor na Fakulteti za računalništvo in informatiko Univerze v Ljubljani, ki se pri raziskovalnem delu ukvarja z umetno inteligenco in strojnim učenjem, v pogovoru za Mladino pravi, da smo se znašli v »poplavi popolnoma znanstvenofantastičnih obljub o neverjetnih zmožnostih teh velikih modelov, resničnost pa še zdaleč ni tam«. Pri tem opozarja, da so za to večinoma odgovorna vodilna podjetja, ki sodelujejo pri razvoju umetne inteligence, saj »želijo s pretiravanjem navdušiti javnost in vlagatelje«.

Dvome nekaterih spremlja tudi precej cinizma. Zgovoren je denimo odlomek iz porogljivega bentenja ameriškega komika Adama Conoverja, ki je prepričan, da je ta strah le »fantazija ’tech-bro’ velikanov, ki je zasnovana zato, da nas odvrne od resničnega tveganja umetne inteligence«. Prepoznava ga v tem, da »kup butastih podjetij laže, kaj vse zmore njihova napol delujoča tehnologija, ker nas hočejo pretentati, da bi uporabljali slabše različice stvari, ki jih že imamo«.

Jonas Miklavčič, filozof, ki se kot mladi raziskovalec na Teološki fakulteti v Ljubljani ukvarja z etičnimi vprašanji, povezanimi z umetno inteligenco, je prepričan, da »meja med znanstvenofantastičnimi predstavami in dejanskimi aktualnimi problemi gotovo obstaja«. Meni tudi, da se »čedalje več ljudi zaveda, da so sistemi UI predvsem zelo zmogljivi računalniški programi in ne avtonomni roboti z zavestjo, kot jih pogosto predstavlja Hollywood«. Težavo prepoznava predvsem v naglosti razvoja, zaradi katere vedno težje jasno lociramo mesto, kjer ta meja je. »Še pred nekaj meseci smo govorili o splošni umetni inteligenci (AGI) kot o ideji, za katero si ne znamo predstavljati, kako bi jo uresničili, danes pa programi, kot je ChatGPT, že jasno nakazujejo, kako bi lahko bila dosežena.«

Ko je Sam Altman v nedavnem intervjuju razmišljal o tako imenovani umetni splošni inteligenci (angleška kratica zanjo je AGI), (za zdaj hipotetični) superinteligentni digitalni entiteti, sposobni generiranja lastnih znanstvenih odkritij in opravljanja kakršnegakoli intelektualnega in ustvarjalnega dela, ki ga zmore opravljati človek, je v apokaliptičnem tonu rekel, da bo ta »v najslabšem primeru ugasnila luči za vse nas«. Miklavčič pa je prepričan, da danes med tipične »prenapihnjene« težave sodijo ravno zamisli o tem, da bi »stroji nenadoma povsem ušli izpod človeškega nadzora do stanja nepovratnosti ali se morda celo človeku namenoma postavili po robu, če bi imeli zavest«.

Noam Chomsky meni, da sistemi umetne inteligence niso zmožni globljega znanja in razumevanja, kakršno poganja človeške miselne procese, saj so obtičali v predčloveški ali nečloveški fazi kognitivne evolucije.

Ko govorimo o praznih obljubah daljnosežnosti umetne inteligence – no, lahko vsaj držimo pesti, da so res prazne – se moramo za začetek spotakniti že ob njeno veličastno poimenovanje. Benjamin Fele, mladi raziskovalec na Institutu Jožef Stefan in doktorski študent na Fakulteti za računalništvo in informatiko v Ljubljani, je v nedavnem pogovoru za Mladino povedal, da se načelno izogiba izrazu ’umetna inteligenca’, saj je ta zavajajoč. Pravi, da je besedna zveza v splošnem uporabljena kot trženjski izraz, ki prispeva k mistifikaciji in nerazumevanju tega, kaj ti algoritmi sploh počnejo. Prepričan je, da obljublja nekaj – inteligenco – »kar je zelo površinska karakterizacija algoritmov, ki so uporabljeni v praksi«.

Tudi Jonas Miklavčič se strinja, da pompozno poimenovanje povečuje morebitne napačne predstave, na katere namiguje izraz ’inteligenca’. Pri tem se sklicuje na Jerryja Kaplana, pionirskega strokovnjaka za umetno inteligenco, ki »duhovito pravi, da če bi ob izumu letal tem novim stvarem namesto ’letala’ rekli ’jeklene ptice’, bi se še danes filozofi zbirali na konferencah in razpravljali, ali bodo nemara ’jeklene ptice’ ušle izpod človeškega nadzora, same začele gnezditi na strehah nebotičnikov in morda celo hranile mladiče z ljudmi«, razloži Miklavčič in doda: »Sporočilo je jasno.«

O revolucionarni moči umetne inteligence dvomijo tudi nekateri sloviti intelektualci, denimo Noam Chomsky, ki je ChatGPT in njemu podobne programe v nedavni kolumni za New York Times opisal kot »okorne statistične mehanizme za prepoznavanje vzorcev, ki na podlagi stotin terabajtov podatkov ekstrapolirajo najverjetnejše odgovore«. Ko jih primerja s človeškim umom, ugotavlja, da je ta presenetljivo učinkovit in eleganten sistem, ki operira z majhnimi količinami informacij in – drugače od umetne inteligence – »ne teži h grobemu sklepanju o korelacijah med podatki, temveč k ustvarjanju razlag«. Meni, da sistemi umetne inteligence niso zmožni globljega znanja in razumevanja, kakršno poganja človeške miselne procese, saj so »obtičali v predčloveški ali nečloveški fazi kognitivne evolucije«.

Bolj lažno od lažnih novic

Resnično ne mine dan, ne da bi medijsko krajino preplavile novice o odkritjih in izumih, ki bi se še pred nekaj leti zdeli zgolj plod bujne domišljije avtorjev znanstvene fantastike, skorajda vsakič pa se pri napredku pojavi nov niz etičnih vprašanj. »Naglost razvoja umetne inteligence je tolikšna, da ji etična in pravna refleksija ne uspe slediti dovolj hitro, da bi vse morebitne nevarne posledice rabe teh sistemov lahko še pravočasno predvideli,« v pogovoru za Mladino pojasni Jonas Miklavčič. Slikarski roboti, kakršna sta Midjourney in DALL-E, ki iz besednih ukazov ustvarjajo slike, so še pred nekaj meseci generirali abstraktne in precej groteskne podobe, danes so zmožni ustvarjanja skorajda fotorealističnih podob, ki o svoji pristnosti prepričajo celo najbolj izurjene oči. Spomnimo se denimo hiperrealistične podobe papeža, odetega v frajersko belo bundo, ki se je prejšnji mesec po spletu (predvsem v obliki spletnih memov) razširila kot požar, saj je ogromno ljudi mislilo, da gre za pristno fotografijo. Javnost je bila nemalo presenečena, ko je izvedela, da papež nima novega trendovskega stilista, temveč jo je za nos potegnil računalniški program.

Se spomnite, kako je septembra na natečaju umetniškega sejma v Koloradu s tekmeci pometla podoba, ustvarjena z računalniškim programom? Že ta pozornost zbujajoči fiasko je sprožil silovit val zgražanja – avtorja so poraženi tekmeci in širša stroka seveda obtožili goljufanja, a govorimo o natečaju za najboljšo digitalno umetnino. Zdaj se je to, če verjamete ali ne, zgodilo s fotografijo: pred nekaj tedni je ogromno prahu dvignil nemški umetnik Boris Eldagsen, ki je na fotografskem natečaju Sony World Photography Awards prvo mesto osvojil z lažno fotografijo, ustvarjeno s programom DALL-E 2. Nagrado je nemudoma zavrnil, priznal, da fotografija ni pristna, in v zagovor povedal, da gre za potegavščino, s katero želi začeti pomembno razpravo o tem, »ali je fotografski dežnik dovolj velik, da podse sprejme umetnost, ustvarjeno z umetno inteligenco, in ali bi bila to napaka«.

Moč umetne inteligence, da ustvarja lažne, a zelo prepričljive podobe, je etično sporna iz več razlogov. Pri tem se postavlja denimo vprašanje avtorskih pravic: ker generatorji podob ustvarjajo na podlagi slikovnih motivov, ki jih je ustvaril človek, njihove izdelke marsikdo prepoznava kot visokotehnološko obliko plagiatorstva. Hkrati je ta tehnologija nevarna, ker je lahko učinkovita podpora lažnim novicam. Računalniški programi, ki bodo besedne ukaze spreminjali v prepričljive videoposnetke, so tako rekoč za vogalom. Če slika pove več kot tisoč besed, videoposnetek pove več kot tisoč slik: generativna umetna inteligenca bo zabrisala mejo med resničnostjo in fikcijo in nas popeljala na novo raven v razvoju lažnih novic. Takšna orodja imajo resnično velik potencial, da v svet, že tako preplavljen z dezinformacijami, razširijo še več laži, ki bodo čedalje bolj prepričljive.

Tristo milijonov ogroženih delovnih mest

Doslej smo govorili predvsem o etičnih vprašanjih, povezanih z generativno umetno inteligenco, torej s programi, ki na naš ukaz ustvarjajo različno vsebino, pa naj bodo to besedila, kakršna pišejo pogovorni roboti, kot je ChatGPT, ali podobe, kakršne ustvarjajo robotski slikarji, kot sta Midjourney in DALL-E. Vendar je umetna inteligenca veliko več kot le to, zaradi tega pa je precej širša tudi paleta etičnih vprašanj, ki spremljajo njen razvoj.

Jonas Miklavčič v doktorski nalogi raziskuje tako imenovani problem črne škatle. Gre za to, da so sistemi umetne inteligence tako noro kompleksni, da človek, tudi največji strokovnjak, »enostavno ne more dobro razumeti, kako delujejo«, pravi in nadaljuje: »Vpogleda v to, zakaj je sistem v nekem trenutku sprejel prav to odločitev in ne kake druge, nimajo niti programerji, ki so ga oblikovali. Težava je namreč v tem, da se sistemi učijo naloge opravljati sami.« Opozarja, da tudi »programerji podjetja OpenAI ne morejo pojasniti, zakaj je ChatGPT na našo željo napisal prav tisto pesem, ki jo je. To ima lahko veliko resnih etičnih posledic.«

Nadaljnje izzive vidi denimo na področju rabe algoritmov na spletu, »ki s svojim delovanjem pomenijo izziv za človekovo avtonomijo in demokratične procese«, kot pravi. »Spomnimo se afere Facebook, ko je nenadoma postalo jasno, da algoritmi naše osebne podatke pogosto uporabljajo proti nam samim,« doda. Etična vprašanja prepoznava v »algoritemskih sistemih odločanja, ki se odločajo na pomembnih družbenih področjih, kot so medicina, nadzor in vojska«, prepoznava pa jih seveda tudi pri zaposlovanju. »Kako se bo naša družba odzvala na izzive, ki se pojavljajo z avtomatizacijo delovnih mest?« se sprašuje. Pri tem je treba omeniti nedavno poročilo ameriške velebanke Goldman Sachs, ki predvideva, da bo umetna inteligenca v prihodnjih nekaj letih nadomestila kar 300 milijonov zaposlenih; napoveduje, da bo ob službo celo četrtina prebivalcev Evrope in Združenih držav Amerike.

Katera poklicna področja so pravzaprav ogrožena? Katerih človeških veščin računalniku ne bo uspelo nikoli osvojiti oziroma v njih ne bo mogel prekositi človeka? »Prvo pomembno vprašanje je, na katerih področjih bodo sistemi umetne inteligence dosegli človeške zmogljivosti ali jih prekašali, drugo pa, ali bomo na vseh teh področjih umetni inteligenci tudi dovolili, da ljudi popolnoma zamenja,« pravi Miklavčič. Mladi filozof meni, da bodo na udaru predvsem storitve, pri katerih je delo »razmeroma repetitivno, jasno določeno in z minimalnimi odstopanji«. Kot primere navede na primer receptorstvo, računovodstvo, pomoč uporabnikom na spletu in prevajalstvo.

Meni, da bodo težko izpodrinjena področja, »na katerih je za opravljanje dela ključno prav to, da ga opravlja človek, na primer šport in umetnost«. O tem, ali je strah, da bo umetna inteligenca v ustvarjalnih poklicih izpodrinila človeško roko, upravičen, bi lahko razpravljali vsaj do pojutrišnjem. O tem pomembnem vprašanju lahko več preberete v članku Umetn(išk)a inteligenca, ki je bil v Mladini objavljen septembra, v njem pa so o tem vprašanju razglabljali tudi nekateri pomembni slovenski umetniki, ki pri ustvarjanju pogosto posegajo po umetni inteligenci. Čeprav so se skorajda soglasno strinjali, da je umetna inteligenca v umetnikovih rokah le orodje, podobno čopiču in platnu, in da je »umetnost fenomen človeka, ne pa izkušnja računalniškega sistema«, kot se je izrazil umetnik Tadej Vindiš, dilema ostaja – še posebej zaradi eksponentnega napredka generativne umetne inteligence od tedaj do danes.

Jonas Miklavčič je prepričan, da bo umetna inteligenca človeško delovno silo najkasneje nadomestila na področjih, »kjer bi človeka želeli ohranjati zaradi njegove zmožnosti empatije in vzpostavljanja medosebnih odnosov, kjer so tveganja lahko prevelika, denimo v psihiatriji in duhovništvu«. Treba pa je omeniti pogovornega robota Replika, ki so ga sprva tržili kot virtualnega prijatelja, pozneje pa se je samokvalificiral v terapevta: med pandemijo je pridobil naklonjenost milijonov uporabnikov, ki so zaradi duševnih stisk, povezanih s samoto in tesnobo v izolaciji, potrebovali terapevtsko pomoč, četudi v obliki hladnega robota. V tem, da se zaradi osamljenosti odločamo za klepetanje s programsko opremo, ni težko prepoznati skrb zbujajočih simptomov sodobne družbe.

POVEZANI ČLANKI:

• Vseprisotnost umetne inteligence
• »Ko je pandorina skrinjica enkrat odprta …«