Prazne obljube

Tako rekoč ne mine dan, da medijske krajine ne bi krasile navdušene napovedi, kako bo umetna inteligenca za vselej spremenila svet. »Zgodili se bodo pomembni premiki. Poti nazaj ni več,« je v predzadnji Sobotni prilogi Dela napovedal Jure Leskovec, profesor računalništva na Stanfordovi univerzi. »Superinteligenca trka na naša vrata. V nekaj letih se bo naše življenje radikalno izboljšalo,« je v Delovi rubriki Gostujoče pero zapisal Matjaž Gams, raziskovalec umetne inteligence na Institutu Jožef Stefan. In dodal še nekaj optimističnih misli slovitega futurologa Raya Kurzweila, da bomo z umetno inteligenco »postali pametnejši, bolj vitalni, fizično privlačnejši, bolj duhoviti in bolj poduhovljeni«. A ker tovrstne napovedi dan za dnem odmevajo že dobri dve leti, vse od nenadnega vzpona slovitega klepetalnega robota ChatGPT, za zdaj pa se, roko na srce, za dobršen del ljudi ni spremenilo prav veliko, številni dvomljivci opozarjajo, da od umetne inteligence pričakujemo preveč. Svarijo, da se nadrealistične napovedi, kako bo umetna inteligenca čudežno avtomatizirala suhoparno delo in rešila vse najhujše težave, od zdravstvenih prek družbenih do okoljskih, uklanjajo (samo)promocijskim manifestom tehnoloških velikanov, ki z velikopoteznimi, a praznimi obljubami tentajo javnost in snubijo vlagatelje.

»Umetna inteligenca bo imela na človeštvo večji vpliv kot iznajdba ognja in elektrike,« je napovedal Sundar Pichai, prvi mož Googla. »Modeli umetne inteligence bodo kmalu po letu 2027 na skoraj vseh področjih presegli človeške zmogljivosti,« je v nedavnem intervjuju za Wall Street Journal suvereno zatrdil Dario Amodei, izvršni direktor podjetja Anthropic. Sam Altman, izvršni direktor podjetja OpenAI in maskota panoge razvoja umetne inteligence, vztrajno napoveduje, da bo umetna inteligenca korenito izboljšala življenje ljudi, omogočila brezmejno blaginjo, nas odrešila vsega dolgočasnega dela, odpravila podnebno krizo, pozdravila raka, človeštvu pomagala v vesolju vzpostaviti kolonije in še marsikaj – naštevanje Altmanovih domišljijskih floskul o čudežnih zmogljivostih umetne inteligence bi zlahka zapolnilo preostanek tega članka. Verjetno ste opazili, da ti (lažni) preroki iz Silicijeve doline o neverjetnih koristih umetne inteligence vselej govorijo v prihodnjiku. »Namesto razmišljanja, kaj vse bo umetna inteligenca naredila v prihodnosti, se morate začeti spraševati, kaj lahko naredi danes. Odgovor je: ’Ne prav veliko,’« je zapisal Ed Zitron, eden najpronicljivejših in najostrejših kritikov umetne inteligence. In dodal: »Tvegani kapital, ki obupano išče naslednji veliki rastoči trg, je podjetja, kot sta OpenAI in Anthropic, spodbudil h gradnji večjih modelov in prodajanju še večjih sanj.«

Preroki iz Silicijeve doline o neverjetnih koristih umetne inteligence vselej govorijo v prihodnjiku.

Generativna umetna inteligenca (za zdaj) še ni poskrbela za spremembe, ki jih vztrajno obljubljajo njeni stvaritelji, promotorji in navdušeni privrženci. Med najopaznejšimi posledicami rabe je za zdaj to, da so službena elektronska sporočila malce gostobesednejša, slovnično dokaj izpiljena in nekoliko hladnejša, saj ljudje pisanje teh množično prepuščajo programom, kakršen je ChatGPT. Spremembe so opazne tudi denimo v izobraževalnem sistemu, kjer šolski eseji in seminarske naloge pogosto nastajajo s ChatGPT in njemu podobnimi programi. A jezikovni modeli, čeprav so od prihoda novembra predlani nedvomno napredovali, še vedno niso dovolj zmogljivi, da bi se lahko nanje zares zanašali. Še zmeraj so nagnjeni k haluciniranju, torej izmišljanju lažnih dejstev, ki jih prodajajo kot prava, pri čemer pogosto trosijo popolne nesmisle. Po mnenju marsikaterega poznavalca so halucinacije nerešljiva in neizogibna težava. Jezikovni modeli pravzaprav ničesar ne razumejo, niso sposobni kritičnega mišljenja, temveč so usposobljeni zgolj za statistično predvidevanje, katera beseda sledi prejšnji v neki povedi, zato nimajo sposobnosti preverjanja resničnosti navedenih podatkov. Ker so takšni, so uporabni za izjemno ozek nabor nalog.

Mnenja o tem si sicer izrazito nasprotujejo. Boštjan Kožuh, poznavalec umetne inteligence in ustanovitelj svetovalnega podjetja AGI Institute, je v pogovoru za Mladino priznal, da »podjetja včasih pretiravajo glede pripravljenosti teh tehnologij za množično rabo – bodisi zato, da navdušijo vlagatelje, bodisi ker ne želijo priznati omejitev«. A hkrati je poudaril, da to ne pomeni, da gre zgolj za »hajp«: »Ključno je, da razumemo, kje umetna inteligenca prinaša dodano vrednost in kako jo smiselno vključiti v delovne procese.« Kot je prepričan, »dvom o generativni umetni inteligenci pogosto izhaja iz preveč antropocentričnega pogleda in površnega poznavanja«. Dodal je, da jo »ljudje primerjajo s človeškim umom in trdijo, da sistem ni ’resnično inteligenten’, če ne razmišlja ali ravna kot mi,« pri čemer je poudaril, da pri umetni inteligenci »ni bistveno to, ali se vede človeško, temveč to, kako jo lahko koristno uporabimo«. Rešitve, ki jih poganja umetna inteligenca – od naprednih iskalnikov, navigacije in pametnih naprav do pogovornih robotov – so po njegovih besedah že postale »nepogrešljiv del našega vsakdanjika. Tehnologije, ki so bile še pred nekaj leti znanstvena fantastika, zdaj jemljemo za samoumevne. A njihov vpliv sega veliko dlje – recimo na področje znanosti, kjer modeli umetne inteligence omogočajo dosežke, za katere bi sicer potrebovali tisočletja.«

Ohlapni pojem »umetna inteligenca« zajema izjemno široko polje različnih področij in uporabnost umetne inteligence v znanosti je seveda nezanemarljiva. Sanja Fidler, vodja oddelka za umetno inteligenco pri podjetju NVIDIA, je v predlanskem intervjuju za Mladino izrazila navdušenje nad napredkom pri razvoju tako imenovanega zvijanja beljakovin, ki ga je omogočil DeepMindov sistem AlphaFold2. »Ta dosežek bo zaznamoval skorajda vsa področja biologije; ima velik potencial za pospešitev razvoja novih zdravil,« je povedala. In res: raziskovalci, ki so razvili model AlphaFold, so dosegli veliko in so bili lani tudi ovenčani z Nobelovo nagrado za kemijo. Kot je z občudovanjem povedal Boštjan Kožuh, so »posledice tega dosežka izjemne: prinesel nam je nov vpogled v biologijo beljakovin in razvoj zdravil, hkrati pa omogočil, da vsaka raziskovalna skupina na svetu zdaj gradi na tem znanju in razvoj pripelje na povsem novo raven«. Spomnimo se denimo tudi dosežkov jezikoslovca in strokovnjaka za umetno inteligenco Gašperja Beguša, ki na Kalifornijski univerzi v Berkeleyju z jezikovnimi modeli raziskuje, kako med seboj komunicirajo kiti glavači. Njegove raziskave nam ne bodo pomagale razumeti le tega, kako se sporazumevajo kiti, kako delujejo nevronske mreže in veliki jezikovni modeli, temveč s tovrstnimi raziskavami išče tudi vzporednice in razlike med tem, kako se jezika učimo ljudje in kako umetna inteligenca. Skratka, takšnih in drugačnih znanstvenih odkritij, pri katerih različne aplikacije na različnih področjih umetne inteligence igrajo pomembno vlogo, je cela kopica, zato njene vloge pri znanstvenih dosežkih seveda ne moremo zanikati. Dejstvo pa je, da gre navadno za specifično rabo teh tehnologij, ki za slehernika ni pretirano zanimiva ali koristna. Običajni, vsakdanji uporabniki velikih jezikovnih modelov – paradnih konjev industrije umetne inteligence – si lahko s to tehnologijo, kot rečeno, za zdaj pomagajo predvsem pri napol avtomatiziranem pisanju službenih elektronskih sporočil in podpovprečnih šolskih esejev.

Temeljno vprašanje pri vsem skupaj je, ali je generativna umetna inteligenca res tako revolucionarno orodje, kot nam dopovedujejo tehnološki velikani iz Silicijeve doline in njihovi privrženci, ali pa gre predvsem za umetno ustvarjen in sila prenapihnjen »hajp«. Filip Dobranić, sociolog kulture, filozof, programer in soustanovitelj inštituta Danes je nov dan, je prepričan, da »ljudje, podjetja in institucije v zvezi z umetno inteligenco gojijo nerealna, zgrešena, predvsem pa nevarna pričakovanja. Kar si želijo podjetja (tudi tista iz Silicijeve doline), so možnosti za dobiček. Dokler hajp temu koristi, seveda z veseljem dodajajo polena na ogenj.« Sicer pa se strinja, da bo »orodje, ki zna napovedati najverjetnejšo naslednjo besedo, težko samo po sebi gonilo revolucije«.

Pretvarjaj se, dokler ti ne uspe

Vprašanje, ali gre pri poveličevanju zmogljivosti umetne inteligence za prazne obljube ali za uresničljive napovedi, je na voljo za različne interpretacije in neskončne razprave, dejstvo pa je, da panogi razvoja generativne umetne inteligence, ki jo napajajo milijardne naložbe, za zdaj nikakor ne uspe ustvariti dobička. Vsi veliki jezikovni modeli podjetij, kot so OpenAI, Anthropic, Google in Meta, na dolgi rok nikakor niso trajnostni ali vzdržni, saj imajo z njimi ogromno stroškov, dobička pa ne ustvarjajo. Leta 2024 je OpenAI pridelal dobrih pet milijard ameriških dolarjev izgube – pa čeprav je mesečna naročnina na najzmogljivejšo različico ChatGPT kar 200 ameriških dolarjev – Anthropic pa malo manj kot tri milijarde. »Če pustimo ob strani hajp, sta OpenAI in Anthropic izjemno dolgočasni podjetji za programsko opremo, ki ustvarjata nedobičkonosne in nezanesljive proizvode, povrhu pa so ti še nagnjeni k haluciniranju,« meni Ed Zitron. Prepričan je, da je ocenjena vrednost podjetij OpenAI in Anthropic popolnoma prenapihnjena. Podjetji nimata v lasti nobene edinstvene tehnologije, ki bi upravičila takšne vsote (Anthropic naj bi bil vreden 60 milijard dolarjev, OpenAI pa kar 150 milijard). Britanski kritik meni, da je vrednost podjetja OpenAI večidel povezana z zvezdniškim statusom Sama Altmana, »premetenega nakladača, ki si je kariero zgradil na tem, da je bil ob pravem času na pravem mestu, da je imel prave zveze in da je vedel, kako streči lahkovernim medijem brez hrbtenice ali poguma za dvom o njegovih domišljijskih floskulah«.

Jezikovni modeli ničesar ne razumejo, niso sposobni kritičnega mišljenja, temveč so usposobljeni zgolj za statistično predvidevanje, katera beseda sledi prejšnji v neki povedi. Ker so takšni, so uporabni za izjemno ozek nabor nalog.

James Ferguson, ustanovitelj makroekonomskega raziskovalnega podjetja MacroStrategy Partnership, je v nedavnem Bloombergovem podkastu povedal, da se »umetna inteligenca še vedno ni dokazala. Če umetni inteligenci ni mogoče zaupati, je po mojem mnenju popolnoma neuporabna.« Posvaril je, da so pretirane naložbe v umetno inteligenco »ustvarile balonček, utemeljen na načelu ’pretvarjaj se, dokler ti ne uspe’, to pa bi se lahko končalo katastrofalno«. Balončka ne napihujejo zgolj ekscesne naložbe in prazne obljube tehnoloških velikanov, temveč tudi vsesplošna težnja po nenehni rasti, ki bi lahko panogo potencialno uničila od znotraj. Balonček umetne inteligence je bil napihnjen na podlagi predpostavke, da velikih modelov preprosto ni mogoče zgraditi brez vlaganja astronomskih vsot. Presenetljivi prihod kitajskega modela DeepSeek, razvitega le z delčkom sredstev, ki poganjajo zahodnjaške modele, je suvereno dokazal, da je bila ta predpostavka hudo zmotna. »Bodimo odkriti: ta podjetja so zatavala v slepo ulico. Oba, OpenAI in Anthropic, mlahavo opletata s trditvijo, da je naslednja, zmogljivejša različica umetne inteligence za vogalom, da bi zbrala še več denarja, a po prihodu DeepSeeka se moram vprašati, v kaj investitorji sploh vlagajo,« je na blogu zapisal Ed Zitron.

Toda Boštjan Kožuh ne verjame, da bomo v bližnji prihodnosti priča »poku balona« na področju umetne inteligence. »Takšne napovedi navadno temeljijo na površnem razumevanju razvoja umetne inteligence in njenih dejanskih zmogljivosti,« je zatrdil. In dodal: »Že novembra 2024 so se v medijih pojavljale drzne trditve o domnevnem zastoju razvoja, a so nato sledili trije meseci izjemno intenzivnega napredka, ki je zaznamoval eno najdinamičnejših obdobij v zgodovini tehnologije.« Kožuh ne pričakuje zloma, temveč še več naložb in raziskav na področju umetne inteligence, »predvsem v ZDA, kjer si prizadevajo ohraniti vodilni položaj in želijo prvi doseči AGI ter globalno prevlado v panogi umetne inteligence«.

Vse in nič

Razvoj generativne umetne inteligence in velikih jezikovnih modelov, ki za zdaj ne zmorejo ustvariti dobička, je v očeh številnih dvomljivcev zataval v slepo ulico, glavni akterji v panogi, denimo Sam Altman, pa nam obljubljajo, da so jezikovni modeli šele začetek. Da je to le ogrevanje, da je naslednja faza v razvoju te tehnologije »umetna splošna inteligenca« oziroma AGI. Ta naj bi resnično spremenila pravila igre in vlagateljem končno povrnila astronomske vložke. Po optimističnih besedah tehnoloških velikanov naj bi bila tako rekoč za vogalom. Pa gre pri napovedih »umetne splošne inteligence«, superinteligence in podobnih digitalnih entitet za dejansko izvedljive domislice ali zgolj za plod bujne domišljije?

Definicija AGI oziroma »umetne splošne inteligence« je za zdaj odprta za različne razlage. Poenostavljeno rečeno naj bi šlo za (hipotetično) superinteligentno digitalno entiteto, sposobno generiranja lastnih znanstvenih odkritij in opravljanja kakršnegakoli intelektualnega in ustvarjalnega dela, ki ga zmore opravljati človek. Filip Dobranić je povedal, da »gre res za široko področje brez soglasja«. Poudaril je, da že pogled na Wikipedio ali v Stanfordovo enciklopedijo filozofije pokaže, da »AGI pomeni vse in nič«. »Definicija AGI je danes stvar interesov in ’politike’,« je zatrdil. »Kot primer naj spomnim, da imata Open AI in Microsoft sklenjen dogovor, da Microsoft izgubi dostop do tehnologij, ki jih proizvaja OpenAI, ko ta razvije AGI. Torej je podjetju OpenAI do tega, da čim prej razglasi, da je razvil AGI. Ne le to, kot pravijo govorice, sta se podjetji dogovorili za svojo definicijo AGI, po njej pa bosta menda potrdili, da sta razvili AGI, ko bosta razvili sistem, ki lahko proizvede najmanj 100 milijard dolarjev dobička. Ne zveni neverjetno, da bi se kaj takega dogovorili ti dve podjetji, je pa svojevrsten nesmisel meriti inteligenco s količino dobička, ki ga lahko lastnik ali lastnica ustvari.«

Panogi razvoja umetne inteligence za zdaj nikakor ne uspe ustvariti dobička. Leta 2024 je OpenAI pridelal dobrih pet milijard ameriških dolarjev izgube, Anthropic pa malo manj kot tri milijarde.

Po mnenju Boštjana Kožuha je AGI umetna inteligenca, ki bo dosegla raven vrhunskih človeških strokovnjakov na skoraj vseh področjih in bo znanje prenašala med domenami. »V primerjavi z današnjo ozko umetno inteligenco ne bo zgolj analizirala podatkov in ponavljala vzorcev, temveč bo sposobna ustvarjati povsem nove, inovativne rešitve,« je pojasnil. Nadalje je razložil, da bo »takšna raven inteligence radikalno spremenila trg dela in ekonomske modele, saj bo večino miselnih nalog vsaj delno avtomatizirala ter občutno povečala produktivnost.« Opozoril pa je tudi na skrb, da bo AGI zamajala temeljni ekonomski ustroj, zato ni v interesu vseh: »Organizacije in države, ki bodo znale izkoristiti njen potencial, bodo pridobile izrazito konkurenčno prednost, saj bo AGI pospešila razvoj medicine in drugih vej znanosti, optimizirala logistiko, trženje, proizvodnjo in druge procese ter preoblikovala izobraževalne in družbene sisteme, pa tudi vojsko in varnostne sisteme.«

Tudi Boštjan Kožuh je opazil, da so se v zadnjem času pojavili številni članki, ki trdijo, da se je razvoj umetne inteligence upočasnil. »A če pogledamo dejanske rezultate zadnjih mesecev, vidimo izjemne dosežke – pri osnovnih modelih in pri potrošniških rešitvah.« V tem prepoznava znake, da napredek proti AGI ni zastal in da ostaja temeljno poslanstvo večine vodilnih podjetij. »OpenAI, Google, Microsoft in drugi že vrsto let sistematično vlagajo v njen razvoj, pri čemer vsak nov mejnik razkriva zmogljivosti, ki so se še nedavno zdele nedosegljive.« Pravzaprav se, kot je opazil tudi sam, že pojavljajo mnenja, da smo nekatere vidike AGI že dosegli. »Težava je v tem, da enotne definicije AGI ni in da je ta včasih definirana tako, da ustreza trženjski retoriki. Na tej podlagi očitek, da je to zgolj trženjski ’buzzword’, ki se uporablja za zbiranje sredstev, ni povsem neutemeljen in nekatera podjetja izraz res izrabljajo za promocijo,« je povedal, sočasno pa poudaril, da »v ozadju potekajo resni raziskovalni projekti, ki prinašajo merljive rezultate, in v laboratorijih imamo že na voljo številne modele, ki bistveno presegajo zmogljivosti, kakršne so sicer na voljo javnosti«. Kot je še dodal, ni popolnoma jasno, kdaj bomo dosegli AGI, »a zdi se, da se je strokovna srenja zedinila, da bo to enkrat v prihodnjih treh do petih letih, morda še prej. Vsekakor se zdaj AGI zdi dosegljiva. Do prave AGI pa ne bomo prišli v enem skoku, temveč postopoma, na podlagi eksponentne rasti zmogljivosti in razvoja novih sposobnosti umetne inteligence.«

Filip Dobranić po drugi strani meni, da je splošna umetna inteligenca »kvečjemu prazni označevalec, ki ga lahko vsak napolni s pomenom, kot se mu v danem trenutku zdi najkoristneje«. Poudaril je, da to ni ne teoretski ne znanstveni termin, zato verjetno ostaja najbolj uporaben v trženjske in oglaševalske namene. »V računalništvu že desetletja obstaja šala, ki pravi, da je splošna umetna inteligenca (AGI) vedno oddaljena 20 let. Tako je bilo leta 1980, leta 2020 in tudi danes je oddaljena ’samo’ še največ 20 let,« je povedal. Sočasno je poudaril, da pri aktualnih vprašanjih o AGI predpostavljamo oziroma verjamemo, da ta bo in da bo kmalu – ne da bi za to ponudili utemeljitve. »Preden se sprašujemo, kaj to bo in kdaj to bo, je treba zagovornike povprašati, zakaj verjamejo, da bo,« je poudaril. »Najverjetneje se bo izkazalo, da za to vero nimajo prepričljivih argumentov.«

Zatrdil je, da je pomembno razmišljati tudi o namenu tovrstnih razprav o AGI: »Veliko energije in denarja gre v razprave o tem, da umetna inteligenca, ki bo tako pametna kot človek, pomeni eksistenčno nevarnost za človeštvo.« Pri tem je precej sumljivo, da nas pred apokaliptično nevarnostjo umetne inteligence nenehno svarijo ravno tisti tehnološki kapitalisti, ki to tehnologijo razvijajo in tržijo. Strah je njihovo trženjsko orodje: apokaliptične napovedi pomenijo tudi obljubo neverjetne moči umetne inteligence. A po Dobranićevih besedah »ni treba čakati na AGI, da bi govorili o čisto resničnih nevarnostih umetne inteligence, kot je recimo to, koliko energije porabijo tehnološki velikani, ali raba sistemov, ki so diskriminatorni in zelo zmotljivi«.