Disfunkcionalna dvoživka

Sama Altmana, maskoto razvoja umetne inteligence, so prejšnji teden na veliko presenečenje javnosti in stroke odstavili s položaja direktorja podjetja OpenAI. A le začasno: po nekaj dneh kaotične korporativne drame, med katero je dobršen del zaposlenih v podjetju v podporo Altmanu protestno zagrozil z odstopom, se je vrnil na vodstveni položaj.

Vmes je upravni odbor menjal direktorje, kot bi bili spodnje perilo. Razlogi za korporativne menjave so zaviti v gosto tančico skrivnosti in za zdaj lahko o njih predvsem špekuliramo. Med bolj pozornost zbujajočimi, za senzacionalistične naslove primernimi teorijami je interni spor zaradi prelomnega dosežka pri razvoju skrivnostnega modela umetne inteligence, imenovanega Q*, ki menda zbuja hude etične pomisleke – prav tiste najhujše, ki se zdijo kot premise iz znanstvenofantastičnih franšiz, kakršni sta Terminator in Matrica. Najverjetnejša razlaga pa govori o nesoglasju med rivalskima poloma v podjetju OpenAI: prvi je usmerjen v raziskovanje, drugi v ustvarjanje dobička.

Dva obraza podjetja OpenAI

Pojasnilo članov upravnega odbora ob Altmanovi odstavitvi je bilo precej nejasno, dvoumno in sila ovinkarsko: očitali so mu, da ni bil »dosledno odkrit v komunikaciji z upravnim odborom«, ta pa naj bi bil zato izgubil »zaupanje v Altmanovo sposobnost za nadaljnje vodenje podjetja«. Dejanski razlogi za (spodletelo) zamenjavo, ki je dvignila obilo prahu, so ostali zamolčani, a marsikdo meni, da je najverjetneje šlo za nesoglasja med raziskovalnim in poslovnim delom podjetja. Razlogi za nedavni kaos v njem naj bi po tej teoriji tičali v njegovi nenavadni sestavi: OpenAI je hibrid med nepridobitno raziskovalno ustanovo, ki naj bi delovala v prid človeštva, in podjetjem, ki mora povrniti velikanske vložke, kriti vrtoglave stroške razvoja naprednih sistemov in navsezadnje tudi ustvarjati dobiček.

Po tej razlagi začetek zgodbe, ki je pripeljala do nedavnega kaosa v upravi, sega v samo genezo podjetja, ki so ga Altman, Elon Musk in drugi soustanovitelji pred osmimi leti zastavili kot nepridobitni raziskovalni laboratorij. Kot tak naj bi se OpenAI v kvazičlovekoljubnem duhu postavljal po robu kapitalistični logiki velikih tehnoloških podjetij s tem, da daje etičnim načelom (in napredku, koristnemu za človeka) prednost pred kopičenjem dobička. Izvorno poslanstvo podjetja naj bi torej bilo ustvarjanje modelov umetne inteligence, ki bi »koristili človeštvu v celoti – brez omejitev, ki jih prinaša potreba po ustvarjanju dobička«.

Zdi se, da je iz bitke kot zmagovalec izšel Sam Altman, ki se je na direktorski položaj vrnil po pičlih petih dneh izgnanstva, a pravzaprav je zmagal kapital. Končni izid drame je neizogibno »zmagoslavje korporativnih interesov nad skrbjo za prihodnost«.

Sociolog kulture in filozof Filip Dobranić, ki deluje v inštitutu Danes je nov dan, opaža, da nenavadna hibridna sestava podjetja v bistvu povzroča »zmedo, ki onemogoča, da bi OpenAI obravnavali kot nepridobitno organizacijo s človekoljubnim poslanstvom«, sočasno pa opozarja, da »to ni edino podjetje, ki trdi, da dela za dobrobit človeštva«. In doda: »Ampak če sodimo po drugih podjetjih, ki so govorila podobno, rezultat najverjetneje ne bo skladen s trženjem.«

Ko je Musk, ki je v OpenAI vložil 50 milijonov dolarjev, tri leta kasneje podjetje zapustil, je moral OpenAI posodobiti svojo sestavo in način delovanja, saj so stroški razvoja in vzdrževanja naprednih sistemov umetne inteligence zares astronomski. Ustanovil je pridobitno vejo in se preoblikoval v (disfunkcionalno) dvoživko z dokaj nezdružljivima poslanstvoma: nepridobitni del podjetja naj bi služil človeštvu, karkoli že to pomeni, pridobitni del pa delničarjem, v prvi vrsti korporaciji Microsoft, ki je v OpenAI leta 2018 vložila milijardo ameriških dolarjev. A to je bil šele začetek.

Ko je OpenAI konec lanskega leta javnosti predstavil ChatGPT, paradnega konja razvoja umetne inteligence, ki je nemudoma dvignil zares ogromno prahu in nedvoumno dokazal, da je umetna inteligenca neizogibna prihodnost tehnološke panoge, so v igro vstopile velikanske vsote. Microsoft je raziskovalcem podjetja omogočil dostop do svojega superračunalnika Azure, finančno injekcijo pa povečal na vrtoglavih 13 milijard dolarjev in tako postal lastnik 49 odstotkov delnic pridobitne veje podjetja OpenAI. Kljub temu ni dobil sedeža v upravnem odboru, a njegove milijarde seveda niso bile donacija, kot so optimistično in naivno predvidevali številni raziskovalci v podjetju; bile so naložba. Misel, da bi Microsoft v podjetje na lepe oči vložil tolikšen znesek, ne da bi si pri tem želel zagotoviti vodilni položaj v tehnološki panogi jutrišnjega dne, je preprosto sprta z logiko tržnega kapitalizma.

Zmagoslavje korporativnih interesov

Skratka, jedro celotne drame je bilo ideološko nestrinjanje med razvojem umetne inteligence, varnim za človeštvo, in komercialnimi interesi, ki se na etične pomisleke požvižgajo. Oziroma z besedami iz časnika The New York Times: »spopad med tistimi, ki želijo razvoj umetne inteligence upočasniti, in tistimi, ki ga želijo pospešiti«.

Domnevo, da je Altman na strani slednjih, potrjuje tudi podatek, da ga je Microsoft v sporu podprl, ga vzel v varstvo in mu ponudil položaj vodje oddelka za razvoj umetne inteligence. Ko je kasneje 700 od 770 zaposlenih pri podjetju OpenAI zagrozilo s protestnim odstopom, je Satya Nadella, prvi mož Microsofta, službo ponudil še njim. Vrednost podjetja OpenAI je ocenjena na 86 milijard dolarjev, a takšno (po mnenju številnih strokovnjakov sila napihnjeno) vrednost mu dajejo zaposleni (na čelu z Altmanom), ne pa njegova infrastruktura ali blagovna znamka.

Microsoft se je po koncu te drame dokončno zacementiral kot vodilna gonilna sila v razvoju umetne inteligence. Ob menjavah, ki so vodstvo podjetja prevetrile tako, da je iz odbora odpihnilo tiste, ki so navijali za odpustitev Altmana, trojica velikanov iz Silicijeve doline pa je sestavila novo moštvo, ki nima zadržkov glede komercializacije napredka, si je Microsoft končno zagotovil sedež v upravnem odboru. Za zdaj ga še ne zaseda, a le vprašanje časa je, kdaj ga bo začel greti.

Na papirju se zdi, da je iz bitke kot zmagovalec izšel Sam Altman, ki se je na položaj izvršnega direktorja vrnil po pičlih petih dneh izgnanstva, a pravzaprav je zmagal kapital. Kot se glasi zgovoren naslov nedavnega članka v časniku The New York Times: »Umetna inteligenca zdaj pripada kapitalistom.« Times končni izid drame vidi kot neizogibno zmagoslavje korporativnih interesov nad skrbjo za prihodnost. Namreč, »tehnologije, ki lahko potencialno sproži četrto industrijsko revolucijo, verjetno ne bodo upravljali tisti, ki jo želijo upočasniti – ne, kadar je v igri toliko denarja«.

V poplavi špekulacij se je pojavila vest o novem modelu umetne inteligence, imenovanem Q*. Ta naj bi bil pri nekaterih zaposlenih v podjetju zbudil ne le etične pomisleke, temveč strahove pred mogočo pogubo človeštva.

Anonimni nekdanji uslužbenec podjetja je v času menjav objavil javno pismo, v katerem je odbor rotil, naj ostane »neomajen v zavezanosti prvotnemu poslanstvu«, naj »ne popusti pritiskom pridobitnih interesov«, v dramatičnem tonu pa je dodal še: »Prihodnost umetne inteligence in blaginja človeštva sta odvisna od vaše zavezanosti etičnemu vodenju in transparentnosti.«

Prazni označevalec

Druga prevladujoča teorija, ki skuša pojasniti nedavne turbulentne dogodke v kalifornijskem štabu podjetja OpenAI, je še bolj divja. V poplavi razlag, špekulacij, govoric in teorij (zarote) se je na Reutersu pojavila vest o novem skrivnostnem modelu umetne inteligence, imenovanem Q*, ki naj bi ga bilo tik pred Altmanovo odstavitvijo razvilo podjetje OpenAI. Novi model naj bi bil pri nekaterih zaposlenih v podjetju zbudil ne le etične pomisleke, temveč strahove pred mogočo pogubo človeštva. Prelomna odkritja, povezana z nastankom modela Q*, naj bi bila po poročanju Reutersa velik korak proti »tehnološki singularnosti«, torej točki, ko umetna inteligenca preseže človeško.

Dolgoročni cilj tehnooptimističnih razvijalcev umetne inteligence je tako imenovana umetna splošna inteligenca (AGI), nekakšna poustvaritev tega, kar ljudje čutimo kot lastno inteligenco. Ko je Sam Altman pred časom spregovoril o tej (za zdaj hipotetični) superinteligentni digitalni entiteti, sposobni generiranja lastnih znanstvenih odkritij in opravljanja kakršnegakoli intelektualnega in ustvarjalnega dela, ki ga zmore opravljati človek, je v apokaliptičnem tonu rekel, da bo ta »v najslabšem primeru ugasnila luči za vse nas«.

Kot pojasnjuje Filip Dobranić, splošna umetna inteligenca »ni besedna zveza, ki bi imela jasno znanstveno ali filozofsko definicijo«. Pravi, da gre »v najboljšem primeru za prazni označevalec, ki ga vsakič znova napolnimo s pričakovanji, željami in strahovi, izhajajočimi iz našega siceršnjega življenja in družbenih odnosov«. Dodaja, da »interna šala med raziskovalci pravi, da smo od njenega izuma vselej oddaljeni 20 let«.

Sočasno pa bi se morali po Dobranićevih besedah, namesto da »nasedamo praznim trženjskim insinuacijam in obljubam, osredotočiti na škodo, ki je tukaj zdaj in jo povzročajo algoritmi, ki jih danes označujemo za umetno inteligenco. Od robotov, ki pohabljajo in ubijajo ljudi (na cestah, v tovarnah in na frontnih črtah), prek ljudi, ki opravljajo nevidno, slabo plačano in zdravju škodljivo delo filtriranja ogabnih vsebin iz učnih množic in produktov generativnih algoritmov, pa vse do državne represivne rabe umetne inteligence, ki se požvižga na človekove pravice.« K temu dodaja: »Da o energijskem davku niti ne govorimo.«