Algoritemsko vojskovanje

Čeprav so zadnja leta, vse od nenadnega vzpona sistemov generativne umetne inteligence in velikih jezikovnih modelov, kot je ChatGPT, najglasneje izraženi strahovi povezani z množično izgubo zaposlitve in poplavo dezinformacij, številni strokovnjaki ves ta čas svarijo, da je najpogubnejši potencial umetne inteligence pravzaprav v rabi te tehnologije v nadzorne in vojaške namene, denimo v inteligentnem avtonomnem orožju, ki tarčo izbere in ubije brez posredovanja človeške roke.

Oboroževalna tekma

Vojskovanje jutrišnjega dne bodo poganjali kodni zapisi: vladne agencije po vsem svetu v razvoj obrambnih (oziroma oborožitvenih) sistemov umetne inteligence že zdaj vlagajo astronomske vsote; svetovni trg vojaških sistemov umetne inteligence je trenutno vreden okoli devet milijard ameriških dolarjev, do leta 2032 pa naj bi bila ta vrednost skoraj trikrat večja. Tehnološki velikani iz Silicijeve doline in zagonska podjetja, ki razvijajo sisteme umetne inteligence, se množično pridružujejo oboroževalni tekmi, saj Pentagon v umetni inteligenci čedalje očitneje prepoznava prihodnost vojskovanja. Kot poročajo pri Bloombergu, ameriška vojska na področju militarizacije umetne inteligence izvaja več kot 800 projektov z različnimi nameni, od razvoja računalniškega vida za prepoznavo tarč prek sistemov za načrtovanje poti za oskrbo s strelivom do programske opreme za obdelavo transkriptov zasliševanja.

Te dni je v igro vstopila tudi korporacija Meta, lastnica vodilnih družbenih omrežij Facebook in Instagram ter najbolj priljubljene aplikacije za sporočanje WhatsApp, ki se je v zadnjih letih s polno paro osredotočala na razvoj umetne inteligence in ustanovila sestrsko podjetje Meta AI. Paradni konj tega je veliki jezikovni model, imenovan Llama, ki je pravzaprav Metin odgovor na modele, kakršen je ChatGPT. Gre za tako imenovani odprtokodni sistem, to pomeni, da ga lahko razvijalci uporabijo kot temelj za lastne sisteme in ga po mili volji prilagajajo svojim namenom. A ne brez omejitev: Metina »politika sprejemljive rabe« je do nedavnega prepovedovala rabo modela Llama 3 za oboroževanje, vojskovanje, jedrsko industrijo ali vohunjenje. Zdaj se je podjetje odločilo za izjemo: ameriški vojski in obveščevalnim službam je dovolilo rabo sistema Llama za zadeve, kot so »logistika in načrtovanje, sledenje financiranju terorizma in krepitev kibernetske obrambe«. S to potezo je dala dovoljenje za rabo jezikovnega modela Llama številnim podjetjem, ki sodelujejo z ameriško vlado, denimo ameriškemu orožarskemu velikanu Lockheed Martin in razvpitemu podjetju Palantir, ki je glavno pri razvoju vojaških sistemov umetne inteligence. »Model Llama ne bo zgolj podpiral blaginje in varnosti Združenih držav Amerike, temveč bo pomagal vzpostaviti ameriške odprtokodne standarde v svetovni tekmi za vodilni položaj v razvoju umetne inteligence,« so zapisali pri Meti.

Skorajda vsa omembe vredna podjetja, ki se ukvarjajo z razvojem umetne inteligence, drugo za drugim kot domine padajo zaradi interesov ameriške vojske.

Novica, da je Meta ameriški vojski prižgala zeleno luč za rabo modela Llama 3 za namene nacionalne varnosti, je prah v medijski krajini začela dvigovati le nekaj dni po tem, ko je Reuters poročal, da so tri vodilne kitajske raziskovalne ustanove, ki delujejo pod pokroviteljstvom kitajske vojske oziroma Ljudske osvobodilne armade, na temeljih odprte kode modela Llama 2 razvile sistem umetne inteligence, imenovan ChatBIT, ki naj bi ga kitajska vojska uporabljala za zbiranje in obdelavo obveščevalnih podatkov. Sistem naj bi bil za zdaj »optimiziran za odgovarjanje na vprašanja, povezana z vojskovanjem,« poroča Reuters, v prihodnosti pa bi ga Ljudska osvobodilna vojska uporabljala tudi za »strateško načrtovanje, simulacijsko usposabljanje in poveljniško odločanje«. Kitajska vojska se je torej požvižgala na Metina pravila rabe jezikovnega modela Llama. Ker gre za javno dostopen odprtokodni sistem, »ima podjetje zelo omejene možnosti uveljavljanja teh določb,« poroča Reuters. Metina služba za odnose z javnostjo je pripomnila, da je »vloga, ki jo zastarela različica ameriškega odprtokodnega modela igra v kontekstu svetovne tekme pri razvoju umetne inteligence, nepomembna. Kitajska je namreč v to panogo vložila že več kot bilijon dolarjev, saj želi pri razvoju umetne inteligence preseči Združene države Amerike.« Kljub temu nenaden blagoslov za militarizacijo jezikovnega modela Llama, ki ga je Meta dala ameriški vojski, marsikdo prepoznava kot odgovor na novico, da kitajska vojska ta sistem že uporablja. Tudi Meta je v sporočilu za javnost dodala, da je »v interesu ZDA in širšega demokratičnega sveta, da bi ameriški odprtokodni modeli prekašali modele iz Kitajske in od drugod«.

Preizkusni teren

Meta med razvijalci sistemov umetne inteligence, ki sodelujejo z vojsko, še zdaleč ni osamljena. Maja je približno 200 zaposlenih pri Googlovem hčerinskem podjetju DeepMind, raziskovalnem laboratoriju za razvoj umetne inteligence, podpisalo odprto pismo, v katerem so podjetje pozvali, naj prekine pogodbe z vojaškimi organizacijami, in izrazili skrb, da se tehnologija, ki jo razvijajo, uporablja v vojaške namene. Odprto pismo je bilo pravzaprav odziv na kupčijo, ki jo je Google sklenil z izraelsko vojsko: ta v genocidu nad Palestinci uporablja številne sisteme za nadziranje prebivalstva in izvajanje množičnih pobojev. 

Izraelske obrambne sile IDF so z naprednim nadzornim sistemom Lavender, ki ga poganja umetna inteligenca, že v prvih tednih vojne več kot 37 tisoč Palestincev prepoznale kot domnevne skrajneže ter jih označile kot tarče pri morebitnih zračnih napadih. Kot opozarjajo pri inštitutu Danes je nov dan, je brutalnost, s katero Izrael uporablja tovrstno tehnologijo, za številne države privlačna. »Namen izraelskega vojaškoindustrijskega kompleksa, ki ga sestavljajo državna in zasebna podjetja, ni zgolj nesmiselno ubijanje, temveč tudi uporaba okupirane Palestine kot testnega okolja za orožje in orodja nadzora, namenjena za prodajo na svetovnem trgu (avtoritarnim in demokratičnim državam),« so pri inštitutu Danes je nov dan zapisali v poročilu, povzetem po razpravi, ki jo je inštitut poleti pripravil v sklopu festivala kritične misli Grounded. V zaključku zapisa so poudarili, da »dejanja Izraela niso posledica tehnologije, temveč tega, da tehnologijo uporablja država, ki že desetletja dehumanizira Palestince«. In dodali: »Umetna inteligenca je le najnovejše v vrsti sredstev, ki so namenjena dosegi istega genocidnega cilja.«

Palestina sicer še zdaleč ni edini preizkusni teren za praktično preizkušanje aplikacij umetne inteligence za vojaško rabo. Tudi Ukrajina se je vzpostavila kot poligon za preizkušanje najsodobnejšega orožja, ki temelji na sistemih umetne inteligence, kot so denimo napredni letalniki, ki letijo v rojih, in se »avtonomno odzovejo na spreminjajoče se okoliščine in med sabo komunicirajo pri orkestraciji naletov,« kakor poročajo novinarji bruseljskega časnika Politico, ki pravijo, da se »prihodnost vojskovanja piše v Ukrajini«.

OpenAI, vodilno podjetje v industriji sistemov umetne inteligence, ki je ustvarilo prelomne izdelke, kot je sloviti ChatGPT, potihoma sklepa pogodbe s Pentagonom in organizacijo DARPA, pa čeprav še vedno vztraja, da je njegovo osnovno poslanstvo zagotavljanje, da se umetna inteligenca razvija v prid vsega človeštva, kar vam bo suvereno potrdil tudi ChatGPT, če ga vprašate. A ravno konec prejšnjega meseca je neodvisni spletni medij The Intercept razkril dokument, ki potrjuje, da je sisteme umetne inteligence, ki jih je razvil OpenAI, prek Microsofta kupilo Poveljstvo ameriške vojske za Afriko (AFRICON). Skratka, skorajda vsa omembe vredna podjetja, ki se ukvarjajo z razvojem umetne inteligence, drugo za drugim kot domine padajo zaradi interesov ameriške vojske. Hitro rastočemu seznamu razvijalcev umetne inteligence, ki v imenu obrambe zahodne demokracije sklepajo večmilijonske pogodbe s stricem Samom, se je pred nedavnim pridružilo celo zagonsko podjetje Anthropic. To se že od ustanovitve leta 2021 ponaša prav s tem, da naj bi med vsemi vodilnimi razvijalci sistemov umetne inteligence najresneje jemalo etične in varnostne pomisleke, povezane z vojaško rabo, in morebitne pogubne posledice te mogočne tehnologije. Prav zato naj bi bilo »varna alternativa« podjetjem, kot so denimo vodilna v panogi – OpenAI, Google in Microsoft. Filozof in politolog Nabeel S. Qureshi, še en pomemben raziskovalec etike in umetne inteligence, ki je bil do nedavnega zaposlen pri zloglasnem podjetju Palantir, je na omrežju X zapisal: »Predstavljajte si, da leta 2021 altruističnim ustanoviteljem Anthropica poveste, da bodo le tri leta po ustanovitvi podjetja sklenili partnerstvo, ki bo njihove sisteme umetne inteligence poslalo naravnost na fronto.«

Stroji ljubeče milosti

Dario Amodie, izvršni direktor zagonskega podjetja Anthropic, je oktobra objavil esej Stroji ljubeče milosti: kako bi lahko umetna inteligenca izboljšala svet. V obsežnem zapisu, dolgem skoraj 15 tisoč besed, ki se bere kot nekakšen tehnoutopistični manifest izpod prstov norega znanstvenika (in je pravzaprav vaba za vlagatelje, saj želi Anthropic potrojiti raziskovalni proračun, ki že zdaj znaša več kot 15 milijard ameriških dolarjev), Amodie hipotetično umetno (super)inteligenco jutrišnjega dne (izogiba se izrazu »AGI«, torej izrazu »umetna splošna inteligenca«) poveličuje kot rešiteljico človeštva, ki bo eksponentno pospešila znanstveni razvoj v nevroznanosti, biologiji in medicini. Zakrpala bo luknje v gospodarski ureditvi in bo »okrepila demokratične ustanove« ter tako omogočila svetovni mir. Amodie napoveduje, da se bo ob pomoči umetne inteligence stoletje znanstvenega razvoja zgodilo v pičlem desetletju.

Ameriška vojska na področju militarizacije umetne inteligence za zdaj izvaja več kot 800 projektov.

V manifestu je med drugim zapisal, da bi si morale demokratične države prizadevati za razvoj militarizirane umetne inteligence, saj si lahko le tako zagotovijo prednost pred avtoritarnimi državami, ki bodo z umetno inteligenco kršile človekove pravice. Sanja o »koaliciji demokratičnih držav, ki bo umetno inteligenco uporabila za doseganje vojaške premoči«. V nadaljevanju ugotavlja, da »če nam to uspe, bomo živeli v svetu, kjer bodo demokracije prevzele vodstvo na svetovnem odru ter si zagotovile gospodarsko in vojaško moč, s katero se bodo izognile spodkopavanju ali sabotiranju, ki bi ga izvajale avtokracije.«

Podobno kot korporacija Meta je tudi podjetje Anthropic spremenilo pravila delovanja in ameriškim obveščevalnim službam dovolilo rabo svojih sistemov umetne inteligence. Čeprav še vedno prepoveduje rabo teh sistemov za razvoj orožja in nadzora znotraj Združenih držav Amerike, tudi to podjetje stopa proti militarizaciji svojih velikih jezikovnih modelov, združenih pod imenom Claude. To je postalo očitno pred nekaj dnevi, ko je moči združilo z razvpitim podjetjem Palantir Technologies. Podjetje, ki ga je soustanovil sporni milijarder Peter Thiel, ameriško in izraelsko vojsko že zdaj oskrbuje z napredno vojaško tehnologijo, ki z rabo umetne inteligence in računalniškega vida pomaga pri izbiranju tarč, načrtovanju misij in satelitskem izvidništvu. Anthropic v novem partnerstvu s podjetji Palantir in Amazon nekaterim ameriškim obveščevalnim službam, ki ostajajo neimenovane, saj gre za zaupne podatke, dovoljuje rabo svojih sistemov za »zakonito pooblaščeno analizo tujih obveščevalnih služb«, »prepoznavanje sabotažnih prizadevanj« in »predhodno opozarjanje na morebitne vojaške dejavnosti«. Kot je v sarkastičnem tvitu zapisala Timnit Gebru, nekdanja vodja oddelka za etiko in umetno inteligenco pri Googlu: »Poglejte, kako zelo jim je mar za ’eksistenčna tveganja človeštva’.«

Oppenheimerski trenutek naše generacije

Razvoj distopično-futuroloških nadzornih sistemov in avtonomnega orožja, ki jih poganja umetna inteligenca, je torej v polnem razmahu, za tekmo v oboroževanju z umetno inteligenco pa se je zato začel uporabljati izraz »oppenheimerski trenutek«. Pri tem se na tako imenovanega očeta atomske bombe, ki je v zavest splošne javnosti lani ponovno vstopil s filmsko uspešnico Christopherja Nolana, sklicujejo tisti, ki v (avtonomnem) orožju jutrišnjega dne prepoznavajo grožnjo, podobno grožnji orožja za množično uničevanje. »To je oppenheimerski trenutek naše generacije. Avtonomni oborožitveni sistemi bodo kmalu preplavili bojišča po vsem svetu. Tehnologija napreduje izjemno hitro, politika pa zaostaja,« je spomladi na dunajski konferenci Človeštvo na razpotju: avtonomni oborožitveni sistemi in izziv regulacije povedal avstrijski zunanji minister Alexander Schallenberg in dodal: »Ne smemo pustiti, da ta trenutek mine, ne da bi ukrepali. Zdaj je čas, da postavimo mednarodna pravila in norme za zagotovitev človeškega nadzora.«

Hkrati je Oppenheimer priljubljena referenca tudi med tistimi, ki morilske robote dejansko izdelujejo in njihovo moč poveličujejo pod blodno pretvezo, da ta pomeni začetek novega obdobja miru (oziroma ameriške nadvlade). Med njimi je denimo multimilijarder Alex Karp, izvršni direktor razvpitega podjetja Palantir Technologies, ki je v kolumni za Washington Post – torej za časnik, ki je v lasti Jeffa Bezosa, Amazon pa je prav tako vpleten v umetnointeligenčno oboroževalno tekmo –, zapisal, da lahko »destruktivna moč nekako prispeva k trajnemu miru,« in to utemeljil z navedkom Alfreda Nobela, da je »strah edina stvar, ki bo narodom preprečila začetek novih vojn«.