Prehitra umetna inteligenca

Kaj zares želimo od te tehnologije, dokler še ni prepozno, da bi vplivali na smer njenega razvoja?

Leto 2019 je lepo pokazalo, kaj vse zmore umetna inteligenca (UI). Družba Waymo je v Arizoni vpeljala samovozne taksije; ljudje se dejansko vozijo z njimi in za vožnjo plačujejo. Bota družb OpenAI in DeepMind sta premagala vrhunske poklicne igralce v tekmovalnem igričarstvu v dveh najpomembnejših igrah. Algoritem, podprt z globokim učenjem, se je pri odkrivanju tumorjev pljučnega raka z medicinskim slikanjem povsem enakovredno kosal z zdravniki in jih nekajkrat celo prekosil.

Po drugi strani je programska oprema za prepoznavo obraza družbe Amazon rasistična, če verjamemo poročilu raziskovalcev z inštituta MIT, ki navaja, da algoritmi tehnološkega giganta niso sposobni prepoznati obraza skoraj tretjine temnopoltih žensk (pri svetlopoltih moških so domala nezmotljivi). Kako dobro deluje zaznavanje čustev iz obrazne mimike, ki ga družbe, kot sta WeSee in HireVue, uporabljajo za presojanje groženj in preverjanje kandidatov za zaposlitev? Larifari, po besedah Združenja za psihološke vede. Kritikam se ni izognilo niti izmuzljivo področje obdelave naravnih jezikov: vrhunski sistem GPT-2, sposoben na podlagi iztočnic iz zgolj nekaj besednih zvez ustvariti verodostojno besedilo, ki obsega več sto besed, se je ustvarjalcem, družbi OpenAI, zdel preveč tvegan, da bi ga predstavili javnosti – ustrašili so se zlonamerne rabe, recimo za razširjanje lažnih novic, sovražnega govora ali še česa hujšega.

O umetni inteligenci nam je lani torej postalo jasno dvoje: razvija se hitreje, ko smo pričakovali, a ima resne pomanjkljivosti. Toda napredek UI, zaradi katerega občutimo tesnobo, ima tudi dobro plat: morda prvič doslej so neželeni učinki prelomne tehnologije vidni sproti, v trenutku, ko se pokažejo, ne šele nekaj let ali desetletij pozneje. To pomeni, da čeprav se UI morda razvija hitreje, kot nam je prav, dejansko imamo možnost zgrabiti za krmilo in jo začeti usmerjati.

O umetni inteligenci nam je lani postalo jasno dvoje: razvija se hitreje, ko smo pričakovali, a ima resne pomanjkljivosti.

Tehnologije, ki ji danes pravimo UI, pred letom 2012 tako rekoč ni bilo. Nato je septembra 2012 nevronska mreža, ki so jo zasnovali študenti Univerze v Torontu pod budnim očesom profesorja in bodočega »botra globokega učenja« Geoffreyja Hintona, nepričakovano začela podirati rekorde na čislanem tekmovanju v računalniškem vidu, imenovanem Image-Net. Pri preskusu mora programska oprema pokazati sposobnost pravilne prepoznave vsebine več milijonov slik: denimo slike papige ali kitare. Nevronska mreža torontskih študentov je naredila pol manj napak od drugouvrščene. Globoko učenje je na lepem »delovalo«.

V naslednjih petih letih sta družbi Google in Microsoft zaposlili na desetine strokovnjakov za globoko učenje in se oklicali za družbi, ki pri svojih prizadevanjih na prvo mesto postavljata UI. A z njo se niso začeli ukvarjati samo tehnološki giganti: svetovalna družba McKinsey je leta 2018 opravila anketo med več kot dva tisoč podjetij z vsega sveta in ugotovila, da so dobre tri četrtine anketiranih družb UI že uvedle v poslovanje ali so izvajale pilotne programe z namenom uvedbe.

Pametni telefoni so potrebovali deset let, da »so požrli svet«, splet pa približno 20 let. A UI je potrebovala samo pet let, da se je iz laboratorijske zanimivosti prelevila v gospodarsko silo. Tempo, kakršnega še nismo videli, je gonilna sila razvoja UI, obenem pa zbuja pomisleke o njej. Po podatkih, ki jih je z anketo med Američani zbrala svetovna družba za trženjsko svetovanje Edelman v sodelovanju s Svetovnim gospodarskim forumom, od 54 do 75 odstotkov ljudi meni, da bo UI škodila siromašnim in koristila premožnim, da bo povečala socialno izključenost in vodila v »krnitev človeških intelektualnih sposobnosti«. Tretjina anketirancev celo meni, da lahko zlonamerni videoposnetki, ustvarjeni s tako imenovano tehnologijo deepfake – srhljivo prepričljivi lažni videoposnetki slavnih, vladnih uradnikov ali slehernikov, ki jih ustvarijo globoke nevronske mreže –, pripomorejo k »informacijski vojni, ki bi se utegnila razviti v dejanski širši oboroženi spopad oziroma vojno«. Kako naj se torej odzove družba?

Pametni telefoni so potrebovali deset let, da »so požrli svet«, splet pa približno 20 let. A UI je potrebovala samo pet let, da se je iz laboratorijske zanimivosti prelevila v gospodarsko silo.

Tukaj stopi na prizorišče krmilo rakete. UI nam s tem, da se je v petih letih razširila od »nikoder« na »tako rekoč vsa področja«, ponuja mehanizem za pridobivanje povratnih informacij, ki omogoča sprotno popravljanje začrtane smeri. Google je leta 2019 na konferenci za razvijalce predstavil sistem TCAV, ki pravzaprav razkriva, kdaj mreže globokega učenja »blefirajo«. Minulega maja je 42 držav, med njimi tudi Združene države Amerike, uradno sprejelo smernice, ki jih je pripravila Organizacija za gospodarsko sodelovanje in razvoj, in »se zavezalo spoštovati mednarodne standarde, določene za zagotavljanje, da bodo razviti sistemi umetne inteligence zanesljivi, varni, pošteni in zaupanja vredni«. Na začetku letošnjega leta so raziskovalci na inštitutu MIT vpeljali povsem novo znanstveno disciplino, »strojno vedenje«, katere namen je raziskovati medsebojni vpliv algoritmov in ljudi »na terenu«.

Na podlagi porajajočega se odnosa do inovativne tehnologije bi lahko poskrbeli, da umetna inteligenca ne bi zgolj »delovala«, ampak bi se tudi vedla, kot se spodobi. Lahko bi ga uporabili kot okvir za odzivanje na nove prelomne tehnologije, na primer na internet 5G, kriptovalute, samovozne avtomobile in spreminjanje genov s tehnologijo CRISPR.

VEČ SI PREBERITE V NOVI ŠTEVILKI MESEČNIKA GLOBAL, ki je že na voljo pri vašem najbližjem prodajalcu časopisov, svoj izvod pa si lahko priskrbite tudi v naši SPLETNI TRGOVINI >>