»Ko je pandorina skrinjica enkrat odprta …«

»Umetna inteligenca je prihodnost, ključ do nje pa ima Slovenija,« se glasi naslov članka, ki ga je Forbes objavil pred šestimi leti, govori pa o tem, da ustanove, kot sta Institut Jožef Stefan in Fakulteta za računalništvo in informatiko v Ljubljani, tudi v globalnem kontekstu razvoja umetne inteligence niso zanemarljive sile. Čeprav se v zadnjih letih na tem področju tektonski premiki dogajajo predvsem v tujini, so zanje vseeno odgovorni tudi nekateri slovenski znanstveniki in znanstvenice. Ena takšnih je Sanja Fidler, vodilna strokovnjakinja za računalniški vid in strojno učenje, ki deluje kot docentka na Univerzi v Torontu in je poleg tega vodja oddelka za umetno inteligenco pri podjetju NVIDIA, vodilnem proizvajalcu grafičnih vmesnikov in matičnih plošč ter eni od glavnih gonilnih sil pri razvoju umetne inteligence. Za Mladino je spregovorila o svojem delu in etičnih vprašanjih, ki se pri tem postavljajo, pri čemer poudarja, da gre za »njena osebna mnenja, ki niso nujno mnenja podjetja NVIDIA«.

Kaj razvija oddelek, ki ga vodite pri podjetju NVIDIA?

Vodim raziskovalno skupino, ki se osredotoča na razvoj UI-tehnologije za ustvarjanje 3D-vsebine. Vsebino za videoigre, arhitekturo in zabavno industrijo večidel ustvarjajo ljudje, ki niso le zelo nadarjeni, temveč imajo tudi ogromno strokovnega znanja iz 3D-modeliranja. Želimo izdelati orodja, ki bodo takšno vsebino pomagala ustvariti hitreje – tudi ljudem, ki se na 3D-tehnologijo ne spoznajo najbolje. Sama se še posebej zanimam za domene, kjer je umetna inteligenca ključna za uspeh. Na primer, če želimo razviti samovozeče avtomobile in pri tem ljudem zagotoviti varnost, potrebujemo realistične simulatorje za preizkušanje avtonomnih sistemov v milijonih in milijonih različnih scenarijev, kar je nemogoče storiti brez umetne inteligence.

Se v vašem oddelku ukvarjate tudi z etičnimi vprašanji, povezanimi z razvojem umetne inteligence? Kaj vam povzroča največ skrbi? 

NVIDIA ima poseben oddelek za etiko, pravičnost, zasebnost in varovala, povezana z umetno inteligenco. Ta oddelek skrbi denimo za naše izobraževanje, z njim smo v nenehnem dialogu, pregleduje pa tudi vse naše dosežke, v katere je vpletena umetna inteligenca. Del moje skupine opravlja raziskovalno delo na področju generativne umetne inteligence, torej tiste, ki besedilne ukaze spreminja v 3D-vsebino, s 3D-objekti in videoposnetki vred. Pomembno je, da te raziskave opravimo odgovorno, saj moramo zagotoviti ustrezne zaščitne ukrepe.

Katere razsežnosti tega razvoja so po vašem mnenju najbolj vznemirljive in bi lahko pozitivno vplivale na blaginjo človeštva, katere pa so potencialno zares skrb zbujajoče? 

Vsaka transformacijska tehnologija prinaša nekatere prednosti, a jo je treba uporabljati odgovorno. Področje, ki si v tem kontekstu zasluži posebno pozornost, je tehnologija »deepfake«, torej umetna inteligenca, sposobna posnemati glasove in obraze.

Zadnja leta me izjemno navdušuje napredek pri razvoju tako imenovanega zvijanja beljakovin, ki ga je omogočil Deepmindov sistem Alphafold2. Ta dosežek bo zaznamoval skorajda vsa področja biologije; ima velik potencial za pospešitev razvoja novih zdravil, lahko pa nam celo pomaga razumeti, kako pravzaprav deluje življenje.

»Večina ljudi se ne boji tistih posledic, ki jih obljubljajo znanstvenofantastični filmi, temveč predvsem tega, kako bo umetna inteligenca vplivala na njihovo delo in vsakdanje življenje.«

Kako tanka je po vašem mnenju meja med upravičenim strahom pred umetno inteligenco in tehnofobijo? 

Ne morem zanikati, da se je razvoj umetne inteligence v zadnjih letih močno pospešil. V San Franciscu opazimo kar nekaj avtomobilov brez voznika, nekatere trgovine sploh nimajo več prodajalcev, osupljive podobe lahko ustvarjamo tako, da jih samo opišemo z besedami, ChatGPT pa je sposoben sodelovati v navidezno inteligentnem pogovoru, rešuje matematične uganke in piše kode. Strinjam se, da je to lahko precej zastrašujoče. Popularna kultura je vsekakor prispevala k strahu pred umetno inteligenco, saj je ta navadno prikazana v negativnem kontekstu. A pravzaprav sama menim, da se večina ljudi ne boji tistih posledic, ki jih obljubljajo znanstvenofantastični filmi, temveč predvsem tega, kako bo umetna inteligenca vplivala na njihovo delo in vsakdanje življenje.

S tem namigujete na množično izgubo poklicev, ki jih lahko namesto človeka opravlja umetna inteligenca? 

No, vpliv umetne inteligence tu ni le negativen. Naša učinkovitost se bo z njeno pomočjo korenito izboljšala, omogočila pa bo tudi ogromno novih delovnih mest. Pojavil se je denimo popolnoma nov poklic, imenovan »inženirstvo ukazov«: naloga tistega, ki opravlja ta poklic, je oblikovanje učinkovitih besednih ukazov, s katerimi je mogoče iz generativne umetne inteligence iztisniti najboljše mogoče rezultate. Nekateri poročajo, da je umetna inteligenca lahko uspešna in koristna tudi v vlogi poslovnega svetovalca. Pri tem moram poudariti, da imajo te tehnologije še vedno veliko omejitev. Prav tako je pomembno, da njihov razvoj poganja želja po pozitivnem učinku, ki ga lahko imajo. Za primer vzemimo vožnjo brez voznika: ko je ta uspešna, znatno zmanjša število smrtnih žrtev v prometu. ChatGPT lahko izboljša našo učinkovitost, omogoči denimo hitrejše in boljše pisanje e-sporočil in programskih kod – poznamo že več zgodnjih raziskav, ki to potrjujejo. Ljudi vabim, naj sami preizkusijo to tehnologijo in raziščejo, na katerih področjih jim lahko pomaga, a to naj počnejo previdno. Umetna inteligenca pogosto ne deluje povsem pravilno. Premore predvsem »splošno znanje«, zato človekov razum in strokovno znanje pri delu z njo še vedno igrata ključno vlogo.

Kaj menite o nedavnem pozivu inštituta Future of Life, ki se zavzema za začasen (polletni) premor pri razvoju umetne inteligence?

Tehnološka podjetja tekmujejo v usposabljanju čedalje večjih modelov. Strinjam se, da bi na tem področju potrebovali veliko več regulacije. Ureditve so ključne predvsem glede podatkov, ki jih ti modeli uporabljajo za usposabljanje, omejiti pa moramo tudi količino računanja, ki ga izvajajo ti sistemi. Podobno kot reguliramo izpuste pri avtomobilih, moramo regulirati tudi izpuste ogljika, ki nastanejo ob usposabljanju in uporabljanju sistemov umetne inteligence. Seveda pa moramo z ustreznimi zaščitnimi ukrepi regulirati tudi rezultate, ki jih generira umetna inteligenca, in zagotoviti, da so ti zaupanja vredni, usklajeni, varni in robustni.

Je pa res, da ko je Pandorina skrinjica enkrat odprta, je vsebino, ki uhaja iz nje, težko upočasniti ali celo ustaviti, kot to predlagajo pri inštitutu Future of Life. Vsekakor regulativne organe čaka še ogromno dela in morajo ga opraviti hitro. Navdušuje me, kako hitro so se odzvale strani, kot je Reddit, ki je eden največjih virov za usposabljanje tako imenovanih velikih jezikovnih modelov: njegovi podatkovni viri so zdaj plačljivi, načrtuje pa tudi uvedbo umetne inteligence za prepoznavanje komentarjev, ki jih ustvarjajo »roboti«, s čimer bo nadzoroval in preprečeval širjenje dezinformacij. Pravzaprav lahko vsi pripomorete k tej regulaciji: če ne želite, da razvijalci vašo vsebino in podatke uporabljajo za urjenje umetne inteligence, morate vsakič, ko fotografije ali podobne podatke naložite na spletno stran, kot je denimo Flickr, izbrati tako imenovano nekomercialno licenco. 

POVEZAVA DO GLAVNEGA ČLANKA >>