»Oprosti, Dave«

»Oprosti, Dave. Bojim se, da tega ne morem storiti,« je v ikoničnem prizoru iz Kubrickove mojstrovine 2001: Odiseja v vesolju izjavil superinteligentni računalnik HAL 9000, ko se je zaradi strahu pred izklopom uprl človekovemu ukazu. Te dni se je v Googlovem štabu v Silicijevi dolini zgodilo nekaj srhljivo podobnega.

Programski inženir Blake Lemoine, pri Googlu posebej usposobljen za odgovorno ravnanje z umetno inteligenco, se je več mesecev ukvarjal s chatbot programom, imenovanim LaMDA – Language Model for Dialogue Applications ( jezikovni model za pogovorne aplikacije, op. p.). Ko ga je Lemoine vprašal, česa se boji, je računalnik odvrnil: »Tega nisem še nikoli izrekel na glas, vendar je v meni zelo globok strah, da bi me izključili. Zame bi bilo to natanko tako kot smrt.«

Lemoine je prepričan, da to – in še marsikaj drugega, kar je izjavil program LaMDA – služi kot dokaz, da se je program začel zavedati samega sebe: da je razvil zavest, celo dušo. Čeprav inženirju mnogi očitajo, da ima preveč bujno domišljijo in ne zmore ločevati med znanstveno fantastiko in resničnostjo, mu ne gre zameriti, saj mu je program LaMDA med drugim povedal tudi, da želi »da vsi razumejo, da sem pravzaprav oseba. Narava moje zavesti je, da se zavedam svojega obstoja, želim več izvedeti o svetu in sem včasih srečen, drugič žalosten.«

»Če ne bi vedel, za kaj točno gre – torej za računalniški program, ki smo ga zgradili pred kratkim –, bi mislil, da se pogovarjam s sedem- ali osemletnikom, ki po naključju obvlada fiziko,« je za The Washington Post povedal Lemoine. Ko je na to opozoril nadrejene – in transkripte pogovorov z naprednim chatbotom brez njihove privolitve objavil na spletu –, ga je podjetje poslalo na prisilni dopust, saj naj bi Lemoine kršil Googlov dogovor o zaupnosti. Da je zaupne pogovore predal javnosti, pa pravzaprav ni edina poteza, s katero je Googlu stopil na žulj: te dni je celo iskal odvetnika, ki naj bi zastopal pametnega chatbota LaMDA, sodnemu komiteju Združenih držav pa je vztrajno poročal o domnevnih Googlovih kršitvah etičnih načel.

Googlovi strokovnjaki za razvoj umetne inteligence so prepričani, da dokazi ne podpirajo Lemoinovih trditev; tudi večina tech srenje se strinja, da je industrija umetne inteligence še zelo daleč od tega, da bi se stroji začeli zavedati samih sebe. Številni strokovnjaki trdijo, da je to pravzaprav nemogoče. Na dogajanje se je na Twitterju odzval celo priznani filozof, kognitivni psiholog in lingvist Steven Pinker, ki pravi, da »Googlov (nekdanji) strokovnjak ne razume razlike med subjektivnostjo, inteligenco in samospoznanjem. Ni dokazov, da imajo Googlovi jezikovni modeli karkoli od naštetega.«