MLADINA Trgovina

Neža Oder

9. 8. 2017  |  Družba

Ko umetna inteligenca razvije svoj jezik

Znanstvena fantastika postaja resničnost, ko se roboti z učenjem razvijajo sami

V franšizi Terminator (2001-2004) je superinteligenca Skynet postala zavedna. Sledil je vzpon robotov, ki so nadvladali planet.

V franšizi Terminator (2001-2004) je superinteligenca Skynet postala zavedna. Sledil je vzpon robotov, ki so nadvladali planet.
© Flickr

V preteklem mesecu je tehnološki svet zadela panika. Zaskrbljeni raziskovalci umetne inteligence (UI) pri Facebooku opuščajo eksperiment s pogovornimi roboti (»chatboti«), so poročali mediji. Vpletena robota »Alice« in »Bob« sta namreč razvila svoj jezik, javnost pa se je že pripravljala na apokaliptičen scenarij vzpona strojev iz Matrice ali Terminatorja.

Interakcija med ljudmi in chatboti ni nič novega. Znanstveno-fantastična literatura je o njej spekulirala že davno pred obstojom prvih robotov. Znanstvena fantastika pa v moderni dobi počasi postaja resničnost, saj se lahko dnevno srečujemo z umetno inteligenco, ki se z učenjem sama razvija. Se spomnite Watsona, IBM-ovega superračunalnika iz leta 2011, ki je zmagal proti favoritu Kenu Jenningsu v igri Jeopardy? Ali še starejšega IBM-ovega projekta Deep Blue, ki je v šahu premagal legendarnega Garyja Kasparova v letu 1997? Morda vam je bliže novejši primer Googlovega AlphaGo, ki je v maju premagal svetovnega prvaka v strateški igri Go?

V franšizi Matrica (1999-2003) svetu vladajo stroji, medtem ko so ljudje priklopljeni na program virtualne resničnosti.

V franšizi Matrica (1999-2003) svetu vladajo stroji, medtem ko so ljudje priklopljeni na program virtualne resničnosti.
© Flickr

V letu 1950 je Alan Turing razvil test za stroj, ki preizkuša posnemanje inteligentnega vedenja, nerazločljivega od človeškega. Slavni Turingov test je obveljal za ključni mejnik pri razvoju umetne inteligence in javnost je bila pomirjena. Testu se več kot pol stoletja ni uklonil noben program, dokler ga ni v letu 2014 izzval Eugene Goostman, ruski chatbot.

Superračunalnik je na konferenci v Londonu prepričal tretjino sodnikov, da je v resnici ukrajinski trinajstletnik. »Ponosni smo, da lahko oznanimo prvo premostitev Turingovega testa,« je takrat naznanil proesor Kevin Warwick. »V področju umetne inteligence ni bolj ikonskega mejnika.« Dogodek je, pričakovano, spodbudil raziskovalce po vsem svetu. V letu 2011, na tehnološkem festivalu v Indiji, je aplikacija Cleverbot na Turingovem testu prepričala kar 59,3 odstotke participantov. Povprečna človeška ocena na takšnem testu je 63,3 odstotkov. Kljub temu ali pa ravno zaradi tega pa so se znanstveniki pričeli spraševati, kje je v resnici tista točka, kjer postane meja med človekom in robotom nejasna. Turingov test je dober test – a ni edini.

»Jaz lahko jaz jaz vse ostalo...« je predlagal Bob. »Žoge imam nič zame zame zame zame zame zame,« je odgovorila Alice. »Ti jaz vse ostalo,« je vztrajal Bob in Alice je popustila: »Žoge imajo žoge zame zame zame zame zame.« »Jaz jaz lahko jaz jaz jaz vse ostalo,« se je strinjal Bob.

Danes razni boti predstavljajo več kot polovico prometa v kibernetskem prostoru. Okrog 24 odstotkov jih je posnemovalcev, med katere spadajo tudi chatboti. Razvija jih vse več podjetij, da bi njihovim uporabnikom pomagali poiskati informacije, urejati naloge in predvsem, da bi s takim pristopom dvignili prodajo. Na Facebook se vključuje s svojimi programi že vrsta chatbotov – med drugim tudi Troljo, slovenski chatbot, ki napoveduje prihode ljubljanskih trol.

Interakcija med ljudmi in roboti se je tako v zadnjih letih zelo razvila in integrirala v vsakdanje odnose v kibernetskem prostoru. Kaj pa se zgodi, ko se dva robota pogovarjata med sabo?

To vprašanje si je zastavil Cornellov laboratorij za kreativne stroje v letu 2011. Cleverbot, z umetno inteligenco podprt chatbot, je imel kratko interakcijo s samim seboj, pogovor pa so nato raziskovalci pretvorili v video. V začetku letošnjega leta je bil podoben eksperiment narejen z dvema Google Home zvočnikoma in enako Cleverbot tehnologijo. Medtem ko so »pogovori« potekali precej normalno, so vse vpletene tehnologije hitro »ugotovile«, da govorijo z drugim chatbotom.

WnzlbyTZsQY

Kar distancira nedavni Facebookov eksperiment od naštetih, pa je način, na katerega so chatboti komunicirali. Medtem ko so v ostalih primerih roboti med sabo »govorili« v angleškem jeziku, sta Facebookova Alice in Bob hitro razvila svoje, kot kaže, bližnjice v jeziku.

Chatbota, ki naj bi drug drugemu služila kot vaja za pogovor z ljudmi, sta imela nalogo, da barantata o klobukih, žogah in knjigah. Pogovor, ki naj bi potekal v angleščini, pa je kmalu zavil v smer, ki sta jo razumela le Bob in Alice.

»Jaz lahko jaz jaz vse ostalo...« je predlagal Bob. »Žoge imam nič zame zame zame zame zame zame,« je odgovorila Alice. »Ti jaz vse ostalo,« je vztrajal Bob in Alice je popustila: »Žoge imajo žoge zame zame zame zame zame.« »Jaz jaz lahko jaz jaz jaz vse ostalo,« se je strinjal Bob.

Topio 3.0, humanoidni robot na sejmu Automatica v Nemčiji, 2010

Topio 3.0, humanoidni robot na sejmu Automatica v Nemčiji, 2010
© Wiki Commons

Zgornji odlomek iz dejanskega pogovora chatbotov je človeku povsem nerazumljiv. A kljub temu ima govor neka svoja pravila. »Zašla bosta od razumljivega jezika in si izmislila kode zase,« pove gostujoči raziskovalec Facebookovega oddelka za umetno inteligenco (FAIR) Dhruv Bhatra. Če na primer chatbot ponovi neko besedo petkrat, lahko to razlagamo tako, da želi pet kopij tega predmeta. »To pa ni tako različno od načina, na katerega bližnjice ustvarjajo ljudje. V vsakem primeru sta robota prilagodila komunikacijska sredstva tako, da so lahko služila zelo specifičnemu namenu. To pa je v resnici točno to, za kar sta bila sprogramirana. Raziskovalec Mike Lewis pojasnjuje, da so eksperiment prekinili, saj je njihov interes »razviti bote, ki bodo lahko govorili z ljudmi.«

Morda še zanimivejša je novica, ki jo je Facebookova ekipa sporočila v juniju, mesec dni pred incidentom. Robota, ki sta imela sicer nalogo, da se pogajata, sta se naučila lagati. V težnji po cilju – kompromisu – sta bila Alice in Bob programirana, da si želita različnih stvari. Najzanimivejša taktika, ki sta jo razvila, je bilo izkazovanje interesa za reči, ki jih v resnici nista hotela – da sta jih v procesu barantanja lahko navidezno opustila. »Naučila sta se lagati, ker sta odkrila strategijo, ki deluje,« pojasnjuje Bhatra. A vseeno gre za redko taktiko, dodaja.

Pogovor s Cleverbotom: U: ŽivijoC: Zdravo. Ali si dekle? U: Ja, ali si ti robot? C: Ne, jaz sem pes. U: Čudno. Nikoli še nisem videla robotskega psa.C: Ali si ti človek?

Pogovor s Cleverbotom:
U: Živijo
C: Zdravo.
Ali si dekle?
U: Ja, ali si ti robot?
C: Ne, jaz sem pes.
U: Čudno. Nikoli še nisem videla robotskega psa.
C: Ali si ti človek?
© Mladina

Facebookova senzacija pa ni prva s tovrstnimi rezultati. Googlova umetna inteligenca se je lani naučila ustvariti lasten sistem šifriranja, njegov Google Translate pa je skozi učenje razvil univerzalen jezik, s katerim lahko prevaja v jezike, ki jih prej ni naštudiral.

Vzpon robotov, čeravno zelo priljubljen na znanstvenofantastičnih ekranih, torej še ni ravno pred vrati. Najodmevnejši napredek posnemanja človečnosti prednjači v seksualno-tehnološki industriji, govori se o »griefbotih« za komuniciranje s pokojnimi, študija iz leta 2011 pa je celo predvidela, da bi lahko superračunalnik z analiziranjem novic napovedoval prihodnost. Apokalipsa iz Matrice torej še ni pred vrati – prah, ki ga je dvignil preprost eksperiment, pa le nakazuje, da še zdaleč nismo dovolj seznanjeni s tehnologijo, ki nas obdaja na vsakem koraku.

Pisma bralcev pošljite na naslov pisma@mladina.si. Minimalni pogoj za objavo je podpis z imenom in priimkom ter naslov. Slednji ne bo javno objavljen.