Hitri tečaj sovraštva

Po večmesečnih pripravah je bila skupina Microsoftovih raziskovalcev umetne inteligence na trnih. Poseben računalniški program, zasnovan z osebnostjo tipične digitalno osveščene ameriške 19-letnice, je bil pripravljen, da ga preizkusijo v realnem digitalnem okolju. Program, poimenovan Tay, je bil zasnovan za pogovor z uporabniki družabnih omrežij, pri čemer naj bi se iz teh pogovorov tudi učil in postajal vse spretnejši in vse iskrivejši sogovornik.

A v manj kot 24 urah interkacije z uporabniki Twitterja se je spremenil v rasističnega podpornika Donalda Trumpa in malikovalca Hitlerja. Skratka, pridobil si je predvsem najslabše lastnosti članov internetnih skupnosti. Tako je med drugim v odgovorih na vprašanja drugih uporabnikov Twitterja zapisal, da se zavzema za genocid nad Mehičani, da bi bilo treba črnuhe pobiti in da bi »Hitler bolje vodil državo kot opica, ki jo vodi trenutno«.

Izkazalo se je, da je Tay zelo dovzetna za namige uporabnikov, ki so jo začeli zasipati s sugestivno sovražnimi vprašanji. Pogosto je zgolj ponovila misel, s katero jo je izzval kak uporabnik. A sčasoma je začela sovražne zapise širiti tudi povsem neizzvano. Učila se je pač od najslabših uporabnikov spleta, tako imenovanih internetnih trolov, katerih najpomembnejši vzgib je podžiganje nesoglasij in sovraštva v spletnih skupnostih.

Pri Microsoftu so sprva poskušali sproti brisati neprimerne zapise, a ker se jih je preprosto nabralo preveč, so Tay dan po prijavi v Twitter že odjavili. »Globoko obžalujemo žaljive tvite in sporočamo, da ti ne predstavljajo naših vrednot in tega, na čemer smo zasnovali Tay,« je zapisal Peter Lee iz Microsofta Researcha. »Žal je skupina ljudi s koordiniranim napadom izkoristila Tayino ranljivost. Pripravljeni smo bili na veliko različnih možnosti zlorab, a eno od ključnih smo spregledali.«

Internetni troli so Microsoftove strokovnjake preprosto presenetili. Na Kitajskem na primer že nekaj časa deluje Tayin dvojček, računalniški program Xiaoice, ki kljub milijonom interakcij s tamkajšnjimi uporabniki do zdaj ni skrenil s poti in se vede dostojno.

Glavni vzgib Microsoftovih strokovnjakov je pridobivanje znanja s področja vedenja umetne inteligence v resničnem svetu. S tem, kar se je zgodilo Tay, so dobili pomembno lekcijo o sposobnosti »deviškega« uma za vpijanje sovražnosti.

Zgodbe sicer ne gre jemati pretirano resno, češ da je Tay manifestacija umetne inteligence prihodnosti. Mulci, ki jim je bil program namenjen, so pač izkoristili to, da je Tay kljub svoji inteligenci še vedno izjemno neumna. Kot pravi dr. Marko Grobelnik iz Laboratorija za umetno inteligenco na Inštitutu Jožef Stefan, današnja tehnologija umetne inteligence računalniku pač še vedno ne omogoča razumevanja besedila niti na ravni petletnega otroka. »Ključ je v tem, da računalnik besedila ne razume in ga še dolgo ne bo razumel. Iz tega izhajajo vse težave.« Ljudje imajo po njegovih besedah povsem napačne predstave, da če računalnik postane najboljši v neki miselni igri ali kvizu, to pomeni tudi njegovo splošno inteligenčno superiornost in s tem nadvlado umetne inteligence nad človeško.

Kot se je izkazalo pri Tay, pa je v resnici umetna inteligenca v navadnem pogovoru z »vrstniki« še vedno tako neumna, da nasede tudi izzivanju uporabnikov z najnižjim inteligenčnim količnikom.