Nova resničnost

Neposredno po silovitem prodoru jezikovnega modela ChatGPT – paradnega konja panoge, ki razvija umetno inteligenco – na medmrežje novembra 2022 so svetovno medijsko krajino preplavili zaskrbljeni članki, kot je bil nekrolog Šolski esej je mrtev, ki ga je objavil ameriški časnik The Atlantic. Nemudoma je bilo namreč jasno, da se bo ta brezplačno dostopni program, ki lahko v nekaj sekundah napiše (dokaj in čedalje bolj) strokovno ustrezen in prepričljiv esej ali seminarsko nalogo, ki zna reševati matematične probleme, odgovarjati na vprašanja in celo pisati programe, neizogibno znašel v rokah učencev, dijakov in študentov, ko bodo iskali bližnjice pri mukotrpnem pisanju domačih nalog.

Pritisk na zabetonirane vzorce

Dobri dve leti kasneje je ChatGPT skrivno orožje dobršnega dela študentske populacije po vsem svetu. Statistike v tujini sicer niso popolnoma poenotene, a vse ankete jasno kažejo, da je orodja generativne umetne inteligence posvojil večinski del učečega se prebivalstva: lanska raziskava Stanfordove univerze je pokazala, da ChatGPT prikrito uporabljata dobri dve tretjini ameriških srednješolcev. Anketni podatki, ki jih je leta 2023 zbrala analitična organizacija Pew Research Center, pa razkrivajo, da je ChatGPT za pisanje nalog v ZDA takrat uporabljal vsak peti najstnik. Zdaj je ta delež vsekakor že veliko večji. Raziskava, ki so jo opravili na Fakulteti za družbene vede v Ljubljani, je pokazala, da ChatGPT uporablja več kot 90 odstotkov njihovih študentov. Gregor Petrič, raziskovalec in profesor s katedre za družboslovno informatiko in metodologijo, je v pogovoru za Mladino poudaril, da so na Fakulteti za družbene vede zelo hitro, že na začetku predlanskega leta, izoblikovali pravilnik, s katerim so začrtali, kaj se z orodji generativne umetne inteligence sme in kaj ne. Na fakulteti so tako šli v korak s časom, da jezikovne modele pri navajanju priznavajo celo kot legitimen vir. FDV kot plagiatorstvo obravnava le »zamolčanje rabe različnih orodij umetne inteligence,« je zapisano v posodobljenem pravilniku glede navajanja, ki rabo jezikovnih modelov sicer malodane spodbuja. »Začeli smo tudi spreminjati pedagoški proces, tako da je več poudarka na ustnih, sprotnih zagovorih in na splošno na interakciji, ki jo je na ravni univerzitetnega izobraževanja treba spodbujati,« pojasni raziskovalec.

Raziskava, ki jo je pod Petričevo taktirko opravil Center za metodologijo in informatiko FDV, kaže, da orodij generativne umetne inteligence ne uporabljajo zgolj študenti, temveč tudi dijaki in celo učenci v osnovnih šolah, načini rabe pa so raznovrstni: od korektnih, kot so »pomoč pri razlagi snovi, povzemanje vsebin, personalizirano učenje, brainstorming in ugibanje izpitnih vprašanj, do vprašljivih načinov rabe, kot je plagiatorstvo,« pojasni Petrič. Omenjena raziskava kaže, da lahko študenti, ki orodja generativne umetne inteligence uporabljajo nekritično in na sporne načine, »kratkoročno pridejo do boljših ocen, vendar bodo dolgoročno imeli slabše razvite kompetence in bodo tako manj zaposljivi«. Raziskovalec je tudi prepričan, da lahko umetna inteligenca pri rabah, ki jih je naštel kot nesporne, dejansko obogati in izboljša študijski proces in pedagoško delo: »Izobraževalni proces se že dlje prepočasi odziva na tehnološke in družbene spremembe in s tem zamuja številne priložnosti za kakovostnejše izobraževanje. Morda bo tehnologija generativne umetne inteligence v tem smislu pomenila oziroma že pomeni pozitivni pritisk, da malce bolj začnemo prevpraševati precej zabetonirane vzorce študija in pedagoškega dela.«

Raziskava, ki jo je opravil Center za metodologijo in informatiko FDV, kaže, da orodij umetne inteligence ne uporabljajo zgolj študenti, temveč tudi dijaki in celo učenci v osnovnih šolah.

Marjan Krašna je strokovnjak za didaktiko informacijsko-komunikacijske tehnologije in redni profesor na Filozofski fakulteti Univerze v Mariboru. Pri raziskovalnem delu se med drugim ukvarja z umetno inteligenco v kontekstu izobraževanja, pa tudi z etičnimi vprašanji, ki se postavljajo pri rabi sistemov umetne inteligence v šolstvu. V pogovoru za Mladino ugotavlja, da je delež študentov, ki ne uporabljajo sistemov umetne inteligence, izredno majhen, skorajda zanemarljiv, pri čemer prednjači razvpiti ChatGPT – tudi zato, ker je brezplačen. Pojasni, da največ njegovih študentov umetno inteligenco uporablja za razlago nečesa, česar še ne znajo ali ne razumejo. Temu sledi iskanje osnovnih informacij, razširjanje znanja in šele na četrtem mestu je priprava pisnih izdelkov. »Od začetnega navdušenja so uporabniki zdaj prišli do realnega stanja,« pravi in poudari, da so sistemi umetne inteligence uporabni šele, ko o snovi nekaj veš, saj lahko le tako ovrednotiš izdelke. »Študenti so ugotovili, da sistemi ne dajo kakovostnih odgovorov oziroma izdelkov, če ne postavijo pravilnih vprašanj oziroma vprašanj ne postavijo pravilno,« pove. »To pa ni mogoče, če o kaki stvari nimaš pojma.«

Nesrečna potreba po razmišljanju

Čeprav Marjan Krašna ne nasprotuje vključevanju te tehnologije v izobraževalni sistem, se zaveda, da imajo veliki jezikovni modeli tudi velik potencial za zlorabe, kot je plagiatorstvo. »Zlorabe so bile, so in bodo. Ne moremo se jim izogniti. Lahko jih le zmanjšamo na obvladljivo raven,« pravi. Verjame, da se je večina profesorjev tej novi resničnosti že prilagodila in torej ne daje več takšnih nalog, pri katerih bi lahko študenti umetno inteligenco uporabljali pasivno: »Najbolj smiselno jih je dejavno vključiti v pripravo nalog in te postaviti na višje kognitivne ravni, na katerih je potrebne več kritične presoje rezultatov.« Pri tem opozori tudi na nekatera etična vprašanja, ki se postavljajo v zvezi z vlogo umetne inteligence v izobraževanju: »Sistemi umetne inteligence so naučeni s podatki, ki so lahko pristranski, interna logika je lahko pristranska, raba sistemov umetne inteligence je lahko pristranska in splošna dostopnost lahko privede v odvisnost.« Kot pravi: »Šele ko se zavemo vseh pasti, ki se skrivajo v sistemih umetne inteligence in rabi teh, sisteme lahko uporabljamo suvereno.«

Številne dvomljivce in tudi marsikaterega pedagoga vseeno skrbi, da bi množične zlorabe sistemov umetne inteligence, denimo pasivno in avtomatizirano pisanje šolskih nalog, utegnile potencialno voditi v kognitivno nazadovanje celotnih generacij učečih se, ki so bili med šolanjem zgolj pasivni prejemniki informacij, namesto da bi razvijali veščine aktivnega reševanja problemov. Skrbi jih, da tovrstne tehnologije vodijo v dehumanizacijo učnega procesa in v pretirano zanašanje na tehnologijo, ki lahko pripelje celo v odvisnost. Ko Marjan Krašna razmišlja o etičnih vprašanjih, ki se postavljajo zaradi morebitne zlorabe umetne inteligence, priznava, da je strah, da bo mlada generacija postala odvisna od teh sistemov, popolnoma upravičen. »Ljudem se ne da več razmišljati. Raje so ležerni in prepustijo mentalne aktivnosti nekomu ali nečemu drugemu,« meni. »To zaznamo v vseh družbah, ki so sposobne ponotranjiti največje in najbolj evidentne laži in jih zagovarjati, čeprav bi jih morale že s preprosto logiko zavrniti.« Ker je tako ravnanje postalo normalno za milijone ljudi, se profesor Krašna boji, da bo to zdaj zgled mlajšim generacijam: »Potem bi lahko tisti, ki bi nadzoroval podatke in algoritme, in posredno, prek sistemov umetne inteligence, sugeriral zanj koristne odločitve, zavojeval človeštvo.« K temu doda še sloviti navedek Stephena Hawkinga, ki je človeštvo pred umetno inteligenco svaril že davno pred prihodom razvpitega programa ChatGPT: »To bo morda najboljša stvar, ki se nam je kadarkoli zgodila, morda pa bo najslabša. Če ne bomo previdni, bo prav gotovo zadnja.«

Delež študentov, ki ne uporabljajo sistemov umetne inteligence, je izredno majhen, skorajda zanemarljiv.

Gregor Petrič je prepričan, da »pasivno sprejemanje informacij, torej način, pri katerem umanjkajo globlji kognitivni procesi, ki so povezani z analitičnim, kritičnim in kreativnim razmišljanjem, ni posledica rabe generativne umetne inteligence«. Vseeno pa opaža, da bo študent, če se brez kakršnegakoli truda zadovolji s prvim odgovorom na enostavne besedne pozive (prompte) in to zanj postane pretežni vzorec delovanja, vsekakor imel težave v položajih, v katerih je potreben večji kognitivni napor. »Pri tem razmisleku je nujno treba upoštevati še strukturni vidik, družbeni kontekst ekonomije pozornosti, v kateri živimo,« je prepričan. Pri tem poudarja, da tehnološki velikani potrebujejo pasivne potrošnike informacij, ki predvsem podrsavajo po zaslonu in pritiskajo všečke: »Vsakršni kognitivni procesi, ki bi ustavljali posameznika, so ovira pri tej pozornosti. Kapital potrebuje pasivnega potrošnika informacij in večina tehnologij od spletnih iskalnikov, družbenih medijev do generativne umetne inteligence v vedno večjem obsegu vključuje algoritme in druge mehanizme, ki posameznika odrešijo te nesrečne potrebe po razmišljanju.« Ker se zaveda, da tehnološke velikane zanimajo predvsem denar, moč in oblast, je prepričan, da »bi se morali uporabniki odkriteje in bolj množično odvračati od očitno izkoriščevalskih tehnologij in se obračati k tehnologijam, ki temeljijo na odprtosti in razumevanju uporabnikov kot avtonomnih, dejavnih in raznolikih posameznikov.«

Osebni asistent

Ko je kmalu po vzponu razvpitega programa ChatGPT postalo jasno, da bo umetna inteligenca za vselej preobrazila šolstvo, sta se sprva oblikovala dva tabora, ki sta oba šla v pretirane skrajnosti. V prvega so sodili zaskrbljeni dvomljivci, ki so ChatGPT v paniki videli predvsem kot stroj za neizsledljivo, visokotehnološko plagiatorstvo in goljufanje. Razumeli so ga kot sredstvo za leno iskanje bližnjic, katerega učinek na veščine avtonomnega kritičnega mišljenja je uničujoč. Tiste v nasprotnem taboru je zaslepilo pretirano navdušenje nad novo tehnologijo. Osvojile so jih tudi obljube tehnoloških velikanov, ki so skušali umetno inteligenco prodati kot vsemogočno orodje, s katerim se bo v izobraževanju zgodila prava revolucija. Tabor tehnoloških optimistov je velike jezikovne modele, kakršen je ChatGPT, prepoznal kot ključen korak v evoluciji izobraževalnega procesa, umetno inteligenco pa kot potencialen podaljšek človeškega uma.

Resnica je verjetno nekje vmes. Gregor Petrič denimo meni, da širše gledano ne gre za radikalno nič novega. »V izobraževanju že dlje opazujemo številne inovacije, ki implementirajo tehnologije umetne inteligence in digitalne tehnologije nasploh,« pravi. »Tehnologije lahko ponujajo izjemne priložnosti, vendar je uspešnost njihove implementacije in rabe odvisna od družbenega konteksta, kompetenc, upoštevanja etičnih vidikov, na splošno od celotnega družbeno-tehničnega sistema, v katerega je tehnologija umeščena.« Marjan Krašna opaža, da so »na začetku vsi imeli nekaj težav z oceno uporabnosti sistemov generativne umetne inteligence. Vendar so tisti, ki imajo več prakse pri recenzentskem delu in ki so ustvarili korpus znanstvenih in strokovnih prispevkov, hitro doumeli, v čem je njihova uporabna vrednost.«

Zdaj je prepričan, da gre za izjemna orodja, a le »za tiste, ki jih znajo uporabljati«. Pravi, da je »sistem umetne inteligence najbolje obravnavati kot osebnega asistenta, ki je sicer neumen, a hiter. Uporaben je le, če mu uporabniki znajo sporočiti, kaj želijo.« Prepričan je, da se morajo študentske naloge v novi resničnosti enostavno spremeniti in prilagoditi duhu časa in novim tehnologijam, »saj bodo tako vsi začeli smiselneje uporabljati sisteme umetne inteligence«. »Vsekakor pa kilometrina pomaga. Prej ko se naučijo, da na bedasta vprašanja dobimo bedaste odgovore, prej bodo cenili uporabno vrednost sistemov umetne inteligence.«

Dobršen del pedagogov je že spoznal, da je umetna inteligenca postala neizogiben del naše resničnosti in da se bodo morali preprosto prilagoditi duhu časa ter se naučiti živeti in izobraževati v sožitju s to tehnologijo. To ne pomeni, da so vrgli puško v koruzo in se sprijaznili s tem, da bodo do konca profesorskih dni brali in ocenjevali (pod)povprečne eseje, ki jih je napisal ChatGPT, temveč so začeli iskati načine, kako umetno inteligenco uporabiti kot orodje, s katerim bo mogoče okrepiti produktivnost in učinkovitost učnih procesov. Pri tem sta seveda ključna digitalna pismenost in razumevanje, kaj umetna inteligenca sploh je in kako deluje.

Predvsem pa je ključno vzpostavljanje kritične distance do besedil, ki jih ustvarjajo veliki jezikovni modeli, saj so to izrazito pristranski in nezanesljivi viri informacij. Ne le da pretirano posplošujejo, temveč pogosto navajajo lažna dejstva in jih nato samozavestno in suvereno prodajajo kot resnico. Jezikovni modeli so namreč usposobljeni le za predvidevanje, katera beseda sledi prejšnji v neki povedi, kot takšni pa nimajo sposobnosti preverjanja resničnosti navedenih podatkov, temveč le sposobnost pisanja verodostojno zvenečih trditev – poudarek je na »zvenečih«. Kot je za časnik The Guardian zgovorno povzel analitik Benedict Evans, je lahko ChatGPT »kot študent, ki samozavestno odgovarja na izpitna vprašanja, čeprav se ni udeležil niti enega predavanja. Očitno lahko samozavesten nakladač napiše zelo prepričljiv nesmisel.« Marjan Krašna je prepričan, da so ChatGPT in podobna orodja izjemne iznajdbe za nekoga, ki jih zna uporabljati, a dokaj nesmiselne za vse druge. »Prihranijo čas in omogočajo, da se uporabniki razbremenijo neinventivnega in duhamornega dela,« pravi in sočasno opozori, da »je odgovore treba preverjati, saj je vselej prisotna možnost, da sistem umetne inteligence halucinira.«

Ko roboti ocenjujejo robote

Številni pedagogi se niso zgolj sprijaznili s tem, da njihovi učenci pri delu posegajo po velikih jezikovnih modelih, temveč so se k orodjem, kot je ChatGPT, v iskanju bližnjic pri zamudnem delu, kot je branje esejev in seminarskih nalog, popravljanje teh in celo ocenjevanje izpitov, zatekli tudi sami. Nedavno poročilo svetovalnega podjetja Tyton Partners, ki ga je naročila spletna platforma za odkrivanje plagiatorstva Turnitin – strah in trepet vseh goljufivih študentov –, razkriva, da sisteme generativne umetne inteligence uporablja skoraj četrtina zaposlenih na ameriških fakultetah. Ko jih učitelji uporabljajo za pregledovanje in ocenjevanje šolskih izdelkov, ki so prav tako nastali ob pomoči umetne inteligence, se znajdemo v sila nenavadnem položaju, v katerem, če karikiramo, roboti ocenjujejo robote. Kot je za časnik The Atlantic ped časom napisal Ian Bogosta, profesor medijskih študij in računalništva na Univerzi v Washingtonu: »Prvo leto, v katerem je umetna inteligenca vstopila na fakultete, se je končalo z občutkom groze, zdaj so se razmere sprevrgle v absurd.«

Marjan Krašna priznava, da jo uporablja tudi sam, a predvsem v raziskovalne namene: z njo na primer opravlja kvalitativne analize študentskih mnenj oziroma refleksij, ki pa ne vplivajo na oceno, temveč jih upošteva predvsem kot konstruktivne kritike izvedbe predmeta. »To izvajam že leta in za ročno urejanje je potrebnega ogromno časa. Brez sistemov UI sem se tega lotil šele, ko sem imel čas, zdaj pa to naredim veliko hitreje in pri tem nimam občutka, da bi pri raziskovanju kršil kakšno etično načelo,« pravi. Vseeno opozarja, da je lahko raba umetne inteligence med pedagogi etično sporna, še posebej, če se uporablja pri ocenjevanju. A seveda »niti profesorji pri večurnem pregledovanju nalog niso ves čas enako zbrani«, zato po njegovem »odločitev za ali proti ni preprosta«.

Tudi Gregor Petrič meni, da številni načini rabe generativne umetne inteligence pri raziskovalnem delu lahko pospešijo in poenostavijo nekatera rutinska opravila. Toda »žal je znanih tudi precej primerov, ko so raziskovalci pisali na primer celotne znanstvene članke, ki so bili polni napačnih informacij zaradi haluciniranja umetne inteligence. Gre za zelo sporne primere plagiatorstva.« Strinja pa se tudi, da je »ocenjevanje z generativno umetno inteligenco etično res sporno početje«.

Prepoved kalkulatorjev

Vsakršni poskusi prepovedi rabe tega programa, za katero bi se odločile univerze in šole, pa tudi poskusi prepovedi na državni ravni so se izkazali za nesmiselne in neučinkovite. Dostop do aplikacije je sicer uspešno onemogočen na Kitajskem, v Iranu, Severni Koreji in Rusiji, a razlogi za prepoved v teh državah so politično-ideološki, saj za programom stoji ameriško podjetje. Italija je bila prva država na Zahodu, ki je prepovedala rabo modela ChatGPT. Tako je storila predvsem zaradi dvomov o legitimnosti množičnega zbiranja osebnih podatkov, ki so namenjeni za dodatno urjenje programa, vladni organ za varstvo podatkov Garante pa je prepoved med drugim utemeljil tudi s tem, da ChatGPT »mladoletnike izpostavlja absolutno neprimernim odgovorom glede na njihovo stopnjo razvoja in ozaveščenosti«. Prepoved je trajala manj kot mesec dni, rezultati nedavne raziskave pa kažejo, da v Italiji sisteme generativne umetne inteligence, večidel ChatGPT, uporablja 65 odstotkov učencev, dijakov in študentov.

Številne dvomljivce skrbi, da bi lahko množične zlorabe sistemov umetne inteligence, denimo avtomatizirano pisanje šolskih nalog, vodile v kognitivno nazadovanje celotnih generacij učečih se.

Drugod po svetu so rabo modela ChatGPT v šolah omejevali in prepovedovali v manjšem obsegu, bodisi na ravni posameznih izobraževalnih ustanov bodisi na ravni okrožij. A tudi tam sta se izkazala za neučinkovita, saj so izobraževalne ustanove dostop do programa onemogočile le v lastnih brezžičnih omrežjih. Študenti so lahko do njih še vedno dostopali, če naprav niso povezali s šolskim omrežjem, ali pa so umetno inteligenco uporabljali pri domačem delu. Kritiki takšnih ukrepov so pobude za prepoved sistemov umetne inteligence prepoznavali kot enostavno absurdne, marsikdo pa je rekel, da je to podobno, kot če bi učencem prepovedal rabo kalkulatorjev. V času teh prepovedi je bilo tudi ogromno pobud za izdelavo programske opreme, ki bi prepoznala, ali je bilo neko besedilo napisano z rabo umetne inteligence. Te so hitro padle v vodo, saj se veliki jezikovni modeli, kakršen je ChatGPT, nadgrajujejo tako bliskovito, da njihov napredek težko dohajajo celo največji strokovnjaki.

Kot opaža Gregor Petrič, so univerze takšne prepovedi uveljavile v paniki, sčasoma pa so jih umaknile. »Verjetno zato, ker je prepovedovanje aplikacij na internetu nesmiselno, saj to ne prepreči rabe, hkrati pa so orodja generativne umetne inteligence že zelo prisotna v družbi in bodo še bolj, če to želimo ali ne,« pravi. Zato se nagiba k rešitvam, ki namesto omejevanja spodbujajo grajenje tovrstne pismenosti, saj je ta neizogiben pogoj za pametno in korektno rabo orodij generativne umetne inteligence. »Ta pismenost med drugim zajema zavedanje številnih pristranskosti v jezikovnih modelih, osnovno razumevanje tehnologij generativne umetne inteligence, zavedanje etičnih omejitev, triangulacijo pridobljenih informacij, učinkovito pisanje besednih ukazov in podobno,« pojasnjuje.

Marjan Krašna se strinja, da prepoved rabe sistemov umetne inteligence ni smiselna. Prepričan je, da pedagogi s tem, da jih vključijo v proces nastajanja šolskih izdelkov, naredijo manjšo škodo kot pa s prepovedjo, ki jo je mogoče zaobiti: »Prepoved bi bilo že s tehničnega vidika težko uresničiti. Menim, da bi morali študentom različni profesorji na svojih področjih pokazati, kako naj učinkovito uporabijo sistem umetne inteligence, saj bodo lahko študentje le tako spoznali, da se raba tega v različnih strokah razlikuje.« Osebno nima nikakršnih zadržkov, ko študentom odkrito predlaga, naj pri delu uporabijo umetno inteligenco, in jim celo pokaže, kje in kako je ta za pedagoge najuporabnejša. »Zavedam pa se, da nekateri tega niso vešči in bi jim bilo morda celo ljubše, če sistemov umetne inteligence sploh ne bi bilo,« pravi. »Ti se bodo vsekakor morali prilagoditi novi realnosti.«