Kako umetna je že inteligenca slovenskega javnega sektorja? 

Javni sektor 2.0

Pri britanskem časniku The Guardian so lani razkrili, da je britanska vlada za odkrivanje goljufij pri dodeljevanju denarnih nadomestil uporabljala umetno inteligenco (UI), a je bila ta pristranska, saj je za morebitne goljufe napačno označila veliko Bolgarov. Pred leti je nizozemska davčna uprava uvedla avtomatiziran sistem, ki naj bi odkrival in kaznoval goljufije pri otroških dodatkih. Rezultati so bili katastrofalni. Sistem se je osredotočil predvsem na pripadnike nebelskih manjšin z nizkimi prihodki; zahteve po vračilu otroških dodatkov so več tisoč družin pahnile v revščino, več kot tisoč otrok pa je bilo poslanih v rejništvo.

Države so v zadnjih letih pritisnile na plin in kot po tekočem traku iščejo načine, kako UI implementirati v javni sektor, da bi bil ta čim učinkovitejši. Kot je aprila poudaril minister za javno upravo Franc Props: »Vprašanje ni in ne more biti, ali v javni upravi uporabljati UI ali ne. Vprašanje je le, kje vse in kako jo uporabljati.« In pa kako poskrbeti, da bo raba UI čim varnejša, zanesljiva in transparentna.

Del zadržkov naj bi pomagal rešiti evropski akt o UI, ki je v omejenem obsegu začel veljati avgusta. Ta prepoveduje rabo UI za izvajanje družbenega točkovanja oziroma razvrščanje ljudi na podlagi vedenja, socialno-ekonomskega statusa ali osebnih značilnosti, ob strogi regulaciji in človeškem nadzoru pa bi se UI lahko uporabljala pri ocenjevanju primernosti za socialne transferje in druge javne pravice, v pravosodju in policiji ter pri nadzoru meje.

Pri organizaciji Danes je nov dan pa so zagnali Register rabe UI (dostopen je na spletni strani registerui.djnd.si), ki ponuja vpogled v podatke o delovanju že delujočih umetnointeligenčnih sistemov v slovenskem javnem sektorju. Gre šele za prvo različico registra, ki se bo dopolnjeval sproti. Za zdaj izvemo, da policija uporablja sistem za prepoznavo obrazov, ki temelji na biometrični obdelavi osebnih podatkov, avtomatizirane procese za presojo varnostnih tveganj, ki jih pomenijo letalski potniki, in sistem za ugotavljanje identitete tujcev na meji. Prav tako izvemo, da UI izvaja cestninski nadzor na slovenskih avtocestah, javna uprava pa za obdelavo in povezovanje podatkovnih zbirk uporablja poslovnointeligenčni sistem Skrinja, ki se sicer po navedbah ministristva za digitalno preobrazbo ne zanaša na UI in strojno učenje, je pa implementacija UI zapisana v načrt razvoja tega sistema.

»Zaskrbljeni smo, ker se nove tehnologije, ki med drugim temeljijo tudi na UI, pogosto razvijajo in uvajajo brez pravnih zaščitnih ukrepov in sodelovanja skupnosti, katerih pravice so lahko prizadete zaradi rabe UI, in organizacij, ki dejavno delujejo na področju varovanja človekovih pravic in svoboščin,« je povedala Jasmina Ploštajner iz DJND. »UI je lahko uporabljena na načine, ki so celotni družbi v prid, a javni organi morajo pri tem poskrbeti za rigorozno varovanje demokratičnih standardov in pravic, tudi z izvajanjem ocen tveganja in široko razpravo pred implementacijo, kasneje pa morajo skrbeti za transparentnost in nadzor javnosti.«

In tudi, ko se vsem tem pogojem zadosti, je še poudarila, mora biti še vedno človek tisti, ki sprejme končno odločitev. Ne stroj.