Na podlagi glasu določajo, kdo je kriminalec

Prepričanje v objektivnost presoje strojev lahko postane prepričljiva krinka za diskriminacijo

Je mogoče za nekoga povedati, da je kriminalec, samo na podlagi potez na obrazu ali barve glasu? V AC Global Risk, zagonskem podjetju iz Kalifornije, ustanovljenem leta 2016, trdijo, da na podlagi tega, kako nekdo nekaj reče, ne kaj reče, lahko določijo, kakšno “tveganje” je za delodajalca, če gre za kandidata za zaposlitev, oziroma za državo, če gre za prosilca za azil.

V AC Global Risk pravijo, da so razvili sistem za določanje tveganja na daljavo (Remote Risk Assessment - RRA), poroča Intercept. Ta sistem deluje tako, da stranke podjetju AC Global Risk pomagajo sestaviti vprašalnik. Ljudje na ta vprašanja v maternem jeziku lahko odgovarjajo tudi po telefonu. Sistem RRA potem na podlagi značilnosti glasu izdela poročilo z oceno tveganja. Predsednik uprave Alex Martin je prepričan, da ta sistem lahko izboljša odločanje, kakšno tveganje predstavlja posameznik.

V AC Global Risk se hvalijo, da v svetovalnem odboru podjetja sedijo nekdanji obrambni minister ZDA Robert Gates, nekdanja zunanja ministrica ZDA Condoleezza Rice in nekdanji svetovalec za nacionalno varnost ZDA Stephen Hadley. Pohvalili so se tudi s pogodbo s poveljstvom specialnih operacij v Afganistanu, službami za varnost v Applu, Facebooku in Googlu.

Široka raba analize tveganja s sistemom RRA je po Martinovih besedah pokazala, da je zelo točna, učinkovita, zmogljiva, njeno uporabo je še mogoče razširiti. V podjetju AC Global Risk trdijo, da lahko istočasno analizirajo več sto oseb na različnih koncih sveta.

Raziskave za razvoj podobnega sistema za analizo migrantov in beguncev na mejah je že financiralo tudi ameriško ministrstvo za domovinsko varnost. Razvoj takšnih tehnologij je financirala tudi Evropska unija.

Raziskave za razvoj podobnega sistema za analizo migrantov in beguncev na mejah je že financiralo tudi ameriško ministrstvo za domovinsko varnost.

Nekatere strokovnjake razvoj tovrstnih tehnologij za digitalno poligrafsko testiranje skrbi. Bojijo se, da bodo računalniški programi izbiranje ljudi z analizo glasu in izraza obraza spremenili v rutino, postalo bo navidezno objektiven izbor.

Analize tveganja sicer niso nič novega. Algoritme za njihovo izvedbo so v zadnjih letih začeli uporabljati v vseh stopnjah kazenskega postopka v ZDA. Za veliko teh orodij kritiki trdijo, da so nestransparentna, tajna in pristranska. Glavna skrb skeptičnih strokovnjakov je, da prepričanje v objektivnost presoje strojev lahko postane prepričljiva krinka za diskriminacijo. Podjetje AC Global Risk je objavilo malo podatkov, kako njegov sistem RRA deluje. Ni objavilo poročil, s katerimi bi podkrepilo trditve o raziskavah, prav tako ni objavilo znanstvene zgodovine svojih raziskovalcev.

Nekatere strokovnjake razvoj tovrstnih tehnologij za digitalno poligrafsko testiranje skrbi. Bojijo se, da bodo računalniški programi izbiranje ljudi z analizo glasu in izraza obraza spremenili v rutino.

Za Intercept niso odgovorili na vprašanja, katere kvalitete (jakost, hitrost, modulacijo) in značilnosti njihov sistem meri. Če katera od trditev podjetja AC Global Risk drži, je to prelomnica za tisto, za kar raziskovalci menijo, da je mogoče ugotoviti na podlagi človeškega glasu. Na hitro je mogoče ugotoviti splošne značilnosti, kot so starost, spol ali dialekt posameznika, pa tudi osebne značilnosti, recimo, iz katere regije je nekdo, ali ima kakšna zdravstvene probleme. Spletni trgovec Amazon je pred mesecem dni prijavil patent, ki bo dovolil njegovi virtualni asistentki Alexi določiti značilnosti glasu vključno z jezikom, akcentom, spolom in starostjo. Glavna skrb ostaja določanje čustev na podlagi glasu. Dagmar Schuller, soustanoviteljica podjetja za analizo glasu audEERING, razlaga, da danes še ni mogoče z več kot 70 odstotno verjetnostjo na podlagi analize glasu ugotoviti, ali nekdo laže (laganje je eden od dejavnikov za določitev tveganja). Ta delež je enak, kot pri človeški presoji.

Opozorila, da so trditve o uspešnosti računalniških analiz glasu znanstveno vprašljive, niso ovira, da jih podjetja in vlade ne bi uporabile. Bolj kot znanstvenost je zanje namreč pomembna hitrost in učinkovitost.