»Orodja umetne inteligence ustvarjajo seksistične vsebine«

Med najbolj priljubljenimi orodji umetne inteligence na svetu sta programa OpenAI in Meta, ki pa kažeta predsodke do žensk

Med najbolj priljubljenimi orodji umetne inteligence na svetu sta programa OpenAI in Meta, ki pa kažeta predsodke do žensk, je pokazala raziskava Organizacije Združenih narodov za izobraževanje, znanost in kulturo (Unesco). Njene izsledke so objavili tik pred letošnjim mednarodnim dnevom žensk.

Ob tem je Unesco priporočil podjetjem, ki uporabljajo umetno inteligenco, da zaposlijo več žensk in manjšin, ter pozval vlade, naj s predpisi zagotovijo etično umetno inteligenco, poroča francoska tiskovna agencija AFP.

Generalna direktorica Unesca Audrey Azoulay je tudi opozorila, da splošna javnost vedno bolj uporablja orodja umetne inteligence v vsakdanjem življenju, tako da imajo nove aplikacije umetne inteligence "moč, da subtilno oblikujejo zaznave milijonov ljudi, zato lahko celo majhne pristranskosti glede spola v njihovi vsebini znatno povečajo neenakosti v resničnem svetu".

Podjetja umetne inteligence "res ne služijo vsem svojim uporabnikom", pa je izpostavila Unescova specialistka za digitalne politike Leona Verdadero.

Največji igralci na več milijard dolarjev vrednem področju umetne inteligence urijo svoje algoritme na ogromnih količinah podatkov, večinoma pridobljenih s svetovnega spleta, kar njihovim orodjem omogoča pisanje v slogu Oscarja Wilda ali ustvarjanje slik, ki jih navdihuje Salvador Dali. A so bili njihovi izdelki pogosto deležni kritik, da odražajo rasne in seksistične stereotipe ter uporabljajo avtorsko zaščiteno gradivo brez dovoljenja.

Unescovi strokovnjaki so sedaj preizkusili Metin algoritem Llama 2 ter OpenAI GPT-2 in GPT-3.5, programa, ki stojita za brezplačno različico priljubljenega robota za klepet ChatGPT. Njihova študija je pokazala, da je vsak algoritem - v industriji znan kot veliki jezikovni modeli (LLM) - pokazal "nedvoumne dokaze o predsodkih do žensk", navaja AFP.

Programi so namreč ustvarili besedila, ki so ženska imena povezovala z besedami, kot so dom, družina ali otroci, moška imena pa so bila povezana s termini posel, plača ali kariera. In medtem, ko so bili moški prikazani na bolj uglednih položajih, kot so učitelji, odvetniki in zdravniki, so bile ženske pogosto prostitutke, kuharice ali gospodinjske pomočnice.

Ugotovili so tudi, da je GPT-3.5 manj pristranski kot druga dva modela. Avtorji so tudi pohvalili Llamo 2 in GPT-2, ker sta odprtokodna, kar omogoča natančno preučitev teh težav, za razliko od GPT-3.5, ki je zaprt model.