MLADINA Trgovina

Darja Kocbek

23. 8. 2017  |  Svet

OZN bi morala prepovedati oboroževalno tekmo z ubijalskimi roboti

Menedžerji 116 tehnoloških podjetij iz 26 držav v odprtem pismu zahtevajo od OZN, naj prepove razvoj in uporabo robotov ubijalcev

Fikcijski prizor bitke robotov v videoigri Halo.

Fikcijski prizor bitke robotov.
© Maxpixel

Prvi mož družbe Tesla Elon Musk in prvi mož družbe Alphabet, ki je lastnica Googla, Mustafa Suleyman, sta med 116 menedžerji tehnoloških podjetij iz 26 držav, ki po poročanju Guardiana v odprtem pismu pozivajo OZN, naj prepove razvoj in uporabo robotov ubijalcev oziroma avtonomnega orožja.

V OZN so pred kratkim glasovali o začetku formalnih razprav o takšnem orožju, ki vključuje brezpilotna letala, tanke in avtonomne mitraljeze. Menedžerji v pismu od OZN zahtevajo, naj prepove oboroževalno tekmo z ubijalskimi roboti. Ko bo enkrat razvito, bo smrtonosno avtonomno orožje omogočalo oborožene spopade večjih razsežnosti, kot smo jim bili priča kadarkoli, in z večjo hitrostjo, kot ljudje lahko dojemajo. To orožje despoti in teroristi lahko uporabijo proti nedolžnemu prebivalstvu, ob kibernetskih napadih to orožje lahko deluje na neželene načine, svarijo avtorji odprtega pisma. »Za ukrepanje nimamo veliko časa. Ko bo ta Pandorina skrinjica enkrat odprta, jo bo težko zapreti,« še opozarjajo.

Že prej so strokovnjaki opozarjali, da je tehnologija umetne inteligence dosegla točko, ko je v nekaj letih mogoče razviti avtonomno orožje, tega časa ne štejejo več v desetletjih. Ob tem, ko je umetno inteligenco mogoče uporabiti za to, da bojišča postanejo varnejša za vojsko, se strokovnjaki bojijo, da bi lahko nevarno orožje, ki bi delovalo avtomatsko, znižalo prag za sprejem odločitev o vojni, zaradi česar bi se lahko število izgubljenih življenj v vojaških spopadih povečalo.

Medtem ko ubijalske robote vidimo kot znanstveno fantastiko v podobi Terrminatorjevega T-800 in Robocopovega ED-209, je smrtonosno avtonomno orožje že v uporabi.

Podpisniki odprtega pisma predlagajo, da bi OZN morala »moralno sporne« sisteme smrtonosnega avtonomnega orožja dodati na seznam orožja, ki ga prepoveduje konvencija o določenem konvencionalnem orožju iz leta 1983. Ta konvencija med drugim prepoveduje uporabo kemičnega orožja.

Toby Walsh, profesor za področje umetne inteligence na univerzi New South Wels v Sydneyju, pravi, da je tako rekoč vsako tehnologijo mogoče uporabiti za dobre in slabe namene. To velja tudi za umetno inteligenco. Med slabimi nameni jo je mogoče uporabiti za industrializacijo vojne. Danes se moramo odločiti, kakšno prihodnost hočemo. Ryan Gariepy, ustanovitelj družbe Clearpath Robotics, svari, da je avtonomno orožje prav zdaj pred začetkom razvoja in zelo velike možnosti so, da bo lahko škodovalo nedolžnim ljudem in povzročilo globalno nestabilnost.

Medtem ko ubijalske robote vidimo kot znanstveno fantastiko v podobi Terrminatorjevega T-800 in Robocopovega ED-209, je smrtonosno avtonomno orožje že v uporabi. Samsungovo orožje SGR-A1, ki naj bi bilo tehnično sposobno streljati avtonomno, že uporabljajo na meji med Južno in Severno Korejo. Orožje, ki so ga razvili s podporo južnokorejske vlade, je prvo orožje z avtonomnim sistemom za nadzor, prepoznavanje glasu, sledenje in streljanje kot mitraljez na stojalu ali metalec granat. Razviti so že tudi prototipi avtonomnega orožja za boj na kopnem, v zraku in morju.

Britanska družba Taranis drone razvija avtonomne sisteme za boje v zraku, z zraka na kopno. Njeno brezpilotno letalo je opravilo prvi testni let leta 2013. Britanska vojska načrtuje, da ga bo začela uporabljati po letu 2030, nadomestilo pa naj bi vojna letala s človeško posadko Tornado GR4.

»Če vas varnost umetne inteligence ne skrbi, bi vas morala skrbeti.«

Rusija, ZDA in druge države razvijajo robotske tanke, ki jih lahko človek upravlja na daljavo, lahko pa tudi delujejo avtonomno. ZDA so leta 2016 predstavile avtonomno vojaško ladjo Sea Hunter družbe Vigor Industrial. Ta ladja je še v razvoju, predvideno je, da bo imela tudi orožje za boj proti podmornicam. Za vojaške operacije na dolge razdalje globoko pod morjem je predvidena avtonomna podmornica, ki jo razvijajo na platformi Echo Voyager.

Elon Musk, ki že nekaj časa opozarja na nevarnost umetne inteligence, po poročanju Independenta vidi večje možnosti, da bo ljudi ubijala umetna inteligenca kot jedrska vojna s Severno Korejo. »Če vas varnost umetne inteligence ne skrbi, bi vas morala skrbeti. Je veliko večje tveganje kot Severna Koreja,« je pred dnevi, ko sta predsednika ZDA in Severne Koreje z besednimi dvoboji stopnjevala napetosti, sporočil prek Twitterja.

Nihče ni rad reguliran, toda vse (avtomobili, letala, hrana, zdravila…), kar je nevarno za ljudi, je regulirano. Tudi umetna inteligenca bi morala biti, pravi Musk. Nedavna študija univerze Oxford je pokazala, da bo umetna inteligenca v 45 letih pri vseh opravilih boljša od ljudi. Mnogi, vključno z enim najbolj znanih znanstvenikov na svetu Stephenom Hawkingom, verjamejo, da bodo ljudje v prihodnosti v težavah, če naši cilji ne bodo usklajeni s cilji strojev.

Pisma bralcev pošljite na naslov pisma@mladina.si. Minimalni pogoj za objavo je podpis z imenom in priimkom ter naslov. Slednji ne bo javno objavljen.