Najnevarnejši kraj na svetu

Ko mi bo jedrski strokovnjak dr. Andrej Stritar pojasnil, kateri komunizem je kriv za nesreči na Otoku treh milj in v Fukušimi, bom spremenil svoje mnenje tako o komunizmu kot o človeški naravi.

Klanjanje navzgor in pritiskanje navzdol ni izum komunizma, še vedno ga prakticirajo na Japonskem in gotovo še kje, kjer se zgrozijo ob omembi komunizma, in tudi Stalin je svoje znanje in svoj značaj oblikoval v semenišču.

Vse jedrske nesreče doslej so bile posledice človeške narave, te pa ne bo spremenil ne komunizem in ne kapitalizem.

Ker je resnična umetna inteligenca domena znanstvene fantastike in bo tako ostalo še dolgo, se podobnim nesrečam na vseh področjih človekove dejavnosti žal tudi v prihodnje ne bomo mogli izogniti. Problem je nerešljiv iz naslednjega razloga: Vsega upravljanja nikakor ne moremo in tudi nočemo prepustiti algoritmom. Nobenega računalniškega programa namreč ni mogoče testirati za vse možne okoliščine, zato je treba za vsak primer imeti ’rdeči gumb’, da lahko v dogajanje poseže človek. Če pa se lahko v ključnem trenutku v dogajanje vmeša človek, je sistem takrat pač prepuščen na milost in nemilost človeškim napakam.

V takih primerih je namreč treba ukrepati ne le hitro, temveč tudi pravilno. Ko človek sreča leva, nič dosti ne premišljuje, temveč steče na vso moč. Žal danes večini ljudi ne grozijo levi, temveč okvare jedrskih elektrarn in avtomobili. Za te nevarnosti pa nam evolucija še ni uspela vgraditi primernega hitrega in pravilnega odziva.

Z nečim pa se s strokovnjakom globoko strinjam, le posplošil bi njegovo misel. Današnja civilizacija je z vsemi svojimi pridobitvami tako ranljiva, da kar kliče po tem, da se bo prej ali slej zgodilo nekaj hudega. Preproste stvari so robustne in odporne proti motnjam, sofisticirane stvari pa vsaka malenkost vrže iz tira. Inženirji vemo: ’Vse, kar lahko gre narobe, bo narobe tudi šlo, in to na najslabši možni način’, kot pravi razširjeni prvi Murphyjev zakon.