
Na področju razvoja umetne inteligence in umetnega učenja se že nekaj let dogajajo revolucionarni premiki. Umetna inteligenca postaja pomemben dejavnik v gospodarskem in vojaškem tekmovanju med državami. Odnosi na mednarodnem področju prehajajo v tako imenovani multipolarni sistem, za katerega je značilno, da je koncentracija svetovne moči porazdeljena med tremi ali več akterji. V pričakovanju novih spopadov se v orožarsko industrijo steka vedno več denarja. Oborožitveni sistemi postajajo hitrejši, natančnejši in učinkovitejši. Umetna inteligenca bo v prihodnosti postala pomemben dejavnik, ki bo vplival na oblikovanje razmerja moči med državami, na mednarodno varnost in na uporabo vojaškega instrumenta moči. Sodobne države se tega zavedajo, zato spodbujajo razvoj umetne inteligence in drugih tehnologij, s pomočjo katerih bi si lahko zagotovile prednost pred preostalimi.
Skozi zgodovino je človek razvijal različna orožja, sredstva in naprave, s katerimi si je poskušal pred nasprotno stranjo pridobiti prednost na bojišču. A pred desetletji si je bilo težko zamisliti, da bo nekega dne umetna inteligenca lahko avtonomno odločala, kam bo odvrgla bombe. Današnji pametni sistemi omogočajo hitrejše in učinkovitejše zbiranje, obdelavo in posredovanje velikih količin informacij in podatkov, hitrejši proces sprejemanja odločitev in povečujejo obseg, hitrost, natančnost ter učinkovitost bojnih delovanj. Strahove glede militarizirane strojne inteligence smo pred desetletjem in več gledali v filmih, v katerih računalniško vodeni oborožitveni sistemi pobezljajo in vzamejo na muho svoje stvaritelje. Resničnost je postala grozljivejša kot domišljija. Častnik Guardian poroča, da je ameriška vojska nedavno izvedla virtualno simulacijo uporabe prvega vojaškega drona, ki ga nadzoruje umetna inteligenca. Ta pa se je pri doseganju cilja akcije odločila za zelo nepričakovano strategijo. Kot enega glavnih nasprotnikov pri doseganju cilja je namreč med akcijo prepoznala svojega človeškega operatorja, zato ga je »ubila«.
Britanski medij se opira na zapis v blogu britanskega letalskega združenja. Tam piše, da je šlo za operacijo, v kateri je moral brezpilotnik prepoznati in uničevati nasprotnikove sisteme protizračne obrambe. Za vsako uspešno uničenje tarče je »inteligentni« brezpilotnik pridobival točke. Več točk kot je zbral, uspešnejša je bila njegova akcija. Sistem je tako začel prepoznavati objekte, ki mu predstavljajo grožnjo. Ko pa mu je operator ukazal, naj določenih tarč vseeno ne uniči ali ubija, se je odločil, da ubije kar človeškega operatorja. Spoznal ga je namreč kot nekoga, ki mu je preprečeval izvajanje danega ukaza in zbiranje točk. »Operatorja je ubil, ker mu je preprečil, da bi dosegel svoj cilj,« je navedeno v blogu. »Hej, ne ubij operatorja, to je slabo. Če boš to počel, boš izgubil točke,« so mu po dejanju dejali upravljalci simulacije. Sledil je še en presenetljiv odziv. Umetna inteligenca se je namreč na svarila odzvala tako, da je uničila komunikacijski stolp, prek katerega je človeški operator brezpilotnik pošiljal sporočila, naj določenih tarč ne ubije ali uniči. Na srečo je šlo zgolj za simulacijo, ki za posledico ni imela dejanskih žrtev.
Razvoj umetne inteligence pa ne prinaša samo prednosti, temveč tudi dvome, dileme, nevarnosti in tveganja, ki so povezana z uvajanjem in uporabo avtonomnih sistemov. Odločevalci v vojski sicer na te pomisleke odgovarjajo, da bo vsako letalo z umetno inteligenco vseeno imelo človeškega odločevalca, ki bo sprejel končno odločitev. Zgoraj opisani primer lepo pokaže, da se pametni vojaški sistemi izmikajo človeškemu nadzoru. Politični odločevalci pozivajo k strožji ureditvi zakonov glede uporabe umetne inteligence v vojaški industriji. A postavlja se vprašanje, kaj in kako regulirati, ko gre za umetno inteligenco, če je razglašeni cilj njen pospešeni razvoj. Če bodo računalniki prevzeli vrsto novih zahtevnih nalog, se bo temeljno spremenila etika vojskovanja. Načelo odgovornosti, ko gre za najbolj uničevalno človekovo dejavnost, je seveda veliko starejše od izuma naprav, s katerimi upravlja umetna inteligenca. A zdi se, da se približujemo točki, ko bi lahko zakoni in norme vojne izgubili pomen, saj se bo preoblikoval celoten način obstoja in ne samo način vojskovanja.
Simon Smole