Autonomisista asejärjestelmistä robottisotiin?
Aseteknologiassa ihmisen rooli on vähentynyt merkittävästi ja seuraava askel olisi itsenäisesti toimivat ja päättävät asejärjestelmät, ns. autonomiset aseet. Käsitteiden epämääräisyys ja näkemyserot tilanteesta haittaavat kuitenkin keskustelua.
Ajatus täysin autonomisesta aseesta, eli omaa toimintaansa säätelevästä aseteknologiasta, ei enää ole pelkästään teoreettista pohdintaa. Marraskuussa 2014 YK:n tavanomaisten aseiden sopimukseen jäsenmaat päättivät huhtikuussa 2015 Genevessä järjestettävästä asiantuntijakokouksesta. Nopeatempoisen teknologisen kehityksen myötä autonomiset asejärjestelmät, eli niin kutsutut tappajarobotit, ja siten myös robottisodat näyttäytyvät joidenkin mielipiteiden mukaan jo varsin konkreettisena uhkana.
Kehitys on nostattanut vaatimuksia autonomisten aseiden sääntelystä ja yhteisesti sovituista säännöistä. Kansainvälinen Campaign to Stop Killer Robots –kampanja tappajarobottien estämiseksi vaatii autonomisen aseteknologian täyskieltoa. Kampanjassa on edustettuna kymmeniä järjestöjä, myös Suomesta. Toinen katsantokanta korostaa puolestaan teknologian kehityksen väistämätöntä etenemistä ja aseteknologian rajoittamisen vaikeutta erikseen tästä.
Mistään mielipiteiden selkeästä kahtiajaosta ei kuitenkaan ole syytä puhua, sillä suhteellisen tuoreessa keskustelussa ongelma on keskeisten käsitteiden epämääräisyys. Yhteisiä linjanvetoja tai yksiselitteisiä määritelmiä ei toistaiseksi ole olemassa ja siten myös konkreettiset päätökset odottavat.
Haasteet kokonaistilanteen hahmottamisesta alkavat jo autonomisen aseteknologian käsitteen määrittelemisestä. Mielipiteet eroavat jo siinä, kuinka pitkällä autonomisten asejärjestelmien kehityksessä oikeastaan ollaan. Entä puhutaanko autonomisista aseista vaiko tappajaroboteista?
Rauhanjärjestö Sadankomitean pääsihteeri Anni Lahtinen on työnsä puolesta osallistunut aiheesta käytäviin keskusteluihin ja kuvaa erilaisia teemasta esitettyjä puheenvuoroja. Lahtisen mukaan yhtäältä kuullaan huomioita siitä, että autonomiset aseet taikka robotit tekevät ripeää vauhtia tuloaan ja että tähän on osattava varautua jo tutkimus- ja kehittelyvaiheessa.
Toiset taas korostavat, että tappajaroboteista puhuminen ja rajoitusten vaatiminen on tässä vaiheessa utopistista ja turhaa kauhukuvien maalailua. Näiden ei tulisi estää mahdollisesti hyödyllisen taikka resursseja säästävän teknologian kehittämistä ja vaikkapa ihmisten työllistymistä tämän toiminnan puitteissa.
Siviilikäyttöön suunnitellun tekniikan valjastamista sotilaallisiin tarkoituksiin saattaa olla vaikea estää.
Keskustelun kirjavuudesta huomauttaa myös Maanpuolustuksen tieteellisen neuvottelukunnan, MATINE:n, pääsihteeri, professori Pekka Appelqvist. Puheeseen autonomisten aseiden uhkakuvista irrallaan muusta teknologiasta hän suhtautuu jossain määrin kriittisesti. Ulkoministeriön syksyllä 2014 järjestämässä asevalvontatilaisuudessa hän puhui aiheesta todeten ”robottien tulevan”.
– Viittasin yleisesti kehitykseen, jossa robotiikan – tai yleisemmin automaation – ja tekoälyn sovellukset hivuttautuvat osaksi normaalia elämää, niin teollisissa sovelluksissa, kuin jokapäiväisessä arjessakin, Appelqvist sanoo
– Teknologisen kehityksen myötä tapahtuu iso paradigmaattinen muutos, eli koneiden käyttämisen sijasta alamme työskennellä niiden kanssa. Tällä kehityksellä on väistämättä laajat yhteiskunnalliset vaikutukset.
Autonomia on Appelqvistin mukaan jotain, joka pitkälti on katsojan silmässä. Tässä suhteessa ei pitäisi puhua autonomisista laitteista, sillä autonomian aste on lopulta aina suhteellinen käsite.
– Riippuen siitä, kuinka väljän tulkinnan autonomialle annamme, voidaan väittää että jo nyt on olemassa sellaisia asejärjestelmiä, joissa merkityksellinen ja tosiasiallinen päätöksenteko on ulkoistettu koneelle. Toisaalta voidaan yhtä pitävästi argumentoida, ettei täysin autonomista järjestelmää kyetä koskaan luomaan.
Ongelmallista on myös se, että teknologiakehityksessä on hankala tehdä selkeää eroa sotilaallista käyttöä siviilipuolesta. Autonomisella teknologialla ajatellaankin olevan sovellusmahdollisuuksia myös siviilipuolella, esimerkiksi järjestyksen valvonnassa.
– Autonomisia piirteitä tai ominaisuuksia sisältävien järjestelmien teknologinen pohja on täysin yhteneväinen, oli sovellus sitten siviili tai sotilaallinen, Appelqvist korostaa.
Onkin vaikea ennakoida, mihin tekniikan uusia aikaansaannoksia on mahdollista hyödyntää. Sotilaskäyttöön tarkoitetun materiaalin kehitystyötä on hankala rajoittaa, tai kääntäen, siviilikäyttöön suunnitellun tekniikan valjastamista sotilaallisiin tarkoituksiin saattaa olla vaikea estää.
Sadankomitean Lahtinen kuitenkin oudoksuu tämän kaltaista logiikkaa ajatuksena siitä, että teknologian kehittäminen tapahtuisi nimenomaan tai pelkästään aseteknologian saralla.
Kehitys on joka tapauksessa edennyt pisteeseen, jossa laitteet suorittavat itsenäistä eli ihmisestä riippumatonta ainakin tietyissä olosuhteissa tai tiettyjen toimintojen osalta. Toistaiseksi viime käden määräysvalta on kuitenkin säilynyt ihmisellä.
Lahtisen mukaan ratkaisevaa on se, annetaanko koneille jossain vaiheessa itsenäinen päätösvalta tilanteissa, joita tähän asti on tavalla tai toisella vielä hallinnut ihminen.
Hänen mukaansa ihmisen vaikutuksen ulkoistaminen, vaikkakin ihmisen päätöksellä, on pelottava skenaario. Kyseenalaista on esimerkiksi kyky kohteen valitsemiseen ennakkoon määrittelemättömissä tilanteissa.
Kysymys päätöksentekijästä on avainasemassa pohdittaessa autonomisten asejärjestelmien ja laitteiden käyttöönottoa. Jos päätösvalta on koneilla, kenellä on viime kädessä vastuu niiden toimista ja rikkeistä? Oikeudellisesti on otettava huomioon ainakin kaksi tärkeää näkökulmaa: sodankäynnin säännöt määrittelevä kansainvälinen humanitaarinen oikeus, sekä yleisemmin ihmisoikeudet.
Humanitaarisen oikeuden perspektiivistä autonomisten asejärjestelmien olisi osattava esimerkiksi johdonmukaisesti erotella sotilaat ja siviilit toisistaan. Toisaalta mahdollisessa siviilikäytössä on huomioitava ihmisoikeuskysymykset, ja esimerkiksi Human Rights Watchin mukaan autonomisten järjestelmien käyttö saattaa merkitä vakavaa uhkaa perustavanlaatuisille ihmisoikeuksille, kuten oikeudelle elämään.
– Kyseessä on siis äärimmäisen monimutkainen asiakokonaisuus, jonka moraalisfilosofiset ulottuvuudet tulevat ennen pitkää vastaan jo siviilimaailmassakin.
Keskustelu autonomisista asejärjestelmistä taikka tappajaroboteista vertautuu monin tavoin ajankohtaiseksi käyneeseen keskusteluun ydinaseista. Molemmilla tapauksilla on siviili- ja sotilaallinen puoli, ja molempien kohdalla pohdinnat rajoittamisesta ja käytännön rajoittamismahdollisuuksista ovat keskeisessä asemassa. Ydinaseteknologian kohdalla suuri uhkakuva on ydinaseteknologian joutuminen vääriin käsiin, jolloin puhutaan ns. ydinterrorismin käsitteestä ja sama kuvio voisi hyvinkin toistaa itseään autonomisten asejärjestelmien kanssa.
Kenties mielenkiintoisin ydinaseiden historiaan vertautuva yhtymäkohta on se, tullaanko uudenlaista sotateknologiaa näkemään käytännössä ennen kuin rajoitteita ryhdytään soveltamaan? Onko ihmiskunnan koettava tekniikan edistysaskelten aikaansaama tuhovoima ennen kuin niiden hillitsemätön käyttö pyritään estämään?
– Mielestäni tämän ei tarvitsisi tapahtua. Nyt olisi nimenomaan mahdollisuus toteuttaa ennakoiva kielto, painottaa Lahtinen.
Kansainvälinen tappajarobottien vastainen kampanja kuvaa vuotta 2014 edistysaskelten vuodeksi jolloin järjestettiin ensimmäiset kansainväliset kokoukset aiheen puimisen merkeissä ja sovittiin jatkosta vuodelle 2015. Helmikuussa Euroopan parlamentti hyväksyi päätöslauselman aseistettujen miehittämättömien ilma-alusten käytöstä, johon sisältyi kehotus kieltää ”sellaisten täysin itsenäisesti toimivien asejärjestelmien kehittämisen, tuotannon ja käytön, jotka mahdollistavat iskut ilman ihmisten osallistumista”.
Viime vuonna julkaistiin myös lukuisten tutkijoiden allekirjoittama avoin kirje tekoälyn valjastamisesta hyviin tarkoituksiin sekä siihen liittyvä dokumentti, jossa pyrittiin antamaan suuntaviivoja tutkimustyölle. Mielenkiintoinen tapahtuma oli myös elokuussa nähty kanadalaisen ClearPath Robotics -yhtiön julkilausuttu irtisanoutuminen autonomisesti toimivan aseteknologian kehittämisestä ja avoin tuki autonomisten asejärjestelmien täyskiellolle.
– Teknologista kehitystä on käytännössä mahdotonta rajoittaa, koska sen hyödyntäminen ei rajoitu asejärjestelmiin, sanoo Appelqvist, joka suhtautuu varautuneemmin toiveisiin autonomisten aseiden rajoittamisesta.
– On turha rakentaa sellaisia kieltomekanismeja, jotka ovat syntyessään vanhentuneita tai vaivattomasti kierrettävissä. Autonomiset ominaisuudet ilmenevät enemmänkin järjestelmätason ominaisuuksina kuin yksittäisenä aseena tai platformina, jollainen olisi teoriassa kiellettävissä.
Appelqvist näkee, että mikäli rajoituksia halutaan toteuttaa, sen pitäisi tapahtua huomattavasti laajemmalla tasolla. Tämä ei tulisi olemaan yksinkertaista, sillä keskustelu rajoittamisesta tai kieltämisestä pitäisi suunnata yleisemmin autonomisia ominaisuuksia sisältävien järjestelmien käyttöperiaatteisiin.
– Kyseessä on siis äärimmäisen monimutkainen asiakokonaisuus, jonka hahmottaminen edellyttää ymmärrystä monelta alalta, ja jonka moraalisfilosofiset ulottuvuudet tulevat ennen pitkää vastaan jo siviilisovelluksissakin.
Tällä hetkellä laajin kansainvälinen konsensus vaikuttaa olevan siinä, että pohdintaa, tutkimustyötä ja neuvotteluja autonomisten aseiden tulevaisuudesta ja niiden mahdollisesta rajoittamisesta on ylläpidettävä.
Lahtinen peräänkuuluttaa asian edistämiskeksi yhteisymmärryksen hakemista terminologian osalta. Nyt käsitteet vaihtelevat lähes siinä missä mielipiteet.
Hän toivoo myös Suomelta aktiivista osallistumista ja asian tärkeyden esille tuomista. Lahtinen toteaa, että on hyvä, että keskustelu on aloitettu, mutta vellomaan ei saisi jäädä. Keskusteluiden, terminologian läpikäymisen ja tiedonhankinnan huomioiminen virallisissa kannanotoissa ja niitä seuraavissa toimenpiteissä on hänen mielestään seuraava luonnollinen askel.
Linkkejä ja lisätietoja:
Naiset Rauhan Puolesta –järjestön tammikuussa 2015 julkaistu Kauko-ohjattu sota. Saatavilla sähköisenä versiona osoitteessa https://naisetrauhanpuolesta.wordpress.com/kauko-ohjattu-sota/
Timo Mielosen artikkeli Ulottuuko inhimillinen kontrolli autonomisiin aseisiin? Pax-lehden numerossa 05/2014 https://pax.fi/node/25466
Kirjoittaja Anna Malinen