HVOR AUTONOME SKAL DE NORSKE DRONENE VÆRE?
Skal norske angrepsdroner kunne angripe autonomt?
– Å sende våre soldater med en og en halv hånd bundet fast på ryggen er fundamentalt uetisk, sier tidligere forsvarssjef Sverre Diesen.
Hvis Norge kommer i krig, skal vi bruke dronesvermer som selv bestemmer hvor og hvem de angriper, uten menneskelig innblanding?
Er det etisk forsvarlig at kunstig intelligens tar livet av våre fiender på slagmarken eller kan menneskelig innblanding i verste fall være forskjellen på seier og tap?
– Vi jobber ikke bare med dronesverm.
Ett av miljøene som jobber tettest på denne problemstillingen i Norge, er Forsvarets forskningsinstitutt (FFI).
– For meg handler ikke autonomi om å overlate etiske vurderinger til maskinene, men å gjøre disse farkostene mer robuste, mindre ressurskrevende og mer anvendelige. Det er viktig å skille mellom hva de kan, og hva de får lov til å gjøre.
Det sier Rikke Amilde Seehuus, forsker ved FFI. Hun forteller at de har hatt en stor satsing på autonome systemer helt siden 2015.
– Vi jobber ikke bare med dronesverm, vi har ulike ubemannede farkoster som vi jobber med å utvikle autonomi for i alle domener, sier hun.
Hun og flere eksperter snakket om dette temaet i streamingen: Autonome våpen og etiske utfordringer, som du finner her.
Lærer av krigen i Ukraina
Seehuus forteller at FFI følger nøye med på krigen i Ukraina, hvor utviklingen av droneteknologien skjer raskt.
– Vi ser at dronene brukes til flere ting i Ukraina, men kanskje spesielt for å hente informasjon samt finne og angripe mål.
Det norske forsvaret har i dag flere mindre dronesystemer for informasjonshenting, men det eksperimenteres også med angrepsdroner.
– I dag brukes for eksempel dronen Puma UAV (Unmanned Aerial Vehicle), som opereres av to personer, en som styrer den, og en som følger med på dronens video-feed til enhver tid.
Dette krever en veldig god kommunikasjonslink, lav forsinkelse og stor båndbredde.
– Mange av dagens systemer kan også fly planlagte ruter med GPS, men vi ser hvor utfordrende dette er i Ukraina, hvor de har begynt å fly droner med fiberkabel ved fronten hvor signalene blir jammet.
Denne sårbarheten i kommunikasjonen er én av grunnene til at Forsvaret ser mot mer autonome droner.
Satser på dronesvermer
Med en dronesverm kan ett operatørteam nyttiggjøre seg av flere droner på en gang. Slik kan de være flere steder og se flere steder fra ulike høyder og vinkler samtidig. Slik kan man også bytte ut de som går tomme for batteri med nye droner, og hele tiden ha øynene på målet.
– For å få til dette må dronene kunne ta vare på seg selv, de må være nyttige på egenhånd. Derfor har dronene våre beslutningsautonomi, og de har sensorprosessering om bord.
Du kan for eksempel plassere dem i et veikryss og be de si fra hvis det kommer noe av interesse, eller følge et objekt.
– Det er vi mennesker som har ansvaret for at teknologien brukes innenfor lover, regler og etiske verdier.
– Vi jobber også med angrepsdroner. En overvåkningsdrone brukes til å fortelle angrepsdronen hvordan målet ser ut, og hvordan omgivelsene til målet ser ut, den vil også gi oppdatert informasjon underveis før angrepsdronen krasjer i målet sitt.
– Vi bruker de nyeste metodene innen kunstig intelligens for å få til dette. Og det er jo kanskje her det begynner å bli litt skummelt for noen, men det er viktig at vi klarer å skille mellom hva systemet klarer å gjøre, og hva det får lov til å gjøre.
– Vi får ofte høre at vi må la disse systemene operere helt selvstendig, ellers går det ikke raskt nok. Vi vurderer hvilke ledd som fortsatt trenger menneskelig dobbeltsjekk.
– Det er vi mennesker som har ansvaret for at teknologien brukes innenfor lover, regler og etiske verdier.
– I noen tilfeller så er det kanskje greit å sette på auto, som for eksempel i luftvernsystemer andre er det ikke greit. Det er stor forskjell inni urbane områder, inni en by versus langt ute på havet eller kanskje Finnmarksvidda.
– Stridsfeltet blir også mer gjennomsiktig
Sverre Diesen, tidligere forsvarssjef og nå forsker ved FFI, mener utviklingen i Ukraina er revolusjonerende, og at Norge satser for lite sammenlignet med de andre nordiske landene på denne teknologien.
– Autonome systemer har hatt en transformativ effekt på slagmarken. Autonome systemer endrer svært mye, både alene og som en del av en forbedret bekjempelseskjede.
– Det revolusjonerende er at de radikalt endrer forholdet mellom pris, ytelse og risiko. En drone som koster noen tusenlapper kan ødelegge en stridsvogn til 100 millioner kroner, mens operatøren er langt unna med mindre risiko.
Han forteller at stridsfeltet har blitt mer gjennomsiktig, på grunn av dronesystemene.
– Skal vi konkurrere med dette systemet med bemannede systemer så vil vi tape.
– Alt som rører seg kan ses, sånn har det ikke vært før.
Disse dronesvermene forbundet med langtrekkende presisjonsvåpen gjør at kan alt som beveger seg treffes. Så dette muliggjør hurtig konsentrasjon av stort ildvolum mot ethvert punkt på stridsfeltet langt raskere enn styrker kan konsentreres.
– Dronen kan prosessere inntrykkene av egen observasjon og formidle det til våpenplattformen. I prinsippet vil ikke dette være annerledes enn om systemet er bemannet, det vil bare gå mye raskere.
– Skal vi konkurrere med dette systemet med bemannede systemer så vil vi tape.
– Dette kommer altså til å forandre krigens karakter. Et eksempel er at ukrainerne har fordrevet den russiske svartehavsflåten, uten å ha et eneste marinefartøy.
Han mener det blir feil, også etisk, om vi bestemmer oss for å ikke bruke disse systemene i krigssituasjoner.
– Hvis vi pålegger oss et etisk renhetskrav om at vi ikke skal ha autonome systemer, så er valget å ikke ha forsvar i det hele tatt. Å sende våre soldater med en og en halv hånd bundet fast på ryggen er fundamentalt uetisk, sier han.
Færre sivile tap?
Geir Hågen Karlsen, som har vært en del av forsvarssjefens krisestab, og nå er assosiert partner i Geelmuyden Kiese, forteller at utviklingen går lynraskt.
– Det er ganske komplekst på slagmarken i Ukraina, noe som virker i dag virker kanskje ikke i morgen siden russerne har funnet et mottiltak.
– Sensorene er i mange tilfeller bedre enn mennesker.
Han er enig med Diesen i at menneskelig innblanding kan være kostbart i noen tilfeller.
– USA ser for tiden på rombaserte missiler som skyter på missiler som blir skutt opp. Et missil på vei oppover går veldig sakte, men nedover går det veldig fort. Skal du ha et menneskelig mellomledd som bruker 30 sekunder på beslutningen her vil du trenge to og en halv ganger så mange rombaserte våpen, og disse er ekstremt dyre.
– Hvis vi sender opp en sverm med droner kan noen av disse være engangsdroner som flyr ned mot personell, noen litt større og kan for eksempel brukes mot bunkere. Du trenger ikke automatisere beslutningen om å angripe, men du kan gi operatøren muligheten til å si ja eller nei på spesifikke mål, eller du kan gjøre det helt automatisk.
– Sensorene er i mange tilfeller bedre enn mennesker, de kan være mye flinkere til å finne ut hva som egentlig er på bakken.
Han forteller at det er to veldig viktige prinsipper for bruk av militær makt.
Distinksjonsprinsippet:
– Du skal skille mellom sivile og militære, og du skal selvfølgelig ikke skyte på sivile.
Proporsjonalitetsprinsippet:
– Skaden for sivile og omgivelser skal stå i forhold til den militære gevinsten av angrepet.
Vil dette være enklere med autonome våpensystemer?
– Dronesvermene ødelegger ikke så mye som artilleri
Han viser frem et bilde av en nedbombet by i Ukraina. og skisserer hva som kan være forskjellen med et autonomt våpensystem.
– Artilleriet her er kanoner som står 10-40 km unna. De skyter gjerne noen titalls granater i slengen. Og skyter flere hvis du ikke er fornøyd med effekten. Og da blir jo byene å se sånn ut etter hvert.
– Det artilleriet ledes av en ildleder som kanskje ligger et par kilometer unna. Ser med kikkert eller nattkikkert, laser som måler avstand, og sier "Der er målet". Det er noen som ligger oppi den bygningen der og skyter på oss.
– Artilleri er et områdevåpen, granatene spres typisk et par hundre meter i side og lengde. Hvis man ikke nedkjemper fienden, skyter man en gang til for å treffe. Det har jo ingen anelse om det skulle være noen sivile der, eller i husene ved siden av,eller nede i gata, ikke sant. Men det er sånn krig gjennomføres.
– Så er spørsmålet: Er det etisk forsvarlig å sende inn en dronesverm som automatisk skyter på folk med smådroner med små sprengladninger?
– Hvis det skulle være en sivil der så kan vedkommende bli tatt, kanskje. Men de ødelegger i hvert fall ikke så mye som artilleri.
– Jeg har ikke en konklusjon på det. Men det er sånne vurderinger vi må diskutere fremover.
– Kina er tydelige på at de kommer til å bruke disse systemene, og jeg kan garantere dere at russerne ikke kommer til å ha noen begrensninger på bruk av teknologi.
