Krigføringens natur er i ferd med å endre seg fundamentalt, og endringen skjer raskere enn noen internasjonale konvensjoner klarer å fange opp. Vi snakker ikke lenger om fjernstyrte droner der et menneske sitter i en bunker og trykker på avtrekkeren. Vi snakker om fullstendig autonome våpensystemer (AWS) som patruljerer luftrommet og slagmarken, identifiserer mål og tar den endelige beslutningen om å avfyre dødelige skudd – helt uten menneskelig godkjenning.
Algoritmisk jakt på mennesker
Dokumenter vi har fått tilgang til fra internasjonale forsvarsleverandører viser en skremmende utvikling. Moderne militære droner utstyres nå med dataprosessorer som kan kjøre avanserte datasyn-modeller lokalt. Disse modellene er trent til å gjenkjenne uniformer, kjøretøy, våpentyper og til og med spesifikke adferdsmønstre som indikerer "fiendtlig aktivitet".
Militære strateger argumenterer med at disse systemene er mer presise enn mennesker, at de ikke blir trette, ikke påvirkes av frykt eller hevngjerrighet, og at de kan reagere på millisekunder. Men denne teknoforherligelsen overser en fatal svakhet: algoritmer forstår ikke kontekst, de har ingen moral, og de kan ikke utøve det menneskelige skjønnet som kreves for å skille mellom en soldat som overgir seg og en som forbereder et angrep.
"Hvis en algoritme feiltolker en sivil gjenstand, for eksempel et kamera eller et landbruksverktøy, som et våpen, er det ingen sletteknapp," sier en uavhengig militæranalytiker. "Maskinen utfører sin programmering. Den dreper."
Ansvarsvakuumet i digital krig
Det kanskje mest skremmende aspektet ved den autonome slagmarken er det totale fraværet av juridisk og moralsk ansvar. Hvis en autonome drone bomber et sykehus eller en sivil flyktningleir på grunn av en feil i kildekoden eller en optisk illusjon i sensorene – hvem skal stilles til ansvar for krigsforbrytelsen?
Er det dataprogrammereren som skrev kildekoden fem år i forveien? Er det generalen som aktiverte systemet? Svaret i dag er at ingen holdes ansvarlige. Ansvaret pulveriseres i en kjede av algoritmiske beslutninger, og de sivile ofrene blir redusert til "statistiske avvik" i systemloggen.