Jeg læste for nylig et virkelig godt opslag af Aya Jaff om autonome våbensystemer og behovet for meaningful human control. Og med afsæt i mit seneste oplæg omkring det nye AI-center, som Forsvaret har annonceret, kunne jeg simpelthen ikke lade den ligge.
Aya havde været i FN i Genève, hvor hun fulgte diplomaternes arbejde med noget, hun beskrev som det, der potentielt kan blive nogle af de første internationale regler for AI og autonome våben.
Det er ikke nogen lille diskussion.
Hun havde overværet arbejdet i FN’s ekspertgruppe for Lethal Autonomous Weapons Systems. Gruppen arbejder lige nu med elementerne til et muligt internationalt instrument om autonome våbensystemer, herunder nogle ret fundamentale spørgsmål om menneskelig kontrol, ansvar og anvendelsen af dødelig magt.
Ayas budskab var grundlæggende et, jeg har meget sympati for.
Når vi anvender våben, der potentielt selv kan identificere, udvælge og engagere mål, skal vi bevare meaningful human control. Der skal være et menneske, der kan holdes ansvarligt, og vi skal passe meget på med at overlade beslutninger om liv og død til en algoritme.
Det er et nobelt, humanistisk og umiddelbart meget fornuftigt standpunkt.
Jeg er bare ikke enig.
Ikke fordi jeg mener, at vi skal fjerne menneskeligt ansvar.
Tværtimod.
Jeg er bare ikke sikker på, at menneskelig involvering i den enkelte beslutning er det samme som meningsfuld menneskelig kontrol.
For hvis mennesket reelt ikke har tid eller informationsgrundlag til at efterprøve systemets vurdering, hvor meningsfuld var kontrollen så egentlig?
Jeg er dermed meget enig i intentionen.
Og alligevel tror jeg, at jeg er uenig i konklusionen.
For der er en risiko for, at vi kommer til at sidestille menneskelig involvering med menneskelig kontrol.
Det er ikke nødvendigvis det samme.
Forestil dig et autonomt system, der på ganske få sekunder skal identificere og reagere på en række indkommende trusler. Hvis vi indsætter et menneske i processen, som skal godkende hver enkelt handling, har vi så sikret meningsfuld menneskelig kontrol?
Eller har vi bare indsat et menneske, der under tidspres kommer til at trykke “OK” til systemets anbefalinger?
I værste fald har vi ikke tilført bedre kontrol. Vi har bare tilført forsinkelse.
Det betyder ikke, at jeg mener, vi skal fjerne mennesket eller det menneskelige ansvar. Tværtimod.
Men jeg synes, vi skal skelne mellem beslutning og ansvar.
Militært ansvar opstår ikke først, når en soldat trykker på aftrækkeren.
Vi har allerede principper for ansvar gennem en militær organisation og kommandokæde. En chef kan være ansvarlig for beslutninger og handlinger, selv om vedkommende ikke personligt udfører dem.
Derfor synes jeg også, det er for simpelt at gøre spørgsmålet om autonome våben til et spørgsmål om, hvorvidt der sidder et menneske og godkender den enkelte engagementsbeslutning.
Det mere interessante spørgsmål er måske:
Hvem har besluttet at indsætte systemet, under hvilke betingelser, med hvilke begrænsninger og på baggrund af hvilken viden om, hvad systemet kan og ikke kan?
Det er stadig menneskelige beslutninger.
Og det er her, jeg synes, diskussionen bliver ekstra vigtig.
For selvfølgelig tiltaler tanken om et menneske i beslutningsprocessen mig. Det er intuitivt, humanistisk og på mange måder fornuftigt.
Men vi designer ikke militære kapabiliteter i et vakuum.
Vi designer dem til en virkelighed, hvor en potentiel modstander også udvikler autonome systemer, og hvor vedkommende ikke nødvendigvis pålægger sig selv de samme begrænsninger.
Hvis et autonomt system kan identificere, prioritere og reagere på en trussel hurtigere, end et menneske kan nå at forstå situationen og godkende handlingen, kan kravet om menneskelig godkendelse i sidste ende blive en operativ begrænsning.
Det er en ubehagelig erkendelse.
Men konflikt mellem stater er desværre ikke en konkurrence om, hvem der kan opstille de mest sympatiske principper. Det er derimod en konkurrence om evnen til at handle hurtigere og mere effektivt end modstanderen.
Det betyder ikke, at vi skal opgive jura, etik eller menneskeligt ansvar.
Men det betyder, at vi skal være meget præcise omkring, hvad det egentlig er, vi ønsker at bevare.
For mig er menneskeligt ansvar helt centralt.
Men jeg er ikke overbevist om, at menneskeligt ansvar nødvendigvis kræver, at et menneske træffer hver eneste beslutning.
Måske ligger den meningsfulde menneskelige kontrol i nogle situationer før den enkelte handling: i beslutningen om at aktivere systemet, reglerne for, hvad det må gøre, området og tidsrummet, det må operere i, kravene til systemets pålidelighed og muligheden for at stoppe det igen.
Det er en mindre komfortabel diskussion end bare at kræve et menneske in the loop.
Men jeg tror, det er den diskussion, vi bliver nødt til at tage.
Referencer
Link til opslag af Aya Jaff
Link til UN/ The 2026 Meeting of the High Contracting Parties to the Convention on Certain Conventional Weapons