Deze week organiseert Nederland de REAIM-conferentie gericht op kunstmatige intelligentie in militaire toepassingen. Verrassend genoeg hebben autonome wapens geen prominente plaats in het programma. Aangezien deze wapens veel juridische, ethische en veiligheidsproblemen opleveren, is PAX van mening dat autonome wapens tijdens deze grote bijeenkomst dringende aandacht verdienen.
Er worden steeds meer wapensystemen met autonome functies ontwikkeld en ingezet. “Het ontbreken van duidelijke internationale regels die grenzen stellen aan en het gebruik van autonome wapens regelen, is uiterst zorgwekkend” zegt Daan Kayser, projectleider autonome wapens. Daarom moet de internationale gemeenschap dringend samenwerken om tot een verdrag te komen. Niet alleen om wettelijke en ethische normen te waarborgen, maar ook voor onze gezamenlijke veiligheid.
Volledig autonome wapens verbieden
De reden van deze bijeenkomst was oorspronkelijk door een motie van VVD Kamerlid Koopmans ingegeven. De motie riep op om zo snel mogelijk tot een verdrag te komen. Ook in het Nederlandse nationale standpunt uit 2022 over autonome wapens staat dat het kabinet actief zal streven naar nieuwe internationale regels. Regels die volledig autonome wapens verbieden en andere autonome wapens reguleren. PAX reageert daarom met verbazing dat autonome wapens geen prominente plek hebben gekregen op het programma over militaire AI. Dit is bij uitstek een onderwerp waar urgent aandacht voor nodig is. Een gemiste kans.
Ook de prominente aanwezigheid van de wapenindustrie op deze conferentie vindt PAX erg zorgwekkend. Het belangrijkste doel van wapenproducenten is het tevreden stellen van aandeelhouders. Zij zijn minder geneigd om de ontwikkeling van nieuwe normen te steunen. Een ander punt van zorg is dat deze conferentie hoogstwaarschijnlijk niet zal leiden tot (een oproep tot) actie, die verder gaat dan algemene verklaringen over verantwoord gebruik van militaire kunstmatige intelligentie, zonder te verduidelijken wat dit eigenlijk betekent. Responsible AI is wat ons betreft een term die vaak wordt gebruikt om zorgwekkende toepassingen wit te wassen.
Gebrek aan ambitie
Hoewel wij de inspanningen van de organisatie van deze conferentie waarderen, zijn wij van mening dat zij ambitieuzer had moeten zijn én gericht op concrete resultaten die daadwerkelijk effect zullen hebben. Om de kwestie van autonome wapens op deze conferentie bespreekbaar te krijgen, hebben wij een panel georganiseerd op donderdag 16 februari om 10:30, dat ook online te volgen is. In dit panel bespreken we waarom een verdrag over autonome wapens nodig en haalbaar is.
Daarvoor hebben we een aantal interessante sprekers uitgenodigd die ook voorstander zijn van een internationaal verdrag, waaronder het Internationale Rode Kruis, Amnesty International, en de ambassadeur van Costa Rica.
Veelgestelde vragen over volledig autonome wapens
Wat wil PAX?
Pax wil een internationaal verdrag dat volledig autonome wapens (killer robots) verbiedt en de overige autonome wapens reguleert, zodat deze alleen met betekenisvolle menselijke controle gebruikt kunnen worden. Autonome wapens die de mens als doelwit hebben moeten ook verboden worden.
Wat is betekenisvolle menselijke controle?
Betekenisvolle menselijke controle is geen directe controle, zoals bij de meeste drones, maar betekent dat de mens de controle houdt over de effecten van een aanval en een afweging kan maken of deze in lijn zijn met juridische en ethische normen.
Hoe staat het internationale debat ervoor?
Na jaren van debat bij de Conventie voor Conventionele Wapens (CCW) is het nu duidelijk dat een meerderheid van staten het erover eens is dat bepaalde autonome wapens moeten worden verboden en dat het gebruik van andere autonome wapens moet worden gereguleerd. Deze staten willen menselijke controle over het gebruik van geweld garanderen en zien de noodzaak in van concrete regels en maatregelen om dit te waarborgen. Helaas wordt er alleen geen politieke vooruitgang geboekt bij de CCW, doordat beslissingen worden genomen met consensus. Zo kan een enkel land, vaak Rusland, de vooruitgang tegenhouden. Daarom roepen we landen op om opzoek te gaan naar een ander forum, zoals de Algemene Vergadering van de VN of een extern proces zoals bij landmijnen en clustermunitie gebeurden.
De gezamenlijke verklaringen vorig jaar bij de Human rights council en bij de Algemene vergadering van de VN wijzen ook op groeiende steun voor nieuwe internationale regels.
Wat moet Nederland doen?
Nederland moet zich, met gelijkgestemde staten en met hoge urgentie, inzetten voor een internationaal verdrag. Dat zou buiten de Conventie voor Conventionele Wapens moeten gebeuren, want een resultaat daar is onhaalbaar. De opstelling van een minderheid aan staten geen belemmering mag vormen voor het uitwerken van de wensen van vele andere staten.
