Wat gebeurt er wanneer wapens zelfstandig hun doelen selecteren en aanvallen? Dit klinkt als het onderwerp van een dystopische sciencefictionfilm, maar dat is het niet. Het is het onderwerp van de onderhandelingen bij de VN in Genève die deze week plaatsvinden. PAX presenteert er vandaag het rapport ‘Crunch Time’ waarin een overzicht wordt gegeven van de standpunten van Europese staten over autonome wapensystemen, ook wel bekend als ‘killer robots’.
Het rapport toont dat er consensus is onder Europese staten dat er een ‘rode lijn’ moet komen. Voorbij deze rode lijn is toenemende autonomie van wapens niet langer acceptabel. Europese staten zijn het er ook over eens dat menselijke controle over het gebruik van geweld en concreet beleid hiervoor noodzakelijk zijn.
Zinvolle menselijke controle
Het is goed dat er consensus is over de rode lijn en de noodzaak voor menselijke controle over het gebruik van geweld. Maar hoe worden staten hieraan gebonden? Ten eerste moest het concept ‘zinvolle menselijke controle’ worden geoperationaliseerd. Er moet een acceptabele vorm en niveau van menselijke controle bepaald worden. Dit is noodzakelijk om er zeker van te zijn dat het in overeenstemming is met ethische en wettelijke normen.
Balanceren
Europese staten proberen een balans te vinden. Enerzijds willen ze een technologisch zeer geavanceerd leger, waardoor ze terughoudend zullen zijn met het inperken van hun militaire capaciteiten. Tegelijkertijd hechten ze ook waarde aan bestaande wettelijke en ethische normen. Ze erkennen dat er bedenkingen zijn bij Lethal Autonomous Weapon Systems (LAWS). Dit balanceren zie je ook terug in de zoektocht naar concreet beleid. Het rapport laat zien dat Europese staten een politieke verklaring wel steunen, maar dat zou niet zo sterk zijn als een juridisch instrument.
Juridisch bindend instrument
PAX is ervan overtuigd dat het in het belang is van Europese staten om te werken naar een juridisch bindend instrument. Deze moet toezien op de menselijke controle van selectie van en aanvallen op doelen. Daan Kayser, programmaleider autonome wapens zegt: “Eenmaal ontwikkeld zullen deze technologieën zich wijd verspreiden en beschikbaar worden voor een breed scala aan actoren. Het militaire voordeel van deze systemen is dus tijdelijk en beperkt.” Er bestaat ook een kans op een wapenwedloop die de internationale vrede en veiligheid riskeert. “Een juridisch bindend instrument zou in lijn zijn met de resolutie die onlangs in het Europese Parlement is aangenomen, en is de meest passende en effectieve manier om de negatieve gevolgen van LAWS te voorkomen”, voegt Kayser toe.
Op 23 November zal de VN de volgende stappen voor autonome wapens bepalen in 2019. PAX is deze week in Genève om het begin van de onderhandelingen over een juridisch bindend instrument te steunen.
Download het rapport Crunch Time.
Lees ook:
- Europa wil verbod op killer robots
- Veel staten willen niets doen tegen killer robots
- Wetenschappers en bedrijven beloven nooit killer robots te ontwikkelen
- Verbod op killer robots stap dichterbij
- VN moet killer robots zo snel mogelijk verbieden
Meer over killer robots en waarom ze verboden moeten worden.