Nederland moet dit jaar opnieuw zijn positie over de ontwikkeling van autonome wapensystemen bepalen. PAX roept op tot een verdrag dat killer robots verbiedt en menselijke controle over autonome wapens garandeert. Juist omdat de ontwikkeling van deze wapens nog in een vroege fase is, is een internationaal verdrag haalbaar en noodzakelijk.
Teken de petitie!
De termijn voor deze petitie is verstreken.
Ethisch onacceptabel
In december 2020 riepen meer dan 170 Nederlandse wetenschappers op het gebied van kunstmatige intelligentie en robotica de regering op om mee te werken aan een verbod op dodelijke autonome wapens, ook wel bekend als killer robots. Killer robots zijn autonome wapensystemen die zonder menselijke controle doelen kunnen selecteren en aanvallen. Dat betekent dat het besluit om dodelijk geweld te gebruiken wordt genomen door een machine. De technologie om deze wapens te maken ontwikkelt zich razendsnel en we zien nu al wapens met een grote mate van autonomie. Landen als China, Rusland, Israël, de Verenigde Staten en Zuid-Korea zijn bezig met de ontwikkeling van steeds autonomere wapensystemen.
PAX vindt dit een extreem zorgelijke ontwikkeling: dodelijke autonome wapens zijn ethisch onacceptabel. De morele beslissing over leven en dood kan niet worden gereduceerd tot een algoritme. Ook brengt dit veiligheids- en strategische bezwaren met zich mee. Deze wapens verlagen de drempel tot oorlogsvoering, waardoor landen eerder zullen zoeken naar militaire dan politieke oplossingen. Ongereguleerde ontwikkeling creëert ook een wapenwedloop, die de internationale veiligheid bedreigt.
Ook op juridisch vlak zijn er bezwaren: wie is er verantwoordelijk als er iets misgaat? Kan een killer robot – volgens oorlogsrecht – onderscheid maken tussen burgers en soldaten?
Daarom is een internationaal verdrag is nodig, om er voor te zorgen dat de mens altijd betekenisvolle controle houdt over het gebruik van autonome wapens. Daarnaast moet er een grens worden getrokken bij systemen die principieel onacceptabel zijn, zogenaamde volledig autonome wapens , oftewel ‘killer robots’. Ten eerste zijn dat autonome wapens die niet met betekenisvolle menselijke controle gebruikt kunnen worden. Een voorbeeld hiervan zijn wapens die door machine learning tijdens een missie zelfstandig hun gedragsregels kunnen aanpassen. Daarnaast pleit PAX voor een verbod op autonome wapens die mensen als doelwit hebben.
Wil je meer weten over wat PAX wil? Lees dan dit achtergrondstuk.