Steeds meer wapensystemen zijn in staat om met steeds minder menselijke controle zelf doelen te selecteren en aan te vallen. Het gaat daarbij bijvoorbeeld om raketten die langdurig kunnen rondvliegen, onbemande bommenwerpers en grondsystemen.
Dat staat te lezen in het PAX-onderzoek ‘Where to draw the line’, dat de vredesorganisatie vandaag presenteert in Genève. Het is de eerste dag van de VN-bijeenkomst over killer robots die tot en met vrijdag 17 november duurt.
Het rapport ‘Where to draw the line’ laat zien dat de wapensystemen van morgen steeds meer autonome eigenschappen hebben. De ontwikkeling naar killer robots, wapensystemen die in staat zijn zonder betekenisvolle menselijke tussenkomst doelwitten te selecteren en uit te schakelen, is dan ook geen denkbeeldig gevaar meer.
Deze week is de VN in Genève bijeen voor de eerste formele besprekingen over killer robots. De aanwezige lidstaten zullen onderzoeken of er mogelijkheden zijn deze wapens te reguleren. In 2014, 2015 en 2016 waren er al informele expert bijeenkomsten over dit onderwerp. Eind 2016 besloten staten de discussies te formaliseren in de vorm van een Group of Governmental Experts. Eigenlijk zou deze groep dit jaar twee keer bijeen komen, maar door achterstallige betalingen van sommige staten is dit teruggebracht naar een week.
Miriam Struyk, programmaleider killer robots bij PAX: “Het is essentieel dat staten deze korte tijd optimaal gebruiken om vooruitgang te boeken. De technologie dendert voort, zoals wij ook in ons rapport laten zien, terwijl de diplomatie vertraagt. Staten moeten nu duidelijk maken over welke beslissingen en functies we menselijke controle willen behouden.”
Volgens PAX moeten mensen altijd betekenisvolle controle houden over het selecteren en aanvallen van doelen. Beslissingen over leven en dood mogen niet aan machines worden overgelaten, stelt de vredesorganisatie.
Standpunten Europese landen
PAX publiceert vandaag nog een onderzoek. In het rapport āKeeping control’ geeft PAX een overzicht van de standpunten van Europese staten met betrekking tot autonome wapens. PAX concludeert dat alle staten voor menselijke controle zijn, maar dat zij van mening verschillen waar deze controle precies over zou moeten zijn. Een grote groep staten wil bijvoorbeeld dat er altijd menselijke controle is over beslissingen over leven en dood. Een aantal staten houdt de deur open voor mogelijke regulering of een verbod. Een aantal andere staten, waaronder Nederland, ziet bestaand internationaal oorlogsrecht als afdoende. PAX vindt dit zeer onverstandig vanwege de vele ethische, juridische en veiligheidsbezwaren die dit met zich meebrengt.
Techbedrijven: ‘bescherm ons tegen killer robots’
Afgelopen zomer riepen 116 technologiebedrijven de VN op om ons te beschermen voor de gevaren van deze wapens. Dit volgde op een vergelijkbare oproep in 2015 van ruim 2.000 kunstmatige intelligentie en robotica experts. Het gebeurt niet vaak dat wetenschappers en bedrijven oproepen tot beperkingen in hun eigen vakgebied. Het is dan ook een waarschuwing die we uiterst serieus moeten nemen. Daarom is het zo belangrijk dat staten zo snel mogelijk besluiten hoeveel menselijke controle over wapensystemen we willen behouden en hoe we kunnen garanderen dat die controle betekenisvol is. Als de doos van Pandora eenmaal open is, is het lastig deze weer te sluiten.
Lees hier de rapporten: Where to draw the line, and Keeping Control
Lees meer over killer robots.
Zie ook www.stopkillerrobots.org
