“Om de opmars van killer robots te voorkomen moet er een internationaal juridisch bindend verdrag komen, alles minder dan dat is onvoldoende,” zegt Miriam Struyk van PAX.
Zij is op dit moment in Genéve waar de VN deze week praat over autonome wapens. “Staten moeten voorkomen dat het gebruik van geweld ontmenselijkt wordt. Dat kan niet zonder nieuwe internationale wetgeving die menselijke controle over de selectie en het aanvallen van doelwitten garandeert.”
Want heeft de mens straks nog een rol bij killer robots, of kunnen die in de toekomst autonoom hun gang gaan en hoe erg is dat? De VN heeft nog nooit zoveel aandacht gegeven aan killer robots. En terecht, de techniek dendert voort, de diplomatie is traag. Vorig jaar spraken 22 landen zich al uit voor een verbod op killer robots. Daarnaast is er een steeds grotere groep landen die zich zorgen maakt over autonome wapens. Ook experts in robotica en kunstmatige intelligentie roepen op tot een verbod.
Nederland en killer robots
Het Nederlandse standpunt over autonome wapensystemen stelt dat menselijke controle in de programmeerfase voorafgaand aan de inzet voldoende kan zijn en dat menselijke controle over de selectie en aanval van doelen niet altijd nodig is. PAX hoopt dat een eventuele update van het beleid de noodzaak voor betekenisvolle menselijke controle over het selecteren en aanvallen van doelen stelt als een fundamentele eis voor het garanderen van juridische en ethische normen.
Problemen
En er is een flink aantal bezwaren. Het beeld van een rationele robot die alleen wenselijke beslissingen neemt, is naïef. Het ethische dilemma: mogen machines beslissingen nemen over leven en dood? Het juridisch dilemma: wie is verantwoordelijk voor het handelen van een killer robot? De programmeur, de commandant die de robot inzet, of de machine zelf? Het veiligheidsdilemma: wat als een dictator of terroristen deze wapens in handen krijgen? Temeer omdat de killer robots niet alleen door ‘ons’, maar ook tegen ‘ons’ kunnen worden gebruikt.
Oplossing
En wat is dan de oplossing? PAX is van mening dat mensen altijd betekenisvolle controle moeten houden over de selectie en het uitschakelen van doelwitten en dat dit vastgelegd moet worden in een internationaal juridisch bindend verdrag.
Meer over killer robots en waarom ze verboden moeten worden.