De stemkaarten gaan de lucht in. De ene helft is groen, de andere rood. Of het moreel aanvaardbaar is om autonome wapens te laten beslissen over leven en dood, dat is de vraag. Nog zo’n dilemma: of die wapens, ook wel killer robots genaamd, verboden moeten worden. Wederom een score van half-om-half. De voor- en tegenstanders zijn netjes verdeeld. Maar, de toespraken van de experts moeten dan nog beginnen. Aan het eind van de avond zijn de meningen opgeschoven. En wat PAX betreft de goede kant op. Want nee, het is niet aanvaardbaar, en ja, er moet een verbod komen. Dat vindt de meerderheid van de aanwezigen in poppodium Paard in Den Haag ook, na de experts te hebben gehoord.
De avond, georganiseerd door Humanity House, draait om de robotisering van oorlog. Want hoe moet Nederland zich opstellen binnen de VN-discussie over robotisering? Hoe blijft de mens in controle, ondanks de toenemende autonomie van technologie? En wie schatten we humaner in: mens of robot? Op die vragen zochten de experts antwoorden. En omdat politieke keuzes niet alleen door politici gemaakt moeten worden, werd door Humanity House de Alternatieve Veiligheidsraad bij elkaar geroepen. Deze raad wordt gevormd door schaakmeester David Levy, commodore in de Nederlandse Luchtmacht Frans Osinga, filosoof Sabine Roeser en Miriam Struyk van PAX, die laatst nog bij de VN in Genève ijverde voor een verbod op wapens zonder betekenisvolle menselijke controle.
Geweld te makkelijk
Frans Osinga klimt als eerste spreker op het podium. Achter hem een enorme robot die reageert op alles wat beweegt en de hele avond als schrikbeeld over de schouders van de sprekers de zaal in kijkt. Osinga noemt de mogelijke voordelen van deze wapens, waaronder dat de accuratesse toeneemt. Tegelijk snapt hij de zorgen die er zijn over het zelfstandig selecteren en aanvallen van doelen. De dehumanisering van oorlog ligt op de loer, en daar is Osinga huiverig voor: “Het is zorgwekkend. Geweld gebruiken wordt wellicht te gemakkelijk.” Hij schetst ook aan de hand van vele voorbeelden dat de tendens naar meer autonomie al heel lang zichtbaar is en dat niet heel eenduidig te zeggen valt of je dergelijke wapens moet en kan reguleren of niet. Hij belicht kortom alle kanten.
Morele waarden
Sabine Roeser is hoogleraar en hoofd van de sectie Ethiek en Techniekfilosofie aan de TU Delft. Ze benadrukt het belang van emotie en verantwoordelijkheid bij het innoveren. Ze stelt dat onderzoek aantoont dat menselijke emoties zeer belangrijk zijn bij het maken van morele keuzes en het inschatten van kansen en risico’s. “Wat we studenten meegeven is dat technische innovaties maatschappelijk verantwoord moeten zijn. Laten we morele waarden van meet af aan inbouwen en nadenken wat er zou kunnen gebeuren door de innovaties. Dat vereist ethische reflectie.”
Nog maar twee eeuwen menselijke beschaving
David Levy heeft van de sprekers de grauwste visie op killer robots en vooral kunstmatige intelligentie. Hij ziet hoe snel die wetenschap vordert en met welke sprongen systemen zelf kunnen leren. We moeten heel snel handelen en drones voor consumenten verbieden, stelt Levy, en we moeten hopen dat zelflerende kunstmatige intelligentie de mensheid niet binnen 200 honderd jaar volledig verwoest, waar hij wel vanuit gaat.
Veel op het spel
Miriam Struyk van PAX had de eer als laatste spreker te mogen afsluiten. Eerder al was ze betrokken bij het verbod op landmijnen én clusterbommen en nu wil ze een preventief verbod op killer robots. Dat is niet zo makkelijk, maar in haar optiek wel hoogst noodzakelijk. Ze zag recent in Genève de groep landen die voor een verbod is groeien. “Er staat zo veel op het spel, als we de grens opschuiven wordt het moeilijker om terug te gaan.” Ze stelt dat ze vaak hoort over de mogelijke voordelen van deze wapens. Maar ze zullen uiteindelijk door velen worden gebruikt, en misbruikt. Je kunt niet denken dat alleen ‘wij’ ze gaan gebruiken. Als deze wapens er komen zullen ze ook tegen ‘ons’ worden gebruikt. “En veel belangrijker, is het ethisch wel te verantwoorden om de beslissing over leven en dood over te laten aan een algoritme?” Miriam Struyk vindt het positief dat Nederland zoveel aandacht heeft voor dit onderwerp, maar ze is ook kritisch op het Nederlands beleid dat de deur open laat voor ontwikkeling van autonome wapens zonder betekenisvolle menselijke controle over doelselectie en aanval. Ze roept de regering op het standpunt over autonome wapens snel te herzien.
Veiliger, niet onveiliger
Sebastian Reyn neemt aan het eind van de avond de adviezen in ontvangst. Hij is hoofddirecteur beleid bij het Ministerie van Defensie. Zijn directie is verantwoordelijk voor al het beleid en voor de politiek-bestuurlijke ondersteuning van de minister. Hij ziet vanaf het podium de rode en groene kaarten weer omhoog gaan, bij een nieuwe peiling. De stemming in de zaal is veranderd na de uiteenzettingen van de sprekers, een meerderheid is nu voor een verbod. Reyn vat samen welke inzichten hij meeneemt en sluit af met de volgende woorden: “We houden voortdurend de vinger aan de pols, daarom kijken we in 2020 opnieuw naar het Nederlands beleid. Ik ben blij met de internationale discussie en verheugd dat alle landen zeggen: Dat schrikbeeld willen we niet. Daar moeten we elkaar aan blijven vasthouden.” Tegelijkertijd stelt hij dat het geen simpele discussie is met simpele antwoorden. Het hoofddoel blijft om er voor te zorgen dat “we veiliger worden, niet onveiliger.”
