Algoritmen mogen nooit beslissen over leven en dood van mensen: de wapenwedloop om autonome wapens te maken moet voorkomen worden. Met die boodschap was PAX vorige week in de VN in Genève.
Op dinsdag presenteerden Daan Kayser van PAX en Laura Nolan, ex-medewerker van Google, samen het PAX rapport Don’t Be Evil?. Het rapport laat zien welke technologiebedrijven mogelijk een rol spelen bij de ontwikkeling van autonome wapens. Uit ons onderzoek blijkt dat de meeste techbedrijven dringend maatregelen moeten nemen om te voorkomen dat hun technologie de ontwikkeling van killer robots, bedoeld of onbedoeld, mogelijk maakt.
Lees ook het artikel âTechbedrijven investeren in dodelijke, autonome wapensâ dat over ons onderzoek gaat en o.a. in NRC Handelsblad te lezen was.
Ingehaald door de werkelijkheid
PAX sprak met verschillende Europese landen over een verbod op autonome wapens. Naast de lobby in de wandelgangen, had PAX ook spreektijd in de zaal. Ik sprak een zaal met diplomaten toe om de resultaten van het onderzoek te presenteren. Het is heel belangrijk om diplomaten te informeren over de ontwikkelingen in de technologiesector en te laten zien hoe urgent dit onderwerp is. Om met Liz O’Sullivan, oud-medewerker bij techbedrijf Clarifai te spreken: “We zijn misschien maar één software-update verwijderd van killer robots.”
Rusland en Amerika vertragen
Maar het proces in Genève is traag. Al meer dan vijf jaar praten landen over wat het probleem precies is, en wat eraan gedaan zou moeten worden, maar er is nog steeds geen echte overeenstemming. Dit komt vooral doordat een klein aantal landen dwarsligt. Dat werd ook deze week weer pijnlijk duidelijk. Landen discussieerden twee dagen lang over autonome wapens, en vergaderden de tweede dag zelfs door tot drie uur ’s nachts. Het bereikte resultaat is teleurstellend. Een goed voorbeeld van hoe moeizaam de discussies zijn, was toen de Russische delegatie het niet eens was met de tekst dat autonomie een belangrijk onderdeel van de discussie over autonome wapens moet zijn. Het zijn dan ook vooral Rusland en Amerika die de gesprekken gegijzeld houden met hun weigering concrete vooruitgang te accepteren. Maar zij zijn in de minderheid. Steeds meer landen begrijpen dat we moeten handelen nu het nog kan; nu killer robots nog niet bestaan.
Op de hoogte blijven van wat PAX doet tegen killer robots? Ga naar onze actiepagina.