Het ministerie van Oorlog van de regering Trump en techbedrijf Anthropic zijn in conflict geraakt. De twee partijen werkten samen totdat de CEO, Dario Amodei, weigerde de regering Trump de vrije hand te geven in het gebruik van AI van het bedrijf. Anthropic stelde namelijk als voorwaarde dat haar AI door de VS niet ingezet mocht worden voor massa surveillance of autonome wapensystemen. Washington deed het bedrijf daarom afgelopen weekend in de ban omdat zij niet zat te wachten op dergelijke beperkingen. Een gat waar een ander AI bedrijf, OpenAI bekend van ChatGPT, maar al te graag in springt.
In de Verenigde Staten lijkt de discussie over autonomie in wapensystemen nu overgelaten te worden aan de minister van oorlog en techbedrijven. Dit terwijl, los van de vraag of de techniek al betrouwbaar genoeg is, de discussie eigenlijk zou moeten gaan over de ethische en juridische vragen die het toenemende gebruik van AI in het militaire domein opwerpt.
Zelfstandig aanvalllen
Het gebruik ervan is namelijk ontzettend gevaarlijk: autonome wapens kunnen doelen – mensen of gebouwen – zelfstandig selecteren en aanvallen, zonder betekenisvolle menselijke controle. Daarmee kan een wapensysteem dodelijk geweld gebruiken zonder tussenkomst van een militair. Dit soort autonomie kan worden geïntegreerd in allerlei wapensystemen: een tank, een drone, een oorlogsschip. Deze nieuwe manier van oorlogsvoering dreigt het internationaal recht te ondermijnen.
Deze week spreken diplomaten en maatschappelijke organisaties over autonome wapens bij de Conventie over Conventionele Wapens in Genève. Nederland is voorzitter bij de gesprekken over het aan banden leggen van autonome wapens. Onze collega Roos Boer is hierbij aanwezig:
Autonome wapens zijn systemen die zonder menselijke interventie een doelwit kunnen selecteren en aan kunnen vallen. De discussie die nu gaande is in de VS laat zien dat internationale afspraken over autonomie in wapensystemen niet alleen urgent maar ook broodnodig zijn. Een groeiende groep landen spreekt zich uit voor juridisch bindende afspraken, en de urgentie om dit zo snel mogelijk te doen kan niet overschat worden. Landen moeten hier in Geneve dan ook duidelijk maken dat zij na jarenlange deliberaties klaar zijn voor de volgende stap, en dat is een internationaal verbod op autonome wapensystemen zonder betekenisvolle menselijke controle.
Roos Boer, expert humanitaire ontwapening
We zijn medeoprichter van de Stop Killer Robots-campagne, dat eerder reageerde op de ontwikkelingen in de VS en al jaren waarschuwt tegen de digitale dehumanisering in oorlogsvoering. In Genève roepen we staten op om hierover juridisch bindende afspraken te maken.
Het groeiend gebruik van kunstmatige intelligentie in oorlogsvoering en de toenemende autonomie van wapensystemen is buitengewoon zorgelijk. En het is geen abstract probleem of ver-van-je-bed-show: we zien in alle huidige oorlogen steeds meer gebruik van kunstmatige intelligentie bij de inzet van wapens.
Beslissingen over leven en dood mogen niet aan machines overgelaten worden. Staten moeten, nu zo snel mogelijk onderhandelingen starten voor een verdrag dat hier grenzen aan stelt.
