Vredesorganisatie PAX waarschuwt voor potentieel catastrofale gevolgen als landen geen maatregelen nemen om een wapenwedloop op het gebied van kunstmatige intelligentie (AI) te voorkomen. Dat staat in een onderzoeksrapport “The State of AI” dat de status van militaire projecten rond kunstmatige intelligentie in zeven landen beschrijft. Die landen zijn de Verenigde Staten, China, Rusland, het Verenigd Koninkrijk, Frankrijk, Israël en Zuid-Korea.
De VS investeren de komende vijf jaar bijvoorbeeld twee miljard US dollar om AI technologieën te ontwikkelen. De VS werken nu al aan het ATLAS-programma, dat AI en machine learning zal gebruiken om gevechtsvoertuigen de mogelijkheid te geven zelfstandig doelen te selecteren. Wapens zouden daardoor tenminste drie keer zo snel doelen kunnen identificeren en aanvallen dan met het huidige, handmatige, proces. Ook Rusland heeft al in 2017 aangekondigd leidend te willen zijn in AI technologie. En China heeft een meerjarenprogramma Nieuwe Generatie Kunstmatige Intelligentie die ook militaire toepassingen kent.
Geld naar wapenwedloop
Wanneer deze nieuwe wapenwedloop doorzet, betekent het dat het wankele evenwicht tussen de grootmachten ernstig verstoord wordt. Enorme hoeveelheden geld zullen geïnvesteerd worden in militaire technologieën die dan niet voor onderwijs, gezondheidszorg en andere sociaaleconomische doelen gebruikt worden. Bovendien zou een AI-wapenwedloop landen ertoe aanzetten zo snel mogelijk autonome systemen te ontwikkelen om tegenstanders voor te blijven. Daardoor denken ze te weinig na over de langetermijneffecten van de wapens.
Techbedrijven hebben sleutelrol
Het rapport laat daarnaast zien dat in alle zeven onderzochte landen, samenwerking met commerciële bedrijven cruciaal is voor de militaire AI projecten. Waar sommige bedrijven al hebben gezegd dat ze niet zullen bijdragen aan de ontwikkeling van autonome wapens, zoals het Franse Thales, zijn er andere bedrijven die hier minder moeite mee lijken te hebben.
PAX roept staten op internationale afspraken te maken en volledig autonome wapens te verbieden. Commerciële techbedrijven zouden daarnaast niet moeten meewerken aan het ontwikkelen van deze wapens. Het rapport vraagt staten om samen te werken, met elkaar en met wetenschappers en commerciële bedrijven, om het verder ontwikkelen van een wapenwedloop van autonome wapens te voorkomen. Zo’n wapenwedloop zou alleen maar verliezers kennen, en landen zouden daarom moeten werken aan hoe ze deze ontwikkeling in de kiem kunnen smoren, in plaats van hoe ze een AI wapenwedloop kunnen winnen.
Daan Kayser, projectleider autonome wapens bij PAX: “Als de huidige ontwikkelingen doorzetten, zullen wapens met kunstmatige intelligentie de rol van mensen gaan overnemen, en doelwitten zelfstandig kunnen selecteren en aanvallen. Zonder heldere internationale regels zijn het in de toekomst algoritmes, niet mensen, die beslissingen nemen over leven en dood.”
Download hier het rapport Artificial Intelligence, the Military and Increasingly Autonomous Weapons.
Zie ook: Killer Robots: Wat zijn het en wat zijn de bezwaren?
Dit informatieboekje legt uit wat Killer Robots precies zijn en waarom wij ons zorgen maken.
Lees ook: Nederland tegen maatregelen om killer robots te voorkomen