Uit onderzoek van PAX blijkt dat er een hoog risico is dat grote internationale technologiebedrijven, zoals Microsoft en Amazon, betrokken raken bij de ontwikkeling van dodelijke autonome wapens.
Terwijl Google zich na ophef over de samenwerking met het Pentagon eerder terugtrok uit Project Maven is het duidelijk dat andere bedrijven minder bedenkingen hebben. Het rapport Don’t be Evil? gaat over 50 bedrijven uit 12 landen die actief zijn in o.a. kunstmatige intelligentie, patroonherkenning, zwermsystemen en grondrobots. Werken zij aan technologie die voor autonome wapens kan worden gebruikt, werken zij aan militaire projecten, en hebben ze beleid om te voorkomen dat ze bijdragen aan autonome wapens?
Wapenwedloop
Van de 50 onderzochte bedrijven scoren er 21 op alle punten slecht. Nog eens 22 zitten in de gevarenzone. Een wapenwedloop in kunstmatige intelligentie die voor dodelijke autonome wapens gebruikt kan worden, moet voorkomen worden, vindt PAX. “Steeds vaker wordt technologie die ontwikkeld is voor de consumentenmarkt gebruikt in militaire toepassingen,” zegt Daan Kayser projectleider autonome wapens bij PAX. Zo verkocht Microsoft een ‘augmented reality headset’, ooit ontwikkeld voor gamers en artsen, aan het Pentagon om militairen doeltreffender, lees ‘dodelijker’ te maken. PAX vindt dat technologiebedrijven zich ervan bewust moeten worden dat technologie zoals gezichtsherkenning kan worden gebruikt om ‘killer robots’ te ontwikkelen. Er is een derde revolutie in wapens aan de gang. Na het buskruit en kernwapens, kan kunstmatige intelligentie een derde revolutie ontketenen, namelijk: autonome wapens. Het stoppen van deze ontwikkeling is van het grootste belang. Er moet een verbod op komen nog voor ze ontwikkeld zijn. Met bijvoorbeeld clustermunitie en biologische wapens is een verbod effectief gebleken.
“Het is cruciaal dat we dit debat voeren nu de technologie nog in ontwikkeling is”, zegt Kayser. Zijn ze er eenmaal, dan is verspreiding veel moeilijker tegen te gaan. De kosten zitten hem vooral in de ontwikkeling. Is het er eenmaal, dan is verspreiding goedkoop en snel op grote schaal mogelijk.
Download het rapport Don’t be Evil?
Lees hier de samenvatting.
Lees hier de highlights uit het rapport.
Meer over killer robots in de media.
Lees ook de blog: Lethal autonomous weapon systems and the tech sector: some examples of best practices
