De inzet van kunstmatige intelligentie op het slagveld heeft een gevaarlijk kantelpunt bereikt. Na een fataal incident in Oekraïne dringen de Verenigde Naties en het Internationale Comité van het Rode Kruis (ICRC) er bij de internationale gemeenschap op aan om nog vóór de wapentop in november onderhandelingen te starten over een bindend verbod op autonome wapens.
Eerste fataal incident met autonome drone
Op 6 juli eiste een aanval met een Russische Molniya-drone het leven van drie burgers bij een tankstation in Zaporizja. Onderzoek door The New York Times en Oekraïense veiligheidsdiensten wees uit dat de drone geen antenne voor radiocommunicatie bezat, maar navigeerde via opgeslagen terreinbeelden en een Amerikaanse Nvidia Jetson Orin-chip.
Het toestel koos zelfstandig zijn doelwit, vermoedelijk een brandstoftank, zonder tussenkomst van een menselijke piloot. Volgens professor Marijn Hoijtink (Universiteit Antwerpen) bevindt de militaire technologie zich in een actieve experimenteerfase waarin grootmachten zoals Rusland en de Verenigde Staten autonome systemen op grote schaal proberen te perfectioneren.
Moraliteitsgrens en menselijke controle
De toenemende autonomie van wapensystemen stuit op grote ethische en juridische bezwaren. VN-secretaris-generaal António Guterres en ICRC-voorzitter Mirjana Spoljaric stellen dat de mensheid gevaarlijk dicht bij het overschrijden van een morele rode lijn staat: het autonoom viseren van mensen door algoritmes.
Het voornaamste risico is dat AI-systemen veranderende omstandigheden op het slagveld niet kunnen inschatten. Zo mist een machine het vermogen om te herkennen wanneer een burger per ongeluk een gevechtszone betreedt of wanneer een soldaat gewond is en zich overgeeft.
Strijd om bindende internationale regels
In aanloop naar de vijfjaarlijkse VN-herzieningsconferentie in Genève roepen de leiders op tot een wettelijk bindend verdrag dat onvoorspelbare autonome wapens en anti-personeelswapens verbiedt. De geopolitieke verdeeldheid over deze kwestie is echter groot.
Terwijl Europese landen pleiten voor het behoud van menselijke controle en landen uit het Globale Zuiden vrezen dat technologische achterstand hen extra kwetsbaar maakt, verzetten de Verenigde Staten en Rusland zich tegen nieuwe bindende regels.
Zij stellen dat het bestaande internationaal humanitair recht volstaat. Desondanks waarschuwen experts dat beslissingen over leven en dood nooit in handen van machines mogen komen te liggen, om te voorkomen dat de juridische en morele verantwoordelijkheid in toekomstige conflicten verdwijnt.
