In Oekraïne zijn vorige maand zeker 3 doden gevallen bij een Russische aanval met drones die met artificiële intelligentie werden bestuurd. Dat onderzocht de Amerikaanse krant The New York Times. De drones zouden volledig autonoom hun doelwit hebben gekozen, zonder menselijke tussenkomst. Waar AI aan het front lange tijd nog verre toekomstmuziek leek, lijkt de technologie nu steeds nadrukkelijker haar weg naar het slagveld te vinden.
Russische drone selecteert autonoom doelwit en doodt 3 mensen in Oekraïne: worden oorlogen binnenkort door AI gevoerd?
Lukas Lecluyse
Gepubliceerd:
Samenvatting:
Op 6 juli doodde een Russische aanvalsdrone 3 mensen bij een tankstation in Zaporizja, Oekraïne. Onderzoek van The New York Times toont dat de drone volledig autonoom vloog, zonder menselijke piloot.
Aan boord zat een Amerikaanse Nvidia-chip die Rusland via tussenpersonen verkrijgt, ondanks internationale sancties.
Volgens professor Marijn Hoijtink (Universiteit Antwerpen) experimenteren landen als Rusland nu actief met AI-wapens om ze op grotere schaal in te zetten.
Toch lijkt oorlog die volledig door machines wordt uitgevochten nog ver weg.
Op 6 juli vliegt een Russische Molniya-aanvalsdrone samen met 5 andere drones richting Zaporizja, een stad in het zuidoosten van Oekraïne. Onderweg passeert de aanvalsgroep een tankstation waar Tetiana, een studente van 19, en 2 mannen van 41 en 48 op dat moment zijn. De drone wijkt af van zijn koers, slaat in tegen een muur en explodeert. De 3 Oekraïners komen om bij de aanval.
Hoewel er bijna dagelijks Oekraïense burgerslachtoffers vallen door Russische aanvallen, was dit drone-incident toch bijzonder. Volgens de Oekraïense veiligheidsdiensten werd de drone immers niet op de klassieke manier door een naar zijn doel gestuurd, maar wel bestuurd door .
AI aan het front
Onderzoekers van Oekraïne vonden aan boord van de drone een krachtige Amerikaanse chip van het technologiebedrijf Nvidia. Het gaat om een Nvidia Jetson Orin, een kleine computer die AI- en beeldverwerking kan uitvoeren, die ook al onder meer in Russische kruisraketten werd teruggevonden.
Wat doet een Nvidia-chip in Russische raketten?
De Jetson Orin is geen exotische militaire supercomputer. Het is een relatief goedkope, commercieel verkrijgbare AI-module die ontworpen is voor krachtige AI- en computer-vision-toepassingen aan boord van apparaten.
De chips zijn onderdeel van Amerikaanse sancties tegen Rusland: ze kunnen dus niet rechtstreeks door Nvidia aan Rusland verkocht worden. Daarvoor werkt Rusland met tussenpersonen. Het toont vooral dat Rusland zelf niet in staat is om die technologie te maken en daarvoor dus nog steeds afhankelijk is van buitenlandse bedrijven.
De Oekraïense veiligheidsdienst dacht aanvankelijk dat de chip louter als back-up diende: als de Russische raket werd verstoord door het Oekraïense leger, dan kon het projectiel wel zelf nog verder vliegen tot zijn eindbestemming.
Dit incident toont dat de militaire AI-technologie van Rusland een stuk verder gaat: in de brokstukken van de drone werd een camera teruggevonden, maar geen antennes voor radiocommunicatie met een piloot. Het toestel had dus geen 'menselijke' bestuurder die het vanop afstand bediende.
Aan boord werd wel software met terreinbeelden gevonden die volgens de onderzoekers kon worden gebruikt voor autonome navigatie en doelherkenning. Daardoor concluderen de onderzoekers dat de drone volledig vloog.
Eigen beslissingen
Volgens The New York Times had de drone niet de opdracht gekregen om burgers te doden in Oekraïne, maar vielen de slachtoffers door een ongelukkige samenloop van omstandigheden. Ze maakten de volgende reconstructie van het incident:
Het Russische leger programmeert de algemene missie van de drone (bijvoorbeeld: vernietig kritieke energie-infrastructuur in Oekraïne). Het toestel krijgt daarbij ook een bestemming of gebied mee. De drone vliegt daar vervolgens zelfstandig naartoe. Daarvoor gebruikt het camera's en opgeslagen kaarten om de koers te bepalen.
Artificiële intelligentie zoekt vervolgens naar een specifiek doelwit. Bij het benzinestation zou het bijvoorbeeld een propaan- of brandstoftank kunnen hebben herkend. Daarna komt de moeilijkste stap: de drone kiest zelf zijn einddoel. Volgens de onderzoekers heeft de drone dat zelf beslist, zonder dat menselijke operatoren daarin moeten tussenkomen.
Recente evolutie
Hoewel het incident in Zaporizja veel stof doet opwaaien, is de onderliggende technologie volgens Marijn Hoijtink, professor Internationale Betrekkingen (Universiteit Antwerpen) en gespecialiseerd in militaire technologie, zeker niet nieuw. Dat vertelt ze aan de VRT NWS-podcast Het Kwartier.
"We weten dat software, die het mogelijk maakt om doelwitten zelfstandig te selecteren en te identificeren, al veel langer bestaat", legt ze uit.
Zo experimenteerden de Amerikanen in 2017 al met het zogenoemde 'Project Maven', een project gericht op het ontwikkelen van objectherkenningssoftware om bijvoorbeeld tanks, gebouwen of personen automatisch te identificeren. Ook in Libië werd in 2022 al gesproken over de inzet van een volledig autonoom wapensysteem.
Het Witte Huis kondigde aan dat het volgend jaar een indrukwekkende 54 miljard dollar wil pompen in militaire AI. Het geld moet vooral helpen om bestaande en nieuwe autonome systemen op grote schaal aan te schaffen en operationeel te krijgen. De grootste hap uit dat budget gaat naar, je raadt het, autonome drones.
Toch markeren de recente ontwikkelingen in Oekraïne een nieuwe fase. Volgens professor Hoijtink is er momenteel sprake van een actieve experimenteerfase waarin landen als Rusland de technologie willen "perfectioneren met als doel om die ook op grotere schaal in te zetten".
En dus leek het maar een kwestie van tijd voordat de eerste slachtoffers van AI-gestuurde drones vielen.
Neemt AI oorlogen over?
De militaire voordelen van AI zorgen voor een grote investeringsgolf bij grootmachten als de VS, Rusland, China, Oekraïne en Israël. "Het argument dat je vaak hoort, is dat AI-systemen veel sneller en preciezer zijn. Ze zouden meer informatie hebben en doelwitten beter en met minder slachtoffers kunnen raken."
Maar daar zit ook een keerzijde aan: de technologie maakt het mogelijk om sneller en op grotere schaal geweld toe te passen.
Binnen grote legers zijn er dan ook veel tegenstanders van dit soort technologie. "Mensen die al wat langer meedraaien en een sterk verantwoordelijkheidsgevoel hebben over leven en dood, hebben vaak kritiek op dit soort systemen. Veel landen proberen daardoor die menselijke schakel nog steeds te behouden."
Europa bijvoorbeeld legt meer nadruk op menselijke controle en duidelijke regels, terwijl verschillende landen uit het Globale Zuiden zelfs pleiten voor strengere internationale regels of een verbod. Zij vrezen dat ze door hun technologische achterstand extra kwetsbaar worden.
Toch zijn volledig autonome wapens voorlopig nog moeilijk te realiseren. Op het slagveld blijkt menselijke controle vaak noodzakelijk. In Oekraïne worden bijvoorbeeld drones met glasvezelkabels verbonden met een menselijke piloot, omdat draadloze verbindingen door elektronische oorlogsvoering kunnen worden verstoord.
"Dat is eigenlijk de slimste en snelste oplossing", zegt professor Hoijtink. Een oorlog die volledig door machines wordt uitgevochten, lijkt dan ook nog ver weg. "Mensen blijven daarin een belangrijke rol spelen. Het zal eerder een gedeelde verantwoordelijkheid zijn tussen mens en machine."
VN en Rode Kruis zijn tegen
De Verenigde Naties en het Internationale Comité van het Rode Kruis roepen opnieuw op tot een verbod op autonome wapens. Ze waarschuwen dat "een morele rode lijn overschreden zou kunnen worden", waarbij machines beslissen over leven en dood.
VN-secretaris-generaal Antonio Guterres en Rode Kruis-voorzitter Mirjana Spoljaric Egger hadden landen al in 2023 gevraagd om tegen 2026 een verbod in te voeren, maar dat bleef zonder gevolg. "We zijn nu gevaarlijk dicht bij het overschrijden van een morele rode lijn: het autonoom viseren van mensen door machines", klinkt het.
