Israëlische leger gebruikt AI bij bombardementen op Gaza: "Gevaar voor naleving van het oorlogsrecht"

Het Israëlische leger bombardeert Gaza op een enorme schaal: maar liefst 22.000 doelwitten werden er bestookt sinds 7 oktober. Ter vergelijking: de internationale coalitie tegen IS, waar ook België lid van was, gebruikte gemiddeld 2.500 bommen per maand over een gebied van 46.000 km2 in Syrië en Irak. Gaza is slechts 365 km2 groot. 

Israëlische onderzoekers van +972 magazine en Local Call spraken met bronnen binnen de Israëlische inlichtingendiensten over het ‘Gospel’ AI-systeem, een systeem om automatisch nieuwe doelen aan te leveren om te bestoken. “Hamas-leden die niet echt van betekenis zijn worden nu in hun eigen huis gebombardeerd, ongeacht hoeveel mensen daarbij gedood worden”, dat zegt een beambte van het IDF (Israel Defence Forces) die getuigt in het onderzoeksrapport.

Bij vorige oorlogen werden vooral militaire doelwitten bestookt, met uitzondering van de woningen van hooggeplaatste Hamasstrijders. Sinds 7 oktober levert het algoritme een groter aantal doelen aan, ook dus de woningen van iedereen die een link heeft met Hamas. “Dat zijn zeer veel huizen die nu plots een doelwit zijn.”

Ook andere infrastructuur die niet duidelijk militair van aard is, zoals flatgebouwen en openbare gebouwen, wordt volgens het onderzoek vaker geselecteerd als doelwit. Het Israëlische leger definieert deze doelen als ‘power targets’ en bronnen binnen het leger bevestigen dat het voornaamste doel van dit soort aanvallen "het beschadigen en afschrikken van de burgersamenleving" is.

Robin Vanderborght, verbonden aan de Universiteit van Antwerpen doet onderzoek naar het militaire gebruik van artificiële intelligentie en is kritisch voor het systeem: “Er worden nu 100 tot 200 doelwitten per dag gegenereerd. Vroeger werden er ongeveer 50 doelwitten per jaar aangemaakt door officieren van de inlichtingendiensten. Er wordt vandaag ook steeds minder rekening gehouden met de hoeveelheid burgerslachtoffers die vallen bij de aanval op zo een doelwit.”

Verschillende bronnen in het rapport van +972 magazine bevestigen dat het aantal mogelijk gedode burgers bij een bombardement op een residentieel doelwit op voorhand door het algoritme wordt berekend en dus bekend is bij de inlichtingenofficieren. “Vandaag worden vrijwel alle bombardementen goedgekeurd die vijf of minder burgerslachtoffers maken. Vroeger zou dat enkel kunnen als daarbij een hooggeplaatst Hamaslid kon worden uitgeschakeld.”

Een voormalige inlichtingenofficier van het Israëlische leger noemt het AI-systeem onomwonden een “fabriek voor moordaanslagen” en wijst erop dat “de nadruk op kwantiteit ligt, niet op kwaliteit.” Een andere bron die werkte binnen de divisie verantwoordelijk voor de keuze van de doelwitten bevestigt dat er beoordeeld wordt op basis van de hoeveel aangeleverde doelen: “We moeten zeer snel werken en er is geen tijd om dieper in te gaan op de doelwitten.” 

“Het systeem biedt de potentiële doelwitten aan bij inlichtingenofficieren en juridische experten”, duidt Vanderborght. “Zij kijken dat nog na, maar slechts oppervlakkig en geven dan vrijwel meteen de toestemming voor het bombardement.” Verschillende experts waarschuwen er inderdaad voor dat officieren en analisten onder druk vaak gewoon blindelings de aanbevelingen van het algoritme volgen, ongeacht of die aanbevelingen correct zijn.

Zelfs zegt het Israëlische leger dat AI net toelaat om zeer snel vijandelijke strijders te identificeren en tegelijkertijd het aantal burgerslachtoffers te verminderen. Die verklaring trekt Vanderborghts in twijfel. Volgens hem zorgt de enorme hoeveelheid aan AI-gegenereerde doelwitten er net voor dat er veel meer aanvallen worden uitgevoerd en dus veel meer slachtoffers vallen.

“De technologische superioriteit die Israël vaak claimt op vlak van oorlogsvoering mag niet verward worden met een soort van morele superioriteit”, verklaart Vanderborght. “Het is niet omdat ze hoogtechnologische wapens gebruiken dat ze daarom meteen in overeenstemming met het oorlogsrecht zijn.”

Volgens Vanderborght zien we het gebruik van AI in militaire toepassingen nu voor het eerst echt op een grote schaal. Verschillende grootmachten volgen de ontwikkelingen waarschijnlijk op de voet. 

“Andere landen kijken en leren nu”, zegt ook een medewerker van het Witte Huis gespecialiseerd in autonome oorlogsvoering. Maar dat neemt niet weg dat de grootmachten al jaren experimenteren met deze technologie.

“We zien nu een soort wapenwedloop waarbij de ene staat angst heeft dat de andere al verder staat in innovatie rond AI”, bemerkt Vanderborght. “Op die manier concurreren verschillende militaire grootmachten in een soort technologische race.”

De Verenigde Staten investeren al langer in de technologie, en ook China staat hier al zeer ver in. Vanderborght waarschuwt echter voor het gebrek aan urgentie rond wetgeving over het militaire gebruik van deze technologie. “AI is niets nieuw en we zien meer en meer civiele toepassingen die zeer waardevol zijn, maar dat duale karakter van de technologie zorgt ervoor dat ook de innovatie in militaire toepassingen moeilijker te controleren en temperen valt.” 

“Vandaag is er zo goed als geen regelgevend kader voor het militaire gebruik van artificiële intelligentie. Er is in het oorlogsrecht geen apart protocol voor AI en daar zijn ook geen onderhandelingen rond.” 

Ook bij het Israëlische gebruik van de technologie stelt Vanderborght zich vragen: “De hoeveelheid doelwitten die nu door AI worden aangeleverd laten niet langer toe om na te gaan of het humanitair recht wordt geschonden. Hoe kan er menselijke controle zijn over de principes van proportionaliteit, voorzorgsmaatregelen en onderscheid als er zoveel doelen zijn?” 

Vanderborght vreest daarnaast dat AI de toepassing van het oorlogsrecht ernstig zal bemoeilijken: “Waar ligt de verantwoordelijkheid voor de daden en fouten van het systeem? Ligt die bij de ontwikkelaar, bij de persoon die op de knop duwt of bij de militaire en politieke leiders? Dat is momenteel zeer onduidelijk.”