Frankrijk zal tijdens de Olympische Spelen experimenteren met videobewaking op basis van artificiële intelligentie in de metrostations. Dat staat in een decreet dat deze week werd goedgekeurd. Volgens het ministerie van Binnenlandse Zaken zullen de camera's enkel mensenstromen analyseren, maar toch reageren privacyorganisaties bezorgd.
Frankrijk gebruikt tijdens Olympische Spelen videobewaking op basis van artificiële intelligentie, privacyorganisaties zijn "bezorgd"
Lukas Lecluyse
Gepubliceerd:
Om de Olympische Spelen veilig te laten verlopen, heeft de Franse overheid een omvangrijk testproject op poten gezet. In 46 Franse metrostations zullen veiligheidscamera's tijdens de Spelen een extra oogje in het zeil houden. Alleen wil de politie nu artificiële intelligentie inzetten om al die beelden gemakkelijker te kunnen verwerken. De Franse overheid werkt daarvoor samen met een particulier technologiebedrijf.
Het project is zo omvangrijk dat Frankrijk de nationale privacywetgeving moest aanpassen om de veiligheidscontroles legaal te maken. Dankzij het nieuwe artikel 7 mag bewakingstechnologie op basis van artificiële intelligentie "gebeurtenissen die vooraf werden bepaald" herkennen en melden.
De wet blijft van kracht tot maart 2025, enkele maanden na het einde van de Olympische Spelen.
Wat is AI-videobewaking?
Algoritmische videobewaking maakt gebruik van computersoftware om beelden die zijn vastgelegd door videobewakingscamera's in realtime te analyseren.
4 bedrijven – Videtics, Orange Business, ChapsVision en Wintics – hebben AI-software ontwikkeld die algoritmen gebruikt om videostreams afkomstig van bestaande videobewakingssystemen te analyseren om potentiële bedreigingen in de publieke ruimte te helpen identificeren.
De algoritmen zijn getraind om vooraf bepaalde "gebeurtenissen" en abnormaal gedrag te detecteren en waarschuwingen te verzenden. Mensen beslissen dan of de waarschuwing geloofwaardig is en of er actie ondernomen moet worden.
Privacyorganisaties bezorgd
Volgens het Franse ministerie van Binnenlandse Zaken zullen de camera's enkel gebruikt worden om mensenstromen te analyseren, zoals wanneer er te veel volk is in de metrostations, of om achtergelaten objecten te detecteren. Toch stoot de beslissing op heel wat kritiek.
"Het gebruik van artificiële intelligentie in 46 Parijse metrostations, zelfs die waar geen sportevenementen zullen plaatsvinden, roept vragen op over de echte motieven waarvoor ze worden ingezet", zegt Noémie Levain, hoofd juridische en politieke analyse bij de vereniging voor rechten en vrijheden La Quadrature du Net.
"Zullen de camera’s die op het metrostation République zijn geïnstalleerd bijvoorbeeld worden gebruikt om mensen te monitoren die naar demonstraties gaan?", vraagt ze zich af.
De motieven om AI in te zetten, lijken op het eerste gezicht misschien onschuldig, maar dat zijn ze zeker niet, oordelen sommige privacyorganisaties. "Op termijn kan het leiden tot misbruik", vreest Katia Roux, specialist in technologie en mensenrechten bij Amnesty International.
GDPR-proof?
De Franse overheid weerlegt die kritiek in een bericht op de website van het ministerie van Binnenlandse Zaken. "Wie artificiële intelligentie wil testen, doet dat altijd binnen een duidelijk wettelijk kader dat de fundamentele en individuele vrijheden waarborgt", staat er. Zo zou het systeem geen gezichten kunnen herkennen en zijn de algoritmes enkel getraind om een beperkt aantal risicovolle situaties te detecteren.
Toch is er ook heel wat twijfel of het hele project niet in strijd is met de Algemene Verordening Gegevensbescherming (AVG of GDPR), de Europese regels die rond de verwerking van persoonsgegevens door bedrijven en instellingen zijn opgesteld. 38 Europese maatschappelijke organisaties stellen in een open brief dat de AI-camera's die regels schenden. Volgens hen is de actie "te grootschalig" en verzamelt de technologie ook "fysiologische kenmerken en gedragingen van individuen", en dat is verboden.
