In Detroit, in de Verenigde Staten, heeft de politie een hoogzwangere vrouw opgepakt voor een carjacking waar ze nooit bij betrokken was. De automatische gezichtsherkenning die haar had geviseerd, zat er volledig naast. Zo'n fout gebeurt niet voor het eerst, en vaak gaat het om mensen met een zwarte huidskleur. "We moeten systemen bouwen die voldoende gevalideerd zijn en waarvan we weten hoe ze werken", vertelt expert Yves Moreau (KU Leuven).
Gearresteerd voor een carjacking waar ze niets mee te maken had: gezichtsherkenning leidt tot valse beschuldiging
Tom Antonissen
Gepubliceerd:
De Amerikaanse Porcha Woodruff (32) was acht maanden zwanger toen de politie ‘s ochtends aan haar deur in Detroit stond. De reden was een onderzoek naar diefstal en carjacking, waarbij ze in beeld kwam als medeverdachte. Woodruff valt compleet uit de lucht en zegt geen idee te hebben waarover het gaat.
Een maand later, wanneer de openbare aanklager de zaak laat vallen, blijkt dat niet gelogen. Woodruff zou via artificiële intelligentie op camerabeelden zijn herkend, maar die gezichtsherkenning had het mis. Dat is niet voor het eerst: volgens Amerikaanse media leidde het gebruik ervan al zes keer tot een beschuldiging die geen steek hield. Elke keer bij iemand met een zwarte huidskleur.
Discriminerende algoritmes
Hoe kan zoiets gebeuren? “Daarvoor zijn verschillende factoren”, vertelt professor Yves Moreau (KU Leuven), gespecialiseerd in artificiële intelligentie in "De wereld vandaag" op Radio 1. “Op basis van beschikbare informatie zijn donkere gezichten moeilijker te herkennen. De databanken kunnen een bias vertonen (een vooringenomenheid of afwijking bij een bepaalde groep, red). Er kunnen meer zwarte gezichten zitten in politiedatabanken en minder in de referentiedatabanken die gebruikt worden om modellen op te bouwen. De optimalisatie van de software gebeurt ook vaker door witte mensen en die herkennen vaak minder goed zwarte gezichten dan witte. Hoe ze het systeem precies afstellen, kan daar een afwijking vertonen. Er zijn allerlei effecten die we niet helemaal begrijpen."
Die tekortkomingen blijven niet zonder gevolgen. "Het betekent wel dat we intussen goed weten dat er in praktijk een serieus risico is op een bias ten opzichte van bepaalde groepen.” Hoe is het dan te verantwoorden om automatische gezichtsherkenning te gebruiken? “We moeten systemen bouwen die voldoende gevalideerd zijn en waarvan we weten hoe ze werken”, vindt Moreau. “Als je weet wat een systeem kan doen en wat niet, dan kan je ze gebruiken voor de juiste doeleinden. De aanwezige risico’s moet je in kaart brengen en inperken.”
BELUISTER - Yves Moreau (KU Leuven) over de risico's verbonden aan automatische gezichtsherkenning:
Vrouw onterecht opgepakt door fout in gezichtsherkenning: "Vertrouw nooit 100% op artificiële intelligentie"
Rest de vraag in hoeverre ons land al gebruik maakt van automatische gezichtsherkenning. Van een brede toepassing heeft Moreau geen weet. “Maar camera’s zijn in België wel overal. Drieduizend politiecamera’s, tweeduizend camera’s die nummerplaten herkennen. En dan moet je je de vraag stellen waarvoor ze gebruikt worden. De camera’s in de Joodse wijk kwamen er initieel vanwege het risico op terreur, terwijl ze bij de coronacrisis werden gebruikt om na te gaan of mensen niet met te veel naar de synagoge gingen.”
Dan loert al snel een function creep om de hoek, waarschuwt hij: een totaal ander gebruik dan waar het oorspronkelijk voor bedoeld was. “Wie claimt camera’s te willen gebruiken om zware misdaden te bestraffen, kan ze daarna niet inzetten voor eender wat.”
