Unia waarschuwt in jaarrapport voor discriminatie door AI: "Bedreiging voor de mensenrechten"

Artificiële intelligentie was het afgelopen jaar alomtegenwoordig. Dat merken ze ook bij gelijkkansencentrum Unia. AI vormt een nieuwe bedreiging voor de mensenrechten, staat in het jaarverslag van Unia te lezen. "We merken dat AI meer en meer wordt ingezet in maatschappelijke domeinen zonder dat we het weten, en zonder dat we goed weten welke gegevens gebruikt worden en hoe het algoritme juist werkt", vertelt directeur van Unia Els Keytsman in De Ochtend op Radio 1. 

En die algoritmes kunnen wel degelijk discriminerend zijn, zegt Keytsman. Ze verwijst daarmee naar de Toeslagenaffaire in Nederland, waar duizenden ouders door de belastingsdienst onterecht werden beschuldigd van fraude met toeslagen voor kinderopvang, huur en zorg op basis van discriminerende algoritmes. De belastingsdienst vorderde onterecht tienduizenden euro's terug, waardoor duizenden mensen in financiële problemen terechtkwamen. 

Ook in ons land gebruiken verschillende overheidsdiensten AI, zegt Keytsman. "Maar we hebben geen zicht op die systemen. Daarom vragen we dat de overheidsadministraties in een inventaris registreren in welke gevallen ze AI gebruiken en hoe het algoritme in elkaar zit." 

Unia heeft zelf het voorbije jaar ook enkele meldingen gekregen van mensen die gediscrimineerd werden door zo'n AI-systeem. "Zo was er vorig jaar een vrouw met een handicap die in een magazijn werkte als orderpicker. Zij had geen fysieke baas meer, maar er was een 'algoritmisch management'. Dat algoritme zei op hoeveel tijd je een palet moest vullen, maar het hield geen rekening met de redelijke aanpassingen waar die vrouw wel recht op had." 

Ook de oorlog in Gaza laat zich voelen in het aantal meldingen dat Unia in 2024 heeft ontvangen. Het gelijkekansencentrum ontving opnieuw heel wat meldingen over antisemitisme. "In de ergste gevallen werden mensen aangevallen omwille van hun joods zijn", vertelt Keytsman.

Keytsman haalt het voorbeeld aan van een joods koppel dat in de buurt van een station werd aangevallen en verantwoordelijk werd gesteld voor de oorlog in Gaza. "We zien allemaal de beelden van wat daar gebeurt, experts spreken van een genocide. Dus het moet zeker mogelijk blijven dat we daartegen protesteren, in actie komen en onze mening uiten. Maar de grens is natuurlijk wel dat je joden in België niet mag aanvallen of verantwoordelijk stellen voor wat elders gebeurt." 

Een oud zeer dat steeds terugkeert in het jaarverslag van Unia, is de discriminatie op de werkvloer. Zeker wanneer het gaat over mensen met een handicap is er weinig evolutie. "Dat is heel frustrerend om te zien", zegt Keytsman. "Voor mensen met een handicap is het leven sowieso moeilijk omdat onze maatschappij niet inclusief is." 

Werkgevers beseffen volgens Keytsman niet altijd hoe ze naar de talenten van een werknemer kunnen kijken, zonder te focussen op wat niet meer kan. "Ik denk dat te weinig werkgevers beseffen dat er veel mogelijk is met een beetje creativiteit. We denken bij redelijke aanpassingen heel vaak aan een lift of ruimte voor een rolstoel. Maar het kan ook gaan om meer thuiswerk, aangepaste uurroosters of rustige ruimtes voor mensen met neurodiversiteit. Met een beetje creativiteit kan je er echt wel voor zorgen dat iedereen aan de bak komt." 

Ook de overheid zelf geeft niet altijd het goede voorbeeld, vindt Keytsman, en de streefcijfers worden niet altijd gehaald. "En als ik op VRT een puntje van kritiek mag geven, zou ik toch ook graag zien dat veel meer personen met een handicap op het scherm of in de studio terechtkomen. En niet alleen als er iets gebeurt omwille van hun handicap."

De federale regering heeft in het regeerakkoord beslist dat Unia het de komende jaren met 25 procent minder financiële middelen moet doen. "Dat is heel pijnlijk, en ik denk dat het ook de bedoeling was om pijn te doen", reageert Keytsman. "Er is minder geld om in de gevallen waar het nodig is naar de rechter te trekken, en wat ook heel pijnlijk is, is dat we het beschermingsfonds moeten stopzetten. Dat fonds hielp mensen die geen recht hebben op pro deo, maar die toch geen geld hebben voor een advocaat."

De besparingen hebben vooral een grote impact op het personeel, aldus Keytsman. Het centrum moet 14 voltijdse werkkrachten laten gaan. 

"Ik snap dat er bespaard moet worden, maar 25 procent zonder motivering en zonder enige uitleg, als enige overheidsdienst, daar heb ik minder begrip voor."