Ben jij een potentiële moordenaar? Britse politie test algoritme om dat te achterhalen

Wie is er in staat om mogelijk een moord te plegen? Het lijkt ietwat op de film 'Minority report' met Tom Cruise waarin mensen werden opgepakt voor een misdaad die ze nog niet gepleegd hadden, maar het is wel degelijk de vraag die de Britse overheid stelt in het plan 'sharing data to improve risk assessment'.

Het programma - dat eerst de iets meer expliciete naam 'homicide prediction program' had - zou de openbare veiligheid moeten vergroten. Het laat algoritmes los op persoonlijke gegevens om te bepalen wie het grootste risico loopt om ernstige misdrijven te plegen.

Stel dat je vermoord wordt, kan de politie via de tool kijken wie er in je omgeving een grotere kans maakt om een moordenaar te zijn. De politie moet die personen natuurlijk wel nog ondervragen, want het is niet omdat die persoon jou kent of in de buurt woont, dat hij of zij de moord ook automatisch gepleegd heeft. 

Bekijk: de trailer van 'Minority report' uit 2002

Het is de belangenorganisatie Statewatch die heeft ontdekt dat de Britse overheid bezig is met het project. Dankzij de wet van openbaarheid van bestuur hebben ze documenten in handen gekregen waar in detail over het programma gesproken wordt.

Het project kwam er op vraag van gewezen premier Rishi Sunak en maakt gebruik van gegevens van verschillende officiële bronnen. 

Niet enkel basisgegevens als je naam, je geslacht en je geboortedatum worden geanalyseerd, ook je etniciteit en "gezondheidsindicatoren die een significante voorspellende waarde kunnen hebben" worden bekeken. Concreet gaat het over informatie over geestelijke gezondheid, verslaving, zelfmoordneigingen, zelfverminking en beperkingen.

De Britse overheid wil niet veel bevestigen, maar zegt wel dat het enkel kijkt naar mensen die ten minste 1 strafbaar feit hebben gepleegd. Dat weerlegt Statewatch. Volgens de belangenorganisatie worden gegevens van mensen die niet veroordeeld zijn voor een strafbaar feit ook gebruikt voor het onderzoek.

Zeker is dat er verschillende soorten strafrechtelijke veroordelingen worden opgenomen in het programma. Ook de leeftijd waarop iemand voor het eerst slachtoffer werd of in contact kwam met de politie, wordt bijgehouden.

De onthulling van het programma verontwaardigt de Britten. Activisten beweren dat de gebruikte gegevens zullen zorgen voor vooroordelen als het gaat over minderheidsgroepen en arme mensen. 

Dat denkt Sofia Lyall, een onderzoeker bij Statewatch, ook. "Uit onderzoek blijkt steeds weer dat algoritmische systemen voor het 'voorspellen' van criminaliteit inherent gebrekkig zijn."

"Dit nieuwste model, dat gebruikmaakt van gegevens van de institutioneel racistische politie en het ministerie van Binnenlandse Zaken, zal de structurele discriminatie die al zo aanwezig is in het strafrechtsysteem enkel maar versterken en vergroten."

Volgens de laatste informatie is er geen gelijkaardig programma bij de federale politie in België, maar we analyseren wel al criminaliteit met AI om misdaden te voorspellen. Zo onderzoekt het team van criminoloog Wim Hardyns aan de UGent welke locaties vaker te maken krijgen met criminaliteit.

"De ethische gevaren van het voorspellen van personen, zijn gewoon te groot", vindt Hardyns. "Het gaat altijd om een bepaalde vorm van kansberekening. Als je er dan naast zit, krijgt die persoon (levenslang) een stempel. Dat is dramatisch, voor zowel slachtoffer als dader."

Hardyns maakt de vergelijking met een experiment van een aantal jaren geleden. "Na de aanslagen is er een model gemaakt om terroristen sneller op te sporen. Toen werd aan sommige mensen onterecht de toegang geweigerd tot een festivalterrein bijvoorbeeld. Dat kan je niet goedpraten." 

Niet alleen zorgen de ethische aspecten ervoor dat er in België niet mee geëxperimenteerd wordt, ook zorgt de Europese AI-act ervoor dat zulke programma's niet kunnen. "Die zegt dat je machine learning, modellen en andere types van AI niet mag gebruiken op individueel niveau."

De focus in België ligt dus op locatie. De onderzoekers van UGent doen dat op basis van de criminaliteitscijfers die verschillende politiezones met hen delen en op die manier kan AI voorspellen waar en wanneer er misdaden zullen plaatsvinden.

Onderzoekers verdelen de deelnemende politiezones in stratenblokken die ze koppelen aan data. "We nemen ook mee of er bijvoorbeeld stations of cafés in de buurt zijn. In gebieden met weinig straatverlichting is de kans op woninginbraken groter. De aanwezigheid van vluchtwegen speelt een grote rol. Ook het weer is belangrijk: criminelen blijven liever thuis als het regent", zegt Hardyns.

Voordat die AI-tool in gebruik wordt genomen - wat na de zomer op de planning staat - wordt elk aspect belicht. "De accuraatheid, het regelgevend kader, het ethische aspect, de transparantie en het criminologische: alles wordt apart bestudeerd voordat er een model bruikbaar is. Het wordt eerst wetenschappelijk onderbouwd."

Na de zomer wordt de tool getest in 20 verschillende politiezones en na een jaar wordt die proefperiode geëvalueerd. "En dan moeten er nog aanpassingen gedaan worden, dus het zal nog niet onmiddellijk de standaard worden." 

De voorspelling van locatie en tijdsbepaling van criminele feiten zit dus wel in de pijplijn, maar ziet Hardyns de maatschappij ooit zo veranderen dat het het persoonlijke luik toch in België zal worden toegepast? "Dat lijkt me straf, maar het valt niet uit te sluiten. Hoe dan ook denk ik dat het dan belangrijk is om alles altijd op onderzoek te baseren en niet zomaar in het wilde weg tools te implementeren."