Wie technologie met artificiële intelligentie (AI) ontwikkelt of gebruikt, zal in Europa bepaalde regels moeten volgen. Dat is het gevolg van de nieuwe Europese AI-wet die is goedgekeurd. Daarin staat waarvoor AI wel of niet mag worden gebruikt en onder welke voorwaarden. Wat betekent dat nu voor jou?
Europa keurt nieuwe regels over artificiële intelligentie goed: zo zal jij dat merken
Wim De Maeseneer
Gepubliceerd:
Het Europees Parlement heeft vandaag de Artificial Intelligence Act goedgekeurd, een nieuwe wet die de "de veiligheid en de grondrechten moet beschermen tegen artificiële intelligentie". Simpel gezegd: er komen regels voor wie AI-technologie ontwikkelt of gebruikt.
De meeste regels gelden voor ontwikkelaars, bedrijven en wie professioneel met AI werkt. "Al zullen ook jij en ik onrechtstreeks de voordelen voelen", zegt juridisch onderzoeker Thomas Gils van het Kenniscentrum voor Data & Maatschappij.
"Er zal meer transparantie komen over welke systemen met AI werken, hoe ze werken en met welke data ze getraind zijn. De technologie zal ook correcter en beter werken."
"Chatbots bijvoorbeeld zullen expliciet moeten aangeven dat ze AI gebruiken. Hetzelfde geldt voor deepfakes: beelden of video's die echt lijken, maar een bestaand iemand of iets nabootsen via AI."
"Compleet nieuwe teksten, afbeeldingen en video's die door AI zijn gemaakt, zullen een soort watermerk moeten hebben. Ze moeten misschien niet op het eerste gezicht, maar wel via andere tools kunnen worden herkend."
De EU hanteert 4 categorieën:
minimaal risico AI (bv. spamfilters, AI videospelletjes): wordt vrij toegestaan
beperkt risico AI (bv. chatbots op websites van banken of vliegtuigmaatschappijen): moet voldoen aan transparantieverplichtingen
hoog risico AI (bv. zelfrijdende wagens, robotchirurgie): wordt onderworpen aan strenge verplichtingen ter controle
onaanvaardbare AI (bv. voor sociaal kredietsysteem): wordt verboden
Dit wordt verboden
Systemen die een onaanvaardbaar risico met zich meebrengen, worden verboden. Het gaat dan over AI-systemen die de rechten van burgers in gevaar brengen, zoals een sociale score toekennen op basis van gedrag. Ook realtime gezichtsherkenning of emotieherkenning op het werk of op school worden verboden.
De details in de nieuwe wet zullen nog belangrijk worden
Thomas Gils, juridisch onderzoeker Kenniscentrum Data & Maatschappij
Bedrijven zullen ook geen databanken voor gezichtsherkenning mogen aanleggen door lukraak foto's en video's van het internet te plukken. Daarnaast komt er een verbod op voorspellend politiewerk dat enkel bedoeld is om mensen te profileren of hun kenmerken te beoordelen.
AI-systemen waarmee menselijk gedrag wordt gemanipuleerd of de kwetsbaarheden van mensen worden uitgebuit, zijn ook niet toegelaten in Europa.
"Toch zijn er nog uitzonderingen mogelijk", zegt Gils. "Realtime gezichtsherkenning zal wel nog kunnen onder heel strikte voorwaarden, met toestemming van een rechter bijvoorbeeld, om gericht te zoeken naar een vermiste of om terroristische aanslagen te voorkomen. De details in de nieuwe wet zullen dus nog heel belangrijk worden."
Hiervoor gelden strenge regels
De meeste regels en verplichtingen zijn er voor AI-systemen met een hoog risico, omdat ze mogelijk schade kunnen veroorzaken voor de gezondheid, de veiligheid, de grondrechten, het milieu, de democratie en de rechtsstaat.
Het gaat dan onder meer over AI-technologie die gebruikt wordt in sectoren als justitie, politiek, de gezondheidszorg, de banksector, werkgelegenheid of onderwijs. "Systemen die leerlingen beoordelen bijvoorbeeld. Of de arbeidsprestaties van werknemers, om op basis daarvan te beslissen of iemand opslag of eventueel ontslag krijgt", zegt Gils.
Volgens de nieuwe regels moeten dit soort AI-systemen transparant en nauwkeurig zijn, en moeten de risico's ervan worden beoordeeld en beperkt. "Bovendien moeten er logboeken worden bijgehouden en moet menselijk toezicht mogelijk zijn", schrijft het Europees Parlement in een persbericht.
"Burgers hebben het recht om klachten over AI-systemen in te dienen en uitleg te krijgen over beslissingen die zijn genomen op basis van AI-systemen met een hoog risico en die gevolgen hebben voor hun rechten."
Er moet nog veel worden uitgeklaard voor de nieuwe regels in voege kunnen gaan
Thomas Gils, juridisch onderzoeker Kenniscentrum Data & Maatschappij
Volgens Thomas Gils is de nieuwe AI-wet belangrijk en is het goed dat er vanuit de politieke wereld zo veel aandacht is voor artificiële intelligentie. "Al valt er op juridisch vlak nog een en ander over op te merken. Laten we zeggen dat er nog veel moet worden uitgeklaard."
De nieuwe AI-wet moet nog door de lidstaten officieel worden goedgekeurd, maar dat zou een formaliteit zijn. De nieuwe regels gaan daarna in fases in. De volledige wet zou pas in 2026 volledig van kracht zijn
