De Europese Unie heeft, na drie dagen onderhandelen tussen de lidstaten en het Europees Parlement, een akkoord bereikt over baanbrekende wetgeving om kunstmatige intelligentie (AI) te reguleren. Het dubbele doel is om de grootste gevaren van AI aan banden te leggen en tegelijk innovatie niet in de weg te staan.
"Historisch", postte de Franse commissaris voor Interne Markt Thierry Breton vannacht op X. Hij doelde op het akkoord dat het Europees Parlement heeft gesloten met de lidstaten over de regels rond AI-systemen. Zo wordt de EU de eerste plek ter wereld waar eenduidige AI-wetten worden beklonken. De onderhandelaars moeten het akkoord nog wel voorleggen aan het voltallige EU-parlement en de EU-lidstaten, maar dat is doorgaans een formaliteit.
AI, voluit artificiële intelligentie, is technologie die de menselijke intelligentie zo goed mogelijk probeert na te bootsen. Een van de bekendste AI-producten is ChatGPT, dat in heel natuurlijke taal kan antwoorden op allerhande vragen en opdrachten.
De beloftes van AI zijn groot, maar ook de gevaren voor misbruik en wantoestanden. Denk aan hoe zulke systemen omgaan met privacy, met burgerrechten of met desinformatie. Net daarom wil de EU er tijdig bij zijn om duidelijke regels vast te leggen: misbruik tegengaan en tegelijk innovatie mogelijk maken.
Volgens Breton is dat alvast gelukt: "De AI Act is meer dan een lijstje regels. Het is een lanceringsplatform voor EU-start-ups en onderzoekers om de wereldwijde AI-race te leiden." Zo moeten de nieuwe regels ervoor zorgen dat bedrijven, en zeker kmo's, AI-oplossingen kunnen ontwikkelen zonder oneigenlijke druk van de grote reuzen in de sector. Elke EU-lidstaat kan veilige omgevingen op poten zetten om innovatieve AI-systemen te testen in realistische omstandigheden, voor ze op de markt worden gezet.
Categorieën
De nieuwe Europese wet deelt AI-toepassingen in volgens risico. Hoe meer gevaren een toepassing in zich draagt, hoe strenger de regels:
Simpele spamfilters of AI-systemen die gebruikers tips geven, vallen onder "minimaal risico" en moeten nauwelijks aan regels voldoen. Ze kunnen wel vrijwillige gedragscodes opstellen.
AI-systemen die ingezet worden om kritieke systemen rond water of energie te beheren, rond justitie, gezondheid en biometrie, vallen onder "hoog risico" en krijgen veel striktere regels. Ze moeten onder meer instaan voor de hoge kwaliteit van hun datasets, hun activiteit loggen, sterk beveiligd zijn en altijd een menselijke controle behouden.
De gevaarlijkste - zoals de Chinese systemen die burgers voor hun gedrag belonen of straffen, of AI-systemen die menselijk gedrag proberen te manipuleren - worden verboden. Zij vallen in de categorie "onaanvaardbaar risico". Ook bepaalde vormen van biometrische identificatie op basis van religieuze, politieke of seksuele kenmerken zijn verboden, net als systemen voor emotieherkenning op de werkvloer of op school.
Bepaalde systemen houden ook een "transparantierisico" in. Zo zullen gebruikers op de hoogte moeten worden gebracht als ze te maken krijgen met een AI-systeem, zoals een chatbot. Onder meer bij deep fakes (realistisch ogende, door AI-gemaakte nepvideo's van bestaande mensen) of andere AI-gegenereerde inhoud moet een duidelijk label staan.
Agoria: "Vrezen voor te veel administratieve verplichtingen"
Jelle Hoedemaekers van technologiefederatie Agoria ziet sterke en zwakke punten in de EU-regels rond AI. "Positief is dat we eigenlijk komen tot regels rond het gebruik van AI. We zien inderdaad dat er bepaalde ethische risico's bij komen kijken."
Maar Agoria is wel bezorgd over alle administratieve verplichtingen waaraan bedrijven nu zullen moeten doen bij het op de markt brengen van AI-systemen. "Dat zal tijd en geld kosten om producten en diensten conform te maken aan die regels. We vrezen een beetje dat dat de innovatie wat zal blokkeren, zeker nu we al een achterstand hebben op de VS en China."
"In België zijn vooral kleine bedrijven, start-ups en scale-ups, bezig met AI-ontwikkelingen. Grote bedrijven hebben veel middelen om hun producten conform te maken aan de nieuwe regels. Wij vrezen dat onze kmo's te maken zullen krijgen met heel hoge kosten om dat te doen en dat ze daardoor een concurrentieel nadeel zullen ondervinden ten opzichte van de grote techbedrijven uit de VS en China."
Zware boetes
De onderhandelaars hebben lang gebakkeleid over AI voor gezichtsherkenning. Het parlement wilde dat uitbannen, maar de lidstaten wilden het toestaan waar dat de veiligheid zou dienen. Daarvoor krijgen zij nu wel ruimte, maar met beperkingen.
Wie zich niet aan de regels houdt, kan beboet worden voor een bedrag van 7,5 miljoen euro (of 1,5 procent van de omzet van een bedrijf) tot 35 miljoen euro (of 7 procent van de omzet). De nieuwe regels zouden, als ze begin volgend jaar ook officieel worden aangenomen, in de loop van 2026 van kracht kunnen worden.
Consumentenorganisatie BEUC: "Teleurstellend"
De BEUC, de Europese koepel van consumentenverenigingen, is kritisch voor de AI-regels. "Het resultaat is teleurstellend, gezien het brede gamma aan risico's waaraan consumers ten onrechte zullen worden blootgesteld." De BEUC noemt onder meer het feit dat systemen voor emotieherkenning in bepaalde gevallen wel nog zullen mogen worden gebruikt "zorgwekkend".
Ook tegen speelgoed dat gebruik maakt van AI wordt volgens de BEUC te weinig gedaan. En ook veelgebruikte AI-modellen als ChatGPT worden niet voldoende gereguleerd, vindt de BEUC. "Er is bijvoorbeeld geen verplichting om zulke modellen te laten controleren door een onafhankelijke partij, noch wordt er voldoende transparantie van die systemen geëist."
Positief vindt de BEUC dat de EU burgervolgsystemen verbiedt en ook consumenten meer rechten geeft bij klachten over AI-systemen.
