Foto's van Zuid-Koreaanse meisjes massaal met AI bewerkt tot fake pornografisch materiaal

Recent raakte in Zuid-Korea bekend dat de politie onderzoek doet naar deepfake-porno op 2 belangrijke universiteiten. Ko Narin, een journaliste, was ervan overtuigd dat dit slechts de top van de ijsberg was.

Ze begon op sociale media te zoeken en ontdekte al snel tientallen chatgroepen in de berichtenapp Telegram, waar gebruikers foto's deelden van vrouwen en AI-software gebruikten om van het beeldmateriaal binnen enkele seconden kunstmatige pornografische afbeeldingen te maken.

Het probleem zou momenteel op meer dan 500 universiteiten en middelbare scholen voorkomen. Op sommige scholen zitten er meer dan 20.000 leden in zo'n chatroom van Telegram om deze beelden te maken en te verspreiden.

"In dit geval zijn het deepfake-foto's: normale foto's van normale vrouwen worden op lichamen geplakt die door AI (artificiële intelligentie) zijn gemaakt", legt Flora Smit, Korea-expert van de Universiteit Leiden uit in de VRT NWS-podcast 'Het kwartier'. "Het opvallende hier is dat het niet alleen om volwassenen of vrouwen gaat die ouder zijn dan 16, maar ook over minderjarigen." 

"Daders nemen foto's van bijvoorbeeld Instagram of schoolfoto's", gaat Smit verder. "In Zuid-Korea worden ook veel selfies gemaakt. Elk meisje heeft een behoorlijk aantal foto's op het internet staan en die worden nu massaal gebruikt om op AI-beelden te plakken." 

Volgens Smit gaat het minder om de lustbeleving, maar vooral over mannen die macht willen uitoefenen over vrouwen. "De rollen tussen man en vrouw zijn in Zuid-Korea in heel korte tijd erg veranderd, er is heel veel frustratie bij jonge mannen. Je merkt dat dit uitingen zijn van die frustratie."  

"Het gaat er vooral om dat vrouwen zich vernederd voelen en dat mannen macht hebben. Zij nemen contact op met de vrouwen om hen angst aan te jagen en om een soort machtsdynamiek in gang te zetten waarbij zij controle hebben over hoe die vrouw gaat reageren. Het heeft weinig met porno te maken en veel meer met macht."

"Ik denk dat dit het begin is van iets dat in de toekomst nog veel meer gaat gebeuren. Het is ook al veel langer bezig in Zuid-Korea. In 2016 was er de 'gangnam-moord'. Toen is een vrouw op een toilet doodgestoken door een man. Er werden bijvoorbeeld ook al verborgen camera's in openbare toiletten geplaatst. Telegram is een heel goed medium hiervoor. Alles wordt er verwijderd en Telegram kan hier niets tegen doen." 

Eind augustus is Pavel Doerov, de topman van de Russische berichtendienst Telegram, in Frankrijk trouwens in verdenking gesteld voor een reeks inbreuken in verband met georganiseerde misdaad.

Intussen komen er in Zuid-Korea ook vrouwen op straat om te protesteren. "Dat is ook al gebeurd vanwege die verborgen camera's in toiletten. Toen zijn veel vrouwen op straat gekomen met borden met daarop het opschrift: 'Mijn lichaam is niet jouw porno'."

"Nu merk je het weer. Er is een heel nare machtsverhouding ontstaan tussen man en vrouw. Vrouwen worden het slachtoffer van hun eigen lichaam en de controle die ze daarover wel of niet zouden mogen hebben." 

Het probleem van de deepnudes doet zich trouwens niet alleen voor in Zuid-Korea. "Die technologie is onder jongeren wereldwijd al goed verspreid", bevestigt Catherine Van de Heyning, professor aan de Universiteit Antwerpen en substituut-procureur des konings bij de cybercrime-sectie in Antwerpen.

"We zien het intussen ook opduiken in Amerikaanse en Europese scholen." Ook in ons land zijn al de eerste klachten over deepnude-beelden binnengekomen bij de politie. 

"Uit een onderzoek dat wij hebben gevoerd, blijkt dat 1 op de 2 jongeren weet wat deepnude is. 10 procent kent ook deepnude-apps. Bij jongens is dat 17 procent. 8 op de 100 jongeren hebben dat soort beelden al gemaakt, bij jongens ligt dat percentage nog wat hoger."

"Jongeren vinden de weg naar die apps, om dit soort beelden te maken. Vaak zullen ze die ook delen of tonen aan vrienden. Heel soms wordt het ook gebruikt om iemand af te persen of te pesten." 

Het maken en delen van deepnude-beelden is in ons land absoluut verboden en dus strafbaar. "Het is ook een schending van het fundamentele recht op je privacy", gaat Van de Heyning verder.

"In Zuid-Korea is enkel het delen verboden. Het verbod en de bestraffing is nu vooral gericht op wie de beelden maakt. De apps zijn een grijzere zone, of die verboden zijn of niet. Zij maken veel reclame online waardoor heel veel jongeren het idee krijgen dat het toegelaten is om ze te gebruiken." 

In de VS, in San Francisco, is al een rechtszaak gestart tegen deepnude-apps omdat ze bijdragen tot het maken en verspreiden van die beelden. 

"Achter die deepnudes zit de deepfake-technologie, waarmee je op basis van bestaande beelden een beeld kan maken dat echt lijkt, maar vals is. Het is raar om een technologie te gaan verbieden, want die wordt bijvoorbeeld ook in Hollywoodfilms gebruikt."

Het is vooral ook belangrijk dat jongeren opnieuw meer respect hebben voor elkaar en elkaars lichaam, benadrukt Van de Heyning. "Als we kijken naar de motieven is slechte wil slechts bij een minderheid aanwezig. De meerderheid zegt: ik wilde experimenteren. Ze zien het verschil met andere filters niet eens zo hard."

"Vaak is er groepsdruk, de wil om populair te zijn. Sommigen gebruiken het ook wel voor hun seksuele fantasie. Omdat hun eigen motieven niet zo kwaadschiks zijn, vergeten ze vaak wat dit kan betekenen voor het slachtoffer." 

Volgens Van de Heyning zit het grote probleem bij het gebrek aan empathie. "Die kloof tussen hun bedoelingen en hun beleving en de schade die ze aanrichten, gaan we moeten dichten. Daar zit het probleem vooral, dat ze daar echt niet bij nadenken." 

"Deepnudes maken is strafbaar, dat weten veel mensen nog niet, dus dat moeten we blijven duidelijk maken. Daarnaast moeten we nu vooral de slachtoffers ondersteunen en proberen die beelden van het internet te krijgen."

"Wat we nog missen is een sterk kader om die apps beter aan te pakken. De AI-wet op Europees niveau helpt een beetje, maar ze gaat dit fenomeen niet aanpakken. We moeten denken aan een verder regelgevend kader."