Hoe 'AI-pooiers' internetgebruikers misleiden en geld aftroggelen met deepfake naaktmodellen

"Heb ik kleine borsten?" vraagt Suzy op het sociale medium X, het vroegere Twitter. De "Nederlands-Spaanse studente die houdt van reizen en fotografie" heeft er sinds april 2024 meer dan 2.600 volgers verzameld, vaak met sexy foto's en video's die honderden likes en reacties oogsten bij - grotendeels - enthousiaste mannen.

Suzy vertelt in haar profiel dat ze ook een "speciale site" heeft "voor extra pikante foto's voor de liefhebbers". Wie er een paar euro voor veil heeft, kan haar naakt te zien krijgen.

Maar: Suzy bestaat helemaal niet. De beelden die het profiel op X plaatst zijn nep, gemaakt met beeldgeneratoren op basis van artificiële intelligentie. En Suzy is niet alleen: ze is slechts één van talloze AI-modellen die het voorbije jaar sociale media overspoelden.

Nepprofielen bestaan al zo lang als sociale media zelf. Meestal maken ze gebruik van foto's die gekopieerd of gestolen worden van echt bestaande personen - hetzij (erotische) modellen, hetzij gewone Instagrampagina's van anonieme gebruikers. Met toepassingen op basis van artificiële intelligentie (AI) is het aanmaken van fake socialemediaprofielen echter stukken makkelijker geworden - en het opsporen ervan een stuk moeilijker.

Het gebruik van AI neemt verschillende vormen aan. Soms worden gestolen foto's, bijvoorbeeld van een OnlyFans-model, met AI van een nieuw gezicht voorzien. Soms - zoals bij Suzy - zijn de afbeeldingen zelfs volledig met AI-beeldgeneratoren gemaakt.

De profielen krijgen zichtbaarheid door zogenaamd 'engagement bait': het stellen van provocerende vragen waar nietsvermoedende gebruikers van het platform op reageren. Het biedt de AI-modellen zelf de mogelijkheid om wie gereageerd heeft als 'potentiële klant' persoonlijk aan te spreken, via privéberichten. Ook belonen verschillende online platformen posts die veel reactie uitlokken door ze algoritmisch te promoten en aan andere gebruikers te laten zien.

De AI-profielen proberen mensen af te leiden naar betalende sites voor naaktbeelden, zoals Fanvue of OnlyFans, of naar minder gereguleerde online platformen. Daar wordt het contact verder gezet en krijg je naaktbeelden tegen betaling aangeboden.

Wanneer we Suzy undercover benaderen, krijgen we ook de mogelijkheid om naaktfoto's aan te kopen na een overschrijving op een Nederlands bankrekeningnummer.

Voor acteurs in de pornoindustrie en voor content creators op sites als OnlyFans betekenen de AI-modellen niet alleen een vorm van oneerlijke concurrentie, soms worden ze ook het slachtoffer van gestolen materiaal.

Een deel van het doelpubliek van de AI-modellen snapt dat het niet om echte personen gaat en heeft daar zelfs geen probleem mee. Een deel van de AI-modellen geeft ook duidelijk aan dat ze een fictief personage zijn.

Maar wie niét beseft dat het profiel waarmee contact is gelegd een onbestaand AI-model is, wordt wel degelijk misleid. Veel van die klanten zouden geen tijd spenderen of geld uitgeven aan "exclusieve naaktfoto's" die in werkelijkheid door onbekenden met een AI-beeldgenerator worden gemaakt.

Omdat je niet weet wie precies de profielen aanstuurt, zijn er ook risico's verbonden aan contact met de AI-'modellen'. Klanten kunnen afgeperst worden door malafide beheerders. Die kunnen bijvoorbeeld dreigen met het onthullen van conversaties, met het feit dat je naaktfoto's hebt aangekocht of mogelijk zelfs met persoonlijk opgestuurde intieme beelden. De gevaren lijken hier op die van catfishing en vriendschapsfraude.

Wie zit hierachter? Dat kan ongeveer iedereen zijn, van over de hele wereld, want de technologie om een AI-model aan te maken is redelijk laagdrempelig geworden. Zelfs chatgesprekken met 'fans' in alle talen kunnen via AI-chatbots aangestuurd worden.

'AI-pooierschap' is een boomende industrie, zo blijkt. In april 2024 bracht de Australische openbare omroep ABC een reportage over Australische AI-pooiers die soms beelden van minderjarigen gebruikten als bronmateriaal. De techjournalisten van 404 Media en Wired ontdekten recent dan weer honderden Instagramprofielen van AI-modellen.

Er bestaan al langer gespecialiseerde tools waarmee je (aangeklede) AI-influencers kan maken. Via groepen op Discord en Telegram worden tips gedeeld of zelfs cursussen verkocht die je beloven te leren hoe je met AI-tools ook naaktfoto's kan laten genereren, en hoe je snel en eenvoudig een succesvolle AI-pooier wordt.

Hoe weet je of een profiel op sociale media ook een echt bestaand persoon is, en geen valse of onbestaande identiteit heeft aangenomen? Internetplatformen zoals Instagram en X ondernemen namelijk zelden (tijdig) actie om profielen offline te halen, zelfs wanneer ze duidelijk inbreuken plegen tegen de gebruiksvoorwaarden.

Een aantal tips kan je helpen om zelf te ontdekken of die persoon waarmee je contact hebt via sociale media wel degelijk is wie hij of zij beweert te zijn.

• Let op de details. Met AI gemaakte afbeeldingen bevatten vaak zogenaamde 'glitches': foutjes, inconsistenties of onnatuurlijk ogende details. Klassieke fouten zijn een incorrect aantal vingers of tenen, onleesbare teksten of wazige vlekken. Op het internet zijn verschillende handleidingen te vinden om AI-beelden op die manier te proberen herkennen.

• Lees de reacties van anderen. AI-profielen ronselen vaak klanten via profielen met gewaagde foto's op klassieke sociale media, zoals Instagram en X. Vaak zijn er mensen die al gesnapt hebben dat het gaat om een AI-profiel, of die zelfs al opgelicht zijn. Er reageren dan wel veel mensen die erin trappen, maar vaak zijn er ook andere reacties die willen waarschuwen. Die ontdek je door de reacties op sociale media te doorploegen. Vergeet ook niet de antwoorden die door het profiel zelf 'verborgen' zijn - een mogelijkheid die bestaat op X.

• Gebruik 'Reverse Image Search' of omgekeerd zoeken op afbeeldingen. In sommige internetbrowsers volstaat een rechtermuisklik op een beeld om een zoekactie op te starten, maar je kan afbeeldingen ook uploaden bij Google Images , bij het Russische Yandex  of gespecialiseerde beeldzoekmachines zoals TinEye . Zo vind je andere plaatsen op het internet terug waar een bepaalde afbeelding al eerder werd gebruikt. Dat lukt meestal ook wanneer ze licht aangepast zijn - bijvoorbeeld wanneer een AI-gezicht is toegevoegd. Als het gaat om gestolen foto's van bestaande modellen, of foto's die hergebruikt worden door verschillende AI-profielen met andere namen, zullen ook die met omgekeerd zoeken terug te vinden zijn.