Een vrouwelijke appel die haar banaanman bedriegt met een aardbei. Een kers die haar man, de aubergine, verlaat omdat hij niet genoeg geld heeft. Het is het scenario van ontelbare video’s die met AI worden gemaakt en viraal gaan. De video’s lijken onschuldig, maar zijn volgens experts problematisch. "Mannen moeten sterk en rijk zijn, anders zijn ze niet populair bij vrouwen. Vrouwen moeten knap en zorgzaam zijn, anders worden ze als vuil behandeld."
AI-fruitvideo's op TikTok promoten genderstereotypen en geweld tegen vrouwen
Samenvatting:
TikTok video's waarin groenten en fruit personages worden, lijken onschuldig. Maar experts waarschuwen dat de video's vaak promotie maken voor genderstereotypen, homofobische en racistische ideeën en beelden van geweld tegen vrouwen.
Het algoritme van TikTok duwt de video's actief naar gebruikers die er zelf niet naar zochten. Hoe meer je kijkt, hoe extremer de fimpjes worden.
Tweemaal per week duikt de podcast 'Het Uur van de Waarheid' in de wereld van misleiding, desinformatie en online bedrog. Ook dit onderwerp komt uit de podcast. Alle afleveringen vind je hier.
De video’s worden miljoenen keren bekeken. In de reacties lezen we spottende opmerkingen en mensen die vragen naar een vervolg van het verhaal. De video’s worden niet alleen veel bekeken, het zijn er ook veel. Wie op TikTok zoekt naar 'AI Fruit' krijgt eindeloos veel video’s voorgeschoteld.
Fruit met een vieze nasmaak
TikTok-gebruikers zijn in de ban van ‘Fruit Temptation’, een reeks gebaseerd op de realityreeks Temptation Island, gemaakt met artificiële intelligentie (AI). De deelnemers zijn stukken fruit, vaak wat sexy vormgegeven. In de comments blijkt dat kijkers met spanning wachten op de volgende aflevering.
Maar er valt iets op, zegt Laura Vandenbosch, directeur van het Media Psychology Lab van de KU Leuven: "Het format dat ze hanteren, is zoals reality-tv. Er zijn al heel wat studies gedaan naar het stereotyperende en seksualiserende aspect van zulke programma's en de impact die ze hebben op de kijker. Deze AI-video’s spelen deze aspecten nog meer uit."
Bij realityreeksen en traditionele media zijn er nog regels over wat al dan niet mag worden uitgezonden. Bij dit soort video’s zijn er geen spelregels. Dat wordt al snel duidelijk wanneer we dieper in het 'fruit-algoritme' duiken.
Een video waarin de vrouw, aardbei, kiest voor de veel rijkere komkommer als partner:
Aardbei moet kiezen tussen de arme banaan of de rijke komkommer.
Aardbei en komkommer trouwen.
Komkommer behandelt aardbei niet goed.
Aardbei wil banaan terug en smeekt bij hem, banaan is nu knap en rijk.
Hoe meer fruitvideo's we bekijken, hoe harder het algoritme ze pusht. Aardbei moet kiezen tussen 2 mannen: de arme banaan die van haar houdt of de rijke komkommer die haar een luxe leven kan geven. Ze kiest voor de komkommer. Uiteindelijk wordt ze huisvrouw en zorgt ze voor de rijke komkommer die haar als vuil behandelt. Wanneer de arme banaan later knap en rijk wordt, wil ze hem terug. Die TikTok is 750.000 keer bekeken.
Hetero maken
Nog dieper in het algoritme worden we geconfronteerd met racistische en homofobe content. Eén van de video’s is meer dan een miljoen keer bekeken. De queer zoon van een banaan wordt naar een kamp met conversietherapie gestuurd om hem hetero te maken. Er is geen wetenschappelijke onderbouwing voor conversietherapie.
"Als je iets begint te volgen, wordt het extremer", zegt Alexander Dhoest, professor communicatiewetenschappen aan de UAntwerpen. "De algoritmes zijn problematisch, ze vergroten alles waar je interesse in hebt."
Er lijkt geen einde aan te komen aan dit soort AI-rommel. We stuiten ook op video's die verkrachtingen insinueren en waarbij vrouwelijke personages worden geschopt en geslagen, met kijkersaantallen tussen de 200.000 en een miljoen.
"De herhaling van de video’s is problematisch", zegt professor Dhoest. "Omdat dezelfde boodschap steeds herhaald wordt, kan die een grotere impact hebben."
Voorbeeld van een video met homofobe content:
Vader banaan is boos op zijn zoon omdat hij homo is.
Vader banaan dreigt om zijn zoon weg te sturen.
Vader banaan laat zijn zoon 3 jaar achter bij een kamp.
Bittere boodschappen
De video’s promoten een traditioneel beeld van mannelijkheid en oude genderstereotypen. Mannen moeten sterk en rijk zijn, anders zijn ze niet populair bij vrouwen. Vrouwen moeten knap en zorgzaam zijn, anders worden ze als vuil behandeld.
De video's zijn leuk, kleurrijk en lijken onschuldig, maar vervang de geanimeerde fruitpersonages door echte mensen en je krijgt een heel ander beeld
Koen Dedoncker, MoveMen
Koen Dedoncker van MoveMen ziet parallellen met manfluencers, influencers die een traditioneel en genderstereotiep beeld promoten van relaties op sociale media.
"De fruitvideo’s zijn nieuw voor ons, maar de boodschap die ze verkondigen, komen we al langer tegen op sociale media." Wat Dedoncker verontrust, is de vorm van de video’s: "Ze zijn leuk, kleurrijk en lijken onschuldig omdat ze met fruitpersonages zijn. Hierdoor zijn ze nog aantrekkelijker voor jonge meisjes en jongens." Maar vervang de geanimeerde fruitpersonages door echte mensen, dan is het duidelijk dat de video’s niet onschuldig zijn.
Ongemerkt beïnvloed
Aan de populariteit van deze video’s te zien, lijken veel TikTok-gebruikers zich niet bewust van de boodschappen die ze bevatten. “De meeste gebruikers hebben geen extreme genderideeën en gaan dus waarschijnlijk niet actief op zoek naar deze video’s. Het feit dat het algoritme ze opdringt, is dus toch wel problematisch”, stelt professor Vandenbosch.
Bij MoveMen, een organisatie die gespecialiseerd is in gendergelijkheid, merken ze dat jongeren vatbaar zijn voor dit soort narratief: “We zien bij de jongeren met wie we werken, dat er een grotere polarisering is tussen jongens en meisjes en de manier waarop ze naar elkaar kijken. Er zijn meer traditionele opvattingen over relaties, over de rol van meisjes en jongens in relaties."
Ook volgens communicatieprofessor Dhoest is er een culturele omslag: "Dit soort boodschappen wordt meer aanvaard op sociale media, terwijl ze een tiental jaar geleden minder sociaal wenselijk zouden zijn geweest.”
Actrice Ayana Doucouré vertelt bij MNM over de fruitvideo's die ze te zien krijgt op TikTok:
De makers van de video’s blijven anoniem, maar velen maken gebruik van scenario’s en prompts die circuleren op platformen zoals Reddit. Met AI-tools maken ze op een eenvoudige manier hun content. Zoals veel andere trends op TikTok, zullen de eerste video’s viraal zijn gegaan en zijn er daarna andere makers mee op de kar gesprongen.
Volgens Professor Dhoest gaat het vooral om views oogsten en daarmee geld verdienen: “Die views zijn vaak het doel, koste wat kost zoveel mogelijk mensen bereiken. Daar draait het vaak om voor de makers, maar ook voor de platformen zelf.”
De impact van dit soort video’s is moeilijk één op één te bewijzen, maar waar de experten over eens zijn: de mechanismen van algoritmes, de herhaling van boodschappen en de laagdrempeligheid van AI-productie vergen dringend meer aandacht, van de platformen én van het beleid.
