Populaire 'wijze monnik' en 'priester' op sociale media blijken AI-creaties

Al eens gehoord van priester Solomon Grace? Of de boeddhistische monnik Yang Mun? Op sociale media doen hun religieuze wijsheden volop de ronde. Solomon (@solomon_grea) heeft 112.000 volgers op Instagram, Yang Mun (@yangmunus) heeft er maar liefst 2,5 miljoen. Ook op Facebook post de monnik dagelijks filmpjes voor meer dan 1,4 miljoen volgers.

In een gigantische tempel of oosterse tuin, al dan niet met een dik boek voor zich, deelt hij wijsheden in alle vormen en maten. '4 dingen die je aan het begin van elke dag tegen jezelf moet zeggen', bijvoorbeeld, maar ook advies over hoe je met negatieve gedachten kan omgaan, hoe je je partner het best kan ondersteunen, of zelfs hoe je enkele kilo's kan kwijtspelen.

Bekijk: monnik Yang Mun geeft 'levensadvies' op Instagram, onder andere over wie je echte vrienden zijn

"Het ziet er heel overtuigend uit, maar deze religieuzen komen uit een AI-machientje", waarschuwt Peter Burger van 'Nieuwscheckers' van de Universiteit Leiden in 'Het uur van de waarheid' op Radio 1. "Het zijn een fake priester en een fake monnik. Waarschijnlijk komen ook hun wijsheden uit ChatGPT of een andere tool."

Maar wie zit achter die profielen? Op vraag van een Nederlands christelijk dagblad verdiepte Burger zich in de wereld van Solomon Grace en Yang Mun .

"Van Yang Mun weten we het zeker: die is geschapen door de Israëlische content creator Shalev Hani. Daar heeft hij trots over verteld op zijn eigen sociale media ", weet Burger. "Ik vond aanwijzingen dat ook de priester uit dezelfde werkplaats komt." Zo worden de AI-gegenereerde e-books van beide geestelijken online op hetzelfde platform verkocht, waar eenzelfde naam als 'co-auteur' wordt vermeld.

Voor het e-book 'The way back to stillness' van Yang Mun tel je 23,99 dollar neer, voor een abonnement op zijn exclusieve leringen betaal je maandelijks 19,99 dollar. "Hani is trots op het geld dat hij ermee verdient. Hij toont ook screenshots van zijn inkomsten en gaat er prat op dat hij met de boeddhistische monnik in 3 maanden 300.000 dollar heeft verdiend."

Dat is het grote doel van de accounts: geld verdienen. "Een deel van zijn verdienmodel is de verkoop van de boeken, een ander deel is dat hij voor nog meer geld aan je wil uitleggen hoe hij dat voor elkaar gekregen heeft, zodat je ook rijk kan worden."

Er wordt volgens Burger overduidelijk AI gebruikt om de filmpjes te generen. Dat zie je in de details: monden bewegen soms op een vreemde manier, pagina's van boeken zijn omgekeerd geprint of bevatten zelfs fantasietekens.

Toch houdt dat mensen niet tegen om de pagina's te volgen, posts te liken en de wijsheden te geloven. "Als je kijkt naar de reacties, zijn er soms mensen die zeggen dat het nep is, maar er zijn toch vooral mensen die bedanken voor de mooie woorden. 'Goed gezegd', 'ik heb hier echt iets aan', 'ik voel me gesterkt'… en meer van de soort dingen."

"Je ziet zo'n filmpje op je telefoon en veel mensen worden kennelijk direct gegrepen door de woorden van wijsheid."

"Het zou gelabeld moeten zijn met een AI-merkteken", benadrukt Burger. "Platforms als TikTok en Instagram vragen van de maker dat ze dat doen, maar als je dat niet doet dan word je kennelijk niet op de vingers getikt."

Er staan volgens hem uiteraard wel meer zaken op Instagram, TikTok en Facebook die eigenlijk niet mogen. "Er zijn schadelijkere fake figuren op sociale media, die bijvoorbeeld medisch advies geven. Dit soort woorden, die vaak neerkomen op met mildheid kijken naar anderen en compassie hebben met jezelf, kan volgens mij weinig kwaad."

Maar als je uitzoomt, zijn de vredelievende boodschappen niet helemaal onschuldig. "In het algemeen ben ik wel bang dat dit soort beelden voor veel mensen de grens vervagen tussen wat echt is en wat niet. Daardoor kunnen mensen echte beelden gaan wantrouwen, of niet meer zien dat AI-beelden niet echt zijn." Daarom is de accurate labeling van AI wel nodig, besluit hij.