Kleine zelfstandigen die in tranen vertellen dat niemand hun handgemaakte producten koopt. Hun video's worden op TikTok en Instagram veel bekeken, maar de mensen die we zien, bestaan helemaal niet. De wanhopige ambachtslui zijn gemaakt met AI. De filmpjes spelen in op je emoties en proberen je zo te verleiden tot een aankoop. Van handgemaakt is waarschijnlijk geen sprake, we vinden dezelfde producten terug op Chinese groothandelsplatformen zoals Alibaba.
Nepvideo's van huilende zelfstandigen op TikTok misleiden kopers: geen echte mensen, geen handwerk
Anna Petrosyan
Gepubliceerd:
In het kort
Op TikTok en Instagram duiken massaal nep-video's op van zogenaamde kleine zelfstandigen die met de hand producten maken.
De personen in de video's bestaan niet. De video's spelen in op je emoties om je iets te laten kopen.
Achter de video's gaan amateuristische webshops schuil die weinig transparantie bieden over de verkoper. De producten staan ook gewoon op groothandelsplatformen en zijn dus minder uniek dan je zou denken.
“Niemand gaat je stomme handtassen kopen” zien we als opschrift bij een TikTok-video. Het is de boodschap die meerdere kleine zelfstandigen op TikTok en Instagram zouden krijgen over hun producten. Een huilende en gefrustreerde vrouw ploetert intussen hard verder om met de hand haar unieke tassen te maken.
“Jij bent zwart, niemand zal ooit iets van je kopen, succes ermee” lezen we als opschrift van een andere TikTok-video waar we een zwarte vrouw zien huilen terwijl ze toont hoe ze met de hand lederen riemen maakt.
Maar deze mensen bestaan helemaal niet.
Emotionele manipulatie met AI
De video’s zijn gemaakt met artificiële intelligentie. Er zijn heel veel accounts en de video’s halen samen miljoenen views. De video’s raken een gevoelige snaar bij veel mensen. “Fantastisch werk, blijf doorzetten!", "Hoe kan ik eentje kopen?", lezen we in de reacties.
Met een zielig verhaal proberen ze je te overtuigen iets te kopen via hun webshop.
AI van Google
Het is vaak een combinatie van enkele elementen die verraden dat de video’s met AI zijn gemaakt. We zien soms wazige elementen in beeld of de belichting is vreemd. Als we iemand zien spreken, kan je ook erop letten of de audio en het beeld wel synchroon zijn, bij deze video is dat bijvoorbeeld niet het geval.
Als we echt sluitend bewijs willen, gebruiken we Google's SynthID-tool. Wanneer een AI-product wordt gemaakt met AI van Google, kan SynthID een onzichtbaar watermerk in de beelden herkennen. Als beelden met software van Google zijn gemaakt, kan SynthID dat zien.
De SynthID-tool zelf is momenteel niet breed beschikbaar maar de technologie kan je ook gebruiken via Gemini, de AI-chatbot van Google. Wanneer we de beelden uploaden via de SynthID-tool, zien we dat de beelden inderdaad gegenereerd zijn met AI.
Hoe check je of iets AI is met Gemini?
Ga naar gemini.google.com. Je moet wel ingelogd zijn. Open een chatvenster en kies via het plus-symbool om een bestand te uploaden. Selecteer de afbeelding of video die je wilt laten checken.
Geef Gemini de opdracht om het bestand te controleren op de aanwezigheid van een SynthID-watermerk. Zeg bijvoorbeeld: "Check met SynthID of dit beeld echt is".
Geeft Gemini aan dat het beeld is gemaakt met Google AI? Dan ben je zeker dat het een AI-gegenereerd bestand is. Geeft Gemini aan dat er geen SynthID-kenmerken zijn gevonden? Dan betekent dit alleen dat het beeld niet door Google AI is gemaakt. Het kan nog steeds AI zijn, gemaakt door een andere AI-service.
Maar bij wie koop je nu eigenlijk?
In de korte beschrijving van hun accounts zien we wel degelijk links naar verschillende webshops. En zo komen we ook terecht op de websites waar de producten worden verkocht. We vinden geen informatie over de echte personen of het bedrijf achter de webshops. Er is weinig transparantie en de webshops komen amateuristisch over.
Bij één webshop staat een vreemd stukje tekst: “Oké, hier is een overzichtelijke en professionele pagina met een retour- en terugbetalingsbeleid dat je direct op je website kunt plakken (Shopify of een ander e-commerceplatform)” Waarschijnlijk gaat het om een vergeten stukje tekst dat gekopieerd is uit een AI-chatbotantwoord.
Te koop via groothandel
Als we zoeken op de beelden van zo'n product in die filmpjes, vinden we exact hetzelfde beeld van hetzelfde product ook op Alibaba, een Chinees online handelsplatform dat zich specialiseert in groothandel en verkoop aan bedrijven. Op de pagina op Alibaba staat zelfs een naam en foto van de Chinese fabriek waar het product wordt gemaakt. Handarbeid van een kleine zelfstandige lijkt het dus alvast niet, eerder massaproductie.
Verkopen zonder voorraad: "dropshipping"
Het gebrek aan transparantie doet vermoeden dat het om dropshipping gaat. Dat is een vorm van elektronische handel waarbij de verkopers hun producten niet zelf in voorraad hebben. Als je een bestelling plaatst bij een webshop, dan wordt die bestelling doorgegeven aan de leverancier die wél de voorraad heeft en het product rechtstreeks bij jou zal leveren.
Dropshipping is niet illegaal maar de verkoper heeft wel wettelijke verplichtingen die moeten nageleefd worden. Zo moet duidelijkheid bestaan over de identiteit van de handelaar. Dat vinden we niet terug bij verschillende webshops die we via de AI-video’s tegenkomen.
Een van de webshops die we onderzochten, blijkt zelfs gebouwd met een sjabloon van een bekende YouTuber die video's maakt met handleidingen over hoe je zelf zo'n dropshippingwebshop opstart.
Van het verhaal dat de AI-personages vertellen, blijft dan weinig over. Geen kleine zelfstandigen die vernederd of gediscrimineerd worden, geen handgemaakt werk. En wie er écht achter zit, blijft dikwijls een vraagteken.
Conclusie:
Op sociale media verschijnen video's van huilende of gefrustreerde kleine zelfstandigen die vertellen dat niemand hun handgemaakte producten wil kopen.
Maar de video's zijn gemaakt met artificiële intelligentie, de personen bestaan dus helemaal niet.
Dat het gaat om handgemaakte producten is ook twijfelachtig, we vinden exact dezelfde productfoto's terug op groothandelsplatformen zoals Alibaba.
Dat de video's echt gefrustreerde of wanhopige kleine zelfstandigen tonen, is dus onwaar.
