Alleen betalende gebruikers kunnen met Grok, de AI-chatbot van X en Elon Musk, nog beelden maken. Die beslissing komt er nadat het platform kritiek heeft gekregen omdat gebruikers seksuele beelden konden genereren op basis van foto’s, óók van minderjarigen. Op X is dat dus niet langer mogelijk, maar via de website en app kan iedereen wel altijd deepfakes maken.
Chatbot van Elon Musk grijpt in, maar seksuele deepfakes maken op website en app kan nog altijd
Stien Schoofs
Gepubliceerd:
Aan een AI-tool vragen om een foto te bewerken kan heel onschuldig zijn, maar wanneer je aan de tool kan vragen om een afbeelding van een bestaande persoon meer onthullend of seksueel te maken, wordt het problematischer.
Daarom is er heel wat kritiek op Grok, de chatbot van Elon Musk. Daarmee kan je zulke beelden genereren - ook van minderjarigen - zonder de toestemming van de persoon die wordt afgebeeld. Die bewerkte foto's belanden soms op X, aangezien de tool geïntegreerd is op het platform. Ze zijn daardoor dus publiek zichtbaar.
Door de aanhoudende verontwaardiging en kritiek heeft Elon Musk nu beslist de functie uit te schakelen voor de meeste gebruikers. Op X wordt gecommuniceerd dat enkel betalende abonnees nog beelden kunnen genereren.
Die betalende gebruikers zijn beter te controleren en op te sporen als ze ongepaste deepfakes maken omdat hun naam, gegevens en betalingsinformatie bekend zijn bij X.
Niet op X, wel op app of website
Het klopt dat je op X niet meer rechtstreeks aan Grok kan vragen om een bestaande foto te bewerken. Normaal kan je door in de comments op X te reageren op een foto en Grok te taggen, vragen om de foto te bewerken.
"Het genereren en bewerken van afbeeldingen is momenteel beperkt tot betalende abonnees. U kunt zich abonneren om deze functies te ontgrendelen", is de melding die je nu krijgt wanneer je toch vraagt om een foto te bewerken.
Maar, als je de app of de website van Grok opent, kan je op dit moment als niet-betalende gebruiker wel nog elke afbeelding bewerken en dus deepfakes maken. Ook ongepaste vragen stellen is nog steeds mogelijk, leert onderzoek op de VRT NWS-redactie.
Die beelden komen dan niet meer automatisch op X of online, maar met 1 link kunnen ze wel makkelijk met anderen gedeeld worden. Of op sociale media als X geplaatst worden.
Maatregelen of verbod
Of deze maatregel genoeg is voor de vele landen die zich al hebben uitgesproken tegen de functies van Grok, valt nog af te wachten.
Eerder gaf de Europese Commissie bijvoorbeeld al aan verbolgen te zijn en gisteren werd een maatregel opgelegd waardoor X "alle interne documenten met betrekking tot Grok moet bewaren tot het einde van 2026". Zo kunnen die gegevens gebruikt worden voor een eventueel onderzoek.
Verder laat de Belgische minister van Digitalisering Vanessa Matz (Les Engagés) onderzoeken of de tool kan worden opgeschort in ons land en ook in andere landen zoals het Verenigd Koninkrijk werd er gedreigd met een verbod.
AI-expert Chris Umé: "Helemaal geen goed idee"
Chris Umé, die met zijn bedrijf Metaphysic de voorbije jaren furore maakte met grappige deepfakevideo's van beroemdheden, noemt het "absurd" dat een groot platform als X dit zomaar toelaat. Dat zegt hij in onze nieuwspodcast 'Het kwartier'. "Dit gaat niet over vrije meningsuiting, wel over het ontkleden van iemand op een seksuele manier, terwijl die persoon daar helemaal geen toestemming voor geeft."
Hij vindt de 'oplossing' van X - Grok achter een betaalmuur steken - dan ook "geen ethische oplossing". "Betalen geeft geen toestemming, het maakt het misbruik alleen exclusiever. Als iemand dit met Photoshop zou doen, vinden we dat niet oké. Waarom zouden we dit dan wel oké moeten vinden?"
"Er zullen altijd bedrijven zijn die zulke tools gaan bouwen. Maar een mainstreamplatform dat dit toelaat, dat is helemaal geen goed idee. Je moet niks installeren, je moet er niks van kennen. Nu heeft iedereen hier opeens toegang toe. En niet alleen dat: iedereen kan zomaar een naam intypen en naar foto's of video's gaan kijken. Absurd."
