De AI-chatbot Grok – van Elon Musk en X – zal geen mensen meer uitkleden op afbeeldingen in landen waar het verboden is. Dat laat het socialemediaplatform X weten in een verklaring. De voorbije dagen kwam er wereldwijde kritiek op Grok, omdat het platform seksuele deepfakes genereerde. Niet alleen van volwassenen, maar ook van kinderen. X zal zulke afbeeldingen van minderjarigen ook verwijderen.
Einde van heisa? AI-chatbot van Musk neemt "technologische maatregelen" om het uitkleden van mensen te stoppen
Joppe De Hert
Gepubliceerd:
"We hebben technologische maatregelen genomen om te voorkomen dat via het Grok-account afbeeldingen van echte mensen in onthullende kleding, zoals bikini's, bewerkt kunnen worden", schrijft X in een verklaring op haar socialemediaplatform .
X en xAI – het AI-bedrijf van Elon Musk – nemen die maatregelen na de aanhoudende kritiek op Grok, dat mensen uitkleedt op afbeeldingen. Na die kritiek besliste Musk dat enkel betalende gebruikers afbeeldingen konden genereren. Maar deze beperking geldt nu voor "alle gebruikers, inclusief betalende abonnees".
Abonnees kunnen nog steeds afbeeldingen genereren, maar mogen geen "echte mensen" meer uitkleden. "We blokkeren de mogelijkheid voor alle gebruikers om via het Grok-account en in Grok via X afbeeldingen te genereren van echte mensen in bikini's, ondergoed en soortgelijke kleding in landen waar dit illegaal is."
Seksuele deepfakes van minderjarigen
Over de hele wereld kwam er veel kritiek, voornamelijk omdat Grok niet alleen volwassenen, maar ook kinderen op afbeeldingen uitkleedde. "Afschuwelijk en walgelijk", reageerde de Europese Commissie. In Maleisië en Indonesië werd Grok afgelopen weekend zelfs geblokkeerd. Ook in ons land wordt een mogelijke schorsing onderzocht.
"We blijven ons inzetten om van X een veilig platform voor iedereen te maken en tolereren nog steeds geen enkele vorm van seksuele uitbuiting van kinderen, naaktheid zonder toestemming en ongewenste seksuele inhoud", klinkt het in de verklaring van X.
X zal daarom maatregelen nemen en seksuele deepfakes van minderjarigen en inhoud met naaktheid zonder toestemming verwijderen.
Er komen ook maatregelen tegen accounts die de regels van X overtreden. "Accounts die op zoek zijn naar materiaal met betrekking tot seksuele uitbuiting van kinderen melden we indien nodig aan de wetshandhavingsinstanties."
Wereldwijde druk
Na alle ophef van de voorbije dagen hebben de bedrijven van Elon Musk dan toch toegegeven aan de wereldwijde druk.
De beslissing van X komt dan ook niet toevallig nadat de procureur-generaal van Californië, Rob Bonta, wilde ingrijpen tegen de deepfakes. "Vrouwen en kinderen die naakt en in seksueel expliciete situaties worden geplaatst, is bedoeld om mensen online lastig te vallen", aldus Bonta.
Bonta verklaarde dat de staat Californië onderzoek deed naar de verspreiding van seksueel getinte deepfakes, waaronder afbeeldingen van kinderen die door Grok werden gegenereerd.
