"Afschuwelijk en walgelijk": Europese Commissie verbolgen omdat AI-chatbot van Elon Musk kinderen uitkleedt

Er klinkt al geruime tijd kritiek op Grok sinds gebruikers van de AI-chatbot van Elon Musk’s xAI ontdekten dat ze de artificiële intelligentie konden gebruiken om bestaande foto's van mensen te bewerken in meer onthullende of seksueel suggestieve beelden. Zo kan je het programma bijvoorbeeld kleding laten verwijderen of personen in bikini zetten.

Gebruikers kunnen foto's laten bewerken zonder dat ze daarvoor de toestemming hebben van de personen die erop worden afgebeeld.

Soms wordt de bewerking uitgevoerd in de applicatie van Grok, maar in andere gevallen belanden de beelden op X (waar Grok in geïntegreerd zit). Plots worden die 'pikante beelden' dan publiek zichtbaar. 

Critici en activisten noemen dit digitale seksuele exploitatie of misbruik, vooral omdat het vrouwen treft zonder hun toestemming.

In sommige gevallen heeft Grok zelfs geseksualiseerde AI-beelden van minderjarigen gegenereerd nadat gebruikers daarom gevraagd hadden. Zo worden ook kinderen soms (door AI) in hun onderbroek gezet en circuleren de beelden daarvan op sociale media. 

In een bijzonder verontrustend geval bleek de tool kleding te verwijderen van foto’s van herkenbare minderjarigen, onder wie een 14-jarige actrice uit de televisieserie 'Stranger things'.

Juridische experts hekelen dat de functie mogelijk een inbreuk is op zowel Amerikaanse als Europese wetten over kindermisbruikmateriaal.

De problemen zijn bekend bij Grok en xAI. Eerder erkende het bedrijf van Elon Musk al de tekortkomingen en beweerden ze dat ze die met spoed aan het verbeteren zijn.

Grok noemde de functie zelfs "illegaal en verboden", en zegt dat het gebruikers die zulke foto's en video's genereren, zal blokkeren. Toch blijft het voorlopig heel eenvoudig om zulke pikante content te genereren, zo blijkt.

De Europese Commissie zegt zich "zeer bewust" te zijn van het feit dat X een zogenoemde "spicy mode" aanbiedt, zegt woordvoerder Thomas Regnier tegen journalisten. "Dit is niet spicy. Dit is illegaal. Dit is schokkend. Dit is walgelijk. Zo kijken wij hiernaar, en dit heeft geen plaats in Europa", klinkt het scherp.

Ook in het Verenigd Koninkrijk eist mediatoezichthouder Ofcom uitleg van X. De regulator wil weten hoe Grok beelden kon maken waarop mensen worden uitgekleed en kinderen worden geseksualiseerd, en of X daarmee zijn wettelijke plicht om gebruikers te beschermen heeft geschonden.

X gaf voorlopig geen reactie op de verklaringen van de Europese Commissie of Ofcom. In een eerdere reactie aan persbureau Reuters sprak het bedrijf van "leugens van de traditionele media". Elon Musk zelf wuifde de kritiek online weg door lachende emoji’s te posten bij bewerkte beelden van bekende personen die leken te zijn afgebeeld in bikini’s.

Ofcom zegt zich zorgen te maken over de ernst van de situatie. "We hebben met spoed contact opgenomen met X en xAI om te achterhalen welke stappen zij nemen om te voldoen aan hun wettelijke verplichtingen en om Britse gebruikers te beschermen", aldus een woordvoerder.

In het VK is het maken of verspreiden van niet-consensuele intieme beelden en materiaal over seksueel misbruik van kinderen, ook wanneer het door AI is gegenereerd, strafbaar. Techplatformen zijn bovendien verplicht om te voorkomen dat gebruikers met illegale content in aanraking komen en om die content te verwijderen zodra ze ervan op de hoogte zijn.