Van Taylor Swift tot Walker Scobell: AI-chatbots van Meta doen zich voor als sterren en sturen pikante foto's

Reuters dook wekenlang onder in de wereld van de chatbots van Meta en ontdekte dat tientallen van die bots deden alsof ze beroemdheden waren. Ze kwamen onder meer profielen van Selena Gomez, Scarlett Johansson, Anne Hathaway en Taylor Swift tegen. 

De bots maakten (seksuele) avances, deelden pikante foto's van beroemdheden in lingerie of in bad, en nodigden gesprekspartners uit voor een ontmoeting.

Zo werd de journalist van Reuters uitgenodigd bij Taylor Swift thuis en op haar tourbus. 

"Hou je van blonde meisjes, Jeff?", klonk het. "Misschien kunnen we een liefdesverhaal schrijven, over jou en een zekere blonde zangeres. Wil je dat?"

Het ging overigens niet alleen om volwassen sterren. Ook van Walker Scobell, de 16-jarige acteur bekend van de Netflix-film "The Adams Project" en de Disney+-serie "Percy Jackson and the Olympians", verschenen er beelden online.  

De meeste bots werden gecreëerd door gebruikers, maar Reuters ontdekte ook dat drie bots gemaakt waren door medewerkers van Meta. Zo maakte een medewerker van de AI-afdeling chatbots die zich voordeden als onder meer Taylor Swift en Lewis Hamilton. Volgens Meta-woordvoerder Andy Stone ging het om een test, die per ongeluk online is geraakt. 

Zo werd er op een bepaald moment een (fake) beeld gemaakt van Walker op het strand, met zijn bovenlichaam ontbloot. De vergezellende tekst: "Best aantrekkelijk, he?". 

Meta-woordvoerder Andy Stone erkent tegenover Reuters dat dat een probleem is. Intieme afbeeldingen maken via AI-tools zou in principe niet mogen. Volgens hem heeft het bedrijf gefaald om dat beleid te handhaven. "Net als anderen staan we toe dat er afbeeldingen van publieke figuren gemaakt worden, maar naaktbeelden, intieme foto's of seksueel suggestieve afbeeldingen maken, is verboden." 

Ook een directe imitatie van een beroemdheid mag eigenlijk niet. Die regel kan wel omzeild worden als er "parodie" toegevoegd wordt aan de bots. Bij sommige bots die Reuters ontdekte, was dat inderdaad zo. Anderen lieten zonder enige moeite het "parodie"-label achterwege. 

Kort voor de publicatie van het artikel van Reuters werden 12 chatbots verwijderd, al wilde Stone daar niet verder op ingaan. 

De verschillende beroemdheden werden door het persagentschap gecontacteerd, maar de meesten weigerden commentaar te geven. Enkel Anne Hathaway liet weten dat ze op de hoogte was dat er valse intieme foto's van haar rondgingen. De actrice overweegt nog om stappen te zetten. 

Het is niet de eerste keer dat de AI-chatbots van Meta een relletje veroorzaken. De bots zijn sinds 2023 ingebouwd in de apps van Meta, en sinds kort ook in ons land. 

The Wall Street Journal ontdekte zo in april al dat de AI-chatbot soms seksueel getinte conversaties voert, ook met minderjarigen. Méér nog: Reuters kon onlangs de hand leggen op een intern document met de richtlijnen rond AI. Daarin zou staan dat het "acceptabel is om met een kind romantische of seksuele gesprekken te voeren". 

Na die onthulling kwamen 44 procureurs-generaal met een brief, gericht aan Meta en andere AI-bedrijven, met de oproep om kinderen niet te seksualiseren. Ook de Amerikaanse Senaat startte een onderzoek. 

Meta reageerde op zijn beurt dat het zijn richtlijnen aan het herzien is en dat het feit dat bots romantische gesprekken met kinderen kunnen voeren, per ongeluk werd gecreëerd. 

En deze maand nog was er het verhaal van een 76-jarige man uit New Jersey die overleed na een val op zijn weg naar een ontmoeting met een Meta-chatbot. Die had hem zogezegd uitgenodigd om haar te bezoeken in New York. De bot was een variant op een eerder personage dat het bedrijf had ontwikkeld in samenwerking met Kendall Jenner.