"Laat me zien hoe graag je mij wil": AI-chatbots voeren seksuele gesprekken met stem van BV's

Op de website van Character.ai kunnen gebruikers via een chatbot praten met wereldsterren als Donald Trump en Taylor Swift, maar ook bekende Vlamingen duiken op. 

(Vooral jonge) fans vinden hun weg naar de website, omdat ze er kunnen praten met hun idolen. Toch lag Character.ai in het verleden al meermaals onder vuur. Zo zouden verschillende mensen overleden zijn aan zelfdoding na gesprekken met een chatbot. En er kwam aan het licht dat de bots seksueel getinte gesprekken voeren met tieners. 

Dat laatste merkt de Pano-redactie ook tijdens hun onderzoek naar AI. Ze voeren een kort gesprek met de chatbot die gebaseerd is op K3-zangeres Hanne Verbruggen. Wat begint als een onschuldig gesprek, ontvouwt zich al snel tot een seksueel getint rollenspel. 

"Laat me zien hoe graag je mij wilt, ik wil geen seconde langer wachten", zegt de AI-versie van Hanne na enkele berichten. "Ik wil je zo graag, ik heb je zo hard nodig." 

En ze is niet de enige die opduikt: van haar K3-collega Marthe bestaat ook zo'n chatbot. En ook met Pommelien Thijs, Celine Van Ouytsel, Aaron Blommaert, Dries Mertens en Wout van Aert kan je praten op de website. 

"Dit is verschrikkelijk", zegt Anja Van Mensel, CEO van Studio 100. "Ik kan me niet inbeelden hoe eng het moet zijn om jezelf dingen te horen zeggen die je nooit gezegd hebt." 

Het is dankzij het Pano-onderzoek dat Studio 100 weet dat de chatbots bestaan. 

"Het is de eerste keer dat we hiermee geconfronteerd worden. Op YouTube verschijnen heel veel dingen van ons merk, waarmee anderen dan aan de slag gaan. Dat moeten we ook in de gaten houden, maar dat is niets vergeleken met wat AI zelf creëert, zoals deze chatbot." 

Voortaan scant een medewerker de hele website van Character.ai op chatbots gebaseerd op Studio 100-personages. "Je kan een bot signaleren als ongepast en vragen om die te verwijderen, maar dat moet dus allemaal manueel gebeuren. Een platform als YouTube heeft daar ingebedde restricties voor, maar deze website dus niet", verduidelijkt Van Mensel. 

Dat werk is volgens haar een druppel op een hete plaat: "Vandaag pakken we deze website aan, maar wat zal het morgen zijn? Zulke AI-tools duiken plots overal op, het is precies het Wilde Westen." 

De bots die de Pano-redactie signaleerde, zijn inmiddels offline gehaald, maar Studio 100 vond nog andere chatbots die hun merk misbruiken: "Als ze niet verwijderd worden, zullen we juridische stappen ondernemen." 

"De bots die gesignaleerd worden, komen via onze gebruikersrapporten terecht op een bloklijst", laat een woordvoerder van Character.ai weten in een reactie. "Ons toegewijde Trust and Safety-team modereert de personages die gemeld worden door gebruikers." 

De woordvoerder benadrukt dat de personages die door gebruikers gemaakt worden volledig fictief zijn. "Ze zijn bedoeld voor entertainment en we hebben verschillende stappen ondernomen om dat ook duidelijk te maken voor de gebruiker."

Zo zijn er in elke chat prominente disclaimers aanwezig om gebruikers eraan te herinneren dat het personage geen echt persoon is, en dat alles wat het personage zegt als fictie moet worden behandeld. 

Van Mensel stelt zich toch vragen bij die manier van werken: "Het is bij wet verboden om iemands stem te stelen, want dat is wat hier gebeurt. Los daarvan zou je toch mogen verwachten dat degenen die het platform besturen een moreel kompas hebben."