Vindt Donald Trump Jr. dat VS wapens aan Rusland moet leveren? Hoe AI-stemmen steeds echter klinken

Generatieve artificiële intelligentie heeft het erg makkelijk gemaakt om fotorealistische afbeeldingen van eender wat te maken. Hoewel deze nog vaak te herkennen zijn aan zaken als vervormde handen, wordt AI steeds beter in het maken van afbeeldingen die niet van echte te onderscheiden zijn.

Ook het namaken van stemmen en geluiden door AI is doorheen de jaren veel beter geworden. Aandachtig luisteren was vaak genoeg om te achterhalen dat een stem niet echt van bijvoorbeeld een bekend nieuwsanker was.

Maar recent nog maakten oplichters de stem van de Italiaanse minister van Defensie zo realistisch na, dat ze ondernemers voor grote sommen geld konden oplichten.

Een geluidsfragment van Donald Trump Jr. dat nu circuleert, blijkt ook met AI gemaakt . Verschillende mediaorganisaties, zoals de BBC , ontdekten dat het een AI-stem is, door wereldvermaarde universiteitsprofessoren te vragen het fragment te analyseren. Die optie is echter niet voor iedereen beschikbaar. 

Hoe kan je dan toch ontdekken of een fragment verdacht is, zonder te moeten vertrouwen op AI-detectiemiddelen, die zelf weer met AI werken? We geven een aantal tips aan de hand van het fragment van Trump Jr.

Zelden wordt een AI-geluidsfragment op zichzelf gedeeld. Meestal is er omkadering die context geeft aan wat eigenlijk te horen of te zien is. Die omkadering valt vaak wel te controleren. De audio van Trump Jr. wordt steevast gedeeld in een video die verwijst naar Spotify waar de podcast wordt opgezet.  

Als we de Spotifypagina van de podcast bekijken, blijken een aantal zaken niet te kloppen. De aflevering in de video, nr. 219: ‘FBI Dream Team’, stond helemaal niet op Spotify toen de audio online verscheen. Die staat wel op de videopagina van de podcast op het platform Rumble. Daar is het fragment echter helemaal niet te horen. In het AI-fragment spreekt Trump Jr. met iemand anders, maar in de aflevering is niemand anders te horen.

Op de Spotifypagina in de video zijn nog meer details te vinden die duidelijk maken dat er sprake is van manipulatie. Zo is “episodes” met kleine letter geschreven en staat er “information” (ook zonder hoofdletter) bij de sectie waar “About” moet staan. 

Onder de titel is de beschrijving van de sponsor van de aflevering te lezen. Die wisselt elke keer. De sponsor die je ziet, een online-apotheek, was eigenlijk de sponsor van een vorige aflevering, nr. 218. De sponsor van aflevering nr. 219 is een bedrijf dat zelfverdedigingsproducten maakt. Dat valt na te gaan op de videopagina van de podcast.

Als de zoon van de president zou gezegd hebben dat de VS wapens aan Rusland in plaats van Oekraïne moet leveren, zou dat groot nieuws zijn. Dat blijkt uit hoe gretig het fragment gedeeld wordt. Maar dat fragment, met die video, is de enige vorm waarin het nieuws gedeeld wordt. 

Als Trump Jr. echt in zijn podcast zou gezegd hebben dat de VS Rusland moeten bewapenen, zouden er wel verschillende berichten met het fragment verschijnen. De videoversie van de podcast , waarin je Trump Jr. ziet spreken, zou gedeeld worden. 

Het fragment werd voornamelijk gedeeld door tegenstanders van president Trump op sociale media. Dat verbaast niet, maar als iets echt groot nieuws is, moet je het kunnen terugvinden via andere kanalen. 

Zoek eens op met een zoekmachine of je iets van het verhaal kan vinden en kijk bij nieuwswebsites of die het fragment ook brengen. Om het beste resultaat te krijgen, zoek je best in de taal waarin het bericht de ronde doet. In dit geval Engels. 

Zo kan je vinden dat een producer van de podcast en woordvoerders van Trump Jr. , Spotify en Rumble bij verschillende nieuwsorganisaties bevestigen dat het fragment nep is. Trump jr. zelf deelde ook een bericht van zijn woordvoerder op X , die bevestigt dat het fragment nep is.

Als iets net online verschijnt, is er natuurlijk nog niet veel extra informatie te vinden. Daarom kan het geen kwaad om een paar uur of een dag later nog eens opnieuw te zoeken. 

Het is uiteraard onmogelijk om alle informatie die je tegenkomt online te gaan controleren. Er is gewoon te veel. Wanneer loont het dan toch de moeite om even op onderzoek uit te gaan? 

• Als de informatie je heel verontwaardigd of kwaad maakt: Veel nepnieuws wordt populair omdat het inspeelt op de emoties van mensen.

• Als je van plan bent het bericht te delen: Controleer wat je deelt op sociale media, zo dijk je zelf mee de verspreiding van nepnieuws in.

• Als je van plan bent geld te investeren of over te schrijven op basis van wat je online ziet: AI maakt het steeds makkelijker om je online voor te doen als iemand anders. Controleer dan ook altijd extra dat je wel degelijk te maken hebt met wie je denkt te maken te hebben, alvorens geld over te schrijven.

Geen van bovenstaande tips zijn wondermiddelen die altijd werken. Maar ze kunnen helpen om kritisch na te denken bij audio- en videofragmenten die we online tegenkomen, ook al zijn ze nog zo vernuftig gemaakt.

Dat is ook wat AI-expert Hany Farid erover zei tegen NBC News : “We moeten terugvallen op iets eenvoudigs. Wie plaatst dit? Is het betrouwbaar? Is het aannemelijk dat Joe Biden je vraagt niet te gaan stemmen of Taylor Swift je vertelt dat ze kookgerei weggeeft? Gezond verstand brengt je een heel eind.”