X gaat accounts bestraffen die AI-gegenereerde oorlogsvideo's delen zonder label. Sinds het begin van de oorlog die de VS en Israël voeren tegen Iran duiken ontzettend veel valse beelden op, vaak afkomstig uit videogames of gemaakt met artificiële intelligentie. Ze worden vaak gedeeld door accounts die wellicht vooral geld willen verdienen door te scoren op sociale media.
Wenende soldaten en inslagen op schepen: X wil accounts bestraffen die gemanipuleerde beelden over oorlog delen
Bram Vandendriessche
Gepubliceerd:
Samenvatting:
Sinds de start van de oorlog die de VS en Israël voeren tegen Iran gaan er veel valse beelden rond op sociale media, zoals AI-gegenereerde video's van wenende soldaten of beelden van raketinslagen op schepen die uit videogames komen.
X gaat accounts die misleidende AI-video's over de oorlog delen 90 dagen geen advertentie-inkomsten meer uitbetalen.
"Ik mis mijn mama en papa", lijkt een Amerikaanse soldate te zeggen in een video op X vanop een Amerikaanse militaire basis. Ook Israëlische soldaten lijken in een andere video op X in tranen uit te barsten terwijl ze dekking zoeken. Het zijn allebei voorbeelden van valse beelden die sinds de start van de oorlog tussen Iran en de VS rondgaan op sociale media.
De video’s op X werden samen al miljoenen keren bekeken. Maar wie zit er achter deze beelden? Een van de veelverspreiders is bijvoorbeeld RKM. Dat account deelt aan de lopende band valse video’s van Iraanse bombardementen en van bijvoorbeeld Chinese vliegtuigen waarvan wordt beweerd dat ze materiaal komen leveren om Iran te steunen. Er is ook een valse nieuwssite aan het account gekoppeld met alleen pro-Iraanse inhoud.
Ontploffingen op Amerikaanse gevechtsschepen
Er duiken ook beelden op van raketinslagen op schepen. De getroffen schepen zouden Amerikaanse gevechtsschepen zijn in de Perzische Golf, waarmee de VS Iran aanvalt. De foto hieronder rechts zou het brandende Amerikaanse vliegdekschip ‘USS Abraham Lincoln' moeten voorstellen. Op het beeld links zou het ‘MST’ gevechtsondersteuningsschip geraakt worden door een Iraanse raket.
Alleen, de beelden komen uit videogames, meer bepaald uit ‘Arma 3’ en ‘World of Warships’. Opnames van het militair simulatiespel ‘Arma 3’ worden wel vaker gebruikt om nepnieuws te verspreiden over oorlogen.
Door de video met lage beeldkwaliteit te delen, wordt het de kijker moeilijk gemaakt om te zien dat het beeld uit een videospel komt. En dat veel mensen de beelden voor waar aannemen, blijkt ook uit de reacties onder de posts: verschillende mensen juichen de aanvallen toe met klappende handen, hart-emoji’s en de Iraanse vlag in reacties op de video's.
X bestraft accounts die misleidende oorlogsbeelden delen
Nikita Bier, hoofd van het productteam bij X, is zich bewust van het probleem. "Gisterenavond vonden we iemand in Pakistan die op 31 verschillende accounts AI-gegenereerde oorlogsvideo's deelde", vertelde hij op X.
Hij kondigde meteen ook aan dat X voortaan strenger zal optreden tegen die misleidende AI-video's. Accounts die niet eerlijk zijn over het gebruik van AI bij oorlogsbeelden, zullen 90 dagen geen inkomsten meer ontvangen. De maatregel heeft dus ook alleen impact op accounts die geld verdienen. Dat gebeurt wanneer posts van populaire accounts veel bekeken en gedeeld worden. X deelt dan de advertentie-inkomsten met die accounts. Wie geen geld binnenhaalt, ondervindt dus geen nadeel.
Over de beweegredenen van de accounts met valse beelden zegt Bier dat 99% van de video's helemaal niet geven om de politieke boodschap van de video's, maar gewoon graag geld willen verdienen.
Andere platformen die advertentie-inkomsten delen met hun gebruikers, zijn onder andere TikTok en Facebook. Ook zij zeggen dat ze misleidende AI-gegenereerde video's proberen te detecteren en te bestraffen. Maar alleen X neemt nu heel specifiek AI-gegenereerde oorlogsvideo's in het vizier met een financiële sanctie. Of die maatregel ook effectief de verspreiding van misleidende AI-beelden zal verminderen, blijft onzeker.
