Landen zoals Rusland, China en Israël hebben kunstmatige intelligentie (AI)-tools van OpenAI ingezet om online desinformatie te verspreiden. Dat meldt het bedrijf dat stelt dat de impact beperkt bleef. AI wordt steeds vaker gebruikt om de publieke opinie te manipuleren, hoe kun je valse informatie op sociale media herkennen?
Rusland, China en Israël gebruikten tools van OpenAI om desinformatie te verspreiden: zo herken je valse berichten
Andrei Stiru
Gepubliceerd:
De voorbije drie maanden heeft OpenAI vijf “beïnvloedingsoperaties” verstoord. Bij die operaties gebruikten actoren uit Rusland, China, Iran en Israël de AI-tools van OpenAI om reacties en artikels te publiceren op sociale media. Ook werden onder meer valse accounts gemaakt, artikels vertaald en werden AI-tools gebruikt om code te helpen schrijven.
Het doel van dergelijke campagnes is om de publieke opinie te beïnvloeden over onderwerpen zoals de oorlogen in Oekraïne en Gaza, verkiezingen en politieke ontwikkelingen in verschillende landen en de manier waarop China omgaat met censuur en dissidenten.
“Door al de tools die beschikbaar zijn, is het gemakkelijker geworden om geloofwaardige valse informatie te maken. Maar aan de kant van de ontvanger is er eigenlijk niet veel veranderd. Daar heeft AI weinig mee te maken”, zegt onderzoeker desinformatie Edward De Vooght (Arteveldehogeschool).
Impact was beperkt
Dat blijkt ook uit het rapport van OpenAI over de recente desinformatiecampagnes. De impact daarvan was volgens OpenAI beperkt. Geen van de vijf campagnes scoorde hoger dan een 2 op de Brookings Breakout Scale , een schaal van 1 tot 6 die de impact van beïnvloedingsoperaties meet. Een 2 betekent dat content op meerdere platforms werd gedeeld, maar niet in authentieke gemeenschappen.
Geen van de actoren slaagde er volgens OpenAI in om veel echte reacties te krijgen op hun berichten. Wanneer valse berichten veel betrokkenheid genereerden, kwam dat omdat zij zelf valse antwoorden maakten.
Meta, moederbedrijf van socialemediaplatforms als Facebook en Instagram, zei eerder deze week dat AI-afbeeldingen die gebruikt worden bij desinformatiecampagnes mensen nog niet kunnen misleiden. Ook zei het dat de technologie het niet moeilijker maakt om desinformatie op te sporen.
Dat is logisch, denkt De Vooght. “Organisaties die AI gebruiken om desinformatie te verspreiden hebben geen schijn van kans tegenover grote techbedrijven. Die laatste hebben een veel groter budget om desinformatie te bestrijden.”
Hoe herken je desinformatie?
Toch waarschuwt OpenAI dat de opkomst van generatieve AI ertoe heeft geleid dat verspreiders van desinformatie productiever zijn geworden. Chatbots stellen ze bijvoorbeeld in staat om meer teksten te genereren en vertalen, met minder taalfouten dan wanneer mensen ze handmatig maken.
De kans dat je zelf al eens in contact bent gekomen met desinformatie, is groot. Het is niet altijd even duidelijk wanneer dat het geval is. Er zijn een aantal strategieën die je kan toepassen om na te gaan of zaken die je online ziet al dan niet echt zijn.
“Een van de strategieën die vaak gebruikt worden, zijn clickbaittitels. Dat zijn titels waarin niet rechtstreeks gezegd wordt wat er is gebeurd om je te laten doorklikken, bijvoorbeeld ‘je gelooft nooit wat deze politicus heeft gezegd’. De bedoeling van zulke titels is niet om je te informeren, maar om je bijvoorbeeld op een bepaalde website te krijgen”, aldus De Vooght.
Een ander voorbeeld zijn titels waarin sensationele taal wordt gebruikt. “Dat soort taalgebruik wordt eigenlijk bijna nooit gebruikt in degelijke journalistiek en heeft enkel het doel om je van iets te overtuigen.”
Ook voor eenzijdige berichtgeving, waarin niet alle partijen aan het woord worden gelaten, moet je volgens De Vooght voorzichtig zijn. Daarnaast helpt het om na te gaan wie de auteur van een bericht is. Ten slotte helpt het om na te kijken of een bericht in verschillende media aan bod is gekomen.
Hoe wordt desinformatie bestreden?
Er zijn een aantal initiatieven om desinformatie te bestrijden. “Er wordt veel gefactcheckt. Daarbij gaan voornamelijk journalisten uitspraken, artikels en meer doorgronden en dan een tegenbewering publiceren.”
Een tweede reeks initiatieven, zegt De Vooght, is truth policing. “Dat is een samenwerking van journalisten met socialemediaplatforms om checks door te voeren om desinformatie uit het socialemedialandschap te halen. Dat ligt politiek gevoelig, omdat bepaalde groepen vinden dat ze dan gecensureerd worden.”
Daarnaast wordt eraan gewerkt om mensen bewuster te maken over desinformatie. “Er worden door onder meer de universiteit van Cambridge technieken bedacht waarmee burgers zichzelf kunnen trainen om weerbaarder te worden tegen desinformatie. Dat doen ze door aan te tonen hoe desinformatie werkt. Ze laten mensen dan zelf proberen om dat te maken. Ze merken dat wanneer mensen zelf eens desinformatie hebben gemaakt, ze het ook sneller herkennen. Dat heet pre-bunking.”
AI kan ten slotte zelf een rol spelen bij de bestrijding van desinformatie. Arteveldehogeschool werkt in het kader van het Europees onderzoeksproject TITAN bijvoorbeeld aan een AI-gestuurde coach. "Deze coach stelt jou kritische vragen om beter te leren omgaan met informatie online. Zo kan AI burgers helpen weerbaarder te worden", zegt De Vooght.
