Slechts 1 Nederlandstalige moderator op X en onduidelijkheid over "shadow banning": deze info moeten onlineplatformen voortaan prijsgeven

Met de Digital Service Act (DSA) wil de Europese Commissie de wildgroei aan desinformatie en illegale inhoud op het internet bestrijden. Negentien grote internetbedrijven, waaronder Meta (Facebook, Instagram en WhatsApp), TikTok en Amazon, zijn door die wet verplicht hun platformen strenger te modereren.

Elk kwartaal moeten ze een "transparantierapport" publiceren over hoe ze bijvoorbeeld reclame en haatspraak aanpakken. De eerste verslagen konden tot 20 oktober worden ingediend, voor de meeste was het de eerste keer dat ze deze data publiek maakten.

VRT NWS nam samen met enkele experten de rapporten van sociale media Facebook , Instagram , TikTok , YouTube , Snapchat en X (het voormalige Twitter) door.

We weten nu hoeveel mensen per land maandelijks deze platformen gebruiken, volgens de eigen tellingen. En dat is een primeur. "Die data zijn lang afgeschermd geweest door de bedrijven wegens commerciële en concurrentiële redenen", vertelt Mathias Vermeulen, directeur van advocatenkantoor AWO dat specialiseert in digitaal recht. "We kunnen nu beter inschatten op hoeveel mensen deze platformen een impact hebben."

Door de DSA moeten de platformen meedelen hoeveel mensen hun platformen modereren en welke talen zij spreken. Moderatoren controleren of berichten in lijn liggen met de voorwaarden van het platform. Het is hun taak om illegale of schadelijke inhoud te verwijderen.

Vooral X veroorzaakt op dit punt commotie. Blijkt dat Elon Musks bedrijf slechts één moderator in dienst heeft die het Nederlands machtig is, terwijl er 4 miljoen Nederlandse en ongeveer een miljoen Vlaamse gebruikers zijn. Het is niet duidelijk of deze persoon ook echt de enige is die alle Nederlandstalige berichten beoordeelt. Op de andere platformen is het niet veel beter: 24 bij YouTube en Snapchat, 54 bij Facebook en Instagram en 167 bij TikTok.

"Die cijfers zijn hallucinant", meent Mathias Vermeulen. "Het is duidelijk dat ze vooral investeren in moderatoren die Engels spreken en er een grote lacune is van bijvoorbeeld Europese talen. Dat is problematisch. Volgend jaar komen er verkiezingen aan. De Europese, maar ook in ons land, Finland, Litouwen en Roemenië. Van die drie laatste spreekt geen enkele moderator bij X de landstaal.”

Ook Paddy Leerssen, onderzoeker informatierecht aan de Universiteit van Amsterdam, vindt deze trend zorgwekkend. "De meeste moderatie gebeurt automatisch. Afhankelijk van het onderwerp kan dat systeem veel fouten maken. Net daarom is menselijke moderatie belangrijk om dit te controleren."

Hoeveel moderatoren er per taal nodig zijn, daar zijn nog geen richtlijnen voor. "Deze rapporten wakkeren dergelijke maatschappelijke en juridische discussie aan", aldus Leerssen.

Via de rapporten krijgen we meer inzicht in hoeveel en welk soort berichten de platformen verwijderen. Instagram verwijderde dagelijks het meeste berichten, elke dag gemiddeld 483.000.

De berichten die het meest verwijderd werden waren spam, seksueel expliciet beelden en oproepen tot geweld of haat. Ze worden zowel verwijderd omdat ze de voorwaarden van het platform schenden, als omdat het gaat om illegale inhoud volgens de Europese wetgeving.

Het is moeilijk om in te schatten of dat "goede cijfers" zijn. De bedrijven vermelden bijvoorbeeld niet hoeveel berichten er in totaal op hun platform dagelijks verschijnen. En we zien niet zeker dat een verwijdering altijd correct is. "Neem het aantal berichten dat ze verwijderen wegens haatspraak bijvoorbeeld", zegt Leerssen. "We zijn niet zeker of die berichten terecht verwijderd zijn. Het gaat om de interpretatie van het platform zelf. We weten dat ze hiertegen fouten maken. Het zou goed kunnen dat een groot deel helemaal geen haatspraak was."

Volgens Leerssen en Vermeulen zijn ook de "procedurecijfers" interessant. "De DSA heeft het mogelijk gemaakt om beroep aan te tekenen als je niet akkoord bent dat je bericht is verwijderd of als je vindt dat een bericht verwijderd moet worden en dat niet gebeurt. We zien dat mensen vaak gelijk krijgen", aldus Leerssen.

In veel mindere mate worden soms berichten verwijderd op vraag van Europese overheden. Niet alle platformen delen deze informatie. In totaal gaat het om 23 verwijderingen en een kleine 2.900 vragen om meer informatie. 

Redenen zijn bijvoorbeeld risico voor publieke veiligheid en illegale of schadelijke uitlatingen. "Complotdenkers geloven dat overheden non-stop samenwerken met platformen. Deze cijfers spreken dat toch tegen", zegt Vermeulen. 

Naast verwijderen, verminderen platformen het bereik van bepaalde berichten en accounts. "Bepaalde inhoud is niet illegaal, maar gaat wel in tegen de gebruiksvoorwaarden van een platform", duidt Vermeulen. "Denk aan samenzweringstheorieën over coronavaccins die microchips injecteren in mensen. De DSA dwingt platformen niet om dat te verwijderen, maar moedigt ze aan die theorieën niet veel zuurstof te geven."

Deze data zijn mogelijk een bewijs voor "shadow banning", het onzichtbaar maken van je inhoud voor anderen, zonder dat je er zelf van op de hoogte wordt gesteld. De afgelopen weken meldden verschillende socialemediagebruikers dat hun berichten over de oorlog tussen Israël en Hamas minder mensen bereikten dan berichten over andere onderwerpen.

Buiten X deelden de platformen enkel data tot en met eind september, voor de aanval van Hamas 7 oktober. Een shadow ban over dit onderwerp kunnen we dus (voorlopig) niet bewijzen.

En ook: "De rapporten delen niet mee waar deze specifieke berichten over gaan", merkt Paddy Leerssen op. "De DSA verplicht de bedrijven ook om hun gebruikers op de hoogte te brengen als ze het bereik inperken. In principe is shadow banning dus nu verboden. Vrijwel niemand lijkt zo’n melding te hebben gekregen de afgelopen weken. De transparantie lijkt nog ver te zoeken." Gezien voorlopig enkel X  en YouTube  deze data delen, en de bijkomende bedenkingen, besloten we geen statistiek hierover op te nemen in het artikel.

De DSA wil de strijd aangaan met desinformatie, valse informatie met opzet verspreiden. De platformen delen voorlopig weinig over hoe ze dat aanpakken, maar dat is volgens de experten niet verrassend.

"Elk platform heeft een risicoanalyse moeten maken over hoe onder andere hun algoritmes bijdragen aan het verspreiden van informatie die een impact kan hebben op onze samenleving, zoals foute informatie met betrekking tot de volkgezondheid en verkiezingen. Inclusief welke maatregelen ze nemen. Die analyses liggen bij de Europese Commissie, maar worden pas vrijgegeven na een onafhankelijke audit, waarschijnlijk in de zomer van 2024", zegt Vermeulen.

Eurocommissaris voor de Interne Markt, Thierry Breton, heeft de afgelopen weken wel X, TikTok en YouTube al op het matje geroepen. Ze moeten meer inzetten op het beschermen van minderjarigen tegen schadelijke inhoud en het bestrijden van desinformatie, klinkt het.

Ondanks deze onthullingen, worden we toch niet veel wijzer volgens de experten. "De informatiewaarde van al deze data is redelijk beperkt en moeten we met een korrel zout nemen", zegt Paddy Leerssen. Een van de beste voorbeelden is de onzekerheid over verwijderde berichten, zoals hierboven al vermeld.

Daarnaast zijn er twijfels over telmethodes, bijvoorbeeld over het aantal verwijderde berichten. "Tellen ze de comments (de reacties, red.) mee of niet? Dat is onduidelijk en zo kan je eigenlijk elke statistiek afgaan", zegt Leerssen. Ook de tijdsperiode van de data verschilt per platform en maakt een impactmeting en vergelijking moeilijk. 

Deze eerste rapporten vragen dus om meer en duidelijkere eisen van de Europese Commissie die de DSA-wetgeving handhaaft. Dat meent ook Mathias Vermeulen.

"De DSA is een groot experiment over het opleggen van nieuwe transparantie-eisen aan een relatief nieuwe sector", zegt hij. "Bij de volgende ronde krijgen we hopelijk, op vraag van de Commissie, meer en correctere cijfers."

De Commissie zal de rapporten nu evalueren en feedback bezorgen aan de bedrijven. Volgend jaar zullen de rapporten gecontroleerd worden door onafhankelijke auditbedrijven.