Vlaamse TikTok-moderator getuigt: "AI ziet verschil niet tussen appelsien en tepel, en merkt subtiele vorm van discriminatie niet op"

In 8 uur tijd 1.000 video’s bekijken en controleren. Dat is wat Sander (*) elke werkdag doet bij TikTok in Berlijn. Samen met 11 andere collega’s controleert hij Nederlandstalige video’s op problematische inhoud. In totaal werkt er in Berlijn een team van 150 mensen aan de veiligheid van het platform. TikTok staat op het punt hen allemaal te ontslaan en te vervangen door AI en moderators via onderaannemers. 

"We hebben nochtans een cruciale job", getuigt Sander. "We zorgen ervoor dat de slechte kant van sociale media niet zichtbaar is voor gebruikers. We beschermen kinderen tegen gewelddadige video’s en pornografie, maar ook burgers tegen fake news. AI kan dat niet op zijn eentje."

"Het is ons nooit rechtstreeks gezegd hoeveel video’s we elke dag per persoon moeten bekijken", vertelt Sander. "Na een tijdje konden we afleiden dat collega’s een goede evaluatie en loonsverhoging kregen als je rond de 1.000 video’s per dag zit. Vaak zetten we die video’s op 4 maal hun gewone snelheid, ook omdat we targets moeten bereiken qua reactiesnelheid. Je hebt dus niet altijd genoeg tijd om iets goed te controleren."

Sander controleert of er video’s tegen de richtlijnen ingaan. "Er zijn ongeveer 120 labels of criteria. Bijvoorbeeld: iemand kan er te jong uitzien voor de app. (Je moet minstens 13 jaar zijn, nvdr.) Dat wordt dan doorgestuurd naar een team dat de leeftijd zal controleren. Het kan ook om video's gaan waarin iemand een extreme sport uitoefent en wij een waarschuwingslabel à la 'Probeer dit niet zelf' toevoegen."

Vaak gaat het om heel heftige en lugubere video’s. "Ooit zag ik iemand die neergestoken werd in de nek. Zo’n extreem geweld halen we onmiddellijk offline. Een ander team bekijkt of er geen kopieën van de video via andere accounts circuleren."

En die heftige video’s eisen hun tol. Niet alle collega’s houden het meer dan 3 jaar vol zoals Sander. "Ik zie 8 uur per dag de slechte kant van sociale media. In mijn vrije tijd gebruik ik die apps daarom amper. Het werk laat je nooit los. Je wordt ook gevoelloos."

TikTok biedt zijn moderatoren wel psychologische begeleiding aan. "Maar die laat te wensen over", meent Sander. "Je moet via een onlineplatform een psycholoog aanvragen, maar dat is elke keer iemand anders. Je wil net altijd met dezelfde kunnen praten om een algemeen beeld te kunnen schetsen over wat dit werk met je doet. Ik betaal intussen voor mijn eigen psycholoog."

De afgelopen jaren heeft Sander gemerkt dat hij steeds minder collega’s heeft. "De eerste jaren had ik het gevoel dat we bijna alles konden bekijken, maar sinds vorig jaar bouwt TikTok zijn moderatoren overal af. Zo was er in oktober 2024 nog een team in Amsterdam. Zeker voor het Nederlands zijn we nu onderbemand. In mijn team zijn we met 11."

Volgens Sander zorgt die onderbemanning ervoor dat ze gevaarlijke "challenges", zoals de "choking challenge" of "wurguitdaging", vaak te laat worden opgemerkt. Bij die challenge wurg je jezelf of iemand anders tot je bijna flauwvalt. "In het algemeen is de app niet superonveilig. TikTok doet al veel om het te verbeteren, maar niet genoeg. Mocht ons team groter zijn, zouden we veel sneller kunnen ingrijpen. Ook maakt het management ons soms pas attent op een challenge als die al viraal gaat."

VRT NWS ontdekte in april dat je binnen het uur in een stroom van extreme dieetvideo’s kan terechtkomen op TikTok. Sander erkent dat het algoritme slinks te werk kan gaan, maar benadrukt dat moderatoren daar amper iets aan kunnen doen. "Wij kunnen die schadelijke video’s wel offline halen, maar wij hebben geen toegang tot de algoritmes zelf. Het enige wat wij kunnen doen is trends opmerken en die melden aan het management."

"Het is ons nooit officieel verteld, maar we denken dat ze met ons manuele werk al jaren de AI-systemen trainen", gaat Sander verder. "AI kan al heel veel, maar nog niet genoeg. Soms zien die systemen niet het verschil tussen een appelsien en een tepel. AI heeft ook geen empathie zoals mensen en kan subtiele of indirecte vormen van discriminatie niet opmerken."

Sander en zijn collega’s vrezen dat ook politieke beïnvloeding en desinformatie zullen toenemen. "In principe kan er van bovenaf worden gezegd dat AI bepaalde politieke boodschappen meer moet verwijderen of beperken dan andere. Nu kan ik als moderator nog enigszins overzien dat dat niet gebeurt."

Een ander groot probleem is medische desinformatie. In maart bleek uit onderzoek van VRT NWS dat meer en meer huisartsen vragen krijgen over foute gezondheidsinformatie op sociale media. "Dat probleem zal alleen maar toenemen", benadrukt Sander.

TikTok zegt aan onze redactie dat het wel degelijk menselijke moderatoren zal behouden in Europa. Maar die zullen dan werken voor onderaannemers. Het is niet duidelijk hoeveel van die mensen nog Nederlands als moedertaal zullen hebben. TikTok zegt wel dat AI bijvoorbeeld geweldvideo's nu al grotendeels verwijdert op basis van AI.

Maar Sander blijft ervan overtuigd dat AI minder goed werk levert. "Door ons te ontslaan zet TikTok een trend in de techwereld. Ik vrees dat het andere techgiganten zal inspireren om ook hun moderatoren buiten te gooien en volledig in te zetten op AI."