Digitaal aangepaste foto's, video's en geluid krijgen label op Facebook en Instagram

Dit jaar zijn er presidentsverkiezingen in de Verenigde Staten en ook bij ons trekken meerdere landen naar de stembus voor regionale, nationale of Europese verkiezingen. Er heerst een grote bezorgheid over manipulatie en de verspreiding van nepnieuws door de opkomst van geavanceerde artificiële intelligentie.

Het is niet toevallig dat Meta net nu met nieuwe richtlijnen komt. Vorig jaar diende een gebruiker van Facebook een klacht in bij de Oversight Board, een onafhankelijk orgaan binnen Meta dat toeziet op de manier waarop het bedrijf omgaat met moderatie. Aanleiding was een digitaal bewerkte videoclip waarin een beeld van president Joe Biden zat dat onterecht grensoverschrijdend gedrag bij een jonge vrouw suggereerde.

De toezichtsraad oordeelde twee maanden geleden dat de clip niet omdat hij strikt gezien niet in strijd was met het beleid rond misleidende informatie. Dat stelde dat misleidende video's alleen verwijderd kunnen worden als ze gemaakt worden door AI of als ze mensen dingen doen zeggen die ze in werkelijkheid nooit gezegd hebben (zogenoemde deepfakes, red).

Maar er kwam ook kritiek van de toezichtsraad: het beleid van Meta is onsamenhangend en te veel gericht op enkel AI. "Misleidende inhoud die niet gemanipuleerd is met AI, komt vaak voor en is niet minder misleidend. Het beleid is verwarrend voor gebruikers en verduidelijkt niet genoeg wat men wil bestrijden."

Er kwamen ook aanbevelingen. Het beleid moest uitgebreid worden naar audio-only, ongeacht of er al of niet AI aan te pas kwam. Over foto's sprak de toezichtsraad zich niet in die zin uit. Bovendien moest Meta volgens de toezichtsraad labels plaatsen bij misleidende informatie, in plaats van ze gewoon te verwijderen, zoals nu gebeurt.

Meta vindt het naar eigen zeggen belangrijk om zich aan te passen aan de razendsnelle evolutie in de wereld van artificiële intelligentie. Creaties en aanpassingen gebeuren al lang niet meer enkel met video. Daarom heeft het bedrijf nu zijn vernieuwde beleid voorgesteld.

Om te beginnen zal Meta in de toekomst minder snel inhoud weghalen. "We zijn het ermee eens dat transparantie en aanvullende context beter is om gemanipuleerde media aan te pakken. We houden deze inhoud daarom op onze platforms zodat we labels en context kunnen toevoegen."

Meta gaat een bredere groep van video, audio en beeld labelen als 'Made with AI'. Concreet gaat het over "digitaal gecreëerde of aangepaste afbeeldingen, video's en audiofragmenten". Om die items op te sporen, kijkt Meta naar watermerken die grote AI-spelers toevoegen aan creaties van gebruikers, of naar wat Meta-gebruikers zelf aangeven.

Daarnaast komen er nog aparte waarschuwingen als het risico op misleiding extra groot is. "Zien we dat digitaal gemaakte of gewijzigde afbeeldingen, video of audio een bijzonder hoog risico hebben dat mensen wezenlijk worden misleid over een belangrijke kwestie, kunnen we een prominenter label toevoegen, zodat mensen meer informatie en context hebben. Dit kan mensen helpen om de inhoud beter te beoordelen en geeft hen ook context als ze het elders zien."

Gebruikers kunnen nog altijd misleidende inhoud rapporteren, benadrukt Meta. Dat zal door factcheckers worden gecontroleerd. Het bedrijf zal ook nog altijd inhoud verwijderen die ingaat tegen het beleid rond bijvoorbeeld pesten, intimidatie of geweld, of die nu gemaakt is met AI of niet.

De labels zullen volgens Meta vanaf mei te zien zijn. Vanaf juli zou het bedrijf stoppen met het verwijderen van inhoud, uitsluitend gebaseerd op het oude beleid voor gemanipuleerde video.