Sociale media als Facebook worden overspoeld door AI-gegenereerde afbeeldingen, video's en teksten. Dat noemen ze 'AI slop'. De trend duikt ook almaar vaker op het wereldwijde web zelf op, vermomd als teksten geschreven door computers of valse websites. Die AI-beelden verdringen stilaan kwaliteitsvolle inhoud en betrouwbare beelden. Het resultaat is kitsch en dat leidt tot een soort 'zombie internet'.
Kitschmatige intelligentie: hoe digitale rommel gemaakt door AI sociale media overspoelt
Gepubliceerd:
Scrollen door Facebook is tegenwoordig een streling voor het oog. De mooiste natuurbeelden passeren de revue: een eeuwenoude, karaktervolle boom, majestueuze watervallen en een vulkaan waarvan de lava een wonderlijke oranje gloed verspreidt. Ik scrol verder en stuit op vikings en draken. Maar alles wat ik zie, is niet echt.
Terwijl sommige beelden subtiel kunstmatig aanvoelen, zijn andere duidelijk het product van artificiële intelligentie.
Of beter, kitschmatige intelligentie . Zo noemt de Nederlandse factcheckorganisatie Nieuwscheckers het. In het Engels heet het 'AI slop'. Digitale rommel. Beelden en teksten, gemaakt door AI zonder ziel.
Tegelijkertijd toont het zowel de verbluffende mogelijkheden als de potentiële misleiding van deze technologie. Want authentieke informatie wordt vervangen door kunstmatige inhoud zonder echte waarde. Het ziet er mooi uit, maar het stelt niets voor.
Niet alleen op Facebook, ook op Google
Ik blijf scrollen en stoot even later op foto’s van voornamelijk vrouwelijke landbouwers. Niet één of twee, maar tientallen. Ze komen allemaal van enkele pagina’s die zich linken aan het christelijke geloof. Pagina's met tussen de 5.000 en 20.000 volgers.
De grens tussen echt en nep is haast onzichtbaar. En dan stoot ik op een Facebookpagina rond astrologie met meer dan 2.000.000 volgers. De foto's zijn de laatste maanden haast allemaal met AI gemaakt. De nepbeelden circuleren niet enkel op Facebook. Ook wie beelden zoekt op Google, krijgt foto's gemaakt met AI als resultaat.
Moet het echt zijn als het een emotie uitdrukt?
“Een oordeel vellen over hoe mooi of waardevol dit is, is niet aan mij”, zegt Rob Heyman van het Kenniscentrum Data & Maatschappij van de VUB. "Maar het is overduidelijk dat de meeste beelden dienen om mensen zo lang mogelijk op Facebook te houden en pagina's te laten groeien in het aantal volgers."
"Er komen ook veel reacties op die foto's. Ook dat is iets wat Facebook wil. Dus is er geen enkele reden voor het bedrijf om iets aan die onnatuurlijke foto's te doen. Het is ook niet verboden. Maar de grens tussen wat je nog kan geloven en wat niet vervaagt wel."
Dat werd al duidelijk in oktober. Toen werd de Amerikaanse staat Florida getroffen door orkaan Helene. Meteen verschenen er online beelden van de zondvloed. Een vaak gedeelte foto was van een meisje in een bootje met een reddingsvest en een hondje. De foto was gemaakt met AI. Mensen hadden dat door, sommigen niet. Maar eigenlijk maakte het ook niet uit.
"Ik weet niet waar deze foto vandaan komt en eerlijk gezegd maakt het ook niet uit (...). Dus ik laat hem staan omdat hij symbool staat voor het trauma en de pijn die mensen op dit moment doormaken”, zei politieke activiste Amy Kremer.
Krijgen we een 'zombie internet'?
Volgens de Amerikaanse journalist Jason Koebler is Facebook een van de plekken waar 'AI slop' het best gedijt. Hij deed er onderzoek naar . Net als wij zag hij op een gegeven moment een overvloed aan AI-beelden op Facebook.
Koebler spreekt over het ‘zombie internet’. Niet alleen vanwege de prentjes. Ook vanwege wie er op reageert. Vaak zijn ook dat geen echte mensen, maar bots. Robotjes zeg dus maar.
“Facebook is het 'zombie internet', waar een mix van bots, mensen en accounts die ooit mensen waren maar dat nu niet meer zijn, samen een rampzalige website vormen waar er helemaal geen sociale connectie meer is”, zegt hij in zijn bevindingen.
Facebookbaas Mark Zuckerberg zei onlangs in een gesprek dat op YouTube te zien is, dat ongeveer 30 procent van de berichten op onze Facebookfeed wordt aangeleverd door het AI-aanbevelingssysteem van Meta. Veel profielen en pagina's gebruiken dus AI om opgepikt te worden door een ander AI-systeem en zo veel mensen te bereiken.
AI-verbeteringen leiden tot langere schermtijd
"Nogmaals", zegt Rob Heyman, "als er veel reacties komen op zulke foto’s, is er ook geen enkele reden voor de technologiebedrijven om in te grijpen. Hetzelfde bij de zoekresultaten op Google. Zolang mensen ‘kijken’, is er geen reden voor die bedrijven om in te grijpen." Zeker niet nu Meta zelf ook actief op Facebook en Instagram beelden gaat tonen die door AI zijn gemaakt.
Zuckerberg heeft gezegd dat alle AI-verbeteringen dit jaar geleid hebben tot een toename van de schermtijd op 'zijn' socialemediakanalen met 8 procent voor Facebook en met 5 procent voor Instagram. In de maand oktober zijn er meer dan 15 miljoen advertenties gemaakt bij Meta met generatieve AI (dat is de AI die dit soort beelden maakt, n.v.dr.).
Massale opkomst voor parade die nooit kwam
Ook Google lijkt niet meteen van plan iets te doen aan 'AI slop'. Eind oktober verscheen er een pagina op de zoekmachine met een overzicht van activiteiten rond Halloween.
Prominent op de site stond een Halloweenparade in Dublin, met voetballer Christiano Ronaldo. Duizenden mensen daagden op. Maar de parade kwam er nooit. De aankondiging was geschreven door een valse nieuwswebsite, helemaal gegenereerd door AI, gemaakt in India, schrijft de website Defector . Met wat slimme marketingtrucjes wisten de makers hun site ook goed zichtbaar te krijgen in Google.
De Amerikaanse site The Conversation deed onderzoek naar het fenomeen, maar dan op TikTok. Volgens hen zitten de makers vooral in Azië en is het maken van dat soort beelden en video's een leuke bijverdienste. Reclamemakers willen natuurlijk veel mensen bereiken en zijn bereid om te betalen om hun advertenties te laten zien tussen dat soort video's. Het filmpje hieronder waar er iets opmerkelijk gebeurt met ijs en katten, is al bijna 85 miljoen (!) keer bekeken op TikTok.
'AI slop' is een boer zonder water
Daar draait het om: gezien worden online. Zoekmachines beïnvloeden en er de nodige advertentie-inkomsten uithalen. Maar aan de achterkant kost het heel wat. Niet in het minst aan onze natuur. En dat staat in schril contrast met de mooie AI-prentjes die op mijn Facebookfeed opduiken.
“De impact van 'AI slop' is groter dan het medium zelf”, zegt Heyman. “Om apps die AI-beelden maken, draaiende te houden, zijn grote datacentra nodig. Die kosten veel energie."
"Als een boer in Brazilië geen water meer heeft omdat die datacentra dat opgebruiken, wat is dan zulke AI waard? Meta heeft nu aangekondigd dat het gaat onderzoeken hoe het nucleaire energie kan inzetten om hun AI-toepassingen te voeden met energie. Google zei eerder al dat het kleine kernreactoren gaat gebruiken om hun AI-datacenters te laten draaien. Je kan je afvragen tot wanneer het zinvol is om iets met artificiële intelligentie te maken. Wanneer is de ethische grens bereikt? Wanneer kost het ons meer dan dat het opbrengt?"
