Hoe konden fouten in de toespraak van Petra De Sutter sluipen? Wat kunnen we eruit leren? En wat zijn de gevolgen?

Petra De Sutter, de rector van de universiteit van Gent, ligt onder vuur omdat ze bij de opening van het academiejaar een toespraak heeft gehouden met daarin verkeerde informatie door het gebruik van artificiële intelligentie, kortweg AI. Het was de nieuwssite Apache die dit aan het licht heeft gebracht.

In haar toespraak op 19 september zaten enkele citaten die ze toeschreef aan bekende denkers. Zo citeerde ze de filosoof Hans Jonas en psycholoog Paul Verhaeghe. Ze schreef de uitspraak "Dogma is the enemy of the progress" ook toe aan Albert Einstein. Maar 3 van de gebruikte citaten blijken helemaal verzonnen te zijn. 

Hoe De Sutter precies te werk is gegaan bij het schrijven van haar speech, weten we niet. We weten wel dat ze hierbij op een bepaald moment generatieve artificiële intelligentie heeft gebruikt.

"Dat zijn AI-systemen die output genereren die heel hard lijkt op wat mensen zouden kunnen produceren", legt Ann-Katrien Oimann nog eens uit in De Wereld Vandaag op Radio 1. Oimann is assistent-professor AI-beleid en ethiek aan de universiteit van Tilburg.

"Systemen als ChatGPT of Copilot werken met zogenoemde large language models", steekt Oimann van wal. "Zij gebruiken wat ze geleerd hebben van enorme hoeveelheden tekst. Daarbij kijken ze naar woorden, of kleine delen van woorden, zogenaamde tokens, en voorspellen het waarschijnlijkste woord op basis van patronen die ze vinden in teksten."

En daar is het precies misgegaan bij de tekst van De Sutter. "Het systeem heeft gehallucineerd: het heeft feiten gegenereerd die niet kloppen met de werkelijkheid", legt Oimann uit.

"Dat gebeurt omdat generatieve AI-systemen geen feiten checken, maar een taalvoorspelling doen. Dus het systeem genereert een antwoord dat juist klinkt. Het citaat van Einstein leek plausibel op basis van patronen die het geleerd heeft. Ook al is die info dus in dit geval foutief."

Computerwetenschapper Jeroen Baert stelt het nog scherper. Het feit dat er kennis uit voortkomt is slechts een bijproduct van hoe de taalmodellen werken, zegt hij in De Afspraak. Voor hem heeft ChatGPT evenveel waarde als iets aan een waarzegger vragen. 

Nadat Apache de fouten in de toespraak van De Sutter had aangekaart, werd de tekst van de toespraak sinds september 2 keer aangepast op de website van de universiteit. Een eerste keer in oktober en recent in januari. 

Op de website staat nu een disclaimer waarin wordt toegegeven dat in de oorspronkelijke tekst "als gevolg van het gebruik van generatieve AI enkele citaten en bronverwijzingen foutief werden voorgesteld". 

De Sutter gaf vandaag geen interviews, maar stuurde wel deze schriftelijke reactie naar VRT NWS:

De blunder is bijzonder pijnlijk voor iemand die een grote wetenschappelijke instelling als de UGent leidt. Zo luidt ook de conclusie van Ann-Katrien Oimann.

"Het is een heel pijnlijke blunder, omdat we zowel op universiteiten als op middelbare scholen de hele tijd werken rond de vraag: hoe kunnen we artificiële intelligentie verantwoordelijk gebruiken?", zegt de onderzoekster.

Oimann wijst erop dat zowat alle universiteiten hierover ook duidelijke richtlijnen hebben, zo ook de universiteit van Gent. Daarin wordt gewaarschuwd dat er bij onverantwoord gebruik, bronnen verzonnen kunnen zijn. Het gaat dan om zogenoemde hallucinaties van AI. 

"Neem de resultaten steeds kritisch door, het blijft aan jou om gevonden bronnenmateriaal grondig te lezen. Je moet hierbij ook altijd de originele bron raadplegen", geeft de UGent zelf mee. Dan is het heel jammer dat dan zoiets uitgerekend gebeurt bij een rector, legt Ann-Katrien Oimann de vinger op de wonde.

Diezelfde reactie is ook te horen binnen de unief zelf. "Zoiets heeft een impact, niet alleen op de functie van de rector, maar ook op de hele universitaire gemeenschap", reageert Ignaas Devisch, hoogleraar medische filosofie en ethiek aan de UGent.

"Er is geen wereldbrand gebeurd, we moeten het niet groter maken dan het is, maar het is wel een pijnlijke fout."

Professor Devisch vindt dat rector De Sutter te goeder trouw gehandeld heeft en stelt haar positie niet ter discussie.

Ook Stijn Baert, professor arbeidseconomie aan de UGent, sluit zich daarbij aan. "Ik wil benadrukken dat niet heel haar speech door AI is geschreven en dat het een erg krachtige boodschap had. Er zijn opleukingen gebruikt die niet goed gecontroleerd zijn."

Wetenschapsfilosoof Maarten Boudry, tot eind vorig jaar verbonden aan de UGent, is veel minder mals. "Dit is bedrog. De Sutter moet opstappen." Zo stelt hij onomwonden.

Voor Ann-Katrien Oimann lijkt opstappen echter een brug te ver. Net als professor Devisch stelt ze dat de rector te goeder trouw heeft gehandeld. "Het gaat niet over doelbewust verspreiden van desinformatie. Het is een heel jammere zaak. Maar ik denk dat de speech in het algemeen wel degelijk overeind blijft."

"Het is jammer en het kan maar beter als kapstok gebruikt worden of als handvat gebruikt worden om studenten nog alerter te maken", besluit Oimann.

Deze zaak wordt alleszins nog vervolgd. Morgen komt bijvoorbeeld de raad van bestuur van de UGent samen. Tussen de vooraf bepaalde agendapunten staat de actuele zaak rond de rector niet, maar ze kan natuurlijk wel ter sprake komen in de variapunten.