Premier van Zweden gebruikt ChatGPT voor "tweede opinies": hoe (on)schuldig is het gebruik van AI door beleidsmakers?

"Ik gebruik zelf redelijk vaak artificiële intelligentie. Al is het maar voor een tweede opinie. Wat hebben anderen gedaan? En moeten we juist het tegenovergestelde denken? Dat soort vragen." In een interview aan de krant Dagens Industri gaf de Zweedse premier Ulf Kristersson dit weekend een inkijk in zijn dagelijkse manier van werken. Ook zijn collega's maken dagelijks gebruik van AI, aldus Kristersson.

Een onschuldige uitspraak, zal Kristersson zelf hebben gedacht, maar toch ontketende het een fel debat in de Zweedse media: mag een premier AI gebruiken om zijn ideeën af te toetsen? "Een val voor de AI-psychose van de oligarchen", zo schrijft de krant Aftonbladet in haar editoriaal. "Onze samenleving heeft meer kritische denkers nodig, geen beleidsmakers die antwoorden zoeken in zwarte dozen", aldus de krant Dagens Nyheter.

Dagens Industri, de krant van het beruchte interview met Kristersson countert en stelt dat "het nog erger zou zijn als Zweden bestuurd werd door een premier die alleen gevaren ziet in AI." Ook Kristenssons woordvoerder relativeert de zaak: "Er wordt geen gevoelige of beveiligde informatie ingegeven. Het dient alleen om een ruime inschatting te maken."

"Mensen stemmen voor een premier, niet voor een chatbot", Ann-Katrien Oimann, expert AI en ethiek (KU Leuven en KMS) heeft heel wat bedenkingen bij het gebruik van chatbots als ChatGPT door politici als "sparringpartner". "Het is een voorspellend systeem, het raadt het meest plausibele antwoord. Het redeneert zelf niet", stelt ze in De Ochtend op Radio 1.

"Een AI-systeem is maar zo goed als de trainingsdata waarmee het is opgeleid", aldus Oimann. "Die trainingsdata is een groot deel van het internet, maar bevat ook politieke vooroordelen. We zien dus systemen die een politieke bias hebben, maar ook een taalbias. ChatGPT werkt bijvoorbeeld beter in het Engels."

Oimann waarschuwt ook voor een zogenoemde "automation bias": "Een mens heeft de neiging om uitkomsten van dergelijke systemen voor waar aan te nemen en over te nemen. We hebben te veel vertrouwen in het systeem zonder het nog kritisch in vraag te stellen."

Het probleem is niet dat de premier chatbots gebruikt, maar wel hoe hij dat doet, aldus Oimann: "Er zijn ook heel wat nuttige doeleinden: als schrijfhulp, om zaken samen te vatten, om zaken te versimpelen of voor een brainstorm."

Maar enige voorzichtigheid is altijd geboden. Oimann geeft enkele tips: "Geef geen gevoelige of vertrouwelijke informatie: je kan eventueel verzonnen gegevens ingeven. Gebruik het ook zeker niet voor juridisch advies of voor feitelijkheden die je zelf niet kan controleren. En voor politici: wees zo transparant mogelijk over je AI-gebruik."