Eén seconde hete oven en een fractie van een theelepel water, zoveel kost een vraag aan Chat GPT, maar klopt dat wel?

De laatste tijd rijzen er steeds meer vragen over de klimaatimpact van AI. De gigantische datacentra die nodig zijn om artificiële intelligentie te doen draaien, vreten energie en water. In een blog die eerder deze week verscheen, spreekt Sam Altman dat tegen. Eén vraag stellen aan Chat GPT verbruikt volgens hem gemiddeld 0,34 wattuur, evenveel als één seconde de oven aanzetten. Het waterverbruik zou maar een vijftiende van een theelepel bedragen.

AI-consultant Mieke De Ketelaere (Vlerick Business School) wil dat toch enigszins nuanceren. "Eerlijk gezegd, er is niemand die het kan nagaan. We moeten hem dus op zijn woord geloven, maar ook al daalt het energieverbruik op dit moment, het is en blijft een verborgen technologie", zegt ze in De wereld vandaag op Radio 1. "Het gebruik van AI stijgt wel immens en heel veel van die kleine beetjes resulteert in een totale som die wel veel groter wordt."

Wat is dan het echte verbruik? Ook daar doen verschillende cijfers de ronde, weet De Ketelaere. "Algemeen kunnen we stellen dat een zoekopdracht via Google Search tien keer minder verbruikt dan wanneer dezelfde vraag gesteld wordt via Chat GPT. Bij een complexe vraag kan de verhouding al snel oplopen tot een vijftigste."

Niet alleen het stellen van een vraag, ook het trainen van de systemen vreet bijzonder veel energie, zegt De Ketelaere. "Wat wij niet zien, is dat achter die systemen enorme rekenmachines zitten, computers dus die een enorme rekenkracht nodig hebben om het antwoord zo nauwkeurig mogelijk te maken. Niemand wil een systeem dat antwoorden geeft die niet bruikbaar zijn. De voorbije 30 jaar hebben we gezien dat hoe meer data we erin steken en hoe meer rekenkracht we ter beschikking hebben, hoe accurater die systemen worden. En dat wiel is eigenlijk gewoon almaar groter geworden. Dat is het spel tussen de verschillende grote spelers waarbij wij eigenlijk gewoon als testobject dienen."

Toch zijn er verschillende manieren om AI groener te maken, benadrukt De Ketelaere. "Om te beginnen moet je weten dat als je AI gebruikt, daar één of andere chip aan verbonden is in de vorm van een computer, laptop of gsm. Anderzijds zijn daar ook kleine softwareprogramma’s aan verbonden. Je kan dus op verschillende niveaus optimaliseren. Dat kan aan de hardware-kant om betere energiezuinigere chips te gebruiken. Je kan ook nog wat sleutelen aan die modellen zelf en je kan eigenlijk ook gaan kijken om de volledige architectuur te veranderen."

"Op dit moment wordt de vraag hier bij ons lokaal gesteld. Die vraag gaat dan naar de grote servers, ergens in de VS. Daar wordt het antwoord berekend en dat antwoord moet weer helemaal terug naar hier. We zouden dat kunnen omdraaien en die modellen lokaal laten draaien. Dan is die grote datatransfer al niet nodig. We hebben dus verschillende knoppen die we kunnen aan- of uitzetten om energiezuinigere systemen te hebben, zonder dat we daarmee inboeten aan nauwkeurigheid."

"De mogelijkheden zijn er dus al, maar de grote spelers zelf zullen er niet mee uitpakken, want dat gaat in tegen hun verdienmodel", aldus De Ketelaere. Het is dus belangrijk dat we erover communiceren zodat mensen zich ervan bewust zijn. "Gewoon nog maar weten dat het bestaat, kan een tegenreactie vanuit de maatschappij op gang brengen, zodat mensen zeggen: "We willen wel die technologie gebruiken, die is fantastisch en de accuraatheid moet blijven, maar ga alsjeblieft veel sneller en sterker op zoek naar manieren om de planeet te beschermen dan nu het geval is.""