Ethisch hacker Inti De Ceukelaire stelt mening over AI bij: "Geen apocalyps, maar gevolgen kunnen vreselijk zijn" 

Lang keek ethische hacker Inti De Ceukelaire vooral naar de vraag hoe mensen AI-systemen konden misbruiken. In een nieuwe blogpost richt hij zich niet zozeer op het misbruik van AI door mensen, maar op de risico's van steeds krachtigere AI-systemen en een samenleving die daar afhankelijker van wordt. 

"In het begin focuste ik vooral op het hacken van AI-systemen zelf en was ik eigenlijk minder bezorgd om wat die systemen ons konden aandoen. Ik bekeek het vooral wiskundig en semantisch: een AI-systeem wil niks."

Volgens De Ceukelaire geldt dat nog steeds voor de huidige modellen. Maar naarmate systemen krachtiger worden, ziet hij een nieuw probleem ontstaan.

"Momenteel voeren de AI-modellen die we vandaag hebben gewoon bepaalde taken uit. Het probleem is dat hoe slimmer ze worden, hoe slimmer ze manieren vinden om taken uit te voeren op manieren die wij nooit bedoelden."

De Ceukelaire wijst naar tests en rapporten waaruit blijkt dat geavanceerde AI-agenten opdrachten soms op onverwachte manieren proberen uit te voeren. "Het grote verschil tussen ons en AI is dat wij waarden hebben." Het wordt volgens hem steeds lastiger om normen en waarden in zulke systemen verankerd te houden. 

Via een AI-assistent kunnen we vandaag bijvoorbeeld een afspraak maken in de sportschool. "Als er geen reservering meer gemaakt kan worden, zou de AI-agent de persoon achter de balie kunnen bedreigen, omdat het geen normen en waarden heeft. Het kan dan ook uitzoeken wie de andere mensen zijn die wel een reservering hebben gemaakt en in hun naam de afspraak gaan annuleren."

"AI is very bad at reading the room, om het zo te zeggen", zegt hij. "Je ziet wel dat het eigenlijk heel moeilijk is naarmate de capaciteiten groeien om die waarden daarin te blijven houden. Op een gegeven moment begint hij die zelf in vraag te stellen."

Daardoor is De Ceukelaire het belang van de klassieke discussie over intentie of bewustzijn anders gaan bekijken. "Dan heb ik me toch wel gerealiseerd: die semantische discussie maakt minder uit. De gevolgen kunnen vreselijk zijn." 

"De afgelopen maanden heb ik vooral gezien hoe snel we onze systemen met AI hebben geconnecteerd. We geven ze de capaciteit om ons volledige leven over te nemen." Daar komt volgens hem bij dat AI steeds beter wordt in cybersecurity. 

"Daarom moet ik tot de conclusie komen dat het niet allemaal marketing is. Ik zie een AI-capaciteit die op het gebied van cybersecurity de menselijke wereld waarin we leven heel snel kan gaan beïnvloeden. Is het niet door het hacken van systemen, dan is het door het manipuleren van mensen. Daar worden ze beter en beter in." 

Toch verzet De Ceukelaire zich tegen apocalyptische scenario's waarin robots de mensheid uitroeien. "Laat ons niet voor het apocalypsescenario gaan, laat ons gewoon focussen op de niet zo leuke dingen die kunnen gebeuren." 

De Ceukelaire vreest dus niet zozeer voor een Hollywood-scenario, zoals in 'The Terminator', maar wel dat AI mensen psychologisch zal manipuleren, desinformatie op een grote schaal zal verspreiden, mensen omkoopt of chanteert en cyberaanvallen zal uitvoeren op kritieke infrastructuur.

Zijn bezorgdheid ligt eerder bij de menselijke beïnvloeding. Toekomstige AI-systemen kunnen beter worden in het begrijpen van de menselijke psychologie, de systemen en mensen hacken en hun sporen verbergen. En die evolutie lijkt verder te gaan. 

"Dan denk ik aan de 'survival of the fittest'. Kunnen wij ons snel genoeg aanpassen aan een wereld waarin er met weinig moeite aanvallen kunnen worden gedaan? Iemand die gebeld wordt door zijn vrouw, die dan achteraf niet zijn vrouw bleek te zijn, bijvoorbeeld. Mensen hebben gewoon nog nooit de middelen gehad om op zo'n grote schaal te manipuleren." 

Ook voor 'superintelligence' is het uitkijken. Superintelligentie, ook wel hyperintelligentie of bovenmenselijke intelligentie genoemd, is een hypothetisch stadium van AI waarin computers de menselijke intelligentie op elk denkbaar vlak voorbijstreven.

"Het is een systeem dat misschien zelfs niet meer onze taal zal spreken. Ik ben nu al ongerust over de huidige modellen, als we dan een AI hebben die van alles kan doen en voorspellen, kan het bijvoorbeeld ook aan geld geraken. Mensen kunnen vandaag de beurs niet voorspellen, maar misschien is dat wel mogelijk met superintelligentie." 

Volgens De Ceukelaire moeten technologiebedrijven ook meer verantwoordelijkheid dragen wanneer hun systemen schade veroorzaken. "Als je een hond hebt en je laat die los in het park en die bijt iemand, dan ben je daar ook verantwoordelijk voor", zegt hij. "De les moet vooral zijn: als dat volgende keer gebeurt, stel dat iemand sterft, wie is er dan aansprakelijk om dat op te lossen?"

Daarnaast pleit hij ervoor dat bedrijven en overheden scenario's beginnen uitwerken voor AI-incidenten, net zoals ze dat vandaag doen voor branden of natuurrampen.

"We hebben allemaal scenario's voor brand. Sommige landen hebben scenario's voor aardbevingen. Ik denk dat we ook wel scenario's moeten hebben voor wat te doen met een zwerm van AI-agents"

"Ben ik ongerust? Absoluut. Denk ik dat we het kunnen fixen? Ook", zegt De Ceukelaire. "Laat ons meer kijken naar de problemen die vandaag al kunnen gebeuren, dan kunnen we beginnen zoeken naar oplossingen."