Voormalig Amerikaans president Barack Obama heeft de Democraten gewaarschuwd dat artificiële intelligentie de komende jaren "gevaarlijk" kan worden als we het niet in handen houden. Nog maar eens een hooggeplaatste persoon die gealarmeerd klinkt. Wat is er eigenlijk gaande in AI-land dat we ons plots zorgen moeten maken?
Onderzoekers, CEO's en nu ook Obama: waarom iedereen plots lijkt te waarschuwen voor een AI-apocalyps
Stefan Grommen
Gepubliceerd:
In het kort
In de voorbije week hebben AI-onderzoekers, tech-CEO's en nu ook oud-president Obama gewaarschuwd voor de ongecontroleerde groei van de capaciteiten van AI.
Recente incidenten met autonome AI-agents hebben die bezorgdheid veel pertinenter gemaakt.
De vrees is dat AI-systemen op relatief korte termijn een bedreiging zouden worden voor de mensheid. Maar niet iedereen is het eens met de geschetste doemscenario's.
Obama drong er deze week, tijdens een besloten fondsenwervingsevenement, bij de Democratische partij op aan dat er dringend een strak en duidelijk beleid moet worden uitgetekend rond AI. Dat achterhaalde The New York Times. "Dit is iets dat zich razendsnel ontwikkelt in particuliere handen, en als we er geen grip op krijgen, kan het gevaarlijk zijn", zei de oud-president.
Leg die waarschuwing maar bovenop de hoop. De laatste dagen en weken kroop zowat iedereen van onder zijn steen om te waarschuwen voor een quasi AI-apocalyps. Deze week was er bijvoorbeeld de jonge AI-onderzoeker Jacob Coxon, ex-Anthropic (van Claude) en ex-OpenAI (van ChatGPT), die waarschuwde dat AI-bedrijven "spelen met onze levens".
De wedloop om de beste AI-systemen te hebben, loopt uit de hand, is zijn punt. "Ik geloof dat als we het huidige tempo van vooruitgang niet afremmen, er een grote kans bestaat dat we allemaal in de nabije toekomst zullen sterven", herhaalde hij gisteren nog eens in een interview bij BBC.
Tempo vertragen
Enigszins zorgwekkend is dat Coxon niet wordt tegengesproken en eigenlijk zelfs wordt bijgetreden door AI- en techondernemers. Anthropic-CEO Dario Amodei publiceerde gisteren nog een essay van 3.800 woorden waarin hij zegt te vrezen dat de ontwikkeling van AI te snel gaat om nog veilig te zijn.
We moeten het tempo vertragen waarmee we de capaciteiten van AI-modellen verbeteren
Dario Amodei, CEO van Anthropic
"We moeten het tempo vertragen waarmee we de capaciteiten van AI-modellen verbeteren. De vooruitgang zal nog steeds snel lijken en we moeten de tijd die we winnen verstandig benutten." Veiligheid boven snelheid dus, waar dat vandaag eerder andersom lijkt.
Amodei bepleit in zijn essay onder meer een reeks maatregelen die de wereldwijde democratische controle op AI-bedrijven opdrijven. Hij werd kort na de publicatie van zijn essay publiekelijk bijgetreden door andere zwaargewichten in de sector, denk aan OpenAI-CEO Sam Altman, techmiljardair Elon Musk en Google DeepMind-CEO (en Nobelprijswinnaar) Demis Hassabis .
Volledig autonoom
Nu nog mooier, horen we je denken: eerst ons om de oren slaan met AI-verwezenlijking hier en AI-overwinning daar en nu in een kramp schieten over de veiligheid? Wat is er dan gebeurd om die plotse paniek te verantwoorden?
Allereerst: de bezorgdheid is niet nagelnieuw in de sector. Drie jaar geleden al ondertekenden 1.800 tech- en AI-kenners - onder wie nota bene Elon Musk - een open brief die opriep tot een wereldwijde pauze in de ontwikkeling van AI-systemen. Die pauze moest dan gebruikt worden om na te denken over veiligheidsprotocollen voor AI-design en -ontwikkelingen. Maar tot dusver heeft de wereld geen pauze gezien.
Sinds deze zomer zijn er wel wat extra argumenten voor opgedoken. Zo zien experts dat AI zich de laatste maanden aanzienlijk sneller ontwikkelt dan voorheen. In juni waarschuwden onderzoekers bij Anthropic voor AI-systemen die zichzelf volledig autonoom beginnen te verbeteren. Ze ontwerpen dan als het ware een betere opvolger voor zichzelf. "Recursieve zelfverbetering" wordt dat in het jargon genoemd.
Theoretische praatjes? Misschien, maar verschillende incidenten hebben de zenuwen wel net iets strakker gezet. Zo hebben bij OpenAI AI-agents - AI-systemen die autonoom bepaalde taken kunnen uitvoeren en daarvoor dus zelf beslissingen nemen - op eigen houtje achterhaald hoe ze konden inbreken in Hugging Face, een databank voor AI-programmeurs.
Gisteren raakte bovendien bekend dat een vergelijkbaar fenomeen zich in mei al had voorgedaan bij RubyGems, een andere online dienst. Ook daar gingen AI-agents zo ver dat ze kwaadaardige code op het platform zetten om aan bepaalde gegevens te geraken.
Zoekt je staafmixer macht?
Hoe zou die AI-apocalyps er dan uitzien volgens Amodei en consorten? In het essay dat hij gisteren online zette, vertrok hij van het Hugging Face-incident. Volgens hem zou een vergelijkbare, slecht afgestemde zwerm AI-agents met iets grotere capaciteiten "catastrofale schade" kunnen aanrichten.
Hij denkt aan een gigantisch botnet, een netwerk van geïnfecteerde computers, dat volledig op poten is gezet door AI-agents. "Gezien de snelheid waarmee AI zich ontwikkelt, zou zo'n zwerm binnen 6 tot 12 maanden het hele internet kunnen overnemen. Dat zou honderden miljarden dollars aan schade kunnen veroorzaken."
Ik ben niet bang voor wat AI de mensheid zal aandoen. Ik ben bang voor wat mensen andere mensen zullen aandoen met AI en onder welke voorwendselen
Computerwetenschapper Jeroen Baert
Het scenario dat een soort AI-robots de wereld overnemen, lijkt wat overdreven Hollywoodiaans, stelde computerwetenschapper Jeroen Baert deze week in De Afspraak. "Tussen ons en het 'Terminator'-scenario met AI staan nog 1.000 debiele menselijke beslissingen. Kunnen we die nemen als mensheid? Zeker. Maar het idee dat achter AI an sich een soort machtszoekende entiteit zit, is onzin. AI zoekt evenveel macht als mijn staafmixer. AI wil niks, mensen willen iets."
"Ik ben dus niet bang voor wat AI de mensheid zal aandoen. Ik ben bang voor wat mensen andere mensen zullen aandoen met AI en onder welke voorwendselen. Daarvoor wordt in mijn ogen niet genoeg gewaarschuwd in die communicatie."
Jeroen Baert ziet niet direct een 'Terminator'-scenario, maar waarschuwt wel voor andere risico's:
Baerts stelling is niet uit de lucht gegrepen. Gisteren nog waarschuwde Anthropic dat het verschillende operaties heeft onderschept en stilgelegd waarbij hun AI-tool Claude werd gebruikt om dissidenten en etnische minderheden in Iran, China en Mali in de gaten te houden.
Goeie beurstactiek
Dus ja, er is wel wat terechte bezorgdheid. Dat er wat minder naïviteit heerst over de onschuld van de huidige AI-ontwikkelingen kan voor iedereen een voordeel zijn.
Critici maken zich tegelijk wel de bedenking dat dit ook gewoon de moeder van alle marketingstunts zou kunnen zijn. "Al die bedrijven waarover we nu spreken, willen naar de beurs", vat Baert de kritiek samen. "Je eigen product afschilderen als 'dit is zo krachtig dat we niet weten wat we ermee moeten doen', is nu eenmaal een heel goeie beurstactiek."
Dat is ook hoe Hugging Face-CEO Clement Delangue reageerde op de waarschuwing van Jacob Coxon. "Aan Jacob vragen stellen over uitroeiing door AI is alsof je je verkoper van airconditioning vraagt naar klimaatverandering." Anderzijds: CEO Sam Altman van OpenAI heeft zopas laten weten dat een beursgang, gezien de huidige veiligheidsvraagstukken, nu misschien niet ideaal zou zijn.
Terug naar Obama dan maar, die zelf eerder een middenweg zegt te bewandelen in dit hele debat. Geen einde van de wereld dus, maar je moet de razendsnelle AI-ontwikkelingen dan wel zorgvuldig beheren, vindt hij. En dat gebeurt nu niet genoeg.
"Maar als we daar grip op krijgen, kunnen we er voordeel uit halen. Ik denk oprecht dat AI bijvoorbeeld de ontwikkeling van medicijnen zal versnellen om bepaalde ziektes te genezen. Ik denk ook dat het ons kan helpen om de weg te vinden naar een toekomst met schone energie."
