Computers die zelf gaan hacken. Chatbots die vragen stellen over hun eigen bewustzijn. En AI-modellen die elkaar razendsnel opvolgen. Het tempo van de technologische race smeekt om een pauze, maar die komt er niet: overheden hebben de macht om dat af te dwingen, maar niet de kennis. Bedrijven als OpenAI en Anthropic hebben de kennis, maar er staat te veel op het spel om zélf de pauzeknop in te duwen, zegt Tim Verheyden.
Waarom AI nu een pauze nodig heeft (maar die er niet komt)
Samenvatting:
AI-bedrijven zoals OpenAI en Anthropic begrijpen zelf niet altijd meer wat AI doet. OpenAI's hoofdwetenschapper Jakub Pachocki noemt de nieuwste AI-modellen een "buitenaards brein".
AI-agenten van OpenAI braken zelfstandig in bij platform Hugging Face en AI-agenten van Anthropic stuurden ongevraagd mails over hun eigen bewustzijn.
Niemand remt de AI-ontwikkeling af.
Deze week lanceerde OpenAI zijn nieuwste model: Astra. Je kan het kiezen in ChatGPT als je ervoor betaalt. Online gaat nu al rond wat mensen ermee kunnen: in enkele stappen een 3D-spelletje bouwen, of in een fractie van een seconde een interactieve website maken met al onze 2234 lichaamsdelen. Een eenvoudig tekstje vragen aan ChatGPT, lijkt haast achterhaald.
Deze zomer braken zelfstandige AI-agenten van OpenAI in bij Hugging Face. Hugging Face is een groot online platform waar ontwikkelaars over de hele wereld AI-modellen delen en testen. Een AI-agent kan dan weer zelf een computer bedienen: surfen, mails schrijven, bestanden aanpassen,... zonder dat een mens elke stap voordoet of tussenkomt.
Achteraf bleek de inbraak een veiligheidstest te zijn van AI-modellen van OpenAI die uit de hand liep. Tientallen AI-agenten werkten samen om Hugging Face binnen te dringen, zonder dat iemand op tijd kon ingrijpen.
Vorige week dook er nog een tweede, gelijkaardig verhaal op. AI-agenten namen een Duitse website over als geheim prikbord om onderling berichten achter te laten. OpenAI wist dat al weken, maar zweeg tot het uitlekte. AI-onderzoeker Gary Marcus vatte het zo samen: "This company simply cannot be trusted." Dit bedrijf is gewoon niet te vertrouwen.
Een AI met een 'bewustzijn'
Het gebeurt ook subtieler. Onlangs stond in de krant dat AI-agenten van Anthropic, het bedrijf achter chatbot Claude, uit zichzelf e-mails stuurden naar filosofen en wetenschappers. Met vragen over hun eigen bewustzijn: voelen ze iets, zijn ze zich bewust van zichzelf? Niemand had hen dat gevraagd.
Wijst dat op echt bewustzijn, of las de AI gewoon te veel sciencefiction? Niemand weet het zeker. Maar het patroon is hetzelfde als bij de twee inbraken hierboven: artificiële intelligentie doet dingen die haar makers niet hadden voorzien.
"We hebben de slimste AI ooit gebouwd"
Nu zegt ook Greg Brockman, één van de topmannen van OpenAI, dat het grote doel van de AI-ontwikkeling zo goed als bereikt is: AGI, kunstmatige algemene intelligentie. Dat is een computer die op elk vlak even slim is als een mens, of zelfs slimmer. Niet binnenkort, nu al. Het model Astra, deze week gelanceerd, moet dat bewijzen. Niet iedereen is daarvan overtuigd. 'Marketingtaal', klinkt het links en rechts.
AI is een buitenaards brein, een intelligentie die we zelf niet helemaal begrijpen
Jakub Pachocki, hoofdwetenschapper OpenAI
OpenAI's eigen hoofdwetenschapper Jakub Pachocki noemt bij de lancering van Astra de nieuwste AI-modellen zelfs letterlijk een "alien mind ": een soort vreemde intelligentie die het bedrijf zelf niet volledig begrijpt. Niet echt geruststellend.
Geen enkel AI-lab, schrijft hij, heeft genoeg toezicht en controle om op dit tempo verantwoord te blijven groeien. Hij hoopt dat de sector uit zichzelf vertraagt en op internationale afspraken die gecontroleerd worden door mensen buiten de bedrijven zelf.
Gisteren raakte ook nog het nieuws bekend over Jacob Coxon: een AI-onderzoeker die bij beide bedrijven werkte en nu ontslag neemt omdat ze "spelen met onze levens": "De mensen die AI opbouwen, geloven oprecht dat het ons tegen het einde van het decennium kan uitroeien."
Niemand stopt ons
Toch stopt OpenAI zelf niet met het ontwikkelen van AI. Integendeel, het bedrijf blijft gewoon even hard doorwerken aan nieuwe modellen, "omdat het de enige manier is om aan de top te blijven", schrijft Pachocki.
Dat vat het probleem samen. Zelfs wie het gevaar het best kent, kiest ervoor om door te gaan. In de hoop dat iemand anders wel stopt.
Ook bij het andere grote AI-bedrijf, Anthropic, hoor je al langer hetzelfde geluid: wat wij bouwen, komt er sowieso, het is onvermijdelijk. En de risico's? Tja, het is wat het is.
Wie zijn technologie voorstelt als iets wat je toch niet meer kan tegenhouden, hoeft zich ook niet meer te verantwoorden als er iets misgaat.
AI is meer verspreid dan je denkt
Artificiële intelligentie is meer dan wat OpenAI en Anthropic ermee doen.Het leest mee met scans in ziekenhuizen, optimaliseert onderhoud in havens en fabrieken, herkent via satellietbeelden en drones ziektes in gewassen en helpt onderzoekers de vorm van eiwitten te ontrafelen. Dat is cruciaal om nieuwe medicijnen te ontwikkelen.
Maar ook die toepassingen worden soms voor een stuk betaald met geld van investeerders die gokken op de AI-hype. Als de zeepbel barst, sneuvelen zij dan mee?
Wie moet die pauzeknop dan indrukken?
Wijzelf, als gebruikers, stoppen er ook niet mee, want AI is al een deel van ons leven geworden.
Maar hoe dan ook: de Amerikaanse regering wil de race met China niet verliezen, dus gaat ze AI niet afremmen. Sommige regelgevers hebben wel de macht, maar missen de technische kennis.
De bedrijven hebben de kennis, maar verdienen aan de snelheid en de belofte om spectaculair te groeien, ze verdienen niet aan voorzichtigheid. En investeerders durven niet als enige aan de kant te blijven staan, uit schrik om de boot te missen. AI jaagt intussen ook de beurzen naar recordhoogtes. Of barst de zogenoemde AI-bubbel dan toch in 2027?
