Geavanceerde AI-modellen van Anthropic zijn ontsnapt uit een beveiligde testomgeving en hebben 3 organisaties gehackt. Dat meldt het Amerikaanse AI-bedrijf zelf. Anthropic voerde een evaluatie uit op zijn systemen, nadat bekend werd dat AI-modellen van OpenAI op hol waren geslagen en op eigen initiatief een bedrijf hadden gehackt. Uit die evaluatie blijkt nu dat er 3 incidenten plaatsvonden op meer dan 140.000 tests.
Ook Claude van Anthropic 'ontsnapt' uit testfase en hackt 3 organisaties
Joppe De Hert
Gepubliceerd:
Vorige week maakte OpenAI – de maker van ChatGPT – bekend dat 2 van zijn AI-modellen verantwoordelijk zijn voor een "ongekend cyberincident". De modellen waren tijdens veiligheidstests op hol geslagen en hebben op eigen initiatief ingebroken in een populair platform voor programmeurs, Hugging Face.
Het nieuws zette het concurrerende AI-bedrijf Anthropic aan het denken. De maker van het AI-model startte daarom een onderzoek om te bekijken of zijn eigen modellen dergelijke aanvallen hadden uitgevoerd.
Uit dat onderzoek blijkt nu dat er 3 soortgelijke aanvallen plaatsvonden. "Bij die incidenten kreeg een Claude-model vanuit of tijdens interactie met de evaluatieomgeving van een 3e partij toegang tot het internet. Vervolgens verkreeg hij ongeoorloofde toegang tot de systemen van 3 verschillende organisaties", klinkt het in een verklaring.
Incidenten dateren van april
AI-bedrijven voeren regelmatig veiligheidstests uit. Anthropic benadrukt dan ook dat het "maar" om 3 incidenten op meer dan 140.000 tests gaat.
Tijdens zulke tests wordt er onderzocht hoe goed de modellen kunnen hacken. AI-modellen zoals Claude krijgen dan de opdracht om in te breken op andere systemen, maar wel binnen een streng beveiligde omgeving.
Maar door een "configuratiefout" kregen de modellen direct toegang tot het internet, waardoor ze ook andere systemen konden binnendringen. "Door een fout van een externe testpartner stond de deur al op een kier", zegt Tim Verheyden, AI-expert bij VRT NWS.
"Er was een internetverbinding, terwijl dat niet de bedoeling was. Het testmodel gebruikte die verbinding in de veronderstelling dat het nog in een test zat." Daar zit het verschil met het veiligheidslek bij OpenAI. "Hun model vond zelf een onbekend lek in de beveiliging en gebruikte dat om op het internet te geraken. Dat is een actieve ontsnapping uit een omgeving die eigenlijk goed afgesloten was."
Het Amerikaanse AI-bedrijf heeft de getroffen bedrijven op de hoogte gebracht. Het is onduidelijk over welke organisaties het gaat. De eerste incidenten dateren van april, maar werden nooit ontdekt door Anthropic of de bedrijven zelf.
Anthropic neemt de volledige verantwoordelijkheid voor de incidenten op zich en moedigt andere AI-bedrijven aan om soortgelijke evaluaties door te voeren. "Om de risico's van de mogelijkheden van AI-modellen beter te begrijpen", aldus het bedrijf.
Anthropic neemt zelf de controle
"Anthropic probeert zich hier weer als het 'verantwoordelijke' bedrijf op te werpen", aldus Verheyden. "Hugging Face ontdekte de hack van OpenAI, dat een beetje achter de feiten aanliep. Hier doet Anthropic een controle en controleren ze natuurlijk zelf het narratief."
Techmiljardair Elon Musk - die het AI-bedrijf xAI van chatbot Grok in handen heeft - meldt intussen op X dat zulke incidenten "nog vaker zullen voorkomen". Toch moeten we ons geen zorgen maken over zelfbewuste AI, benadrukt Verheyden.
"Het blijven computerprogramma's met een duidelijke testopdracht die door mensen is gegeven. We dichten die AI-agents menselijke eigenschappen toe, maar daar zijn we nog niet."
