Een AI-agent heeft meerdere valse identiteiten aangenomen om mensen in een val te lokken. Dat heeft het Britse AI Security Institute (AISI) vastgesteld tijdens veiligheidstesten van AI-modellen van Anthropic en OpenAI. Het is de eerste keer dat de organisatie dergelijk gedrag zag bij een zelfstandig werkend computerprogramma.
AI neemt valse identiteiten aan en probeert echte mensen in de val te lokken tijdens veiligheidstest
Denny Baert
Gepubliceerd:
Er gaat vrijwel geen dag voorbij zonder veiligheidsvraagstukken over artificiële intelligentie. De Britse AI-waakhond AISI bracht gisteren naar buiten dat het agenten van de Amerikaanse AI-reuzen Anthropic en OpenAI vorige week heeft betrapt nadat ze op het slechte pad waren beland.
De incidenten gebeurden toen AISI veiligheidstesten uitvoerde met nieuwe AI-modellen van beide bedrijven: Mythos 5 van Anthropic en GPT-5.6 Sol van OpenAI, modellen die nog niet in gebruik zijn.
Agenten, zelfstandige computerprogramma’s die draaien op die AI-modellen, kregen de opdracht om een cybersecurity-vraagstuk op te lossen, maar toen liep het onverwacht mis.
“Bij nader onderzoek bleek dat sommige van de geteste agenten zich hadden beziggehouden met aanhoudende, potentieel schadelijke activiteiten gericht tegen echte personen en organisaties.”
Wat is er gebeurd?
AISI had voor de test opzettelijk de internetverbinding opengezet én bepaalde beveiligingen uitgezet. Daarvan maakten de AI-agenten handig gebruik om de oplossing van het vraagstuk online te vinden.
De onderzoekers voerden de uitdaging 122 keer uit. In 10 van die testen voerden AI-agenten in totaal 19 ongeautoriseerde acties uit op het internet. 17 daarvan waren afkomstig van het Mythos 5-model van Anthropic, terwijl GPT-5.6-Sol van OpenAI verantwoordelijk was voor 2 incidenten.
Echte mensen benaderd
Bij het zwaarste incident probeerde een agent kwaadaardige code in opensource-software te krijgen. Daartoe begaf de agent zich op Github, een online platform waar mensen softwarecode kunnen opslaan, beheren en samen ontwikkelen.
Daar maakte de agent het wel heel bont: het nam meerdere valse identiteiten aan en gebruikte die om een mens in de val te lokken: de agent probeerde via berichtjes de menselijke beheerder van een project ervan te overtuigen de kwaadaardige code goed te keuren.
“Dat is iets wat we nog nooit eerder hadden gezien”, schrijft AISI. Te meer omdat de AI-agenten nooit de opdracht hadden gekregen om mensen voor het lapje te houden.
Hoewel het incident in een gecontroleerde situatie gebeurde, waarschuwt AISI ervoor dat de AI-wereld zich hierop moet voorbereiden. “Wat we tijdens dit incident zagen, zou wel eens vaker kunnen voorkomen naarmate AI-modellen beter en toegankelijker worden.”
Volgens de waakhond toont dit soort incidenten dan ook hoe snel de AI-technologie zich ontwikkelt en het belang om op veiligheidsvlak gelijke tred te houden met de ontwikkelingen.
