Een "groepje onbevoegden" is er dan toch in geslaagd het nieuwste AI-model van Anthropic te kraken. Dat meldt Bloomberg. Ontwikkelaar Anthropic houdt Mythos voorlopig bewust achter slot en grendel, omdat criminelen het als cyberwapen zouden kunnen inzetten.
Mythos, het AI-model dat achter slot en grendel moest blijven, toch gekraakt
Jens Van Reet
Gepubliceerd:
Het nieuwste AI-model 'Claude Mythos' zou zeer snel zwakke plekken in software kunnen opsporen. Als het in de verkeerde handen valt, zou het als cyberwapen gebruikt kunnen worden. Daarom besloot ontwikkelaar Anthropic om de tool niet openbaar te maken.
Het bedrijf gaf bepaalde overheden en bedrijven wel toegang tot het model om hun eigen cyberbeveiliging te verbeteren. Zo ontdekte webbrowser Firefox dat Mythos 271 kwetsbaarheden in zijn software kon opsporen en dichten.
Op dezelfde dag dat die bedrijven toegang kregen, slaagde ook een handvol gebruikers van een privégroep in Discord erin toegang te krijgen tot Mythos. Ze waren op zoek naar informatie over nog niet uitgebrachte AI-modellen.
Geen slechte bedoelingen?
Een van de 'inbrekers' is een werknemer van een externe dienstverlener van Anthropic. Samen met de anderen kon hij de online locatie van het model achterhalen op basis van hun kennis over eerdere modellen, klinkt het.
Sindsdien maakten ze herhaaldelijk gebruik van Mythos, al was dat volgens de bron van Bloomberg niet met slechte bedoelingen. De groep zou ook toegang hebben tot een reeks andere niet-uitgebrachte AI-modellen van Anthropic.
In een reactie zegt een woordvoerder van het bedrijf dat het de claim onderzoekt.
Wereldwijde bezorgdheid neemt toe
Intussen uitten steeds meer openbare instellingen, zoals banken, wereldwijd hun bezorgdheid over Mythos.
Zo zeggen de centrale banken van Australië en Nieuw-Zeeland een eventuele lancering van de tool "nauwlettend" in de gaten te houden.
Ook de Duitse Bundesbank maakt zich zorgen. Directeur Joachim Nagel noemt Mythos een tweesnijdend zwaard. "Het kan niet alleen worden ingezet om digitale beveiligingssystemen te verbeteren, maar ook om hun kwetsbaarheden voor kwaadwillende doeleinden te benutten", aldus Nagel.
