De Amerikaanse regering heeft het AI-bedrijf Anthropic verboden zijn 2 meest krachtige AI-modellen beschikbaar te stellen aan buitenlanders. Omdat het bedrijf in realtime buitenlandse gebruikers niet van Amerikaanse kan scheiden, heeft het de modellen noodgedwongen voor alle klanten uitgeschakeld. Anthropic spreekt van een misverstand en wil de toegang zo snel mogelijk herstellen.
VS dwingt Anthropic beste AI-modellen uit te schakelen: "Wake-upcall voor Europa"
Ellen Maerevoet
Gepubliceerd:
De modellen Mythos 5 en Claude Fable 5, die pas enkele dagen geleden gelanceerd werden, vallen voortaan onder exportcontroles. Dat heeft Anthropic zelf meegedeeld. Het bevel kwam vrijdagavond van het Amerikaanse ministerie van Handel, dat zich beroept op de nationale veiligheid.
Buitenlandse overheden, bedrijven en personen mogen er zonder toestemming geen gebruik van maken, ook niet als zij zich in de Verenigde Staten bevinden. De beperking geldt ook voor buitenlandse werknemers van Anthropic, klinkt het in een verklaring van het bedrijf .
Door de beslissing heeft het die 2 AI-modellen voor alle klanten "abrupt moeten uitschakelen", meldt Anthropic. Ook voor Amerikaanse staatsburgers en voor de eigen medewerkers. Het is de eerste keer dat de Amerikaanse overheid een eigen techbedrijf verplicht om zoiets te doen.
Dat een overheid dicteert wie AI mag gebruiken, daar bestaat bij mijn weten geen precedent voor
Tom Van de Weghe, AI-expert bij VRT NWS
"Dit is hoogst uitzonderlijk", zegt Tom Van de Weghe, AI-expert bij VRT NWS. "Exportcontrole op software bestaat al sinds de jaren 90, toen ging het om encryptie, later om hackingtools. Maar dat een overheid dicteert wie AI mag gebruiken, inclusief de eigen werknemers van een bedrijf met bijvoorbeeld een Canadees of Brits paspoort, daar bestaat bij mijn weten geen precedent voor. En omdat zo'n onderscheid technisch niet realtime te maken is, gaat het systeem dan maar voor iedereen op slot."
De toegang tot alle andere Anthropic-modellen blijft ongewijzigd, benadrukt het bedrijf. Risicovolle vragen worden voortaan doorgestuurd naar een ouder model, Claude Opus 4.8, dat niet onder het bevel valt.
Vrees dat Mythos door cybercriminelen misbruikt wordt
Eerder was er al veel commotie ontstaan over Mythos, omdat het razendsnel zwakke plekken in softwarebeveiliging kan opsporen. De overheid vreest dat het daardoor ook voor cybercriminelen een machtig wapen zou kunnen worden.
Anthropic deelde het systeem eerder al met een select aantal organisaties die kritieke infrastructuur beheren, zodat zij kwetsbaarheden konden dichten vóór hackers die zouden uitbuiten.
Volgens Anthropic waren er echter voldoende veiligheidswaarborgen ingebouwd. Al gaf het bedrijf ook al toe dat de mogelijkheid bestaat dat ook die gekraakt zouden worden, een zogenoemde jailbreak (het ontgrendelen van softwarebeperkingen die door een fabrikant of ontwikkelaar zijn opgelegd, red.).
"Aangezien perfecte bescherming tegen jailbreaks momenteel niet mogelijk lijkt, heeft Anthropic met Fable 5 gekozen voor een gelaagde verdedigingsstrategie", klinkt het verder in de verklaring van Anthropic.
Anthropic wilde jailbreaks ofwel beperkter maken, ofwel zeer duur om uit te voeren, gecombineerd met grondige monitoring om geslaagde aanvallen snel op te sporen en te stoppen. Daarom hanteert het voor Fable ook een bewaartermijn van 30 dagen voor klantgegevens, een beleidswijziging die extra kosten meebrengt, maar die toelaat jailbreaks te onderzoeken en te bestrijden.
Volgens het bedrijf heeft de overheid tot nu toe alleen mondeling bewijs geleverd van een "potentiële, beperkte, niet-universele jailbreak".
Anthropic is het niet eens met beslissing overheid
Anthropic benadrukt dat het gevolg geeft aan de oproep van de Amerikaanse overheid, maar dat het die beslissing niet steunt. Het vindt dat er geen reden is om de modellen die door honderden miljoenen mensen gebruikt worden op dit moment preventief te blokkeren.
Wij denken dat er sprake is van een misverstand en werken eraan om de toegang zo snel mogelijk te herstellen
Anthropic
"We vinden dat de overheid de mogelijkheid moet hebben om onveilige implementaties te blokkeren, als onderdeel van een wettelijk proces dat transparant, eerlijk en duidelijk is en dat gebaseerd is op technische feiten. Deze actie voldoet niet aan die principes."
Het bedrijf verontschuldigt zich tot slot bij zijn klanten. "Wij denken dat er sprake is van een misverstand en we werken eraan om de toegang zo snel mogelijk te herstellen."
Dit is wake-upcall voor Europa
De maatregel van de Amerikaanse overheid kan op termijn grote gevolgen hebben voor Europa. Europese bedrijven en overheden bouwen hun AI-toepassingen nu grotendeels op Amerikaanse modellen.
1 bevel uit Washington kan de toegang tot de beste systemen van de ene op de andere dag afsnijden
Tom Van de Weghe, AI-expert bij VRT NWS
"Voor Europa is dit een wake-upcall", zegt Tom Van de Weghe. "Onze afhankelijkheid van de meest geavanceerde Amerikaanse modellen wordt nu pijnlijk zichtbaar: 1 bevel uit Washington kan toegang tot de beste systemen van de ene op de andere dag afsnijden. Dat raakt direct onze concurrentiepositie en onze digitale autonomie."
Als Europese spelers geen toegang meer krijgen tot de beste systemen, dreigen ze afhankelijk te blijven van verouderde of minder geavanceerde technologie.
