Een tool die in staat is om bijna elke computer ter wereld te hacken: dat is Mythos, een nieuw AI-model van ontwikkelaar Anthropic dat onrust zaait bij bedrijven, banken en overheden wereldwijd. "Als je geen gigantische veiligheidsmuur hebt, ben je een vogel voor de kat", zegt AI-onderzoeker Steven Latré. Net omdat de gevaren zo groot zijn, heeft het bedrijf beslist de tool voorlopig achter slot en grendel te houden.
Zo krachtig dat het (voorlopig) achter slot en grendel blijft: nieuw AI-model Mythos zaait onrust bij bedrijven, banken en overheden wereldwijd
Jens Van Reet
Gepubliceerd:
Mythos is zo goed in het opsporen van zwakke plekken in software dat de banktoezichthouder in de VS meteen aan de alarmbel trok. "Het zou ook gebruikt kunnen worden om energiecentrales aan te vallen", klinkt het bezorgd.
Jerome Powell, hoofd van de Amerikaanse centrale bank Federal Reserve, en Scott Bessent, de Amerikaanse minister van Financiën, hebben zelfs een spoedvergadering gehouden met de banken om tot actie over te gaan.
Anthropic, ook de ontwikkelaar van '', is zich zeer goed bewust van de mogelijke gevaren van Mythos en heeft daarom beslist de tool voorlopig niet vrij te geven.
Kleine bedrijven in gevarenzone
Mocht Mythos nu toch online komen, kan het snel gaan. "Waar een menselijke expert-hacker zo’n 10 uur voor nodig heeft, kan Mythos in enkele minuten. Dat is een gigantisch verschil", vertelt AI-onderzoeker Steven Latré bij OpenChip en Imec in De Ochtend op Radio 1. "Als je als bedrijf geen gigantische muur van veiligheid hebt opgebouwd, ben je een vogel voor de kat", is zijn harde conclusie.
Over grote firma's en banken maakt hij zich geen zorgen. "Dergelijke bedrijven hebben een cybersecuritydienst aan boord die sterk genoeg is en veiligheidsnormen vastlegt." Wie wel in de gevarenzone zit, zijn kleine bedrijven. "Zij hebben vaak de luxe niet om 6 cybersecurity-agenten in te zetten."
Nieuw AI-systeem dat te gevaarlijk is en daarom (voorlopig) niet gelanceerd wordt: wat is Mythos?
Volgens Latré mogen we ons voorlopig gelukkig prijzen dat net Anthropic deze krachtige tool heeft gelanceerd. "De ontwikkelaar staat erom bekend dat hij veiligheid en hoog in het vaandel draagt."
Maar het is slechts een kwestie van tijd tot een concurrent met een gelijkaardige of zelfs nog krachtigere tool op de markt komt. "De vraag is niet of, maar wanneer. Aan de lopende band komen er nieuwe en betere modellen. Binnen het halfjaar of het jaar maakt een concurrent een inhaalslag. Sommige tools worden ethisch gemaakt, andere dan weer aangeboden op het ."
AI als oplossing
Hoe kunnen bedrijven en overheden zich wapenen tegen de komst van zulke verregaande tools? "Ironisch genoeg zit de oplossing in AI zelf. Als mens wordt het moeilijker en moeilijker om dergelijke systemen te beveiligen. AI kan sneller het probleem vinden en het dan dichten", weet Latré.
Daarnaast moet er meer internationale samenwerking rond AI komen, om de kans dat ze in de verkeerde handen valt, te verkleinen. "Want dat kan desastreuze gevolgen hebben. Soms wordt het vergeleken met kerntechnologie, en dat is deels correct."
Anthropic zit alvast samen met enkele grote spelers als Apple, Amazon en Microsoft, zodat ze de kwetsbaarheden in hun systemen kunnen opsporen en oplossingen kunnen zoeken. De vraag is of elke ontwikkelaar tot zo'n samenwerking bereid is. "We moeten hopen dat alle bedrijven de nodige ethiek hebben", besluit Latré.
