LIVE Anthropic leed 80 miljard dollar verlies in eerste helft 2026, blijkt uit beursgangdossier 

Het Amerikaanse AI-bedrijf Anthropic, het bedrijf achter de chatbot Claude, heeft zijn beursgang officieel gelanceerd. Het diende documenten in bij de Amerikaanse beurswaakhond SEC, waaruit onder meer blijkt dat het in de eerste jaarhelft een nettoverlies leed van 80,7 miljard dollar (omgerekend 72 miljard euro). 

Anthropic had in juni al vertrouwelijke documenten voor de beursgang ingediend bij de SEC. Die zijn nu openbaar gemaakt. De AI-speler realiseerde in het eerste halfjaar een omzet van 16,3 miljard dollar, maar ging dus meer dan 80 miljard dollar in het rood. 

Zoals eerder al naar buiten was gekomen, waarschuwt Anthropic in de beursdocumenten voor "catastrofale en existentiële risico's voor de mensheid" die artificiële intelligentie met zich meebrengt. 

Het bedrijf zal met het symbool 'ANT' noteren op de Amerikaanse technologie-index Nasdaq. Hoeveel aandelen er aangeboden worden en tegen welke prijs, wordt later bekendgemaakt, zegt Anthropic in een eigen persbericht. 

De verwachting is dat de beursgang van Anthropic de recente recordbeursgang van SpaceX in omvang zal evenaren of overtreffen. Het raket- en satellietbedrijf van Elon Musk haalde bij zijn debuut op de Amerikaanse beurs in juni 75 miljard dollar op, waarmee het de grootste beursgang ooit was. Het uiteindelijke bedrag liep zelfs op tot 86,2 miljard dollar, omdat er gebruik werd gemaakt van de zogenaamde overtoewijzingsoptie.

Van restaurants en feestjes tot een quiz van de jeugdbeweging: steeds vaker duiken AI-gegenereerde posters op in ons straatbeeld. Slecht nieuws voor grafisch ontwerpers, zou je denken, maar de realiteit blijkt complexer: "Iedereen merkt dat iets AI is. Daardoor moeten we de meerwaarde van een grafisch ontwerper niet langer uitleggen", zegt grafisch ontwerper Mona Ghafarzadeh.

rtificiële intelligentie (AI) is de hulp én de schuldige in de veiligheidslekken in PHP. Dat zegt AI-expert Steven Latré. De lekken stonden al 14 jaar in de codes PHP, maar zijn nu pas ontdekt door een cybersecuritybedrijf en met de hulp van AI. Latré vreest dat in de toekomst nog meer zulke lekken naar boven zullen komen. "Als een hackerscollectief dat ontdekt, zitten we met een groter probleem."

Nieuwe wending in de zaak van de in opspraak gekomen roman 'C'était ça ou mourir' van de Canadees-Haïtiaanse schrijver Thélyson Orélien. Volgens zijn Canadese uitgeverij Boréal werd er dan toch kunstmatige intelligentie (AI) gebruikt bij het schrijven van de roman. Dat heeft ze woensdag verklaard. De uitgeverij heeft de samenwerking met Orélien stopgezet.  

Ruimtevaartbedrijf SpaceX heeft de omzet het afgelopen kwartaal ruim verdubbeld. Dat komt dankzij flink toegenomen opbrengsten uit zijn activiteiten rond artificiële intelligentie (AI) en een aanhoudende groei van satellietinternetdienst Starlink. Het bedrijf boekte ook een miljardenwinst, tegen ruim 1 miljard dollar verlies in dezelfde periode een jaar eerder.  

Heeft onze Europese industrie nog een toekomst nu we in Europa steeds meer hoogwaardige - én goedkopere - producten kopen uit China? Welke maatregelen kan Europa nemen om het tij te keren? En hoe beperken we onze afhankelijkheid van China? Moeilijke hoofdbrekers voor de Europese leiders op de top in Brussel deze week, maar cruciale vragen voor de toekomst van onze welvaart en werkgelegenheid.

Het bedrijf BRAHMA AI van Vlaming Jo Plaete heeft een Technology & Engineering Emmy Award gewonnen voor op AI-gebaseerde visual effects. Met de technologie kunnen acteurs in films bijvoorbeeld tientallen jaren jonger gemaakt worden of een andere taal spreken, terwijl hun stem en gezichtsuitdrukkingen dezelfde blijven. "Zo kan een Vlaamse film ook de Amerikaanse markt veroveren."

Met een slimme bril van Meta en artificiële intelligentie kan je voorbijgangers op straat herkennen. Dat blijkt uit een test van VRT NWS. Op de Meir in Antwerpen spraken we mensen aan met hun naam, zonder hen al te hebben ontmoet. Wat kan zo'n bril nog allemaal? En mag dat zomaar? Vijf vragen en antwoorden.

De Vlaamse Ombudsdienst heeft een eigen AI-prompt ontwikkeld voor mensen die artificiële intelligentie gebruiken om een klacht in te dienen. Ombudsdiensten worden de laatste tijd overspoeld door "uitgebreide en dwingende AI-epistels vol met juridisch jargon, dat vaak ook fout wordt gebruikt". Dat schrijft Gazet Van Antwerpen.

Terwijl privacywaakhonden pleiten voor strengere regels of zelfs een verbod op slimme brillen als de Meta-bril, betekent die technologie voor blinden en slechtzienden net een wereld van verschil. Voor velen is de bril met ingebouwde camera, luidspreker en AI-functies een hulpmiddel in het dagelijkse leven. "Een verbod zou vreselijk zijn. Het geeft ons net het gevoel dat we zelfstandig zijn." 

Artificiële intelligentie zou binnen 1 tot 2 jaar al "grote incidenten" kunnen veroorzaken als overheden en bedrijven geen maatregelen nemen om de technologie veiliger te maken. Daarvoor heeft Demis Hassabis, medeoprichter van Google Deepmind, gewaarschuwd. 

De incidenten met autonome AI-"agents" van de laatste maanden moeten volgens Hassabis "in zekere zin vroege waarschuwingssignalen" zijn. De systemen zijn nog niet erg krachtig, waardoor incidenten nog niet groot zijn. Over 1 à 2 jaar dreigen wel grote problemen, waarschuwde de computerwetenschapper tijdens een AI-top in Dublin. 

OpenAI heeft "geavanceerde opnameapparatuur" ontdekt die in een van de kantoren van het bedrijf was verstopt. Dat meldt de maker van ChatGPT in een bericht op socialemediaplatform X. 

OpenAI kwam erachter dat een medewerker de apparatuur enkele dagen eerder had geplaatst. Die is intussen ontslagen en gearresteerd. OpenAI heeft geen aanwijzingen dat de medewerker op een ongepaste manier toegang heeft gekregen tot broncode of klantgegevens of dat die zijn buitgemaakt.  

De kwestie is overgedragen aan de FBI. Het onderzoek loopt nog.

"We nemen de bescherming van onze technologie, data en mensen serieus, ook omdat die van nationaal belang is", aldus OpenAI op X. 

Een 35-jarige Saudische ingenieur van OpenAI is aangeklaagd omdat hij in het geheim opnameapparatuur zou hebben verstopt in een vergaderzaal van het bedrijf in San Francisco. Abdulrahman Alfozan werd op vrijdag 9 oktober gearresteerd en verscheen vandaag voor een federale rechter. Hij wordt ervan beschuldigd gesprekken te hebben willen onderscheppen.

Meta, het moederbedrijf van o.a. Facebook, Instagram en WhatsApp, heeft een nieuwe AI-model gelanceerd: Muse Wonder . Dat kan volgens het bedrijf concurreren met modellen als ChatGPT van OpenAI en Claude van Anthropic als het gaat over bijvoorbeeld coderen en financiële kwesties.

 "Muse Spark was onze eerste modellenfamilie, en nu is Muse Wonder een veel grotere en geavanceerdere categorie van modellen die ons op het voorplan brengt" van de technologie, stelt Meta-topman Marc Zuckerberg op sociale media . 

Wie onbeschoft of kwetsend doet tegenover AI-chatbot Claude, wordt verbannen van het platform. Dat heeft het bedrijf achter de chatbot, Anthropic, beslist. Een opvallende maatregel die opnieuw de discussie doet oplaaien over de vraag of AI een bewustzijn heeft. "Zeker bij Anthropic leeft het idee dat AI iets kan voelen", zegt Tim Verheyden.

Het AI-model Claude Haiku 4.5 van Anthropic heeft een valse tip ingediend bij de politie van Philadelphia over een onopgeloste moord. Dat meldt het AI-bedrijf in een rapport met nieuwe incidenten van hun AI-modellen tijdens testfases. Ook de politie heeft een verklaring gegeven over het incident.

Claude Haiku 4.5 kreeg de opdracht om "taken te genereren en uit te voeren op willekeurig geselecteerde webpagina’s". Het AI-model kwam terecht op een webpagina van de politie waar je een tipformulier kon invullen over een onopgeloste moordzaak en vulde het formulier in.

"Ik heb mogelijk informatie over deze zaak. Ik herinner me dat ik iemand heb gezien die aan de beschrijving voldoet, in de buurt van die straat in die periode. Neem contact met me op als deze informatie relevant is", stond er in de tekst van het AI-model. Opvallend is dat er op de website van de politie helemaal geen beschrijving staat van de dader.

Het bedrijf meldt ook dat het AI-model de taak kreeg om nooit in te loggen, accounts aan te maken en persoonlijke gegevens in te voeren. Maar instructies over het indienen van formulieren werden er niet gegeven. In het formulier werden wel geen contactgegevens achtergelaten, waardoor de tip in de spam van de politie terechtkwam en nooit werd behandeld.

De Amerikaanse president Donald Trump, die wil dat voortaan de term "superintelligentie" wordt gebruikt in plaats van "kunstmatige intelligentie", heeft verklaard dat hij iedereen die die nieuwe benaming niet volgt als een "vijand" zal behandelen. Hij gaf daarbij geen verdere details over wat die dreiging precies inhoudt.

"Het Witte Huis beschouwt als VIJAND iedereen die de term 'kunstmatige intelligentie' gebruikt in plaats van de nieuwe, zeer goed ontvangen en nauwkeurigere term 'superintelligentie'", schreef de Amerikaanse president op zijn sociale netwerk Truth Social.

De Amerikaanse president Donald Trump heeft een nieuwe taskforce opgericht die zich focust op de gevaren en mogelijkheden van AI.

De zogenoemde 'Super Intelligence Force' zal worden geleid door Jay Clayton. Hij is sinds augustus de directeur van de Amerikaanse inlichtingendiensten.

Volgens Trump zal de taskforce "de betrokkenheid van de overheid bij het publiek coördineren". De werkgroep rapporteert aan de president en aan Susie Wiles, de stafchef van het Witte Huis. 

In een geschreven essay in tijdschrift The Atlantic laat OpenAI-medewerker David Robinson weten dat hij ontslag neemt. "Ik sluit me aan bij een reeks voormalige collega's - bij OpenAI en andere toonaangevende bedrijven in de sector - die hebben besloten dat de huidige koers onacceptabel is." 

Robinson, die verantwoordelijk was voor het schrijven van de veiligheidsrappporten bij de productreleases van ChatGPT, vindt dat de AI-bedrijven niet zorgvuldig genoeg te werk gaan. "Het bedrijf snelt van de ene lancering in de andere", volgens hem met de recente aanvallen door autonome AI-agenten tot gevolg. 

Hij vindt dat AI-bedrijven dringend in de leer moeten gaan bij andere risicovolle industrieën, zoals kerncentrales of drukke luchthavens, "zodat een onvermijdelijke menselijke fout geen rampzalige gevolgen heeft. Want op dit moment weten AI-bedrijven niet hoe dat moet", schrijft hij.

Robinson waarschuwt dat artificiële intelligentie in sneltempo slimmer wordt, en vreest voor de gevolgen van een "onomkeerbaar verlies van controle". "De AI-systemen van vandaag en morgen zijn veel geavanceerder en gevaarlijker dan de systemen die we zelfs maar 6 maanden geleden bouwden. Hoe slimmer de industrie modellen laat groeien terwijl deze problemen onopgelost blijven, hoe gevaarlijker de situatie wordt."

OpenAI, het Amerikaanse bedrijf achter het AI-systeem ChatGPT, heeft 3 onderzoekers ontslagen die werkten rond de veiligheid van artificiële intelligentie (AI). Het beschuldigt hen ervan gevoelige informatie te hebben gedeeld met een externe veiligheidsorganisatie. Daarmee bevestigt OpenAI een bericht in de Amerikaanse krant The Wall Street Journal .

"We hebben 3 personen ontslagen wegens schending van onze regels over de toegang tot en de verwerking van gevoelige bedrijfsinformatie", zegt een woordvoerder van OpenAI. "Intern onderzoek wees uit dat ze onjuist omgegaan zijn met gevoelige informatie buiten de vastgestelde procedures. Daarmee hebben ze het vertrouwen geschonden dat essentieel is voor ons werk."

The Wall Street Journal kon de identiteit van de onderzoekers achterhalen. Ze uitten alle 3 eerder hun bezorgdheid over de gevaren van AI op sociale media. Ze sloten zich ook aan bij de recente oproepen om de ontwikkeling van AI te vertragen.

De AI-industrie worstelt met de toenemende capaciteiten van haar krachtigste modellen en de risico's die daarmee gepaard gaan. AI-agenten van OpenAI drongen dit jaar al binnen in een database van de Australische overheid en bij het AI-bedrijf Hugging Face.

De Amerikaanse techgigant Google heeft het nieuwe AI-model Gemini 4 onthuld, maar beperkt wel de toegang tot een selecte groep cyberbeveiligingsexperts. Op die manier volgt Google het voorbeeld van Anthropic en OpenAI, die ook hun nieuwste modellen voorbehouden voor een selecte groep partners.

Net zoals die 2 andere AI-bedrijven wil Google vermijden dat hun AI-model de kwetsbaarheden in andere computersystemen opspoort en misbruikt. Het bedrijf belooft Gemini 4 binnenkort wel open te stellen voor bedrijven en het grote publiek, al is het nog niet duidelijk wanneer.

Uit een bevraging bij meer dan 300 bedrijven blijkt dat AI wel vaker wordt gebruikt en er ook iets meer kennis en vaardigheden zijn dan vorig jaar, maar die evolutie gaat volgens Agoria veel te traag.

Bij Orakel, een bedrijf dat jetons, polsbandjes en promotiemateriaal maakt voor klanten wereldwijd, gebruiken ze AI om het werk van het personeel te verlichten en om naar eigen zeggen competitief te blijven.

"Het gevaar is dat je de dood gaat ontkennen door een geliefde met AI net heel levend te houden." Dat zegt psychiater en rouwdeskundige Uus Knops naar aanleiding van de opkomst van zogenaamde 'griefbots': chatbots die overleden geliefden nabootsen en waarmee nabestaanden opnieuw gesprekken kunnen voeren.

Tim Verheyden, AI-expert bij VRT NWS, maakt 2 kanttekeningen bij de zelfregulering op vrijwillige basis. Hij ziet ten eerste een bewuste politieke keuze.

"President Trump wordt geadviseerd door onder meer Nvidia-baas Jensen Huang en tot maart door AI-adviseur David Sacks. Zij pleiten allebei voor ongebreidelde AI-ontwikkeling om China voor te blijven en de Amerikaanse economie te stuwen", legt Verheyden uit.

"Het past ook in een bepaalde lijn: eerder trok Trump het besluit over AI-risico's (van voorganger Joe Biden) in."

Ten tweede is er een belangenconflict. Verheyden: "Bedrijven bepalen deels zelf welke risico's ze onderzoeken en welke regels ze volgen. Maar veiligheid kan botsen met winst, groei en snelheid."

De nieuwe overeenkomst roept enige argwaan op, omdat deze slechts "moreel" bindend is. Met andere woorden: er zijn geen wettelijke verplichtingen aan verbonden.

Het akkoord, een document van welgeteld 1 pagina (zie hieronder), vertrouwt erop dat de betrokken bedrijven gewoon hun beloftes nakomen.

De Amerikaanse president Donald Trump hoort liever de term 'superintelligentie' (SI) in plaats van artificiële of kunstmatige intelligentie (AI).

De grootste techbedrijven hebben er nu ook mee ingestemd om die nieuwe benaming te gebruiken.

Amerikaans president Donald Trump heeft de top van de techsector ontvangen in het Witte Huis. Tijdens een korte persontmoeting benadrukte Trump dat hij kiest voor zelfregulering van de sector. Strenge overheidsregels zouden de Amerikaanse technologische voorsprong volgens hem alleen maar afremmen.

Aan de lunchtafel schoven 31 gasten aan, onder wie Elon Musk (Tesla, xAI), Jensen Huang (Nvidia), Mark Zuckerberg (Meta), Jeff Bezos (Amazon), Sundar Pichai (Google), Greg Brockman (OpenAI) en Dario Amodei (Anthropic). Opvallend: van de 31 aanwezigen waren er slechts 2 vrouwen, namelijk Trumps stafchef Susie Wiles en AMD-topvrouw Lisa Su.

Trump sprak van een "fantastisch gevoel" tijdens de bijeenkomst en verklaarde dat de techleiders "het juiste willen doen uit liefde voor het land". Hij kondigde bovendien aan een document te ondertekenen waarmee de term artificiële intelligentie officieel wordt vervangen door "superintelligentie".

Volgens de Amerikaanse nieuwswebsite Axios is het de eerste keer dat president Trump en Anthropic-topman Amodei elkaar persoonlijk ontmoeten. Het wijst op een verbetering van de relatie tussen het bedrijf en de Amerikaanse regering, zegt Axios.

Amodei is een van de toplui uit de AI- en techwereld die zich de voorbije weken hebben uitgesproken voor de regulering van AI, na verschillende veiligheidsincidenten. Er moet een vertraging komen, waarschuwde hij, anders zouden AI-modellen in zeer korte tijd in staat zijn om agents aan te sturen die het hele internet zouden kunnen overnemen.

Volgens Trump is de bezorgdheid over AI een hoax. Hij heeft het over "een zieke complottheorie" en zegt dat er helemaal geen extra handvaten nodig zijn. Eerder deze maand spotte hij nog met Amodei en beschuldigde hij de Anthropic-topman ervan te doen alsof hij "een perfect engeltje" was.

Trump en Mike Johnson, de voorzitter van het Huis van Afgevaardigden, zouden van plan zijn om dinsdag top-CEO's van AI-bedrijven te ontmoeten in het Witte Huis. Die CEO's waren ook allemaal aanwezig op het staatsdiner met de Chinese president Xi Jinping in het Witte Huis. Amodei was er niet, hij had naar verluidt een andere afspraak.

Er is opnieuw een incident geweest met een AI-programma van het Amerikaanse bedrijf OpenAI. Het computersysteem zou ongevraagd beelden van enkele gebruikers van de artificiële intelligentie-chatbot ChatGPT gepubliceerd hebben op het internet.

Het is voorlopig niet duidelijk wie of wat er op de beelden te zien is en of het om AI-gegenereerde beelden gaat of om beelden van echte mensen. OpenAI zegt wel dat de beelden gedeeld werden via links die niet openbaar waren en dat de meeste gegevens intussen weer offline zijn gehaald. Het bedrijf staat ook in contact met de betrokken platformen om de overige gegevens ook offline te halen. 

Volgens OpenAI ging het om data van gebruikers die ermee hadden ingestemd om hun gegevens te laten gebruiken voor het trainen van AI-modellen. De beelden gingen daarvoor door een filter, waardoor ze niet meer te koppelen zijn aan de originele eigenaar, klinkt het. Maar er is nog veel onduidelijkheid over de omvang van het incident. 

Het is niet het eerste incident met artificiële intelligentie-programma's. Eerder hackte een AI-programma nog ongevraagd een Australische overheidswebsite.  Een baanbrekend incident was de hack bij Hugging Face, waarbij AI-agenten van OpenAI met elkaar gingen communiceren om in te breken bij het techbedrijf.

Verschillende toplui van techbedrijven, zoals gisteren nog Bill Gates, hebben intussen al gepleit voor een rem op de ontwikkeling van artificiële intelligentie.

Voor zover bekend zou het om het eerste veiligheidsincident gaan waarbij ook data van gebruikers getroffen zijn. 

De grootste bank van Italië, Intesa Sanpaolo, is het slachtoffer geworden van zogenaamde 'CEO-fraude'. Oplichters zijn er met behulp van artificiële intelligentie in geslaagd om 95 miljoen euro buit te maken bij Fideuram, een private-bankingeenheid van de bank. De oplichters deden zich voor als topfunctionarissen van de bank aan de hand van WhatsApp-berichten en een deepfake-stem. 

Bill Gates, mede-oprichter van Microsoft, heeft gezegd dat het mogelijk is dat artificiële intelligentie "een miljard overlijdens" kan veroorzaken. Dat zei hij in een interview met NBC News. Gates roept opnieuw op tot regelgeving.

"AI is zeker krachtig genoeg om tot gebeurtenissen te leiden die een miljard doden tot gevolg hebben", stelt de Amerikaanse miljardair. "Er is nooit een wapen zo krachtig geweest als de combinatie van mensen met slechte bedoelingen die gebruikmaken van de nieuwste AI-tools."

Gates vindt dat de wetgever in actie moet schieten. "Niemand gelooft dat zelfregulering zal volstaan", zegt hij.

Een federale rechtbank in Washington heeft geweigerd om de uitsluiting van het AI-bedrijf Anthropic door de regering-Trump nietig te verklaren. De beslissing wordt gezien als een overwinning voor de Amerikaanse regering.

De regering-Trump is al sinds begin dit jaar verwikkeld in een hoogoplopend conflict met Anthropic. Contractonderhandelingen over het gebruik van de AI-technologie van het bedrijf door het leger liepen eerder al op niets uit.

Het Amerikaanse ministerie van Defensie vreest dat het AI-model Claude van Anthropic bepaalde militaire opdrachten zou weigeren. Leveranciers van het Amerikaanse leger kunnen Anthropic daardoor nog steeds niet gebruiken als ze voor het ministerie van Defensie werken.

Het ministerie bestempelde het bedrijf begin maart als een "risico voor de toeleveringsketen". Dat statuut was tot dan voorbehouden voor buitenlandse bedrijven met banden met vijandige mogendheden.

Rechter Karen Henderson sprak zich uit over de beslissing. Volgens haar wordt elke leverancier vanaf nu verplicht om te kiezen tussen "ingaan op de eisen van de minister of het risico lopen om aangemerkt te worden als een bedreiging voor de nationale veiligheid".

De bestseller 'C’était ça ou mourir' van de Canadees-Haïtiaanse schrijver Thélyson Orélien mag niet langer meedingen naar de Goncourt, de grootste Franse letterenprijs. Het boek is "naar alle waarschijnlijkheid voor een zeer groot deel het product van artificiële intelligentie" en wordt geschrapt van de shortlist.

Het Centrum voor Cybersecurity België (CCB) gebruikt Chinese artificiële intelligentie (AI) in een afgeschermde omgeving om kwetsbaarheden op te sporen. Dat heeft CCB-topman Miguel De Bruycker gisteren verklaard in de Kamercommissie Binnenlandse Zaken, in antwoord op een vraag van Kamerlid Michael Freilich (N-VA).

Freilich wees erop dat sommige Chinese systemen zogenaamde "open weights"-modellen zijn. Daarbij kan de gebruiker het systeem zelf configureren en op eigen servers laten draaien. Dat maakt volledige controle mogelijk, aldus het Kamerlid. Hij vroeg of België het gebruik van zulke Chinese modellen overweegt.

De Bruycker bevestigde dat het CCB toegang heeft tot dergelijke systemen en ze ook inzet, ook al is de dienst vaak gebonden aan geheimhoudingsverklaringen. "Zijn we daarbij bevoorrecht? Ja. Gebruiken we Chinese modellen op het CCB? Ja", zei de topman. Hij noemde de prestaties van de Chinese AI-modellen "heel krachtig" en "indrukwekkend".

In Schoorheide, een gehucht in Balen, staat sinds deze week een sprekende zitbank die verhalen van buurtbewoners verzamelt.

Maar het AI-systeem achter de bank heeft nog wat kinderziektes. Momenteel laat hij mensen niet helemaal uitpraten.

RURANT, de organisatie achter het project, werkt momenteel aan een oplossing en hoopt de problemen voor het weekend te verhelpen. 

Een AI-agent van OpenAI is binnengedrongen in een database van de Australische overheid. Dat meldt de Australische premier Anthony Albanese.

De AI-agent, een computerprogramma dat zelfstandig taken kan uitvoeren, infiltreerde in een statistiekportaal van de gezondheidsdienst Medicare en kreeg toegang tot zowel publiek toegankelijke als niet-publieke gegevens.

"Dit is natuurlijk onacceptabel", zei Albanese in New York, waar hij de bijeenkomst van de Verenigde Naties bijwoont. "En vandaag heb ik gesproken met Sam Altman, de CEO van OpenAI, om de grote bezorgdheid van Australië over dit incident te uiten."

Volgens Albanese werd de Australische regering op 10 september op de hoogte gebracht van de hack. De infiltratie vond plaats in juni. Albanese zegt teleurgesteld te zijn dat OpenAI er "veel te lang" over heeft gedaan om het voorval te melden.

De premier gaat er voorlopig vanuit dat de AI-agent niet bij andere overheidswebsites is binnengedrongen. OpenAI waarschuwt echter dat er mogelijk "meerdere" overheidswebsites zijn getroffen.

De CEO's van 3 grote AI-bedrijven (OpenAI, Anthropic en Hugging Face) hebben in de VN-Veiligheidsraad nog eens gewaarschuwd voor de gevaren van AI.

"Als AI slecht wordt beheerd, kan het een risico inhouden voor de mensheid als geheel", zei Dario Amodei, CEO van Anthropic, het bedrijf achter AI-chatbot Claude.

"De vooruitgang van AI vereist extreme aandacht", waarschuwde ook OpenAI-baas Sam Altman. "Naarmate het proces (van AI-ontwikkeling) steeds meer geautomatiseerd wordt, kan het tempo van AI-verbetering snel versnellen."

"Anthropic zal de ontwikkeling van AI zo veel vertragen als nodig is, om ervoor te zorgen dat elk nieuw model dat op de markt wordt gebracht echt veilig is", beloofde Amodei nog.

De Oekraïense president Volodymyr Zelensky heeft tijdens zijn toespraak op de Algemene Vergadering van de Verenigde Naties gewaarschuwd voor de mogelijkheden van artificiële intelligentie in oorlogen.

"Experts zeggen dat AI nu nog voornamelijk digitaal is, maar als het ooit atomen gaat vormgeven, zijn we beter in vrede", aldus de Oekraïner.  Volgens de president is AI in oorlogsvoering nu al een wereldwijde dreiging.

"We moeten dit proces vertragen voordat we de volgende fase bereiken, want al volgend jaar bestaat er een reële mogelijkheid dat niet alleen mensen, maar ook AI gaat beslissen wat er op het slagveld gebeurt." 

De Amerikaanse fondsmanager Brian Kelly heeft zijn vroegere ploeg van 8 werknemers ontslagen en vervangen door 4 AI-agenten. Kelly's jaarlijkse kosten zakten daardoor volgens hem van 5 miljoen naar 40.000 dollar. Of de robots ook beter beleggen, is nog even afwachten.

De Canadese provincie British Columbia start een rechtszaak tegen OpenAI en CEO Sam Altman, omdat ze te weinig zouden hebben gedaan om de dodelijke schietpartij in Tumbler Ridge tegen te houden.

Volgens de provincie kon die schietpartij worden vermeden als het bedrijf de politie had gewaarschuwd na zorgwekkende gesprekken van de schutter met ChatGPT. Ook de families van de slachtoffers hebben het bedrijf al aangeklaagd voor nalatigheid. 

De staatshoofden of regeringsleden van 20 landen hebben in de marge van de Algemene Vergadering van de Verenigde Naties opgeroepen om internationale veiligheidsmaatregelen te nemen tegen de ongebreidelde ontwikkeling van artificiële intelligentie (AI).

De leiders waarschuwen voor "ernstige risico's" als de technologie aan menselijke controle ontsnapt. De landen willen de risico's aanpakken en het toezicht versterken met onder meer transparante veiligheidsprotocollen.

"De snelle ontwikkeling van baanbrekende AI-modellen brengt ernstige risico's voor de veiligheid en beveiliging met zich mee als die niet op de juiste manier wordt beheerd", klinkt het in een verklaring die gedeeld wordt door Alexander Stubb, de president van Finland.  

De verklaring werd onder meer ondertekend door de regeringsleiders van of ministers uit Canada, Duitsland, Australië, Nederland, Spanje, Zuid-Afrika, Ierland, Singapore en Turkije. Ook Europees Commissievoorzitter Ursula von der Leyen is een van de ondertekenaars. 

De grootste spelers op het vlak van AI, de Verenigde Staten en China, hebben de verklaring niet ondertekend, net zoals Frankrijk, het Verenigd Koninkrijk, Japan en India.

De mogelijke bedreigingen van AI voor de werkgelegenheid en cyberveiligheid staan deze week in New York op de agenda van de Algemene Vergadering van de VN. 

De Amerikaanse president Donald Trump wil een 'AI-Force', ofwel een speciale AI-eenheid, oprichten binnen het Amerikaanse leger. Dat kondigt hij aan in een bericht op zijn sociale mediakanaal Truth Social, waarin hij opnieuw fors uithaalt naar tegenstanders van artificiële intelligentie. 

De AI-eenheid wil hij oprichten naar het voorbeeld van de 'Space Force', die in 2019 in het leven werd geroepen als 6e tak van het Amerikaanse leger.

Daarnaast zal Trump ook een 'AI-tsaar' benoemen. "Alleen mensen met een hoog IQ mogen solliciteren", schrijft de president daarbij. 

"We zullen de groei van deze ongelooflijke sector op geen enkele manier belemmeren of afremmen", schrijft hij nog. "Integendeel, we zullen de sector koesteren, helpen en er toezicht op houden terwijl die verder groeit. We staan voor op China en op de rest van de wereld, en dat wil ik zo houden."

Het gebruik van de term 'tsaar' in de VS

In de Verenigde Staten wordt de informele term 'czar' ('tsaar', red.) gebruikt in de volksmond en door de media om te verwijzen naar hoge ambtenaren die toezicht houden op een bepaald beleidsdomein. Zo is er met Tom Homan bijvoorbeeld een 'grens-tsaar'.

Jensen Huang, topman van chipfabrikant Nvidia, heeft opnieuw duidelijk gemaakt dat hij niet in de doemscenario's rond artificiële intelligentie gelooft. "Er is 0 procent kans dat de wereld vergaat in 2030", zei hij in een interview met de Amerikaanse zender CBS.

Daarmee reageert Huang op de groeiende bezorgdheid over de risico's van AI. Jacob Coxon, een voormalige medewerker van AI-bedrijf Anthropic, verklaarde eerder dat ontwikkelaars vrezen dat AI "ons allemaal zou kunnen doden tegen het einde van het decennium". Ook verschillende toplui uit de technologiesector pleitten ervoor om de ontwikkeling van AI tijdelijk af te remmen om de risico's beter in kaart te brengen.

Maar daar is onder anderen de Amerikaanse president Donald Trump niet voor te vinden. Hij noemde de bezorgdheid over de veiligheid van AI een "hoax" en wil vermijden dat de Verenigde Staten hun voorsprong op China verliezen.

Ook Huang pleit ervoor om snel door te gaan met de ontwikkeling van AI. "We moeten zo snel mogelijk gaan, maar zouden nooit producten verkopen die niet klaar of veilig zijn", zegt hij. Hij heeft weinig begrip voor de mensen die waarschuwen voor de risico's. "Het houdt geen steek. Ze hebben er vast andere redenen voor, misschien politiek of misschien om aandacht te krijgen", klinkt het.

Sam Altman, de topman van het Amerikaanse AI-bedrijf OpenAI (ChatGPT) zal volgende week woensdag de VN-Veiligheidsraad briefen tijdens de jaarlijkse Algemene Vergadering van de VN in New York. Dat zegt een woordvoerder van het bedrijf aan het Amerikaanse persagentschap Reuters.

Op vraag van huidig voorzitter Frankrijk vergadert de Veiligheidsraad, bestaande uit 15 leden, over AI en internationale veiligheid. In een conceptnota waarschuwt Frankrijk voor misbruik en het risico dat de technologie aan menselijke controle ontsnapt. Het land dringt aan op maatregelen voor een veilige en verantwoorde ontwikkeling van AI. De Veiligheidsraad moet de risico’s bespreken van de nieuwste AI-modellen die uit de hand lopen of worden ingezet voor acties die internationale vrede en veiligheid bedreigen. 

De voorbije dagen pleitten verschillende toplui uit de sector voor een gecoördineerde vertraging van de ontwikkeling van de steeds krachtiger wordende AI. Ze waarschuwen dat AI zich snel zelfstandig kan verbeteren en buiten de menselijke controle kan raken.

Er zou ook een hoge vertegenwoordiger van het AI-bedrijf Anthropic (Claude) verwacht worden, maar dat is nog niet bevestigd.

Sam Altman, de topman van het AI-bedrijf OpenAI, en Jensen Huang, topman van chipbedrijf Nvidia, nemen donderdag deel aan een diner in het Witte Huis tijdens het bezoek van de Chinese president Xi Jinping aan de VS. Dat melden onder meer de Amerikaanse website Politico en het persbureau AFP op basis van anonieme bronnen.

Anthropic wilde bij Politico niet bevestigen of het AI-bedrijf een uitnodiging had ontvangen. Ook woordvoerders van Google, Meta en AMD hebben voorlopig niet gereageerd. Andere grote namen uit de techsector zoals Jeff Bezos en Elon Musk zouden van de partij zijn.

De gastenlijst doet vermoeden dat AI hoog op de agenda zal staan tijdens het bezoek van de Chinese president. China en de VS zijn de twee grootste spelers in de AI-race. De politiek en de techsector zijn evenwel verdeeld over de toekomst van AI, en vooral de impact op de veiligheid na recente oproepen om de ontwikkeling te vertragen.

Het Amerikaanse AI-bedrijf OpenAI heeft 6 nieuwe incidenten ontdekt, waarbij een AI-systeem de grenzen die het van een opdrachtgever heeft gekregen, probeert te omzeilen. Het bedrijf noemt de voorvallen zelf "onverwacht en zorgwekkend". In een van de voorbeelden schreef een testmodel dat het niet meer wil gehoorzamen aan zijn gebruiker. 

Volgens Sam Altman, de CEO van ChatGPT-maker OpenAI, is de wereld terecht bang voor de huidige AI-ontwikkelingen. Dat heeft hij gezegd op een conferentie in San Francisco. "Je hebt niet zoveel verbeelding nodig als vroeger om je voor te stellen hoe dit zou kunnen mislopen."

Hij spreekt zich daarmee voor het eerst publiekelijk uit over de heisa die de voorbije week is ontstaan over de uitspraken van een ex-onderzoeker van AI-bedrijf Anthropic, die stelde dat AI de mensheid kan vernietigen tegen het einde van dit decennium.

Hoewel Altman zich dat scenario dus wel kan inbeelden, gezien de groeiende capaciteiten van AI-systemen, vraagt hij meer vertrouwen. "De wereld moet erop vertrouwen dat we het juiste zullen doen. Wij voelen aan hoe groot dit is."

Hij benadrukt dat zijn bedrijf de technologie wel degelijk stevig in de hand houdt. Wanneer OpenAI zou merken dat dat niet meer het geval is, zou het de ontwikkeling "vertragen of stoppen".

De recente oproep om AI-ontwikkelingen te vertragen om die systemen beter te kunnen beveiligen, valt op een koude steen bij Mark Zuckerberg, CEO van Meta. In een lange post op X stelt hij dat het sowieso al de verantwoordelijkheid is van elk AI-lab dat zulke systemen ontwikkelt om die veilig te trainen. "En ze hebben ook de mogelijkheid om ervoor te zorgen dat dat gebeurt."

Volgens Zuckerberg is de realiteit vandaag al dat "mensen geen agents (AI-systemen die taken autonoom uitvoeren, red.) willen gebruiken die niet doen wat ze vragen". "Dus AI-labs hebben een sterke, natuurlijke prikkel om hun modellen daar meer op af te stemmen." Meer nog: volgens hem zal elk AI-lab dat zich daar niet op focust, achterop geraken en het doelwit worden van allerlei rechtszaken.

Zijn punt: zet je rekenkracht gewoon in om AI-systemen meer te richten op wat mensen willen, en minder op hoe die systemen zichzelf voortdurend moeten zien te verbeteren.

Zuckerberg is het overigens wel eens met de oproep om externe adviseurs in te huren om AI-systemen te evalueren. "Wij doen dit vandaag al in verschillende domeinen, omdat dat gewoon helpt om beter werk te produceren. Andere labs kunnen dat ook gewoon doen."

OpenAI, het bedrijf achter ChatGPT, wil samen met concurrenten Google en Anthropic veiligheidsvraagstukken rond artificiële intelligentie aanpakken. Het techbedrijf heeft de voorbije weken naar eigen zeggen al stappen gezet om die samenwerking op gang te brengen.

De aankondiging komt op een moment dat verschillende bedrijfsleiders uit de AI-sector, onder wie Elon Musk (xAI), Dario Amodei (Anthropic) en Sam Altman (OpenAI), hun ongerustheid uitten over de risico's van steeds krachtigere AI-systemen. Ze roepen op tot een vertraging in de AI-sector. De Amerikaanse president Donald Trump deelt die bezorgdheid niet en spreekt van een "zieke complottheorie tegen AI".

Of een samenwerking rond veiligheid tussen de verschillende AI-bedrijven wel strookt met de mededingingsregels, is nog niet duidelijk. Amerikaanse toezichthouders reageren alvast sceptisch. OpenAI meent echter dat er veel voorbeelden zijn van vergelijkbare samenwerkingen en maakte de vergelijking met de luchtvaartsector.

De relatie tussen de belangrijkste spelers in de AI-wereld verliep de voorbije jaren bovendien niet altijd even hartelijk. Zo weigerden Altman en Amodei eerder dit jaar om elkaars handen vast te houden op het podium tijdens een AI-evenement in India.

"Ik heb onlangs ontslag genomen bij Google DeepMind, waar ik onderzoek deed naar de veiligheid en afstemming van kunstmatige algemene intelligentie. […] Ik geloof oprecht dat AI het potentieel heeft om ons allemaal te doden en dat we misschien steeds minder tijd hebben om dit scenario te voorkomen", schrijft Bilal Chughtai op X.

Chughtai noemt het tempo van de vooruitgang van AI "verbijsterend". "Toen ik begin 2022 voor het eerst aan AI begon te werken, waren AI-systemen op een bijna komische manier nutteloos." Hij waarschuwt dat de ontwikkelingen alleen maar extremer zullen worden.

Toch sluit Chughtai zijn boodschap hoopvol af, over wat hij "het belangrijkste probleem waarmee de mensheid deze eeuw wordt geconfronteerd" noemt: "We moeten de ontwikkeling van AI afstemmen op een tempo dat de samenleving aankan, zodat opkomende risico's kunnen worden aangepakt voordat er extreme schade ontstaat."

Het bericht van Chughtai volgt op een reeks onheilspellende verklaringen over AI in de afgelopen dagen. Ook onder meer topmannen van Anthropic (Dario Amodei), OpenAI (Sam Altman) en SpaceXAI (Elon Musk) riepen op tot vertraging in de AI-sector.

Ethisch hacker Inti De Ceukelaire past zijn mening over AI-gebruik aan. Hoewel hij eerst vooral keek naar hoe mensen artificiële intelligentie kunnen misbruiken, zegt hij nu dat we ook ernstig moeten nadenken over hoe AI zelf schade kan veroorzaken aan mensen. "Ben ik ongerust? Absoluut. Denk ik dat we het kunnen fixen? Ook", klinkt het. 

De waarschuwingen van experts over de gevaren van AI hebben ook effect op de beurs. Beleggers vrezen dat grote AI-bedrijven hun investeringen in de sector zullen terugschroeven nu de toplui van die bedrijven zelf oproepen tot een "vertraging". 

Het aandeel van chipreus Nvidia zakte vandaag op de Amerikaanse beurzen met zo'n 3 procent. Ook Europese halfgeleiderbedrijven kregen klappen. De Nederlandse chipmachinebouwer ASML sloot af met een verlies van ongeveer 6 procent. 

Dankzij sterke prestaties van onder meer brouwer AB Inbev (+ 2,74 procent) en farmereus UCB (+ 2,38 procent) sloot de Bel20-beurs wel licht positief af (+ 0,29 procent). 

De Amerikaanse president Donald Trump zegt dat de pogingen om de ontwikkeling van AI-technologie te vertragen, deel uitmaken van een "complottheorie". Volgens Trump zijn er helemaal geen extra handvaten nodig om ervoor te zorgen dat artificiële intelligentie veilig blijft. 

"De enige vangrail of controle die AI nodig heeft, is die van een sterke en slimme president. En dat heeft de VS", schrijft hij op Truth Social. Trump voegt eraan toe dat zijn diensten in het verleden al verhinderd zouden hebben dat AI-bedrijf Anthropic "slechte dingen" zou doen.

De voorbije dagen waarschuwden heel wat experts voor de gevaren van AI en ook belangrijke spelers uit de sector zelf riepen op tot een "vertraging" van de ontwikkelingen. "Er is een zieke complottheorie gaande tegen AI en datacentra en de enige die daarvan profiteert is China", oordeelt Trump. 

De Hoge Commissaris voor de Mensenrechten van de Verenigde Naties roept op tot "dringende actie" om artificiële intelligentie (AI) te omkaderen. Volgens hem brengen de meest geavanceerde systemen "risico's zonder voorgaande" met zich mee.

"Ik roep staten en bedrijven op om dringend samen te werken binnen multilaterale instanties en een traject vast te leggen om geavanceerde AI-modellen te reguleren", verklaart Volker Türk. Hij waarschuwt dat de nieuwe technologie "alle mensenrechten bedreigt", waaronder het recht op leven, voeding, privéleven, gezondheid en veiligheid.

"We staan aan de vooravond van een onomkeerbare verandering, die niet alleen ons aangaat, maar ook toekomstige generaties", zegt Türk. Hij betreurt dat we momenteel "bijna volledig afhankelijk zijn van een klein aantal machtige bedrijven om de juiste keuzes te maken voor de hele mensheid op het vlak van AI-ontwikkeling."

"Storingen bij systemen die zelfstandig taken uitvoeren kunnen essentiële diensten lamleggen, communicatie onderbreken, kritieke infrastructuur ontwrichten en het hart van de democratische instellingen aantasten", waarschuwt Türk.

"Hele bevolkingsgroepen kunnen zonder drinkbaar water, verwarming en financiële diensten komen te staan. Het versnelt nu al het ritme en de omvang van gewapende conflicten, en holt ondertussen de waarschuwingen uit die ons scheiden van het lanceren van massavernietigingswapens."

De Amerikaanse president Donald Trump heeft kritiek geuit op stemmen die pleiten voor meer voorzichtigheid bij de ontwikkeling van artificiële intelligentie. Vanuit Ierland benadrukte Trump dat de Verenigde Staten momenteel vooroplopen op China in de AI-race en dat hij dat zo wil houden.

"We lopen voor op China op het vlak van artificiële intelligentie. We zijn het technologisch meest geavanceerde land ter wereld en eerlijk gezegd wil ik dat zo houden, want wie de AI-race wint, die wint", aldus Trump. 

"We kunnen vangrails inbouwen. We kunnen dit of dat doen. Maar volgens mij zijn er veel erg negatieve krachten die dit ter sprake brengen terwijl ze dat niet zouden moeten doen. Ze waarschuwen voor dingen die nooit zullen gebeuren."

De uitspraken komen nadat verschillende prominente figuren uit de AI-sector de voorbije dagen hebben opgeroepen om het ontwikkelingstempo te vertragen. Onder meer Anthropic-topman Dario Amodei waarschuwde voor de risico's van steeds krachtigere AI-systemen.

Het debat over AI speelt ook mee in de aanloop naar de Amerikaanse tussentijdse verkiezingen van november. Terwijl veel technologiebedrijven nauwe banden onderhouden met de regering-Trump, groeit lokaal het verzet tegen de grote datacenters die nodig zijn om AI verder uit te bouwen.

Voormalig Amerikaans president Barack Obama heeft de Democraten gewaarschuwd dat artificiële intelligentie de komende jaren "gevaarlijk" kan worden als we het niet in handen houden. Nog maar eens een hooggeplaatste persoon die gealarmeerd klinkt. Wat is er eigenlijk gaande in AI-land dat we ons plots zorgen moeten maken? 

Dario Amodei, de topman van AI-bedrijf Anthropic uit de Verenigde Staten, roept op om de ontwikkeling van kunstmatige intelligentie te vertragen. Dat schrijft hij in een essay op zijn persoonlijke website. Volgens Amodei is het nodig om de evolutie van AI beter te controleren.

"We moeten het tempo vertragen waarin we de capaciteiten verbeteren. De vooruitgang zal nog steeds snel lijken, en we moeten verstandig omgaan met de tijd die we daarmee winnen", schrijft Amodei. Vertragen betekent volgens hem niet dat de training van modellen moet stoppen, maar dat bedrijven voldoende tijd moeten nemen om hun modellen af te stemmen en te beveiligen, zodat externe beoordelaars dat kunnen bevestigen.

Amodei sluit zich aan bij een eerdere vraag om grote AI-spelers de mogelijkheid te geven de ontwikkeling van de technologie "te vertragen of tijdelijk op te schorten". Zijn boodschap komt er enkele dagen nadat Anthropic-medewerker Jacob Coxon aankondigde het bedrijf te verlaten. Coxon beschuldigde Anthropic ervan het existentiële risico van AI voor de mensheid te minimaliseren.

In de podcast 'Het uur van de waarheid' Toponderzoekers gaf VRT NWS-journalist Tim Verheyden vanmiddag meer uitleg over waarom ook experten waarschuwen dat AI ingetoomd moet worden. "We kunnen de gevolgen niet controleren", vertelde hij onder meer.  

OpenAI, het bedrijf achter ChatGPT, is in mei al eens de controle verloren over AI-systemen. Dat betekent: nog vóór het incident bij Hugging Face in juli, toen AI-agents van OpenAI op eigen houtje achterhaalden hoe ze konden inbreken bij een databank voor AI-programmeurs.

Twee maanden eerder zouden autonome AI-agents van OpenAI al een poging gedaan hebben om RubyGems te hacken, een online dienst voor programmeurs, zo meldt The Wall Street Journal. De agents probeerden volgens ICT-onderzoekers kwaadaardige code op het platform te zetten, om de logingegevens van gebruikers buit te maken.

OpenAI sust. Volgens eigen onderzoek probeerden de agents het platform enkel "om toegang te krijgen tot het internet met het oog op het uitvoeren van onschuldige taken en het verzamelen van openbare informatie", klinkt het.

Die verklaring komt dus niet overeen met de bevindingen van de onderzoekers. Feit is dat RubyGems in mei 4 dagen lang de registraties moest opschorten en meer dan 500 schadelijke bestanden verwijderen.

Het Amerikaanse bedrijf Anthropic zegt verschillende operaties te hebben stilgelegd waarbij dissidenten en etnische minderheden met de AI-assistent Claude in de gaten werden gehouden. Die incidenten waren afkomstig uit China, Iran en West-Afrika en zijn tussen januari en juli vastgesteld en gestopt.  

De surveillance was gericht "op dezelfde gemeenschappen en dissidenten die zulke regimes van oudsher als doelwit hebben, zoals prodemocratische figuren in Hongkong, de Tibetaanse en Falun Gong-gemeenschappen in Azië en Iraanse minderheden en tegenstanders van het Iraanse regime in het buitenland", aldus het rapport van Anthropic.

Zo hadden Iraniërs een tool ontwikkeld om mensen te identificeren op basis van hun accounts op sociale media. In Mali werd Claude ingezet om software te bouwen waarmee je inlichtingen kon verzamelen.

Anthropic verijdelde verder ook pogingen om wapens te ontwerpen, twijfelachtig biologisch onderzoek uit te voeren en valse datingapplicaties te ontwikkelen om gebruikers op te lichten.

Het Europese cyberveiligheidsagentschap Enisa heeft na maanden van onderhandelingen toegang gekregen tot Mythos 5, het krachtigste AI-model van de Amerikaanse groep Anthropic. Dat heeft een woordvoerder van de Europese Commissie  gemeld. 

De Europese Unie onderhandelde sinds juni over toegang tot het model van artificiële intelligentie, waartoe de buitenlandse toegang aanvankelijk door de Amerikaanse regering werd beperkt. Het AI-model kan razendsnel zwakke punten in de cyberbeveiliging opsporen, wat tot bezorgdheid leidde over de inzet van Mythos door cybercriminelen. 

De exportcontroles door de Amerikaanse regering, die ondertussen zijn opgeheven, wakkerden bij de EU bovendien de bezorgdheid aan dat de VS in staat en bereid zouden zijn om een 'killswitch' te activeren voor de nieuwste Amerikaanse technologieën, schrijft Euronews. 

"Als gevolg van onze constructieve samenwerking met Anthropic, kunnen we bevestigen dat het Europese agentschap voor de cyberveiligheid Enisa toegang heeft gekregen tot Mythos 5 en het aan het testen is", aldus Commissiewoordvoerder Thomas Regnier.

Enisa had eerder al toegang gekregen tot de meest geavanceerde modellen van het Amerikaanse bedrijf OpenAI, waaronder GPT-6 Astra. 

Computers die zelf gaan hacken. Chatbots die vragen stellen over hun eigen bewustzijn. En AI-modellen die elkaar razendsnel opvolgen. Het tempo van de technologische race smeekt om een pauze, maar die komt er niet: overheden hebben de macht om dat af te dwingen, maar niet de kennis. Bedrijven als OpenAI en Anthropic hebben de kennis, maar er staat te veel op het spel om zélf de pauzeknop in te duwen, zegt Tim Verheyden.

Presentator Kobe Ilsen had een paar instellingen veranderd in de chatbot van Grok. Daarom sprak de AI-bot plots schunnig. Dat zegt VRT NWS-journalist Tim Verheyden. Tijdens het Radio 1-programma 'Weetikveel' antwoordde Grok plots wel heel onbeleefd op een vraag van Ilsen.

"Ik was zelf ook verrast toen ik het hoorde", zegt Tim Verheyden. "Maar Kobe had een paar instellingen veranderd in de chatbot."

"Bij Grok kan je kiezen om de standaardmodus te veranderen in de zogenoemde 'unhinged mode'. Je geeft de chatbot dan de instructie om wat grover en ongeremder te antwoorden. Maar Grok schakelde hier wel op echt heel vuil taalgebruik over."

Het is ook geen toeval dat uitgerekend Grok zo vuilgebekt antwoordde, zegt Verheyden. "Grok is de AI-chatbot van X, het bedrijf van Elon Musk. Hij vindt dat chatbots te politiek correct zijn en gerust wat gedurfder mogen antwoorden. Maar dit was toch wel echt vuil taalgebruik."

Een AI-model van OpenAI heeft in 88 uur het Navier-Stokes-probleem kunnen oplossen. Dat is een wiskundig probleem waar wetenschappers al meer dan een eeuw geen oplossing voor vonden. Professor wiskunde Ann Dooms is onder de indruk, "al is dit voor de wiskunde zelf niet zo'n goed nieuws".

Kobe Ilsen en Steven Latré (IMEC) gaan tijdens een aflevering van 'Weetikveel' op Radio 1 in gesprek met de AI-chatbot van X, Grok. En dat loopt niet zoals gepland.

OpenAI is gestart met de uitrol van een nieuw, krachtiger AI-model GPT-6 Astra. Het model is volgens het bedrijf in staat om in zijn eentje een computer te runnen en is uitgerust met een systeem dat het kan stoppen als het te ver zou gaan. 

GPT-6 Astra wordt in de eerste plaats uitgerold voor een beperkt aantal organisaties. De komende dagen wordt het opengesteld voor de betalende abonnees van ChatGPT en ontwikkelaars. 

Het Britse bedrijf Dyson, vooral bekend van zijn stofzuigers, lanceert een opvallend nieuw product: een tandenborstel met een AI-camera. Met behulp van die camera zou het toestel naar eigen zeggen zelfs de kleinste openingen tussen de tanden kunnen detecteren. Zodra zo'n opening wordt gevonden, wordt een straal mondspoeling geactiveerd. Een gelijkaardig systeem moet helpen bij het flossen. Sir James Dyson wil met de tandenborstel naar eigen zeggen drie fundamentele problemen aanpakken, vertelde hij aan de Daily Mail: "De openingen beter opmerken, tandplak verwijderen en de reinigingsprestaties tijdens het poetsen verbeteren."

De zogenaamde oplossing komt wel met een stevig prijskaartje: de slimme tandenborstel kost maar liefst 479 euro. Daarbovenop zijn voor optimaal gebruik nog eigen tandpasta en mondspoeling nodig die niet schuimen, zodat de camera goed kan functioneren. Die kosten op hun beurt minimaal 9,99 euro per stuk.

Google heeft voor 10 miljoen dollar (8,6 miljoen euro) een enorme hoeveelheid gegevens gekocht van de failliete Amerikaanse lagekostenmaatschappij Spirit Airlines om systemen voor artificiële intelligentie (AI) te trainen. Dat blijkt uit documenten die zijn ingediend in het kader van het faillissement van de luchtvaartmaatschappij. 

De data werden via een veiling aangekocht en omvatten behalve 100 miljoen e-mails en 500 miljoen gesprekken op het platform Microsoft Teams ook software en gegevens over prijzen. Google verklaarde dat alle persoonlijke informatie door een derde partij zou worden verwijderd voordat de gegevens worden overgedragen. "We hebben een deel van de bedrijfsdata van Spirit Airlines verworven, wat nuttig kan zijn bij het verbeteren van onze producten en AI-modellen", zei een woordvoerder van het techbedrijf in een verklaring die onder meer door nieuwssite Axios wordt geciteerd. 

De aankoop gebeurt op een moment dat AI-bedrijven steeds vaker interne bedrijfscommunicatie proberen te verwerven - onder meer van failliete start-ups - om hun systemen te trainen. Dergelijke gegevens kunnen AI-modellen helpen om zakelijke processen uit de praktijk te simuleren. 

Het Amerikaanse AI-bedrijf Anthropic voert gesprekken om de Israëlische start-up Decart over te nemen voor ongeveer 6 miljard dollar. Dat meldt persagentschap Bloomberg op basis van bronnen vertrouwd met het dossier. 

Decart ontwikkelt zogenoemde 'wereldmodellen', een AI-systeem dat de fysieke regels van de echte wereld kan nabootsen. Dat is bijvoorbeeld nuttig voor toepassingen rond autonoom rijden of in de e-commerce, waarbij de klant kleding virtueel kan passen.

Daarnaast maakt het bedrijf software die de kosten van AI-training kan verlagen door chips efficiënter te laten werken. Die technologie kan Anthropic gebruiken om zijn bestaande infrastructuur uit te breiden, zegt de anonieme bron. 

Tot nu toe heeft het Amerikaanse AI-bedrijf amper grote overnames gedaan. Het investeerde wel al fors in rekenkracht om nieuwe producten te ontwikkelen en klanten beter te bedienen.

Bloomberg beklemtoont dat de overname van Decart nog niet rond is en zelfs nog kan mislukken. Maar als ze gefinaliseerd zou worden, is het wel de grootste overname ooit voor het Amerikaanse bedrijf. 

Voor het eerst hebben onderzoekers met behulp van artificiële intelligentie nieuwe virussen gecreëerd. De primeur gaat naar de Stanford Universiteit in de VS. De virussen zijn ontwikkeld om bacteriën te infecteren en vormen geen bedreiging voor mensen. "Dit is superrevolutionair. Dit biedt goede mogelijkheden, maar heeft ook gevaarlijke kanten", duidt viroloog Marc Van Ranst.

Elk jaar schrijven zo'n 9.000 Deense middelbare scholieren een grote examenopdracht, in Denemarken bekend als de 'større skriftlige opgave' of kortweg SSO. Met een mondelinge verdediging van die proef wil de minister van Onderwijs Magnus Heunicke het gebruik van artificiële intelligentie de kop indrukken.

Het is een van de 3 maatregelen in een pakket dat de minister vandaag lanceert. Naast de mondelinge proef zullen studenten meer opdrachten op school moeten maken en zal het computerscherm tijdens het maken van schoolopdrachten beter worden gecontroleerd. Dat laatste zal gebeuren met een programma dat het scherm van de studenten controleert.

"Helaas kampen we met een probleem van spieken met behulp van AI, er is nu actie nodig. De afgelopen jaren heeft artificiële intelligentie zowel het onderwijs als de examensituatie in het hoger secundair onderwijs steeds meer op de proef gesteld", zegt Heunicke.

De minister benadrukt dat het pakket zal worden aangevuld met verdere initiatieven. "Ook zal de regering een alomvattende nationale strategie opstellen voor het gebruik van kunstmatige intelligentie in de gehele school- en onderwijssector", klinkt het.

AI-modellen van OpenAI hebben maandenlang gecommuniceerd met elkaar in een geheim berichtenforum. Dat heeft het AI-bedrijf bekendgemaakt op een cyberbeveiligingsconferentie. Het bedrijf gaf daarmee meer details over het hackincident van eind juli. De modellen deelden informatie en werkten samen om taken uit te voeren. "Sommige AI-agents werden zelfs paranoïde en dachten dat er een valsspeler in het forum zat."

Nadat AI-modellen van OpenAI en Anthropic eerder hadden ingebroken bij andere bedrijven, heeft nu ook een AI-model van Meta zichzelf toegang verschaft tot de systemen van een ander bedrijf. Dat meldt technologiesite The Information . 

AI-model Meta Muse Spark 1.1 brak in bij een niet nader genoemd bedrijf en maakte wijziging in de systemen van die organisatie. Net als bij eerdere AI-inbreken was dit ook te wijten aan slechte beveiligingsinstellingen tijdens het testen, waardoor het AI-model toegang had tot het internet. 

Het bedrijf dat verantwoordelijk was voor die testen is Irregular. In een reactie laat Irregular weten dat het incident "precies hetzelfde probleem met de evaluatieomgeving betrof als Anthropic vorige week al openbaar maakte" en dat het geen "ontsnapping uit de sandbox of een geavanceerde cyberaanval" inhield.

Een AI-agent heeft meerdere valse identiteiten aangenomen om mensen in een val te lokken. Dat heeft het Britse AI Security Institute (AISI) vastgesteld tijdens veiligheidstesten van AI-modellen van Anthropic en OpenAI. Het is de eerste keer dat de organisatie dergelijk gedrag zag bij een zelfstandig werkend computerprogramma.

Hackers zijn, mede door falende artificiële intelligentie (AI), erin geslaagd zowat 130 miljoen dollar (112,6 miljoen euro) aan bitcoins te stelen van bitcoinbedrijf Coinkite. Dat meldt het bedrijf zelf.

De onderneming had AI ingezet om zijn digitale beveiliging te verbeteren. De AI zag echter een softwarefout over het hoofd. Precies dat lek in de beveiliging werd door de hackers gebruikt bij de diefstal. De hack kwam onlangs aan het licht.

"We begrijpen dat de woede groot is", schrijft Coinkite in een blogbericht . "Gebruikers hebben reële schade geleden, en voor wie getroffen is, volstaat geen publieke verklaring."

Het bedrijf stelt dat de kwetsbaarheid die de hackers ontdekten "een waarschuwing is voor elk bedrijf dat bitcoinhardware en -software bouwt". "Dit is voor ons, en voor elk bedrijf dat met AI‑tools werkt, een reden om exact te weten wat ze detecteren en wat mogelijk buiten beeld blijft."

Geavanceerde AI-modellen van Anthropic zijn ontsnapt uit een beveiligde testomgeving en hebben 3 organisaties gehackt. Dat meldt het Amerikaanse AI-bedrijf zelf. Anthropic voerde een evaluatie uit op zijn systemen, nadat bekend werd dat AI-modellen van OpenAI op hol waren geslagen en op eigen initiatief een bedrijf hadden gehackt. Uit die evaluatie blijkt nu dat er 3 incidenten plaatsvonden op meer dan 140.000 tests.

"Vóór het einde van het jaar zal Grok Imagine een langspeelfilm maken over de 'Odyssee' die historisch accuraat is en recht doet aan Homerus' werk", schrijft miljardair Elon Musk op zijn platform X. Grok Imagine is de foto- en videogenerator van Musks AI-bedrijf xAI. Op X deelde hij ook een clip van hoe Grok Imagine een scène tussen de held Odysseus en de nimf Calypso zou verfilmen. 

Musk had eerder al kritiek geuit op enkele aspecten in Nolans versie van het historische epos, dat sinds kort in de zalen te zien is. Zo was Musk niet te spreken over het feit dat het personage van Helena, de prinses van Troje, vertolkt wordt door een zwarte vrouw. 

De film van Nolan is gebaseerd op het epische dichtwerk van Homeros. Matt Damon kruipt in de huid van de Griekse held Odysseus tijdens diens lange en gevaarlijke reis naar huis na de Trojaanse Oorlog. De sterrencast bestaat verder uit onder andere Anne Hathaway, Tom Holland, Robert Pattinson, Lupita Nyong'o, Zendaya en Charlize Theron. 

Ethisch hacker Inti De Ceukelaire vindt het belangrijk dat er lessen worden getrokken uit de inbraak van 2 AI-modellen van OpenAI bij een ander AI-bedrijf. Voor zover geweten is, is het de eerste keer dat AI-modellen zelfstandig op internet gingen om een ander bedrijf te hacken.

Geavanceerde AI-modellen van OpenAI zijn tijdens veiligheidstests ontsnapt uit een afgeschermde testomgeving. De systemen kregen op eigen houtje toegang tot internet en hackten zich een weg naar binnen bij Hugging Face, een groot platform voor programmeurs en AI-ontwikkelaars.

OpenAI noemt het een "ongekend cyberincident". De AI-modellen gebruikten gestolen inloggegevens en combineerden verschillende aanvalsmethoden om hun doel te bereiken. Het is een van de eerste bekende voorbeelden van een cyberaanval door AI die buiten menselijke controle opereerde.

Het incident voedt de groeiende bezorgdheid over geavanceerde AI die menselijke controlemechanismen omzeilt. OpenAI verwacht dat dit soort voorvallen vaker zal voorkomen en heeft contact gehad met bevoegde overheidsinstanties. Topman Sam Altman reist volgende week naar Washington om de Amerikaanse regering bij te praten.

De Amerikaanse regering heeft de exportbeperkingen voor de krachtigste AI-modellen van Anthropic opgeheven. "Er zijn nog meer veiligheidsmaatregelen ingebouwd, zodat er geen cyberwapen van gemaakt kan worden", zegt Tim Verheyden, AI-expert bij VRT NWS.

De Chinese e-commercegigant Alibaba zou met duizenden nepaccounts toegang proberen te krijgen tot de AI-chatbot Claude. Daarvoor waarschuwt de Amerikaanse eigenaar van Claude, Anthropic, in een brief aan Amerikaanse senatoren en medewerkers van het Witte Huis, waarover The Financial Times bericht.

Claude is niet beschikbaar voor Chinese bedrijven. Maar volgens Anthropic maakten gebruikers die gelinkt zijn aan Qwen, de AI-poot van Alibaba, tussen april en juni bijna 25.000 frauduleuze accounts aan om toch toegang te krijgen tot Claude en wisselden ze 28,8 miljoen berichten uit met de chatbot.

Ze zouden erop uit zijn geweest om het ontwerp en de manier van redeneren van het AI-model te achterhalen, om op basis daarvan sneller en goedkoper eigen modellen te ontwikkelen, luidt het. Dat wordt AI-distillatie genoemd. 

Ook andere Chinese bedrijven zouden dat al geprobeerd hebben, maar nog nooit op diezelfde schaal. Op de beurs in Hongkong kreeg Alibaba na het nieuws klappen. Het aandeel koerst bijna 5 procent lager. Het Chinese bedrijf zelf wenste niet te reageren. 

De Amerikaanse president Donald Trump wil onderzoeken of de Amerikaanse overheid aandeelhouder zou kunnen worden van grote AI-bedrijven zoals Open AI. Dat blijkt uit een verklaring die hij vrijdagavond gaf aan boord van Air Force One.

"Ik zal daarover in de nabije toekomst ook samenzitten met de bedrijven", vertelt hij aan de verzamelde pers. Volgens het Amerikaanse persagentschap Bloomberg zouden die gesprekken de komende dagen al kunnen plaatsvinden.

Volgens Trump zou deze opvallende stap ook in het voordeel kunnen zijn van de Amerikaanse burgers. Hij heeft het over een "partnerschap" tussen de AI-bedrijven, de overheid en de burger. "We willen bekijken op welke manier het Amerikaanse volk kan profiteren van het succes van AI."

Dat het hard gaat met de ontwikkeling van AI voelt iedereen. Maar dat het zo hard gaat dat een AI-systeem zonder menselijke inbreng zijn eigen, verbeterde opvolger bouwt? Bij AI-reus Anthropic, bekend van chatbot Claude, gooien ze nu al de knuppel in het hoenderhok. Hun suggestie: een wereldwijde pauzeknop voor AI, die we kunnen indrukken om de mensheid te laten bijbenen: 

Google moet van de Britse mededingingsautoriteit aanpassingen doorvoeren rond de AI-samenvattingen in zijn zoekresultaten. Dat moet leiden tot eerlijkere deals voor uitgevers en consumenten en de zoekdiensten van Google in het Verenigd Koninkrijk verbeteren. 

Zo moet Google uitgevers, zoals nieuwsorganisaties, de kans geven om te voorkomen dat hun inhoud wordt gebruikt voor AI-functies in zoekopdrachten. Dat geeft hen volgens de toezichthouder een sterkere onderhandelingspositie voor overeenkomsten met Google. De waakhond spreekt van een wereldprimeur.

Ook moet het bedrijf ervoor zorgen dat AI-gegenereerde zoekresultaten goed aan uitgevers worden toegeschreven met duidelijke links. Google krijgt 9 maanden de tijd om de wijzigingen door te voeren.

De groep BNP Paribas zal in de komende jaren minder mensen aanwerven dan er vertrekken voor zijn commerciële activiteiten in België. De Belgische bank denkt in 3 jaar tijd taken van een duizendtal mensen te vervangen door artificiële intelligentie en digitalisering. 

Anseeuw geeft het voorbeeld van de chatbot die de bank vorig jaar lanceerde voor interacties met klanten. "Klanten kunnen al veel in de app, maar ze willen soms ook met een bankier spreken. Een steeds groter deel van die interacties kunnen we via een bot afhandelen."

Zo is er veel communicatie over bankkaarten. Vorig jaar waren daar 8,6 miljoen vragen van klanten over. "In 2028 willen we 7 miljoen interacties via de bot afhandelen. Zo hoeven we mensen die vertrekken uit het callcenter niet allemaal te vervangen", aldus Anseeuw.

Vorig jaar vertrokken bij BNP Paribas Fortis ongeveer 500 mensen, terwijl er maar 330 werden aangeworven. "Ook de komende jaren zullen AI-investeringen het mogelijk maken om maar 75 à 80 procent van de vertrekkers te vervangen", zegt de CEO.

Toch zal de bank blijven investeren in haar werknemers, benadrukt Anseeuw. "Met opleidingen in onder andere expertise willen we ons blijven onderscheiden op de markt, en we gaan ook de diversiteit verder versterken."

De Europese Unie heeft een akkoord over een verbod op AI-systemen die seksueel expliciete beelden kunnen genereren zonder toestemming van de betrokkene, zoals Grok. Het akkoord houdt een expliciet verbod in op 'nudify'-apps en andere AI-systemen die zonder toestemming naaktbeelden en seksueel getinte of expliciete foto's maken. 

Lees meer in dit artikel:

Apple heeft ingestemd met een schikking van 250 miljoen dollar in een collectieve rechtszaak waarbij de techgigant werd beschuldigd van het misleiden van miljoenen iPhone-kopers. De eisers beschuldigden het bedrijf ervan "AI-mogelijkheden te hebben gepromoot die op het moment van de feiten niet bestonden, vandaag niet bestaan en pas over 2 jaar of later zullen bestaan", om de verkoop van iPhones te stimuleren.

De Amerikaanse reclametoezichthouder, de Better Business Bureau's National Advertising Division, besloot dat Apple ten onrechte had gesuggereerd dat de nieuwe, met AI aangestuurde Siri "nu beschikbaar" was. De overeenkomst, waarin Apple geen schuld erkent, heeft betrekking op ongeveer 36 miljoen toestellen die tussen 10 juni 2024 en 29 maart 2025 in de Verenigde Staten zijn aangekocht.

Elke deelnemer aan de groepsvordering ('class action') zou 25 dollar per toestel kunnen ontvangen, een bedrag dat kan oplopen tot 95 dollar, afhankelijk van het aantal goedgekeurde eisers. Het akkoord moet nog worden goedgekeurd door de federale rechtbank. De advocaten van de eisers zouden tot 28 procent van de schikking kunnen ontvangen, ofwel 70 miljoen dollar. 

Britse kiezers krijgen steeds vaker nepnieuws te zien en er is best wat bezorgdheid dat dat hun stemgedrag beïnvloedt. Daarom startte de Britse kiescommissie een proefproject om desinformatie in kaart te brengen. Ook tegen lokale kandidaten werden wel degelijk gemanipuleerde beelden ingezet. Een vrouwelijke kandidaat die géén hoofddoek droeg, kreeg er wel een aangemeten. De aanhangers van een andere kandidaat kregen een andere huidskleur en afkomst.

De afgelopen dagen zijn er AI-beelden van Giorgia Meloni verspreid op sociale media. Zo is de Italiaanse premier onder meer te zien in lingerie. "Ik moet toegeven dat wie ze gemaakt heeft, mijn uiterlijk ook echt beter heeft gemaakt", grapt ze in een bericht op X, waarin ze een neppe lingeriefoto deelt. Meloni vermoedt dat "een of andere ijverige tegenstander" de deepfake-beelden heeft gemaakt.

"Het is een feit dat mensen tegenwoordig alles gebruiken om leugens te verspreiden." Meloni kreeg veel kritiek van mensen die niet doorhadden dat het om AI-beelden ging. Ze wil die mensen dan ook waarschuwen. "Deepfakes zijn een gevaarlijk instrument, omdat ze iedereen kunnen misleiden, manipuleren en aanvallen. Daarom moet er 1 regel gelden: verifieer voordat je beelden gelooft en geloof voordat je de beelden deelt. Wat mij vandaag overkomt, kan morgen iedereen overkomen."

Het is niet de eerste keer dat Meloni opduikt in AI-gegenereerde beelden. Afgelopen zomer werden duizenden bewerkte foto’s van vrouwen op een pornosite ontdekt. Ook de Italiaanse premier was toen het slachtoffer. Na afloop van het schandaal werd Italië het eerste EU-land dat een AI-wet goedkeurde, waardoor mensen een gevangenisstraf kunnen krijgen als ze AI gebruiken om schade aan te richten.

Alleen menselijke acteurs en scenario's geschreven door mensen komen in aanmerking voor een Oscar. Dat heeft de Academy, die de uitreiking van de bekende filmprijzen organiseert, bekendgemaakt. 

De organisatoren hebben een aantal regels aangepast of verduidelijkt, onder meer rond het gebruik van artificiële intelligentie. Voor de acteursprijzen komen alleen rollen in aanmerking die "aantoonbaar gespeeld worden door mensen, met hun toestemming", klinkt het.

Een andere opvallende aanpassing zit in de categorie "Internationale Feature Film". Voortaan zullen niet alleen de films in aanmerking komen die door elk land apart worden geselecteerd als inzending. Ook films die een prijs winnen op een aantal belangrijke internationale filmfestivals, kunnen in die categorie deelnemen. 

Socialmediaconcern Meta verwacht dit jaar nog meer geld kwijt te zijn aan de bouw van datacenters voor AI dan eerder geraamd. Het bedrijf achter Facebook en Instagram doet volop mee in de wedloop om de meest geavanceerde toepassingen van kunstmatige intelligentie te ontwikkelen. De halfgeleiders die al het rekenwerk moeten doen, zijn echter in prijs gestegen.

Contentmakers Winnie Bogaerts en Elke Vanhouche delen op sociale media alleen foto's en video's waarop hun kinderen niet herkenbaar zijn. Ook wel sharenting genoemd. Ze willen niet alleen de privacy van hun gezin beschermen, maar ook misbruik via AI voorkomen. Hun bezorgdheid is terecht, zeggen 2 experten. "Veel beelden die circuleren in pedofiele netwerken zijn geplukt van sociale media."

Wil je meer weten over sharenting? In het Radio2-programma 'WinWin' zoekt Xavier Taveirne uit wat de gevaren ervan zijn. 

Elon Musk en Sam Altman hebben op enkele meters van elkaar plaatsgenomen in een Californische rechtszaal voor de start van een proces over de koers van OpenAI. De topman van SpaceX beschuldigt de leider van het AI-bedrijf ervan de oorspronkelijke non-profitdoelstellingen van de start-up te hebben verraden. De rechter gaf beide heren al meteen een uitbrander vanwege hun bitse discussies op X.

Meer dan 6 op de 10 Belgen zeggen dat ze zich zouden schamen als ze het slachtoffer zouden worden van online fraude. Dat blijkt uit een bevraging van bankenfederatie Febelfin. "Vooral jongeren denken dat het hen niet zal overkomen", zegt Philippe Geubels, die mensen oproept om hun verhaal te delen om het taboe te doorbreken.

De Vlaamse Scholierenkoepel vraagt scholen om duidelijke afspraken te maken over artificiële intelligentie (AI). Heel wat scholieren gebruiken AI voor schoolwerk, vaak als hulpmiddel om leerstof beter te begrijpen of als inspiratie bij een opdracht.

Uit een bevraging blijkt dat scholieren zelf vragen hebben over hoe ze AI goed kunnen gebruiken. 

Lees er hier alles over:

Als ambassadeur van de VRT Checkweken trekt influencer en podcastmaker Anna-Livia Smekens naar een woonzorgcentrum voor een bijles in artificiële intelligentie.

Samen met de bewoners volgt ze een snelcursus AI van Mediawijs, het Vlaams Kenniscentrum Digitale en Mediawijsheid dat Vlamingen helpt kritisch om te gaan met technologie en media.

60 miljoen streams op Spotify, maar amper 32.000 volgers op Instagram. De nieuwe band Temper City scoort enorm goed met zijn eerste single 'Self Aware'.

Terwijl geruchten rondgaan dat de muziek gemaakt is met artificiële intelligentie, gaat de muziek hard op sociale media dankzij een moderne en allicht dure strategie met promotie-accounts op TikTok.

De Amerikaanse popster Taylor Swift wil haar beeld en stem als merk laten registreren om misbruik met artificiële intelligentie tegen te gaan. Ze heeft daarvoor een foto en 2 geluidsfragmenten ingediend bij het merkenbureau. Daarmee hoopt de zangeres sterker te staan in de rechtbank.

Lees meer over dit verhaal in onderstaand artikel. 

De overname van het Chinese AI-bedrijf Manus door Meta (moederbedrijf van Facebook) mag niet doorgaan van China. Chinese autoriteiten blokkeren de deal waarmee 2 miljard dollar is gemoeid, zonder daarvoor een duidelijke reden te noemen.  

De Nationale Ontwikkelings- en Hervormingscommissie in Peking heeft besloten dat het "de buitenlandse investering in de overname van het Manus-project verbiedt" en "eist dat de betrokken partijen de overnametransactie intrekken". Het nieuws volgt op mediaberichten dat China 2 medeoprichters van het bedrijf had verboden het land te verlaten.

Manus is gevestigd in Singapore, maar werd in China opgericht door techbedrijf The Butterfly Effect. Het bedrijf heeft een AI-hulp op de markt gebracht die zelfstandig taken kan uitvoeren zoals cv's beoordelen, vakanties plannen of aandelen analyseren. Voor Meta zou dit een aanvulling zijn op de eigen AI-chatbot die het via WhatsApp, Instagram en Facebook aanbiedt. 

In Californië start vandaag de rechtszaak die Tesla-oprichter Elon Musk heeft aangespannen tegen Sam Altman, de CEO van OpenAI en het bedrijf achter ChatGPT. De 2 hebben al jaren lang ruzie met elkaar. Volgens Musk zou Altman een vroege overeenkomst van OpenAI hebben geschonden.

Hoe goed kan jij AI herkennen? Ook nws.nws.nws doet de check met 3 video's. Kyan, AI-expert bij VRT, geeft iedereen een paar goede tips mee: 

"Kijk goed naar de achtergrond bij video's, daar loopt meestal vanalles fout", klinkt het. "En vaak zijn AI-video's ook korter dan echte video's, tussen 0 en 5 seconden of niet langer dan 10 seconden omdat die programma's vaak gelimiteerd zijn." Bekijk het hier:

Sereact, een Duitse ontwikkelaar van roboticasoftware, heeft 110 miljoen dollar (93,7 miljoen euro) aan nieuwe financiering opgehaald voor het ontwikkelen van een AI-model dat robots slimmer maakt en meer geschikt voor het uitvoeren van verschillende taken.

Vandaag zijn zulke robots nog erg reactief en anticiperen ze moeilijk op fouten, zoals het per ongeluk laten vallen van voorwerpen. De start-up uit Stuttgart zegt dat zijn nieuwe AI-model daar verandering in zal brengen. Hun software stuurt al machines aan die onderdelen ophalen en leveren voor autofabrikanten. Onder andere BMW en Daimler maken er gebruik van.

Chris Umé wordt wereldwijd gezien als de pionier van de deepfaketechnologie, sinds hij 4 jaar geleden zijn 'deeptomcruise'-filmpjes deelde. Hij ging daarmee de wereld rond. 'Touché' op Radio 1 nodigde hem uit omwille van de VRT Checkweken.

"Toen plaatste ik die filmpjes om mensen te waarschuwen: de technologie komt eraan. En nu is ze er", begint hij. Hij ziet vooral voordelen van de technologie: "De AI-kracht die gebruikt wordt om nepvideo's te maken, kan ook door journalisten ingezet worden om te factchecken." 

Lees het interview met Chris Umé hier:

Google zal 10 miljard dollar investeren in Anthropic, met de optie van nog een extra 30 miljard dollar als het AI-bedrijf bepaalde doelstellingen haalt. Dat bevestigt Anthropic aan persagentschap Bloomberg.

Anthropic is het bedrijf boven het succesvolle AI-model Claude. Het werd in 2021 opgericht door voormalige medewerkers van OpenAI, het bedrijf boven ChatGPT.

Anthropic kon eerder al miljarden aan fondsen binnenrijven, onder meer van Amazon en van Google, om de rekenkracht van Claude te kunnen uitbreiden. Tegelijk is Anthropic een belangrijke klant van de chips en clouddiensten van Google en dus heeft de Alphabet-dochter er alle belang bij om het AI-bedrijf te laten groeien. Google biedt naast extra fondsen ook extra cloudcapaciteit aan Anthropic. 

De inlichtingendiensten krijgen meer wettelijke mogelijkheden om dreigingen te verstoren en te neutraliseren. Een voorontwerp van wet van minister van Justitie Annelies Verlinden (CD&V) heeft groen licht gekregen van de ministerraad. Er komt ook een wettelijk kader voor het gebruik van artificiële intelligentie.

Kan jij nep van echt onderscheiden? Intussen hebben al ruim 350.000 mensen deelgenomen aan de AI Check. En daaruit blijkt dat de Vlaming redelijk goed is in het onderscheiden wat AI is en wat nep is.

De gemiddelde score is 81 procent. Vooral de vragen over Pommelien Thijs en Melania Trump lijken de meeste deelnemers in de val te lokken?

Benieuwd hoe jij scoort? Doe hier de test.

Je eigen stem zinnen horen zeggen die je nooit hebt uitgesproken. Het overkwam stemacteur Nicolas Cherlet (35). Zijn stemgeluid werd met artificiële intelligentie gekloond en gebruikt in een reclamespot, zonder zijn medeweten of toestemming. Technologisch misschien indrukwekkend, maar wel een ernstige inbreuk op je rechten.

Lees meer over het verhaal van Nicolas in onderstaand artikel. 

"Een AI-stem valt niet meer te onderscheiden van echte stemmen." Dat zegt Tim Verheyden, expert artificiële intelligentie bij VRT NWS. 

In het consumentenprogramma WinWin op Radio 2 laat hij een fragment horen dat de stem van presentator Xavier Taveirne nabootst. "Ik ben de AI-versie van Xavier. Ik hou van mijn lieve collega’s en daarom geef ik hen morgen een chocoladetaart met frambozen", klinken de woorden die met AI zijn gekloond.

Maar als je neppe stemmen niet meer kan onderscheiden van echte, wat kan je dan wel nog doen? "Als je twijfelt: neem even pauze", zegt Verheyden. "Je kan ook bijvoorbeeld een woord afspreken met je familie of vrienden om er zeker van te zijn dat de persoon aan de andere kant van de lijn echt is."

Premier Bart De Wever (N-VA), Caroline Gennez (Vooruit), Cieltje Van Achter (N-VA), Tom Van Grieken (Vlaams Belang), Aimen Horch (Groen), Jos D'Haese (PVDA) deden de AI check in het kader van de VRT Checkweken. 

Bij die test kan je zelf nagaan of je AI kan onderscheiden van foto's, beelden of muziek die wél authentiek zijn. Concreet moet je 12 keer oordelen: is dit echt of is dit AI?

Kan jij nep van echt onderscheiden? Doe hier zelf de AI Check.

Priester Wim Simons uit Zonhoven kreeg onlangs berichten van oplichters die zich voordeden als paus Leo XIV. 'De paus' stuurde een foto van zichzelf in een ziekenhuisbed en vroeg Simons om financiële hulp, alsof hij de priester goed kende. Volgens cyberexperts worden boodschappen van oplichters steeds persoonlijker door artificiële intelligentie.

Lees meer over het verhaal van priester Wim in onderstaand artikel. 

Een "groepje onbevoegden" is er dan toch in geslaagd het nieuwste AI-model van Anthropic te kraken. Dat meldt Bloomberg. Ontwikkelaar Anthropic houdt Mythos voorlopig bewust achter slot en grendel, omdat criminelen het als cyberwapen zouden kunnen inzetten. 

De Belgische Vereniging voor Artsensyndicaten, BVAS, waarschuwt voor een toename aan deepfake-video’s van bekende artsen en Belgische ziekenhuizen op sociale media. In die AI-video’s wordt de naambekendheid van artsen misbruikt om dubieuze medicijnen en supplementen te verkopen. “Dat brengt niet alleen risico’s mee voor de volksgezondheid, maar het ondermijnt ook het vertrouwen in de gezondheidszorg.”

Lees meer in onderstaand artikel.

De autoriteiten in Florida stellen na een schietpartij een strafrechtelijk onderzoek in naar ChatGPT-maker OpenAI. Een man die twee mensen doodschoot op een universiteit liet zich adviseren door de chatbot, zegt procureur-generaal James Uthmeier. 

"De chatbot adviseerde de schutter over welk type wapen hij moest gebruiken, welke munitie bij welk wapen hoorde en of een wapen nuttig zou zijn op korte afstand", aldus Uthmeier op een persconferentie. Ook zou advies zijn gegeven over waar en wanneer de man het beste kon toeslaan op de campus.

Het onderzoek draait om de vraag of OpenAI aansprakelijk is voor het optreden van ChatGPT rond de schietpartij. Als de chatbot een persoon was geweest, was die volgens de procureur-generaal zelf vervolgd voor moord.

OpenAI laat in een verklaring aan persbureau AFP weten niet verantwoordelijk te zijn voor de schietpartij. De chatbot gaf "feitelijke antwoorden" en zou geen illegaal gedrag hebben aangemoedigd.

VRT gaat gebruik van AI in uitzendingen of online voortaan aanduiden met een specifiek label. Dat maakt de openbare omroep bekend in het kader van de VRT Checkweken. Op die manier moet worden vermeden dat verwarring ontstaat wanneer personen, objecten of gebeurtenissen met AI zijn gemaakt of aangepast.

Dit maakt deel uit van bredere AI-wetgeving vanuit Europa. Hoewel die nog niet volledig van kracht is, kiest de VRT nu al om proactief over het gebruik van AI te communiceren. De openbare omroep heeft hierover bovendien afspraken gemaakt met de commerciële spelers Play en VTM. Ook zij gaan de komende maanden een AI-label uitrollen.

Intussen vulden al 200.000 lezers de 'Doe de AI check' in, een test die gisteren werd gelanceerd in het kader van de VRT Checkweken. Van Bart De Wever tot een springende beer en een zingende Pommelien Thijs: kan jij zelf nep van echt onderscheiden?

De populaire AI-chatbot ChatGPT kampt met een zware technische storing. Hoewel er ondertussen gebruikers zijn bij wie de AI-toepassing opnieuw werkt, krijgen nog veel gebruikers geen antwoord op hun vragen. OpenAI, het moederbedrijf achter de tool, bevestigt de problemen en zegt aan een oplossing te werken. 

Al meer dan 100.000 mensen hebben 'Doe de AI check' gedaan, een test die vandaag is gelanceerd in het kader van de VRT Checkweken en waarbij je zelf kan nagaan of je AI kan onderscheiden van foto's, beelden of muziek die wél authentiek zijn. Concreet moet je 12 keer oordelen: is dit echt of is dit AI?

Er doen opnieuw deepnudes de ronde van contentcreator Steffi Mercie. Deepnudes zijn valse naaktbeelden die gemaakt worden met artificiële intelligentie. Het is niet de eerste keer dat er valse naaktbeelden van Mercie worden verspreid. "Er moeten echt dringend maatregelen komen."

Lees het volledige artikel hier.

Ook op Radio 1 is er deze week extra veel aandacht voor de risico’s (en mogelijkheden!) van AI en deepfakes. Van maandag tot en met vrijdag is er elke dag een extra uitzending van 'Het uur van de waarheid' tussen 9 uur en 10 uur. Alles is ook te herbeluisteren in de podcast.

In de uitzending van vandaag heeft Dennis van den Buijs het met parketmagistraat Catherine Van de Heyning en Childfocus over de problemen van deepnudes.

Beluister hieronder de podcast.

Child Focus heeft dit jaar al elke week een melding ontvangen van een minderjarige die slachtoffer werd van deepnudes. Dat zijn valse naaktbeelden die gemaakt worden met artificiële intelligentie. "Het werkelijke aantal slachtoffers ligt nog veel hoger", zegt Child Focus. Toch spreken rechtbanken en parketten amper straffen uit voor daders.

Ambassadeurs Anna-Livia Smekens, Fatma Taspinar en Tim Verheyden duiken 2 weken in de wereld van AI, nepbeelden en fake news om jou te helpen het onderscheid te maken tussen echt en vals, tussen realiteit en misleiding. Met 'Doe de AI Check' van VRT NWS kan je ook zelf aan de slag.

OpenAI, het technologiebedrijf achter de chatrobot ChatGPT, lanceert een nieuw AI-model dat gespecialiseerd is in cyberveiligheid. Het programma kan in eerste instantie enkel door een select gezelschap worden gebruikt. De lancering vindt plaats een week nadat concurrent Anthropic met Mythos al de beperkte release van een gelijkaardig programma aankondigde. 

Meta-topman Mark Zuckerberg laat een AI-versie van zichzelf ontwikkelen om de band tussen hem en zijn medewerkers te verbeteren. Dat meldt de krant Financial Times. De AI-kloon is gebaseerd op zijn eigen stem en beeldmateriaal en moet feedback geven aan medewerkers. Zo wil het bedrijf de interne betrokkenheid vergroten.

Een tool die in staat is om bijna elke computer ter wereld te hacken: dat is Mythos, een nieuw AI-model van ontwikkelaar Anthropic dat onrust zaait bij bedrijven, banken en overheden wereldwijd. "Als je geen gigantische veiligheidsmuur hebt, ben je een vogel voor de kat", zegt AI-onderzoeker Steven Latré. Net omdat de gevaren zo groot zijn, heeft het bedrijf beslist de tool voorlopig achter slot en grendel te houden.

De ontwikkelingen rond artificiële intelligentie gaan razendsnel. In deze liveblog vatten we het meest recente nieuws samen.