De Europese Commissie opent een formeel onderzoek naar Grok, de AI‑toepassing van X. Het onderzoek is gericht op de mogelijkheid om met Grok valse naaktbeelden te genereren. "Seksuele deepfakes van vrouwen en kinderen zonder hun toestemming zijn een gewelddadige, onaanvaardbare vorm van vernedering", zegt de bevoegde eurocommissaris Henna Virkkunen.
Europa opent formeel onderzoek naar AI-chatbot van Elon Musk wegens mogelijkheid om valse naaktbeelden te genereren
Kasper Nollet
Gepubliceerd:
Het onderzoek maakt deel uit van de zogenoemde Europese digitaledienstenverordening, die grote technologiebedrijven in de Europese Unie verplicht om bepaalde regels te volgen rond onder meer privacy, transparantie en sociale veiligheid.
De Europese Commissie onderzoekt nu of X de risico’s van de AI-chatbot Grok goed heeft beoordeeld en beperkt. Het gaat voornamelijk over de verspreiding van illegale en gemanipuleerde seksuele beelden, ook van minderjarigen. "Grok heeft Europese burgers blootgesteld aan serieuze schade", klinkt het in een persmededeling.
2 onderzoeken naar X
Tegelijk breidt de Commissie een al sinds 2023 lopend onderzoek tegen X uit over het algoritme dat mee bepaalt welke posts gebruikers van de app te zien krijgen. Er wordt ook bekeken of X voldoende doet om gebruikers en minderjarigen te beschermen tegen illegale of schadelijke inhoud. Het gaat dan bijvoorbeeld over beelden van kindermisbruik of over terreurcontent.
Ook misleidend ontwerp, gebrekkige advertentietransparantie en een te beperkte toegang voor onderzoekers werden toen al onderzocht. Voor die tekortkomingen kreeg X op 5 december 2025 al een boete van 120 miljoen euro. Nu riskeert X opnieuw een boete indien het niet tijdig een risicobeoordeling indient die aan de voorwaarden van de Commissie voldoet.
Heisa rond seksuele deepfakes
X en zijn eigenaar Elon Musk liggen al langer onder vuur, omdat het platform seksuele deepfakes genereerde met behulp van AI-applicatie Grok. Niet alleen van volwassenen, maar ook van kinderen.
X kondigde recent nog aan dergelijke afbeeldingen van minderjarigen te zullen verwijderen, en de optie om mensen uit te kleden met Grok te schrappen. Een onderzoek van VRT NWS toonde recent nog aan dat dat echter nog steeds mogelijk is.
"Niet‑consensuele seksuele deepfakes van vrouwen en kinderen zijn een gewelddadige en onaanvaardbare vorm van vernedering", zegt Henna Virkkunen, uitvoerend vicevoorzitter van de Commissie voor Technologische Soevereiniteit, Veiligheid en Democratie.
"Met dit onderzoek zullen we kunnen vaststellen of X ofwel zijn wettelijke verplichtingen onder de DSA is nagekomen, ofwel dat het de rechten van Europese burgers - inclusief die van vrouwen en kinderen - heeft behandeld als nevenschade van zijn diensten."
Dat de Commissie het onderzoek heeft geopend is goed, maar eigenlijk had ze haar eigen regels eerder en beter hebben moeten handhaven, vindt Europees Parlementslid Kathleen Van Brempt (Vooruit). "We weten al langer dat Big Tech-bedrijven en grote online platformen zich niet houden aan de regels. Maar het aantal incidenten neemt in sneltempo toe. Er is duidelijk een probleem met de handhaving".
Vlaams minister van Media Cieltje van Achter (N-VA): "Goed dat EU perk en paal stelt"
Een goede zaak, vindt Vlaams minister van Media Cieltje Van Achter (N-VA) het onderzoek naar Grok. "Het is goed dat de EU nu paal en perk stelt. Innovatie mag nooit ten koste gaan van onze veiligheid of een vrijgeleide geven om mensen te schaden".
Europa onderzoekt AI die naaktbeelden maakt, maar optreden blijft volgens Van Achter vaak traag en ingewikkeld. "Daarom neemt Vlaanderen zelf het heft in handen: we bekijken hoe de regels rond deepfakes en deepnudes strenger en duidelijker kunnen, zodat slachtoffers sneller beschermd zijn. Met het actieplan Veilig Online zegt Vlaanderen het helder: Wat offline verboden is, kan ook online niet. En dat geldt ook voor AI".