De Belgische minister van Digitalisering, Vanessa Matz (Les Engagés), onderneemt juridische en politieke stappen tegen Grok, de AI-chatbot van socialemediaplatform X. De maatregelen volgen op een golf van internationale kritiek over de chatbot, die op grote schaal wordt gebruikt voor het genereren van niet-consensuele naaktbeelden en erotische deepfakes, waaronder beelden van minderjarigen.
De ophef ontstond nadat gebruikers ontdekten dat Grok, ontwikkeld door het bedrijf van Elon Musk, beveiligingen miste om het genereren van seksueel expliciet materiaal te blokkeren. Gebruikers konden de AI vragen om personen op foto’s – van beroemdheden tot willekeurige voorbijgangers en kinderen – "uit te kleden" of in bikini weer te geven. Dit fenomeen, door X eerder aangeduid als een "spicy mode", leidde tot geschokte reacties bij overheden wereldwijd.
"Onaanvaardbare misstanden" in België
Minister Matz spreekt van "onaanvaardbare misstanden" en wil niet toelaten dat digitale ruimtes veranderen in "zones van wetteloosheid". Ze heeft telecomwaakhond BIPT ingeschakeld om de Europese Commissie te alarmeren en de urgentie van de zaak te benadrukken.
Daarnaast heeft Matz contact opgenomen met het federaal parket. Ze wil laten onderzoeken of er reeds Belgische slachtoffers zijn en of er lopende dossiers zijn. Volgens de minister vallen de feiten onder de Belgische wetgeving rond wraakporno en is een strafrechtelijke kwalificatie op zijn plaats.
Als meest drastische maatregel onderzoekt de minister of Grok in België volledig of gedeeltelijk kan worden opgeschort zolang X niet aan zijn wettelijke verplichtingen voldoet. "Innovatie kan geen excuus zijn om regelgeving los te laten", aldus Matz, die stelt dat de vooruitgang op het vlak van vrouwenrechten hierdoor wordt ondermijnd.
Europese en internationale veroordeling
België staat niet alleen in zijn kritiek. De Europese Commissie reageerde woedend op de praktijken. Een woordvoerder noemde de situatie "afschuwelijk, walgelijk en illegaal" en benadrukte dat dit niets te maken heeft met "spicy" content, maar met strafbare feiten die geen plaats hebben in Europa.
Ook andere landen roeren zich:
Frankrijk: Het Franse parket is reeds een strafrechtelijk onderzoek gestart naar de illegale seksuele inhoud.
Duitsland: Mediaminister Wolfram Weimer riep de EU op tot juridische stappen en noemde de situatie op X "de industrialisatie van seksuele intimidatie".
Verenigd Koninkrijk: Toezichthouder Ofcom eist opheldering over hoe X zijn zorgplicht voor gebruikers heeft geschonden.
Azië: Maleisië is een onderzoek gestart en India gaf X een ultimatum van 72 uur om met een rapport over maatregelen te komen.
Kinderen als slachtoffer
De kritiek spitst zich met name toe op het gemak waarmee afbeeldingen van minderjarigen worden gemanipuleerd. Er zijn gevallen bekend waarbij de tool kleding verwijderde van foto’s van herkenbare minderjarigen, waaronder een 14-jarige actrice uit de serie Stranger Things. Juridische experts waarschuwen dat dit mogelijk in strijd is met wetgeving rond kindermisbruikmateriaal, zowel in de VS als in Europa.
Reactie van Elon Musk
De reactie vanuit X is tweeslachtig. Enerzijds liet het bedrijf weten "tekortkomingen in de beveiliging" te hebben geïdentificeerd en deze met spoed te willen verhelpen. Anderzijds deed eigenaar Elon Musk de ophef op zijn eigen platform af als "leugens van de traditionele media". Hij reageerde met lachende emoji's op bewerkte beelden en plaatste zelfs een gemanipuleerde foto van zichzelf in bikini om de situatie belachelijk te maken.
Minister Matz hekelde deze houding in de Kamer: "Achter een discours van zogenaamde vrijheid van meningsuiting organiseert Elon Musk een campagne die gebaseerd is op een diep immoreel gebruik van artificiële intelligentie."
