Kabinet onderzoekt verbod op AI-uitkleedtools, maar aanpak 'complex'
Van Oosten noemt het 'buitengewoon verwerpelijk' dat de applicatie het mogelijk maakt om mensen in diskrediet te brengen. "De impact van online seksueel misbruik is enorm."
Daarbij benadrukt de VVD'er dat het maken van naaktbeelden van mensen, zonder dat daar toestemming voor is gegeven, strafbaar is. Een verbod op de app is dus een optie, maar het ministerie noemt de kwestie 'complex en kent helaas geen snelle oplossing'.
Grok is al dagen in opspraak, omdat er seksueel getinte en naaktafbeeldingen van mensen mee gemaakt kunnen worden, ook van minderjarigen. Vandaag werd bekend dat de Filipijnen om die reden Grok in het land heeft geblokkeerd. Het land vindt dat Grok de veiligheid van kinderen in gevaar brengt.
Chatbot Grok onder vuur om seksuele beelden van minderjarigen
Andere landen, zoals het Verenigd Koninkrijk, onderzoeken ook of de functie van de chatbot in strijd is met de wet. Ook Franse ministers stapten naar justitie om Grok tot de orde te roepen. In Maleisië is de toegang tot de chatbot beperkt en in Indonesië kunnen mensen er helemaal geen gebruik van maken.
Volgens Universitair docent recht en technologie aan de Vrije Universiteit Amsterdam Sarah Eskens kan Nederland op basis van Europese wetgeving Grok blokkeren, maar daar gaat een lang en zorgvuldig proces aan vooraf."
"Dit is een typisch voorbeeld van hoe de Europese Unie online diensten onder de Digital Services Act (DSA) reguleert. Dat is altijd een ballans tussen de vrijheid van meningsuiting en de bescherming van de gebruikers op een online platform. Als er strafbare feiten op een digitaal platform plaatsvinden dan is dat niet per definitie voldoende om zo'n dienst direct te verbieden. Begrijp me niet verkeerd, Grok is een heel naar iets maar een verbod in Nederland zal volgen op een langdurige proces met allerlei waarborgen voor vrijheid van meningsuiting en vrijheid van ondernemerschap."
Politie krijgt bijna de helft meer meldingen van online seksueel misbruik: 'Gigantisch probleem'
In Amerika zelf zijn de middelen om zaken als Grok te bestrijden al helemaal beperkt. Toch maakte de procureur-generaal van Californië gisteren bekend dat de staat een onderzoek start naar Musks xAI. Per uur genereert de chatbot zo'n 6700 seksuele deepfakes van mensen die daar geen toestemming voor hebben gegeven, blijkt uit een Amerikaans onderzoek naar Grok.
Als reactie op de onderzoeken in verschillende landen naar Grok meldde de AI-dienst op X dat de functie om mensen digitaal uit te kleden nu ook voor betalende gebruikers verdwijnt. Eerder werd de functie al uitgezet voor niet-betalende gebruikers. Eén kanttekening: het bedrijf verbiedt de seksueel getinte deepfakes alleen in landen waar het delen van dergelijke beelden in strijd is met de wet.
In deze video legt techredacteur Wouter van Dijke uit hoe het virtuele uitkleden werkt:
