Laden

RTL Nieuws

Chatbot Grok onder vuur om seksuele beelden van minderjarigen

RTL Nieuws··Aangepast: 
Franse ministers hebben een melding gemaakt bij justitie over Grok. Dat is de chatbot van Elon Musks start-up xAI. De chatbot heeft 'seksuele en seksistische' inhoud gegenereerd die 'overduidelijk illegaal' was, melden de ministers in een verklaring.Maak RTL je Google-favoriet
© ANPChatbot Grok onder vuur om seksuele beelden van minderjarigen

De afgelopen dagen creëerde Grok beelden van schaars geklede minderjarigen, als reactie op verzoeken van gebruikers. Dit is in strijd met het beleid van de chatbot, dat de seksualisering van kinderen verbiedt, meldde Grok op X na vragen van gebruikers.

De Franse ministers hebben de inhoud gemeld bij de Franse mediatoezichthouder Arcom, om te controleren of deze de Digital Services Act (DSA) van de EU overtreedt. Volgens Grok zijn de aanstootgevende beelden inmiddels verwijderd. "We hebben tekortkomingen in de beveiliging geïdentificeerd en zijn deze met spoed aan het verhelpen."

Virtueel uitgekleed

Ook in Groot-Brittannië ligt Grok onder vuur vanwege vergelijkbare incidenten. De BBC sprak met journalist Samantha Smith, die op X schreef over een foto van haar waarbij ze 'virtueel werd uitgekleed'. Ze vertelde aan de BBC dat ze zich 'ontmenselijkt en gereduceerd tot een seksueel stereotype' voelde na het zien van de foto.

Lees ook

Elon Musk kondigt 'kindvriendelijke' chatbot aan, en dat baart experts zorgen

Smith deelde vervolgens ook een bericht op X over het feit dat haar afbeelding was bewerkt, wat leidde tot reacties van mensen die hetzelfde hadden meegemaakt. Vervolgens vroegen anderen Grok om meer afbeeldingen van haar te maken. 

"Hoewel ik het niet was die halfnaakt was, leek de persoon wel op mij en voelde het als mij. En het voelde net zo intimiderend als iemand die daadwerkelijk een naaktfoto of bikinifoto van mij zou hebben geplaatst."

De Britse omroep heeft op het X verschillende voorbeelden gezien van mensen die de chatbot vragen om vrouwen uit te kleden en ze zonder hun toestemming in bikini's te laten verschijnen of in seksuele situaties te plaatsen.

Illegaal

De Britse toezichthouder Ofcom zei dat technologiebedrijven het risico moeten inschatten dat mensen in het Verenigd Koninkrijk illegale content op hun platforms bekijken, maar bevestigde niet of er momenteel een onderzoek loopt naar X of Grok in verband met AI-beelden.

In een verklaring aan de BBC zei Ofcom dat het illegaal is om 'niet-consensuele intieme beelden of materiaal over seksueel misbruik van kinderen te creëren of te delen' en bevestigde dat dit ook seksuele deepfakes betreft die met behulp van AI zijn gemaakt.

In Nederland is het maken van deepfake porno met hulp van AI al strafbaar. Toch is het heel eenvoudig te maken:

Deel artikel
Lees meer over