USA - Künstliche Intelligenz ist mit ChatGPT und Co. längst im Alltag angekommen. Auch die Social-Media-Plattform X führte vor einigen Monaten mit "Grok" einen KI-Chatbot ein. Doch immer mehr Nutzer missbrauchen diesen, um sexualisierte Bilder von Frauen und Kindern zu erzeugen.

Auslöser ist eine neue Funktion des Chatbots, mit der sich Bilder verändern lassen.

Wird beispielsweise ein ganz normales Bild einer Frau gepostet, können Nutzer der KI befehlen, die abgebildete Person auszuziehen oder sie in knapper Kleidung darzustellen - "Grok" folgt diesen Befehlen und erstellt sogenannte Deepfakes.

Auch Kinder sind von diesem verstörenden "Trend" betroffen, wie der Spiegel berichtet.

Soziale Medien Für seine Social-Media-Posts: Söder erhält Negativ-Preis "Grauer Haken 2025"

Im Fokus stehen dabei nicht nur Privatpersonen, sondern auch Prominente. So wurden unter anderem der "Stranger Things"-Star Sadie Sink (23), ihre minderjährige Serien-Kollegin Nell Fisher (14) oder Sängerin Sabrina Carpenter (26) Opfer der manipulierten KI-Bilder.

In einer Studie der Organisation "AI Forensics" kam heraus, dass bei rund 50.000 öffentlichen Anfragen an "Grok" etwa 53 Prozent der generierten Bilder Menschen in freizügiger Kleidung zeigten.

Der Großteil dieser Befehle scheint von Männern zu stammen. Laut Studie wurden rund 80 Prozent der Profile als männlich eingeordnet.

Forscher ließen zudem das Alter der auf den Bildern dargestellten Personen mithilfe einer KI-Gesichtserkennung schätzen. Zwei Prozent der Bilder zeigten demnach Personen, die auf deutlich unter 18 Jahre geschätzt wurden. Auf rund 30 Bildern sollen zudem Kleinkinder zu sehen gewesen sein.

Opfer der Darstellungen seien meist Ottonormalverbraucher. Lediglich sechs Prozent der untersuchten Bilder zeigten Promis.

Seit Wochen fluteten diese Bilder die Plattform von Elon Musk (54), das Unternehmen unternahm lange Zeit nichts.

Mittlerweile gestand der Account des Chatbots Fehler ein. Mängel in den Sicherheitsvorkehrungen seien schuld. Die Verbreitung missbräuchlichen Materials sei illegal. An der Fehlerbehebung arbeite man.

Im Gegensatz dazu hatte der Tesla-Gründer zunächst über die Kritik gespottet. Laut BR24 habe er Beschwerden mehrfach mit lachenden Emojis kommentiert oder teilweise selbst Bikini-Bilder generiert.

Inzwischen positionierte sich Musk gegen die generierten Fotos: Wer Grok für illegale Zwecke nutzt, müsse mit Konsequenzen rechnen, so der 54-Jährige.

Kulturstaatsminister Wolfram Weimer (61) forderte vor wenigen Tagen die EU-Kommission dazu auf, rechtliche Schritte gegen die Plattform einzuleiten, wie Reuters berichtete.

"Was wir derzeit auf X beobachten, sieht aus wie die Industrialisierung sexueller Belästigung", sagte der 61-Jährige. Auch die französische Regierung nahm mittlerweile Ermittlungen gegen die Plattform auf.