Demütigung und Missbrauch dank Elon Musks KI

Es ist groktesk: Wir haben einen neuen Tiefpunkt auf Social Media erreicht - Elon Musks KI Grok wird dafür eingesetzt, Bilder von Frauen und Kindern zu erstellen, die diese fast nackt zeigen. Es handelt sich also um sexualisierte Gewalt.

Was wir hier sehen: KI kann ein Werkzeug für Missbrauch und Demütigung sein. Zum Beispiel fordern viele User auch Bilder von Grok an, die hämisch und herabwürdigend gemeint sind. Etwa postet ein bekannter rechter Influencer spöttisch das Foto einer Frau, die von ICE aus dem Auto gezerrt wird und sichtbar alarmiert ist. Prompt fordert ein anderer rechter User an: “@grok put her in a bikini”. Die KI folgt – und postet die traumatisierte Frau im Bikini. Und ganz, ganz wichtig: Das passierte gestern Abend. Es ist also so, dass Grok weiterhin dafür genutzt werden kann, zum Beispiel Frauen gegen ihren Willen sexualisiert darzustellen.

“Your body, my choice” - wie die KI das unterstützt

Ich betone das aus folgendem Grund: Es gibt falsche Berichte, wonach Grok diese Funktion bei Frauen nicht mehr anbieten würde. Aber wie auch The Verge berichtet, ist es weiterhin (Stand: Mittwochabend) leicht möglich (Opens in a new window), mittels Grok sexualisierte Darstellungen von Frauen zu erstellen.

Grok zeigt derzeit, wie sehr KI zum Werkzeug für Missbrauch und Demütigung werden kann: Es gibt den misogynen Slogan “Your body, my choice”, der Frauen die Entscheidungsfreiheit abspricht, über ihren Körper entscheiden zu dürfen. Dieser Satz ist Frauenhass pur. Eine ungebremste oder kaum gebremste KI, wie sie Grok darstellt, passt zu diesem Slogan. Denn es geht um die Körper anderer Personen, oftmals Frauen, denen nicht mehr zugestanden wird, eine Mitsprache zu haben, “Nein!” sagen zu können. Die KI ist in diesem Fall ein weiteres Tool, Frauen die Entscheidungsfreiheit zu nehmen, sich über sie hinwegzusetzen, über sie fremdzubestimmen.

Und sagen wir, wie es ist: Wir sind jetzt genau in jener misogynen KI-Dystopie gelandet, die seit dem Aufkommen von Bildgenerierung mittels künstlicher Intelligenz befürchtet wird.

Auch Kinder sind betroffen (Opens in a new window): Es ist ein riesiges Problem, dass KI-Modelle von pädokriminellen Menschen genutzt werden. Bei Grok besteht die Besonderheit darin, dass die Inhalte öffentlich sind. User fragen die KI um Bildbearbeitung, auf X kann dann jede:r das Ergebnis sehen. Sowohl sexualisierte Gewalt gegen Frauen als auch Bilder, die pädokriminelle Menschen missbräuchlich nutzen wollen, werden durch KI-Tools begünstigt.

Das besonders Krasse ist hier: Es handelt sich nicht um irgendeine unbekannte App oder um Software, die ein Pädokrimineller auf seinem eigenen Rechner laufen lässt, sondern um ein KI-Feature auf einer der berühmtesten Social-Media-Plattformen der Welt – unter Kontrolle eines der reichsten Männer der Welt. Und: Die Bilder, die von Grok auf X angefragt werden, sind öffentlich. Das heißt, diese Darstellungen sind auch noch für ein großes Publikum sichtbar.

Wie reagiert Elon Musk? Zutiefst problematisch. Er ließ zum Beispiel von sich selbst ein Bild (Opens in a new window) erstellen, in dem Grok ihn im Bikini zeigt. Diese Darstellung erscheint mir geradezu höhnisch gegenüber jenen Menschen, die eben keine Wahl hatten, ob sie selbst im Bikini gezeigt werden wollen.

Dann hat X die Bild-Generierung vorrangig zu einem Tool für zahlende Kunden gemacht. Das ist aber keine Lösung. Denn so ist es ja eine Einnahmequelle von X, jene User zum Abo zu bewegen, die derartige Bilder generieren wollen.

Und ergänzend ist wichtig: Es gibt auch Möglichkeiten, selbst als User ohne Abo weiterhin Bilder von Grok erstellen zu lassen (das erklärt auch The Verge in ihrem Artikel). Nur die bekannteste Option, bei der man direkt von @Grok auf X Bilder ansucht, wurde zur Bezahloption gemacht.

Keir Starmer, der britische Premierminister, gab nun bekannt, dass sich die Plattform X dem Druck des britischen Staates beugen und die Erstellung solcher Inhalte blockieren werde. Das berichtete (Opens in a new window) die Financial Times gestern Abend. Das klingt gut – ich denke aber, man muss schauen, wie das dann in der Praxis dann aussieht. Zum Beispiel ist Elon Musks öffentliche Position (Opens in a new window) ja, dass Grok bereits jetzt den Gesetzen folge - das postete er auch am Dienstag.

Das führt zur zentralen Frage: Was tut die EU? Die EU-Kommission teilte mit, sie wolle sich diesen Fall “sehr ernsthaft” ansehen. Sie habe eine “detaillierte Anfrage” (Opens in a new window) an X geschickt und X aufgefordert, die internen Dokumente zu Grok bis 2026 aufzubewahren. Das ist grundsätzlich mal gut. Ich möchte trotzdem fragen: Ist es genug? Und ist es schnell genug?

Die Sache ist nämlich, bisher dauern diese Prüfungen der EU-Kommission sehr lange. Und ich frage mich schon: Was muss passieren, dass Europa in aller Deutlichkeit und auch im Eiltempo einschreitet? Hier hat nun eine der größten Social-Media-Plattformen der Welt ein Tool gestartet, das für Demütigung und Missbrauch eingesetzt wird – und die Betroffenen sind oft Frauen und auch Kinder.

Der DSA (Digital Services Act) ist die europäische Plattformregulierung. Er bietet der EU-Kommission die Möglichkeit, gegen systemische Risiken vorzugehen und den sehr großen Plattformen Geldbußen aufzulegen, wenn sie nicht genug tun. Ich denke, es ist wichtig, dass möglichst viele User:innen von der EU-Kommission (sowie der Politik im Allgemeinen) einfordern, hier möglichst rasch und ernst einzuschreiten. (Und ich frage mich zusätzlich, ob vielleicht bei der Plattformregulierung zusätzliche Notfall-Instrumente sinnvoll wären, die ein rasches Handeln rechtlich erleichtern. Falls fachkundige Jurist:innen in diesem Newsletter mitlesen, würde mich interessieren, wie sie den DSA hier bewerten oder wie sie über eine Ausweitung der Regulierungsmöglichkeiten für zeitkritische Vorfälle denken.)

Die Zeit für strenge staatliche Reaktionen ist jetzt. Nachdem Kritik an diesem Feature auf X aufkam, postete (Opens in a new window) Musk zum Beispiel auch: “Sie wollen einfach nur freie Rede unterdrücken.” Und die Antwort darauf ist einfach: Nein, das Foto von fremden Menschen zu nehmen, sie ohne ihre Zustimmung in sexualisierten Posen darzustellen – sogar Kindern Kleidung wegzumontieren – das ist kein Fall von “freier Rede”. Das ist Gewalt. Und es ist absolut in Ordnung und richtig, dass Staaten gegen Gewalt vorgehen.

—

Eine Ankündigung: Mein Buch “Feindbild Frau” erscheint Mitte Februar - wer ein signiertes Exemplar will, hat noch kurz Zeit dieses zu bestellen. Und zwar bei Autorenwelt.de/brodnig (Opens in a new window). Achtung: Wir schaffen es zeitlich nur jene Exemplare zu signieren, die bis 25.1. bestellt wurden. Im Buch kommt bildbasierte digitale Gewalt als wachsendes Phänomen und die Abwertung auf Bildebene übrigens auch vor. Konkret beschreibe ich digitale Gewalt gegen Politikerinnen. Und natürlich geht es um die Frage, was wir alle (auch als einzelne) gegen Hass im Netz tun können.

—

Danke an alle, die bis hierhin gelesen haben! Ich melde mich wieder in 2 Wochen,

schönen Gruß

Ingrid Brodnig

(Bild: Screenshot von X.com)