Wie KI und Misogynie zusammenpassen

Warum eignen sich einige Anwendungen der künstlichen Intelligenz so gut für misogyne Einsatzfelder – speziell, um Frauen gegen ihren Willen auszuziehen?

Zwei wichtige Punkte:

• Die neue Dimension der Objektifizierung: KI-Bildgeneratoren machen bildbasierte Gewalt (wie das digitale Entkleiden ohne Konsens) zum massentauglichen Werkzeug. Es braucht dafür keinerlei technisches Geschick mehr.

• Verstärkung des „Male Gaze“: Die Technologie erfindet die Misogynie nicht neu, aber sie dockt an historisch tradierte Muster an (die nackte Frau als Dekoration neben dem bekleideten Mann) und potenziert diese.

Genau darüber sprach ich in meinem Vortrag auf der Netzkonferenz re:publica in Berlin (Öffnet in neuem Fenster):

KI-Bildgeneratoren sind Tools der Objektifizierung. Diese Technik ermöglicht es, jede Person bildlich umzuwandeln, somit zu objektifizieren. Denn eine wichtige Funktion vieler Bildgeneratoren ist ja, dass man das bestehende Foto einer Person hochlädt – und dann mit ihrem Gesicht etwas gänzliches Neues macht. In vielen Fällen ist diese Umwandlung durch die KI harmlos: Da wird zum Beispiel das eigene Urlaubsfoto im Stil der Studio-Ghibli-Filme neu gezeichnet.

Doch manch ein Einsatzzweck ist bösartig, häufig sogar misogyn: Etwa, wenn Frauen gegen ihren Willen ausgezogen, in Fake-KI-Porno-Szenen hineinretuschiert oder anderswie geschlechtsspezifisch erniedrigt werden.

Das erleben wir derzeit: Elon Musks KI machte zu Beginn dieses Jahres Schlagzeilen (Öffnet in neuem Fenster). Denn diese KI wurde massenweise dafür genutzt, Frauen (und teilweise auch Kinder) bis auf die Unterwäsche oder den Bikini auszuziehen. Erst nachdem Großbritannien schon mit einem Verbannen von Elon Musks Plattform X drohte, ruderte dieser zurück und begrenzte diese Funktion, die im großen Stil bildbasierte Gewalt ermöglicht hat.

(Öffnet in neuem Fenster)

Gestalten wir das beste Europa aller Zeiten! Katja Sinko und Peter Jelinek liefern mutige und überraschend machbare Ideen, wie Europa resilienter, fairer und lebenswerter werden kann – wenn wir gemeinsam anpacken.

Jetzt reinlesen & bestellen! (Öffnet in neuem Fenster)

Hier ist auch eine zweite Ebene wichtig. Diese Form der Erniedrigung über KI trifft gerade Frauen, weil wir ohnehin in einer Gesellschaft leben, in der Frauen oft objektifiziert werden. So ist im Film oder in der Malerei dieser “Male Gaze” schon lange ein Kritikpunkt – etwas, das Feminist:innen zurückdrängen wollen. Doch die Gefahr ist, dass neue Technologie (wie KI) den Male Gaze sogar verstärkt.

In meinem Vortrag gebe ich ein historisches Beispiel aus der Malerei, wie Frauen nackt dargestellt werden, während die Männer auf dem selben Bild vollkommen bekleidet bleiben können. Es ist historisch tradiert, dass Frauen mal schnell bildlich ausgezogen, wie sexy Dekoration behandelt werden – und somit objektifiziert. Und jetzt geht das auch mittels Nudify-Apps und Bild-Generatoren, die nicht mit genügend Sicherheits-Auflagen ausgestattet wurden. Das macht solche bildbasierten Herabwürdigungen auch für Menschen möglich, die selbst über kein künstlerisches oder technisches Geschick verfügen.

Somit trifft die bestehende Form der Objektifizierung von Frauen in unserer Gesellschaft auf diese neue Objektifizierung mittels KI.

(Öffnet in neuem Fenster)

In meinen Augen spielt hier auch Anmaßung eine Rolle: Die Anmaßung von Tech-Konzernen, die sich zum Beispiel Unmengen von Bildern, Texten, Videos und Sounddateien einverleibten, ohne um Erlaubnis zu fragen – und damit ihre generative KI fütterten, die nun solche Bilder ausspucken kann. Und die Anmaßung, oder genauer gesagt: der gewaltvolle Akt, dass man sich über fremde Körper hinwegsetzen will (häufig: Frauenkörper).

Was wir brauchen, ist strenge Regulierung gegen Technik, die bildbasierte Gewalt zum Massensport macht. Und auch: Rückhalt für Frauen, die digitale Gewalt erleben und anprangern.

Welche Verteidigungsformen es geben kann, sprach ich auch im Vortrag an. Hier kann man den ganzen Vortrag von der re:publica ansehen (Öffnet in neuem Fenster).

Auf jeden Fall ist wichtig, zu sehen, dass KI eben nicht nur bestehende Ungleichheiten oder Diskriminierungsformen einzementiert – sondern, dass sie schlimmstenfalls diese sogar verstärkt. Gerade deshalb müssen wir als Einzelne und auch politisch hier aktiver werden.

Merci an das Team der re:publica für das Video und die spannende Konferenz!

Nächste Termine mit mir:

7.6.: Köln, phil.COLOGNE: (Öffnet in neuem Fenster) Diskussion gemeinsam mit Ricarda Lang, Kristina Lunz, Moderation: Stephanie Rohde. Ab 20 Uhr!

15.6.: Kulisse Wien, Schluss mit Bullshit! (Öffnet in neuem Fenster) Ein Abend mit spannenden Menschen, darunter die Kabarettistin Tereza Hossa und Fiorentini Azizi-Hacker von ZARA, die Beratung gegen Hass im Netz bieten.

Bis in zwei Wochen,

schönen Gruß

Ingrid Brodnig