Ist diese Technologie frauenfeindlich?

2 batti cinque

00 commenti

Von Smart Glasses bis zu KI-Bildgeneratoren: Manche Technologien eignen sich besonders zur Überwachung und Unterdrückung. Warum das so ist.

Ich selbst bin ein Geek und technikaffin, spiele gerne mit neuen Geräten herum. Aber bei neuer Technik muss man sich immer fragen:

Wie leicht ermöglicht sie Missbrauch?

Beim Missbrauch neuer Technologie werden oft bestehende Ungleichheiten verfestigt. Es kommen gesellschaftlich tief verankerte Gewaltformen zusätzlich zu Tage. Genau daran muss ich dieser Tage denken: Die Marke Ray-Ban ist ja eine Kooperation mit Meta eingegangen. Gemeinsam produzieren sie Smart Glasses, bei denen man jederzeit mitfilmen kann.

What could possibly go wrong? Offensichtlich sehr vieles. Denn immer wieder gibt es Schlagzeilen, wie zum Beispiel Männer mit diesen Brillen Frauen belästigen und unbemerkt filmen. Im Oktober berichtete 404 Media, dass Männer in den USA in Massage-Studios gehen, dort die Masseurin dann fragen, ob sie gegen Geld auch sexuelle Dienste verrichten würde. Diese Form der sexuellen Belästigung filmen sie heimlich mit (Si apre in una nuova finestra) – und posten dann das Video davon online. Zur Erklärung: Eigentlich sollte für Außenstehende bei den Smart Glasses von Ray-Ban und Meta erkennbar sein, wenn jemand gerade filmt (dann leuchtet ein kleines Lichtchen). Aber es gibt Modifikationen, mit denen dieser Warnhinweis ausgeschaltet (Si apre in una nuova finestra) wird. Und damit kann man dann unbemerkt Menschen – zum Beispiel Frauen – filmen. Dieses Problem fällt immer wieder auf.

Eine Frau in Großbritannien wird zum Beispiel am Strand angeflirtet, um ihre Nummer gefragt, sie lehnt ab. Wochen später merkt sie: Der Mann trug eine Brille, filmte sie unbemerkt (Si apre in una nuova finestra) – und postete das Video davon auf TikTok. Auch die CNN berichtete gerade dieser Tage: Sogenannte “Manfluencer (Si apre in una nuova finestra)” filmen sich dabei, wie sie versuchen, Frauen aufzureißen - und machen daraus Social-Media-Content (ohne Konsens).

Die Sache ist: Genau solche Vorfälle wurden befürchtet, als die Meta-Ray-Ban-Brillen auf den Markt kamen. Es ist exakt kein Wunder, dass Derartiges passiert.

Bei neuer Technologie muss man immer fragen: Was könnte der größte Creep damit tun? Welche Anwendungsformen sind denkbar, wenn jemand damit Bösartiges, Kriminelles oder Fragwürdiges begehen will?

Ich persönlich fürchte, dass die großen Unternehmen unserer heutigen Zeit durchaus wissen, dass derartige Missbrauchs-Formen bestehen. Denn ich kann mir im Jahr 2026 wirklich nicht vorstellen, dass Meta und Co. jedes einzelne Mal komplett überrascht sind, wenn ihre Produkte auf perfide Art eingesetzt werden. Ich hege eher den Verdacht, dass in vielen Fällen die Geschäftsinteressen bei der Markteinführung überwiegen.

Zum Beispiel kann es so sein, dass die AGBs bei neuen Tools einen missbräuchlichen Einsatz verbieten (nur das können Nutzer:innen leicht ignorieren). Oder es werden durchaus Sicherheitsmechanismen eingebaut (wie das Licht, wenn jemand filmt). Nur lassen sich manche Sicherheitsmechanismen leicht umgehen. Unternehmen weisen dann gerne darauf hin, dass sie diese Einsatzform untersagt haben oder dagegen vorgehen würden. Aber das Produkt an sich, wie leicht Missbrauch dadurch möglich ist, wird nicht infrage gestellt. Oder es heißt: Es sei ja nur ein kleiner Teil der Nutzer:innen, der das eigene Produkt so einsetzt.

Das betrifft auch KI-Anwendungen: Speziell KI-Bildgeneratoren werden oft genutzt (Si apre in una nuova finestra), um Frauen zu sexualisieren, um Bilder oder Videos zu erstellen, die sie nackt, halbnackt oder in sexuellen Posen zeigen. Das ist eine Form der sexuellen Gewalt. Und das Extrembeispiel hierfür ist Elon Musks Chatbot Grok, der ja eine Zeitlang massenweise sexualisierte Bilder auf Zuruf von Usern ausspuckte. Darüber habe ich schon ausführlich geschrieben (Si apre in una nuova finestra).

Interessant erscheint mir hier: Manche Formen von Technologie sind umso mehr missbrauchs-anfällig. KI-Bildgeneratoren wurden zum Beispiel mit großen Bild-Datenbanken trainiert. Hier kann bereits bei Trainingsdaten das Problem existieren, dass diese von Stereotypen geprägt sind. Das kann sich in der Bildgenerierung niederschlagen: Soll die KI eine “produktive Person” darstellen, werden vorrangig weiße Männer angezeigt. Wird nach “Personen, die Sozialleistungen beziehen” gefragt, zeigt die KI POC (people of color). Das ergab eine Recherche der Washington Post (Si apre in una nuova finestra) 2023 mit dem Tool Stable Diffusion. Einige große KI-Unternehmen arbeiten dann daran, solche Stereotype zu verringern, reagieren also auf negative Berichte. Man muss aber auch die Frage aufwerfen, inwieweit ein Bias (also eine verzerrte Darstellung verschiedener Gruppen) tief in vielen Datensätzen steckt. Bei einer frühen Version von Stable Diffusion fiel auf: Wenn man Bilder von “Latinas” verlangte, sah man oft Frauen in sexy Posen. Die Analyse der Washington Post ergab, dass die Trainingsdaten für die frühe Version des Tools viel Pornografie (Si apre in una nuova finestra) enthielten. Und so etwas hat dann natürlich Auswirkungen, wie Frauen abgebildet werden. Es kann auch erleichtern, Frauen auf sexualisierte Weise herabzuwürdigen.

Smart Glasses stellen eine Form von surveillance tech dar. Also Technologie, die zur Überwachung eingesetzt werden kann. Und bei Überwachung spielen auch Machtverhältnisse eine Rolle: Zum Beispiel, wer hat das Geld in der Familie und kauft die technischen Geräte? Oder: Gehen wir noch einmal auf die Recherche ein, die aufzeigte, dass Männer Massage-Studios aufsuchen und dann die Masseurin dort heimlich mitfilmen – und sie fragen, ob sie gegen Geld sexuelle Dienste verrichten würde. In diesen Fällen gibt es ein deutliches Machtgefälle: Oft wird der männliche Kunde aus einer wohlhabenderen, privilegierteren Position stammen. Die Masseurin ist alleine in dem Raum mit dem fremden Mann, in vielen Fällen werden es auch Migrantinnen sein, eine gesellschaftlich schlechtergestellte Gruppe. Es gibt hier ein deutliches Machtgefälle, in dem sexuelle Belästigung stattfindet - und die Täter filmen das auch noch mit, führen die Frau vor.

Ich bin der Ansicht: Solange die großen Tech-Unternehmen nicht genügend Sicherheitsmechanismen installieren, sollten wir manche Tools in vielen Räumen tatsächlich unterbinden. Diese Smart Glasses, deren Warnleuchte zum Beispiel leicht deaktivierbar ist, sind ein Sicherheitsrisiko – speziell für Frauen.

Also: Manche Formen von Technik machen Missbrauch, auch frauenfeindliche Einsatzmethoden sehr leicht – solange nicht genügend streng gegen herabwürdigende Einsatzmethoden vorgegangen wird, solange angebliche Sicherheitsmechanismen leicht umgehbar sind. Das Problem ist nicht allein die Technik: Das Problem ist ein Wirtschaftssystem, in dem Unternehmen schlimmstensfalls tatsächlich ökonomisch dadurch belohnt werden, wenn sie solche Produkte auf den Markt bringen.

—

Zum Thema passend: Gestern Abend stellte ich mein Buch “Feindbild Frau” (Si apre in una nuova finestra) im Wien Museum vor. Im Buch geht es auch um wiederkehrende Formen der Belästigung, Beleidigung und Bedrohung gegen Politikerinnen und allgemein gegen Frauen (zum Beispiel auch KI-Bilder). Danke für den ausgebuchten Abend! Hier ein Foto: