KI-Deepfakes: Die vorhersehbare Katastrophe

In Wirklichkeit war es nur eine Frage der Zeit. Nämlich: Wann ein Fall so erschütternd ist, dass die Öffentlichkeit gezwungen wird, über geschlechtsspezifische Gewalt durch KI zu sprechen. Denn das Problem gibt es seit Jahren. Die Warnungen von Expert:innen gibt es seit Jahren, dass KI-Modelle ein neues Ausmaß der bildbasierten Gewalt bereits ermöglichen. Die Katastrophe war also vorhersehbar. Und sie wurde trotzdem nicht abgewendet (oder abgeschwächt durch rechtzeitige rechtliche Maßnahmen).

Jetzt machen die Vorwürfe, die Collien Fernandes einbringt, die Problematik sexualisierter Deepfakes sichtbar. Es ist ein mutiger und wichtiger Schritt von ihr, dass sie sich an die Öffentlichkeit wendet. Die Recherche des Spiegels (Abre numa nova janela) zu den Vorwürfen von Fernandes gegen ihren Mann Christian Ulmen ist so aufwühlend, dass wir als Gesellschaft (nun endlich) gezwungen werden, über dieses Thema öffentlich zu sprechen.

KI kann Misogynie verstärken. KI kann sexuelle Gewalt gegen Frauen verstärken. Weil es kleine Nudify-Apps und große Plattformen gibt, deren Geschäftsmodell (Abre numa nova janela) (auch) ist, Frauen zu sexualisieren. Weil wir in einer Gesellschaft leben, in der es Männer gibt, die nur darauf gewartet haben, weitere Instrumente der (bildlichen) Erniedrigung von Frauen zu finden. Und weil sowohl die juristischen als auch technischen Schutzmechanismen zum Teil fehlen (Abre numa nova janela).

Also nochmal zurück: Es war eine vorhersehbare Katastrophe. Man weiß zwar im Vorfeld nicht, welcher Fall schließlich bundesweit oder international wirklich Entsetzen auslöst. Aber es ist klar: Hier passiert bereits eine neue Form der sexualisierten Gewalt, ermöglicht durch KI-Modelle.

Jetzt, wo endlich die öffentliche Aufmerksamkeit für das Problem da ist, können müssen wir auch Lösungen finden: Was soll rechtlich besser sein? Welchen Schutz braucht es?

In meinem Buch “Feindbild Frau (Abre numa nova janela)” gehe ich auf das Problem sexualisierter Deepfakes ein. Ich zitiere dazu Josephine Ballon, eine der Geschäftsführerinnen von HateAid (Abre numa nova janela). Sie erklärte, dass die bestehenden Paragrafen (wie die “Verletzung des höchstpersönlichen Lebensbereichs“ durch Bildaufnahmen oder die Verletzung des Rechts am eigenen Bild) in Deutschland zu selten greifen.

Ballon meinte zu mir: “Deswegen sollte ein neuer Straftatbestand geschaffen werden, der auch die Herstellung von nicht einvernehmlich erstellten missbräuchlichen Deepfakes erfasst. Die Paragrafen, die wir aktuell nutzen, sind für völlig andere Anwendungsfälle gemacht worden. Auch handelt es sich hierbei um Paragrafen, die eigentlich für Bagatelldelikte gedacht sind. Das heißt, solche Ermittlungen werden in der Praxis rasch eingestellt, weil es in der Rechtsordnung als weniger wichtig eingestuft wird. Es braucht einen neuen Straftatbestand, der auch die Schwere des Rechtsbruchs abbildet. Denn derartige Deepfakes verletzen das Recht auf sexuelle Selbstbestimmung.”

— Werbung —

(Abre numa nova janela)

—

In Deutschland hat Bundesjustizministerin Stefanie Hubig nun einen Gesetzesentwurf gegen sexualisierte Übergriffe im Netz vorgelegt (die taz (Abre numa nova janela) berichtet genauer). An dem Entwurf gibt es auch Kritikpunkte, etwa vom erfahrenen Rechtsanwalt Chan-jo Jun (Abre numa nova janela): Zum einen stellt sich die Frage, ob in manchen Fällen eine Kennzeichnung als “KI-generiert” oder “KI-Fake” bereits vor Strafbarkeit schützen würde – auch wenn eine Demütigung einer Person vorliegt. Zum anderen wurde zum früheren Entwurf des Gesetzes sogar noch eine zusätzliche Hürde eingezogen, dass ein Vorfall “erheblich” sein muss. Laut Chan-jo Jun wurde hier, verglichen mit dem früheren Entwurf, die Erfolgsaussicht von Anzeigen verschlechtert.

Das sind jetzt juristische Details, auf die ich eingehe, aber eines ist wichtig: Genau diese Debatte braucht es jetzt. Denn Länder wie Deutschland und auch Österreich hinken hinterher in juristischen Reaktionen.

Nehmen wir Österreich: Hier findet man Schutzmöglichkeiten, aber potenziell ebenfalls Rechtslücken (Abre numa nova janela) im Status quo. Es gibt in Österreich den Cybermobbing-Tatbestand (§107c StGB (Abre numa nova janela)), der unter Strafe stellt, “eine Person in ihrer Lebensführung unzumutbar zu beeinträchtigen”. Auch das einmalige Hochladen eines Videos, wenn es eine größere Anzahl von Personen sieht, kann diesen Tatbestand erfüllen. Jedoch kann es auch sein, dass ein sexualisierter Deepfake nicht öffentlich verbreitet wird: Sondern dass jemand dies in Chats macht. Also dass ein Mann ein solches Video an einen anderen Dritten weiterleitet (dann passiert die Erniedrigung einer Frau nicht öffentlich, sondern unter vier Augen). “Hier hat man jedenfalls zivilrechtliche Möglichkeiten sich zu wehren. Es gibt den Bildnisschutz und das Ehrenbeleidigungsrecht. Auch urheberrechtliche Ansprüche sind denkbar. Aber ich denke auch, dass wir gefordert sind, nachzuziehen. Denn es gibt reale Fälle und es braucht auch Lösungen im Strafrecht”, erzählte mir die Medienrechtsanwältin Maria Windhager.

Um dies zu verstehen, ist folgendes wichtig: Das Strafrecht ist der härtere juristische Hammer. Wenn etwas als sogenanntes Offizialdelikt im Strafrecht untersagt ist, dann ist die Staatsanwaltschaft für die Verfolgung der Tat zuständig (man hat als Opfer keine Kosten). Schon jetzt können viele Deepfakes in Österreich nach dem Zivilrecht geklagt werden, solche Inhalte sind auch rechtswidrig nach dem Zivilrecht. Nur gibt es im Zivilrecht folgende Hürde: Betroffene haben ein Kostenrisiko. Sie müssen sich einen Anwalt, eine Anwältin leisten. Wenn sie vor Gericht verlieren, bleiben sie auf ihren Kosten sitzen.

Deshalb ist es so wichtig, digitale sexuelle Gewalt auch im Strafrecht zu erfassen: Weil für viele Betroffenen die finanziellen Hürden sonst zu hoch sind.

Ich habe auch im Büro von Justizministerin Anna Sporrer um eine Stellungnahme gebeten. Von dort hieß es: “Die Justizministerin hat einen umfassenden Rechtsvergleich in Auftrag gegeben, um die verschiedenen Rechtslagen in Europa in Bezug auf Deepfakes zu klären und potenzielle Lücken zu identifizieren - dazu zählt auch der direkte Vergleich der Rechtslage zwischen Spanien, Deutschland und Österreich. Auf EU-Ebene werden Deepfakes auch von der Richtlinie zur Bekämpfung von Gewalt gegen Frauen umfasst, die sich gerade in nationaler Umsetzung befindet.“

Es ist gut, wenn sich jetzt etwas tut. Bedeutend ist aber auch, dass wir als Öffentlichkeit in ein paar Wochen oder Monaten nachsehen und fragen: Sind die angekündigten Änderungen oder Prüfungen wirklich erfolgt? Wurde konkret etwas verbessert? Dass Journalist:innen diese Fragen an Ministerien und Fachleute stellen – und weiter darüber berichten. Wir brauchen nicht nur aufwühlende Vorfälle, sondern auch den langen Atem, eine Verbesserung einzufordern.

Wenn ich den Leserinnen und Lesern meines Newsletters empfehlen darf: Bleiben Sie an dem Thema dran! Lesen Sie Artikel zum Thema; wenn Sie online aktiv sind, posten Sie zum Thema. Beeinflussen Sie mit, dass das Bewusstsein oder Interesse für dieses Problems nicht in zwei Wochen abebbt. Weil wir leider in hitzigen und vielseitig aufwühlenden Zeiten leben, ist man schnell durch neue Horror-Storys abgelenkt. Aber umso wichtiger ist, sich daran zu erinnern, dass es dieses Problem gibt und dass es eine Lösung braucht.

Wir können Collien Fernandes für ihren Mut dankbar sein. Weil sie durch das Öffentlichmachen ihrer Vorwürfe einen Aufschrei ermöglichte. Und es ist enorm wichtig, dass es Organisationen wie HateAid gibt oder Anwält:innen wie Chan-jo Jun und Maria Windhager, die ebenfalls einen langen Atem haben. Denn was viele Frauen derzeit erleben, ist eine vorhersehbare Katastrophe.

Ich würde nicht davon ausgehen, dass wir diese neue Missbrauchsform sexualisierter Deepfakes zur Gänze wieder wegbekommen; aber sehr wohl können wir mehr Verteidigungsmöglichkeiten einführen. Wir können jetzt die Rechte von Betroffenen stärken, dass sie sich leichter verteidigen können (und nicht Fälle in Spanien ausjudizieren müssen). Wir können in Europa und national sehr wohl mehr Druck auf Plattformen machen, dass sie nicht auch noch ein lukratives Geschäftsmodelle in der zusätzlichen Demütigung von Frauen finden. Und somit lässt sich meines Erachtens langfristig manch ein Missbrauch doch verhindern, erschweren oder zumindest besser verfolgen. Und das wäre schon was.

Danke für alle, die bis hierhin gelesen haben!

Übrigens: Vermutlich diskutieren wir über dieses Thema auch diesen Donnerstag in Berlin (Abre numa nova janela) im KulturKaufhaus Dussmann – Autorin Veronika Kracher spricht über ihr Buch “Bitch Hunt”, ich spreche über “Feindbild Frau” und Journalistin Isabella Caldert moderiert. Freue mich, falls wir uns vor Ort sehen!

Schönen Gruß

Ingrid Brodnig

Das Bild in der Web-Version zeigt Collien Fernandes, Credit des Fotos: Superbass (Abre numa nova janela) / CC-BY-SA-4.0 (via Wikimedia Commons)