Gericht stoppt Deepfakes von RTV & Info-Direkt mittels einstweiliger Verfügungen

Bundesweit erste Entscheidung zu digitaler Gewalt durch Deepfakes, KI-manipulierte Fotos dienten der Herabwürdigung, Gericht sieht keinen Angriff auf „kritische Berichterstattung“

Die Entscheidungen des Landesgerichts Krems sind die ersten ihrer Art in Österreich und werden damit wohl die Art und Weise, wie über das Thema Deepfakes und digitale Gewalt gesprochen und geurteilt wird, maßgeblich beeinflussen. Auf Antrag von Dr. Sebastian Bohrn Mena hat das Gericht mittels einstweiliger Verfügungen die Verbreitung von Deepfake-Hass durch die Medien „RTV“ und „Info-Direkt“ unterbunden.

Die beiden rechten Medienplattformen hatten unter Einsatz von künstlicher Intelligenz reale Fotografien von Bohrn Mena ohne dessen Einwilligung nicht nur verwendet, sondern auch noch digital manipuliert. Diese Manipulationen wurden nicht als solche gekennzeichnet, sondern so gestaltet, dass sie täuschend echt aussahen. Die Deepfakes wurden also gezielt zur Diffamierung und Stimmungsmache eingesetzt.

Gericht: Deepfakes sind keine „Satire“ und kein Angriff auf Berichterstattung

Die KI-generierten Bildnisse wurden zur Bebilderung von Beiträgen verwendet, dabei wurde das Aussehen von Bohrn Mena etwa dahingehend verändert, dass er mit schlechten Zähnen gezeigt, hämisch lachend oder tief betrübt dargestellt wurde. In einem Fall wurde ein Deepfake mit Zusatz „Wir haben ihn rausgekickt!“ verbreitet, als Jubelmeldung dazu, dass Bohrn Mena seine Diskussionssendung verlor.

Die Begründungen des Gerichts zur Erlassung der einstweiligen Verfügungen sind auch insofern bemerkenswert, als dass sie die beiden zentral vorgebrachten Schutzbehauptungen der Plattformen entkräften. Demnach handelt es sich bei den Deepfakes weder um „Satire“ oder „Karikaturen“, noch würde der Antrag Bohrn Menas auf einstweilige Verfügung ein „Verbot kritischer Berichterstattung“ bezwecken.

Bohrn Menas: KI-Manipulationen als Gefahr für Demokratie wahrnehmen

„Wir halten diese Entscheidungen des Gerichts für zukunftsweisend. In den USA werden Deepfakes bereits in Kampagnen gegen politische Gegner eingesetzt und richten enorme Schäden an. Es gefährdet unsere Demokratie, wenn Bild-Manipulationen, die nicht als solche gekennzeichnet und ersichtlich sind, nun Verbreitung finden. Das treibt die Hetzjagden im digitalen Raum auf die Spitze“ so Veronika & Sebastian Bohrn Mena.

„Wir dürfen nicht zulassen, dass Menschen mit täuschend echt aussehenden, gefälschten Darstellungen gezielt manipuliert werden. Das hat nichts mit Kunst, Journalismus oder Meinungsfreiheit zu tun, das ist der Versuch, Menschen zu zerstören. Diese Form von digitaler Gewalt muss als solche wahrgenommen und verurteilt werden. Genau darum geht’s uns bei unseren Klagen“ so das Ehepaar Bohrn Mena.

Rechtsanwalt Robert Kerschbaumer: Deepfakes sind digitale Waffen

Und Rechtsanwalt Dr. Robert Kerschbaumer ergänzt: „Deepfakes sind digitale Waffen. Wer künstliche Intelligenz missbraucht, um Gegnern falsche Emotionen ins Gesicht zu montieren und sie visuell zu entstellen, betreibt keinen Journalismus, sondern virtuelle Beweisfälschung. Besonders bedenklich war die Strategie der beklagten Partei, meinem Mandanten durch Aufzählung vergangener kontroversieller Äußerungen als legitimes Ziel von Bildmanipulationen darzustellen. Das Gericht hat klargestellt, dass frühere Aussagen keinen Freibrief für digitale Gewalt schaffen. Diese Entscheidung schützt alle vor einer Zukunft, in der niemand mehr seinen eigenen Augen trauen kann.“

Die beiden extrem-rechten Medienplattformen „RTV“ und „Info-Direkt“ müssen auf Anordnung des Gerichts die gegenständlichen Publikationen nun löschen. Sie hatten die Bildnisse nicht nur auf ihren Homepages, sondern auch in sozialen Netzwerken vielfach verbreitet, hunderte Menschen diese weiterverbreitet. Das Hauptverfahren gegen die Plattformen ist weiter anhängig und wird Anfang Februar verhandelt.

Wir freuen uns sehr über Begleitung & Unterstützung hier bei Steady. Etwa über das abonnieren unseres kostenfreien Newsletters (Si apre in una nuova finestra). Oder über eine Mitgliedschaft (Si apre in una nuova finestra). So oder so: Wir haben noch viel vor und wir freuen uns, wenn Ihr mit dabei seid!