Verantwortungslose KI-Unternehmen führen zu Fake-Schwemme

Die Verantwortungslosigkeit der großen Tech-Unternehmen erstaunt mich immer wieder: Zum Beispiel haben wir aktuell ein ernsthaftes Problem mit Fake-Videos, die mittels KI erstellt wurden. Und zum Erstellen dieser Videos werden nicht irgendwelche unbekannten, kleinen Apps benutzt. Nein: Eine große Rolle beim Erstellen von Fakes spielt derzeit OpenAI, das Unternehmen hinter ChatGPT und somit das wohl bekannteste KI-Unternehmen weltweit.

OpenAI hat in den USA Sora gestartet, ein soziales Netzwerk, das rein aus KI-Videos besteht. Die Sache ist: Das Videotool Sora eignet sich auch, um Falschmeldungen zu verbreiten.

Einige Faktenchecks im deutschsprachigen Raum behandeln bereits Sora-Videos. Zum Beispiel (Öffnet in neuem Fenster) posten Leute etwas Rassistisches, nachdem sie ein Video sahen, in dem ein junger Mann mit Migrationshintergrund eine Frau im Bus zu Boden stößt. Das Video ist Fake – wurde mit Sora erstellt. Das Video ist eigentlich leicht als Erfindung erkennbar, denn es beinhaltet sogar noch das Sora-Wasserzeichen, das dieses Video als KI-Inhalt kennzeichnet. Die Sache ist aber: Manche Menschen achten selbst auf solche eindeutigen Anzeichen nicht. Oder es ist ihnen sogar egal – so als wäre die Bestätigung ihrer „gefühlten Wahrheit“ wichtiger als die Wahrheit an sich.

Seit Jahren wird genau das befürchtet, was nun Realität geworden ist: Die KI-Fake-Videos erobern Social Media. So lässt sich beobachten, dass bei Falschmeldungen zunehmend auch künstliche Intelligenz zum Einsatz kommt. Nur zwei Zahlen dazu: Das Netzwerk EDMO (European Digital Media Observatory) hat 1722 europäische Faktenchecks im Oktober 2025 ausgewertet (Öffnet in neuem Fenster).

→ 12 Prozent der erfassten Falschmeldungen beinhalten auch Täuschungen mittels KI, Tendenz steigend. Hier eine Grafik dazu:

Und auch im deutschsprachigen Raum vermeldet aktuell GADMO (Öffnet in neuem Fenster) in 12,6 Prozent der Falschmeldungen einen KI-Bezug. Wir sehen diese Entwicklung also auch hierzulande. Die KI wird zunehmend zur Täuschung eingesetzt. Eine Rolle spielen dabei natürlich große Social-Media-Unternehmen und wie sehr sie ihre Plattformen zur Spielwiese für “AI Slop” gemacht haben, also für billig gemachte, qualitativ wertlose KI-Inhalte.

Was mich aktuell aber besonders irritiert: Es ist auch die Verantwortungslosigkeit großer KI-Konzerne, die diesen Trend antreibt.

Zum Beispiel gab es schon früher FaceSwap-Apps (Öffnet in neuem Fenster), die sich für die Erstellung von Fake-Videos eigneten. Hier kam es auch zu “Porno-Deepfakes” – also zu künstlich erstellten Bildern oder Videos, die den falschen Eindruck erweckten, eine Frau hätte in einem Porno mitgespielt. Bei diesen Produkten handelte es sich oft um recht unbekannte Apps.

Was wir jetzt erleben: Sehr große Tech-Unternehmen starten Videotools – die dann für Fakes oder andere problematische Einsatzfelder genutzt werden. Bei Sora fiel prompt auf, dass es ohne genügend Sicherheits-Auflagen startete. So passierte prompt, dass mit Sora geschmacklose Videos über verstorbene Prominente (Öffnet in neuem Fenster) gemacht wurden.

Und in 80 Prozent der Fälle erstellt Sora auch Videos passend zu Falschmeldungen – beispielsweise zur Behauptung, Wahlbetrug hätte stattgefunden. Das hat NewsGuard getestet (Öffnet in neuem Fenster). Dieses Experiment deutet darauf hin: Es fehlen ausgeprägte Sicherheitsmechanismen, die davon abhalten, manipulative Videos mittels Sora zu erstellen.

→ KI verstärkt derzeit einige der schlimmsten Seiten von Social Media – darüber schrieb ich auch schon in meiner Kolumne im Standard (Öffnet in neuem Fenster).

Ich muss anmerken: Neben Sora von OpenAI gibt es auch das Videotool VEO3 von Google, mit dem ebenfalls täuschende Videos (Öffnet in neuem Fenster) (z.B. zu Kriegsgebieten) erstellt werden. Google ist also ein weiterer Tech-Konzern, der in dieser Entwicklung auch eine Rolle spielt.

Wir erleben ein erneutes „Move fast and break things“ von KI-Unternehmen, das wir schon aus dem Social-Media-Geschäftsfeld kennen. Tech-Unternehmen fragen nicht groß um Erlaubnis oder warten ab, was der gesellschaftliche Konsens rund um eine neue Technologie ist – sie schaffen Fakten. Aktuell führen sie potente, aber teils auch fragwürdige Tools ein, um den KI-Markt selbst zu besetzen. Oder wie es die Urheberrechtlerin Kristelia García zu NPR sinngemäß sagte: OpenAI geht nach dem Motto vor, frag nicht zuvor um Erlaubnis, sondern danach um Vergebung (Öffnet in neuem Fenster).

Ich bin der Ansicht: Anders als am Markt der sozialen Medien sollten wir nicht jahrelang zuwarten und als Gesellschaft und Politik vorerst sehr geduldig inaktiv sein. Es ist wichtig, dass sehr rasch (z.B. mit neuer Regulierung oder auf Basis bestehender Gesetze) eingefordert wird, dass die großen Tech-Unternehmen hier mehr Verantwortung zeigen – mehr Sicherheitsschranken einbauen, mehr Rücksicht darauf nehmen, wie ihre Produkte dann missbräuchlich oder auch selbstschädigend von Menschen eingesetzt werden können. Denn derzeit legt einiges den Verdacht nahe: Im Rahmen ihres Versuchs, den KI-Markt ökonomisch für sich zu erobern, nehmen die Tech-Unternehmen zu wenig Rücksicht auf gesellschaftliche Anliegen, etwa einem starken Schutz vor dem Missbrauch solcher KI-Tools. Eben gerade weil die KI so viel verändern kann, so eine bedeutende technische Weiterentwicklung ist, sollten wir es eben nicht vorrangig den KI-Unternehmen überlassen, wie diese Produkte aussehen, die sie der digital vernetzten Weltbevölkerung vorsetzen.

Dazu passend noch ein Veranstaltungshinweis:

Wie KI missbräuchlich und hoch emotionalisierend eingesetzt wird, darüber spreche ich am kommenden Mittwoch in der Kulisse. Überdies habe ich großartige Gesprächspartner:innen mit mir auf der Bühne, der Ex-Gesundheitsminister Rudolf Anschober, ORF-Journalistin Nora Zoglauer und Kabarettist Berni Wagner. Hier gibt es Resttickets (Öffnet in neuem Fenster) für den Abend.

Bis in zwei Wochen!

Schönen Gruß

Ingrid Brodnig