Faschistische Wunschmaschinen

Hallo,

heute kommt der Newsletter zum zweiten Mal als Podcast in dein Postfach geflattert.

Falls du ihn lieber lesen möchtest, dann findest du unten ein geglättetes Transkript des Gesprächs mit Roland Meyer zum Nachlesen.

Weil wir noch dabei sind, uns mit der (Podcast-)Technik vertraut zu machen: Falls du Verbesserungsvorschläge hast oder auch Anregungen für künftige Interviewpartner:innen oder Lob / Kritik hast, melde dich gern und jederzeit: wierechtereden@proton.me (Opens in a new window).

Und dann wollen wir die Gelegenheit noch nutzen und uns von dir für dieses Jahr verabschieden!

Wir machen Weihnachtspause und melden uns 2026 wieder mit Analysen, Narrativ-Checks, Podcast-Gesprächen und mehr zurück🤩

Vielen Dank, dass du uns abonniert, dass du uns vielleicht sogar als Mitglied unterstützt und / oder uns vielleicht auch schonmal weiterempfohlen hast.

Wir hoffen, unsere Arbeit hat dir dabei geholen, einen besseren Umgang mit der extremen Rechten zu finden und sei es nur dadurch, dass wir dir das Gefühl geben konnten, dass du nicht alleine bist!!

Bis bald, alles Liebe und bleib achtsam!

Wie Rechte reden - der Podcast

Heute kommt der Newsletter zum zweiten Mal als Podcast in dein Postfach. Klicke einfach auf den Play-Button ▶️ und höre ihn dir an.

Du möchtest lieber lesen?

Dann findest du hier die Infos zu Roland Meyer und das Transkript des Interviews 👇

Wer ist Roland Meyer?

Er ist Medienwissenschaftler und Professor für Digitale Kulturen und Künste an der Universität Zürich (Opens in a new window).

In seiner Forschung beschäftigt er sich mit visueller Kultur, digitalen Bildern und der politischen Dimension neuer Medientechnologien - insbesondere mit der Frage, warum und wie Bilder Wirklichkeit herstellen, Macht ausüben und gesellschaftliche Vorstellungen prägen. Ein zentraler Schwerpunkt seiner Arbeit liegt auf generativer Künstlicher Intelligenz und ihren ästhetischen, kulturellen und politischen Effekten.

Er schreibt außerdem für diverse Medien, hält Vorträge und ist auf Bluesky (Opens in a new window) sehr aktiv - große Follow-Empfehlung. Einen guten Überblick über seine Tätigkeiten gibt sein Linktree (Opens in a new window).

Im Gespräch mit uns analysiert Meyer, warum KI-Bildgeneratoren keineswegs neutrale Werkzeuge sind, sondern bestehende Klischees, nostalgische Bildwelten und ideologische Muster verstärken - und damit zu faschistischen Wunschmaschinen werden.

Das Interview im Transkript

Das Transkript ist kein verschriftlichtes Interview, sondern mehr oder weniger gesprochene Sprache zum Nachlesen (die wir noch etwas geglättet haben).

“Alle können sich beteiligen - an der Feier von Gewalt, von Menschenverachtung oder an Fantasien, die letztlich auf ethnische Säuberung hinauslaufen”

Wie Rechte reden: Roland, bevor wir ins Thema einsteigen, kannst du kurz skizzieren, wie dein Weg zur akademischen Auseinandersetzung mit KI-Bildern verlaufen ist?

Roland Meyer: Mein Hintergrund ist in Kunstwissenschaft und Medienwissenschaft, beziehungsweise im Feld der Bildwissenschaft. Das ist keine akademische Disziplin, die sich als solche konstituiert hätte, aber doch ein Forschungsfeld genau zwischen diesen Disziplinen. Ich habe mich vor einiger Zeit mit der Bildgeschichte der Identifizierbarkeit beschäftigt. So habe ich das genannt. Da ging es um die Vorgeschichte von automatisierter Gesichtserkennung. Also um die Frage: Wie werden aus Bildern von Gesichtern Datensätze, die sich massenhaft auswerten lassen.

Da habe ich ein kleineres Büchlein geschrieben und darin ging es punktuell um politische Fragen. Also nicht nur um Fragen von Massenüberwachung und algorithmischer Überwachung, sondern auch um “Algorithmic Bias”. Das heißt, Gesichtserkennung wirkt, wie viele andere KI-Verfahren, sehr stark diskriminierend, weil beispielsweise Schwarze Menschen sehr viel schlechter erkennt werden als weiße.

Es ging auch schon um Deep Fakes in früheren Varianten von KI seit den späten 2010er Jahren. Und als generative KI-Modelle wie Midjourney und DALL-E aufkamen, 2022, hat mich das sehr früh fasziniert und hat unterschiedliche Fragen aufgeworfen, mit denen ich mich seither auf meiner Forschungsstelle für digitale Kulturen und Künste, die ich hier in Zürich habe, beschäftige.

Ist das Jahr 2022 der Zeitpunkt, als KI-Bilder politisch oder gesellschaftlich wirklich relevant geworden sind?

Roland Meyer: Entscheidend war, als mit DALL-E 2 und Midjourney Bildgeneratoren auf den Markt kamen, die massenwirksam wurden und auf Social Media Eindruck hinterlassen haben, weil ihre Bilder massenhaft geteilt wurden.

Ich hatte das Gefühl, es war am Anfang - vielleicht täuscht das auch - noch nicht eindeutig politisiert, wie es dann relativ schnell geworden ist. Am Anfang war das eher ein nerdiges Ausprobieren dieser Technologien, sie übte eine Faszination aus.

Einher gingen sehr früh, denke ich, berechtigte Skepsis, Kritik und Abwehr. Da ging es vor allem um Fragen von Urheberrecht und Plagiaten, dass Künstler:innen und Kreative gesagt haben: “Moment, was passiert da? Da werden gerade massenhaft Daten geklaut, massenhaft urheberrechtlich geschützte Werke genutzt? Und das alles, damit KI-Firmen ihre Modelle trainieren können und endlos schlechte Variationen und Kopien machen können? Ja, da haben wir ein politisches Problem.”

Dass Bildgenerationen in dieser polarisierenden Weise politisch genutzt werden, geschieht seit Ende des Jahres 2023.

Fast jede:r hat bis heute wahrscheinlich mal ein Bild von sich im Stile von Studio Ghibli produziert.

Roland Meyer: Wobei das relativ spät als große Welle kam. Das ist ja im Grunde erst 2025 mit der neuen Chat-GPT-Variante passiert, die das massenhaft möglich machte, die sogenannte “Ghiblification”.

Dem gingen schon noch einige frühere Tools und deren Einsatz voran. Das waren dann reine Bildmodelle, während man heute multimodale KI-Modelle hat, wie eben ChatGPT, das Texte produziert, aber auch Bilder und vieles mehr.

Wenn du unsere Arbeit unterstützen möchtest, dann kannst du ganz leicht Mitglied werden! Das Beste: Noch bis zum 24.12. bieten wir dir eine vergünstigte Weihnachtsmitgliedschaft an (du erreichst sie NUR über den folgenden Link):

🎁 Hohoho: Die Wie Rechte reden-Weihnachtsmitgliedschaft (Opens in a new window).

Du kannst die Mitgliedschaft auch verschenken - entweder vier Ausgaben unseres Newsletters oder eine Jahresmitgliedsschaft.

Ich möchte mit dir über die globale Rechte, sprechen und ihrer, das ist ein Zitat von dir, “Liebe zur generativen KI (Opens in a new window)”. Ich fange mit einer meiner ersten Erinnerung an. Das war im März 2024. Da gab es journalistische Berichte über ein KI-Bild der AfD. Darauf war eine blonde Frau zu sehen mit einem Doktortitel und die erklärte, warum sie die AfD gut findet.

Die Frau gab es natürlich nicht und das Bild war KI - wenn auch nicht als KI gekennzeichnet. Da wurden dann Expert:innen befragt, die erklären durften, ob es sich hier um KI. Das heißt, KI-Bilder waren anfangs kurios, wenn eine politische Partei damit arbeitete, war das erstmal eine News. Erinnerst du dich noch an den Fall und den Umgang mit dem Bild?

Roland Meyer: Wir haben im Vorfeld ja auch darüber gesprochen und da habe ich es nachrecherchiert - präsent war es mir nicht mehr. Damals gab es mehrere solcher Fälle, nicht nur der AfD. Das waren KI-generierte Bilder, die vor allem zeigen sollten, wie jung, schön und toll man selbst ist. Das war damals noch ein relativ typischer Einsatz dieser Bildern, im Grunde wie man Stockfotos [Anm. d. Red.: Bilder von Agenturen] nutzt.

In dem AfD-Beispiel kommt noch der Aspekt von Desinformationen dazu, weil gesagt wurde, dass es sich um eine reale Person handle, die AfD gewählt habe.

Ich erinnere mich, dass das sehr aufgeregt unter den Aspekten Deepfake und Desinformation besprochen wurde und ob man Bilder überhaupt noch trauen kann. Und die Frage kam auf, was man wissen müsse, um herauszufinden, ob Bilder gefälscht seien. Der mediale Umgang war deshalb, dass man forensische Expert:innen interviewte, die alle möglichen Details in diesen Bildern entdecken konnten.

Nach wie vor gibt es ein Bedürfnis, wenn KI-Bilder sehr prominent werden, diese zu debunken und zu erklären, woran man KI erkennen kann. Ich glaube aber, das hört langsam auf.

Gemessen an dem, was seither alles an KI-generierter Propaganda von der AfD kam, scheint mir das ein verhältnismäßig harmloses Beispiel zu sein. Auch wenn es schon damals sprechend war, dass es eine junge blonde, schöne Frau war, dass also eine ganz bestimmte Ideen von Weiblichkeit propagiert wurde, die die AfD will.

Wie würdest du den Stand der KI-Nutzung heute einschätzen? Wie hat sich der Einsatz von KI-Bildern professionalisiert oder vielleicht sogar radikalisiert?

Roland Meyer: Ich finde es schwer, das auf einen Nenner zu bringen und den Überblick zu behalten, weil es inzwischen eine unglaubliche Masse und Breite angenommen hat. Das prägende Phänomen, über das man mittlerweile spricht, ist AI Slop. Es gibt noch immer keine richtige Übersetzung dafür. Der Vorschlag wäre vielleicht “KI-Schrott”. Es beschreibt die synthetisch für Social Media Content hergestellte Masse von schlechter Qualität,

Und da spielen rechte Bildwelten eine große Rolle. Was ich dabei interessant finde, diese werden nicht allein von rechten Bewegungen oder rechten Parteien produziert.

Eines der jüngsten Beispiele, ist mir auf TikTok untergekommen. Das ist erstmal wichtig. Tiktok als Plattform hat für synthetisch generierten Content eine massive Bedeutung. Und da gibt neuerdings Clips von Menschen, die auf sehr aufgeladenen Demonstrationen stehen - alle Leute sind ganz aufgeregt. Sie sprechen jedenfall direkt in die Kamera und erzählen, dass die AfD ein Gesetz gegen Drogenmissbrauch lanciert hat. Dann folgt: “Wenn du auch gegen Drogen sein willst und für ein besseres Deutschland, dann klick doch bitte hier.”

Das geht nur wenige Sekunden und davon gibt es massenhaft verschiedene Varianten. Und wenn man schaut, wer das produziert, scheint es mir so, als ob das gar nicht unbedingt von der AfD oder AfD-nahen Kräften produziert wurde.

Dahinter stecken Akteur:innen, die mit diesem synthetischen Clickbait vor allem Engagement auslösen wollen. Das bedeutet, dass die Sichtbarkeit der AfD auf sozialen Medien dazu geführt hat, dass es “quasi-AfD-Content” von politisch nicht unbedingt gleich Interessierten gibt, die damit auf Clickbait, Reaktionen und letzten Endes Monetarisierung spekulieren.

Da hat sich eine eigene Ökonomie des synthetischen Contents gebildet, die darauf reagiert, welche mediale Vorherrschaft rechte Bildwelten, rechte Ideen und rechte Parteien auf sozialen Medien haben. Das ist für mich eine neue und erschreckende Entwicklung.

Ich beobachte das ähnlich. Man sieht das bei manchen Influencer:innen, die vor einigen Jahren noch andere Themen hatten, beispielsweise dubiose Geldgeschäfte, dass sie jetzt bei rechtem bis extrem rechtem Content gelandet sind, weil sich das offenbar sehr gut auf den Plattformen monetarisieren lässt.

Das bedeutet, dass der extrem rechte Zeitgeist Kohle bringt und damit weiter bestärkt wird, wenn nun auch noch Opportunist:innen auf das Thema aufspringen.

Roland Meyer: Das machen einerseits eben die Plattform möglich und zweitens die generative KI, die es erlaubt, massenhaft Content zu produzieren und in die Timelines und Feeds zu spülen, ohne dass es Mehrkosten produziert. Man kann das ja beliebig ausprobieren, welche Genres, welche Muster, welche Themen erfolgreich sind. Und wenn sich zeigt, dass zum Beispiel rechtsradikale Inhalte besonders erfolgreich sind - und es ist ja die Logik von Plattformen, dass man unmittelbar die algorithmische Auswertung des Erfolgs von bestimmten Formen und Inhalten erhält - dann ist man Teil solcher plattformbasierter Verstärkungsfeedbacks, die tatsächlich erschreckend sind.

Ein anderes Phänomen, das ich in jüngerer Zeit bemerkenswert fand, da gab es auch aktuell eine Reportage in der Süddeutschen Zeitung dazu, sind rechtsradikale Musikaccounts, die mit generativer KI. Sie erstellen sowohl Musik als auch Visuals, also Bilder und Videos, mit KI. Da gibt es Accounts, die sehr erfolgreich auf Spotify und YouTube sind.

Die generieren beispielsweise Schlagerballaden, die häufig mit Nostalgie operieren und beispielsweise eine westdeutsche Mittelschichtskindheit verklären. Da gibt es dann bunte Tüten vom Kiosk an der Ecke, einen Scoutranzen auf dem Rücken - alles aufgewärmte Klischees der “Generation Golf”.

Das Problem ist, dass diese Lieder radikalisieren sollen und zur Mobilisierung genutzt werden. Die Message lautet: “Die wollen uns unsere Vergangenheit klauen. Wir sind die letzte Generation, die sich noch an all das Schöne erinnern kann.” Deshalb müsse man jetzt für dieses Deutschland, das ja völlig imaginär und reine synthetische KI-Produktion voller Klischees ist, in den Kampf eintreten.

Du hast jetzt mit “Klischee” und “Nostalgie” zwei Stichworte genannt, von denen ich weiß, dass du sie für sehr wichtig hältst. Sie erklären recht gut, wieso es vor allem die extreme Rechte ist, die auf generative KI angesprungen ist, richtig?

Roland Meyer: Ja, darüber denke ich schon länger nach und schreibe auch schon seit einiger Zeit dazu. Für mich lassen sich dabei mehrere Faktoren identifizieren, die nie ausschließlich sind, aber jeweils eine wichtige Rolle spielen.

Ein Aspekt, den ich bereits angesprochen habe, ist Nostalgie. Sie ist für rechte Akteure besonders attraktiv, weil sie das Versprechen einer imaginären Vergangenheit transportiert - einer Vergangenheit, die man entweder wiederherstellen oder gegen all jene verteidigen müsse, die in diesen Vergangenheitsbildern nicht vorgesehen sind. Gemeint sind damit Menschen, die nicht den gängigen weißen, heteronormativen Klischees entsprechen.

Das Verhältnis von generativer KI und Nostalgie erscheint mir dabei nicht zufällig, sondern tatsächlich strukturell, fast technisch bedingt. Ganz vereinfacht gesagt: Diese KI-Modelle werden mit riesigen Mengen an Daten aus der Vergangenheit trainiert - andere Daten stehen ihnen gar nicht zur Verfügung. Sie sind deshalb besonders gut darin, Muster vergangener Bildproduktion zu erkennen, zu reproduzieren, zu synthetisieren und zu neuen Formen zu verschmelzen.

Dabei gehen sie ausgesprochen ahistorisch mit diesen Bildern um. Das ist ebenfalls technisch bedingt: Die Modelle verfügen über kein Verständnis von Geschichte als linearer Abfolge oder als Kette kausaler Zusammenhänge. Stattdessen erfassen sie Stimmungen, Atmosphären, Stile und visuelle “Vibes” als Muster, die sie verdichten, vermischen und erneut ausgeben. Entsprechend entstehen häufig Bilder, die scheinbar in einer Vergangenheit angesiedelt sind, ohne dass sich diese zeitlich genau bestimmen ließe.

Hinzu kommen bestimmte ästhetische Effekte einzelner Bildgeneratoren - etwa ein ausgeprägter Gelbstich, der den Bildern einen nostalgischen Glanz verleiht. Das ist kein Zufall, sondern Ergebnis von Optimierungs- und Fine-Tuning-Prozessen, bei denen populäre Filter-Ästhetiken gezielt nachgeahmt werden.

Ist diese Nostalgie also eher ein politischer Missbrauch der Technik - oder steckt sie schon in der Technik selbst?

Roland Meyer: Insgesamt lässt sich sagen: Diese nostalgische Tendenz ist in der KI-Bildgenerierung bereits technisch angelegt.

Ein zweiter Punkt, den ich für besonders wichtig halte - und den wir schon angesprochen haben -, ist die Verstärkung von Klischees. Man kann KI-Bildgenerierung als eine Art umgekehrte Mustererkennung verstehen. Aus riesigen Bilddatensätzen, die aus dem Internet abgesaugt wurden, werden statistische Muster, Häufigkeiten und Wahrscheinlichkeiten extrahiert und anschließend reproduziert.

Klassische Mustererkennung funktioniert anders: Man labelt beispielsweise alle Bilder mit Katzen als “Katze” und alle mit Hunden als “Hund”. Bei generativer KI ist es umgekehrt. Man gibt das Label - etwa “Katze” oder “Hund” - vor, und das System soll ein Bild erzeugen, das diesem Label möglichst eindeutig und unmittelbar lesbar entspricht. Das Bild muss also Erwartungen erfüllen: ein Bild einer Katze, so wie man glaubt, dass eine Katze auszusehen hat.

Diese Erwartungen sind bereits klischeehaft - sie speisen sich aus Hunderttausenden von Bildern, die man selbst gesehen hat. Bei der KI ist es nicht anders, nur dass sie zusätzlich mit stark vorgeprägten Datensätzen gefüttert wird: mit Bildern aus Social Media, Shopping-Websites, Stockfotografie und anderen Produkten kommerzieller digitaler Bildkultur. Diese Muster werden nicht nur übernommen, sondern weiter vereindeutigt.

Geschlechterklischees oder rassistische Zuschreibungen, die in den Ausgangsdaten vorhanden sind, werden nicht einfach reproduziert, sondern häufig - und das lässt sich empirisch nachweisen - sogar verstärkt. Ein klassisches Beispiel: Fragt man nach “a professor”, also zunächst geschlechtsneutral, kann man davon ausgehen, dass die Trainingsdaten bereits einen Überhang von Männern gegenüber Frauen und von Weißen gegenüber People of Color enthalten. Im generativen Prozess werden diese Verteilungen jedoch noch einmal zugespitzt: Mit sehr hoher Wahrscheinlichkeit erscheint dann ein weißer Mann, oft mit Bart und Brille – und eben nicht etwa eine schwarze Frau.

Dieses Phänomen bezeichnen wir als Bias. Es wurde seit Beginn der aktuellen KI-Welle intensiv kritisiert und von liberalen, progressiven oder linken Akteuren als Problem markiert, das es zu beheben gilt. Für rechte politische Vorstellungen ist es jedoch ausgesprochen anschlussfähig. Denn diese zielen auf eine Welt, in der Männer besonders maskulin und Frauen besonders feminin erscheinen, in der qualifizierte Positionen überwiegend von Weißen besetzt sind, in der Minderheiten marginalisiert oder unsichtbar bleiben und in der geschlechtliche Uneindeutigkeiten - etwa trans- oder nicht-binäre Lebensformen - nicht vorkommen sollen.

Die Tendenz der KI zur Vereindeutigung, zur Herstellung einer Welt, in der jede Person einem klaren, vorgegebenen Label entspricht, bedient diese Vorstellungen sehr gut. Hinzu kommt eine scheinbare Objektivität: Weil es sich um ein technisches, statistisches Verfahren handelt, lässt sich sagen: “Die KI zeigt das doch. Wir haben sie gefragt, wie ein bestimmter Beruf aussieht - und das ist das Ergebnis.”

Auf diese Weise bestätigen KI-Bilder bestehende diskriminierende Erwartungen und Vorurteile und verleihen ihnen einen objektiven Anschein.

Diese beiden Aspekte - Nostalgie und Klischeeverstärkung - sind aus meiner Sicht zentrale Gründe für die Affinität der extremen Rechten zu generativer KI. Es gibt sicher weitere Faktoren, aber diese beiden spielen eine besonders wichtige Rolle.

Ich erinnere mich an eine Art Gegenbewegung oder “Beweisführung” von rechts. Dabei wurden einzelne Bilder herausgegriffen, verbreitet und groß gemacht, die eine bestimmte Form von Diversität darstellten.

Plötzlich tauchten Bilder eines “Black Santa” oder ähnlicher Figuren auf, die von KI generiert worden waren. Ich vermute, dass das ein Versuch der Plattformen war, genau auf diese Klischees und Bias zu reagieren - um ihre Bildgeneratoren diverser zu machen.

Von extrem Rechten wurden diese Beispiele dann hergenommen und als Beleg präsentiert, dass KI angeblich historische oder kulturelle “Wahrheiten” verfälsche.

Roland Meyer: Es gibt dafür einen sehr bekannten Fall, der 2024 große Aufmerksamkeit bekommen hat: die damals eingeführte Version von Googles Bildgenerator Gemini. Sie hat enorme Resonanz ausgelöst - insbesondere von Seiten der Online-Rechten, vor allem auf X, rund um Elon Musk und sein Umfeld.

Was Google damals gemacht hat, war eine Reaktion auf die anhaltende Kritik am Bias dieser Systeme. Allerdings handelte es sich um eine eher oberflächliche und kurzschlüssige Gegenmaßnahme, die man als “Shadow Prompting” bezeichnet.

Das funktioniert folgendermaßen: Wenn ich einen Prompt eingebe wie “a professor”, ergänzt die Software im Hintergrund mit einer bestimmten Wahrscheinlichkeit zusätzliche Begriffe - etwa “Asian” oder “female”. Der eigentliche Prompt wird stillschweigend erweitert, etwa zu “an image of an Asian female professor”.

Auf den ersten Blick kann man sagen: Das erzeugt mehr Diversität in den Ergebnissen, ohne dass man an der grundlegenden Logik des Modells etwas ändert. Die interne Funktionsweise bleibt dieselbe, und man bekommt weiterhin ein sehr klischeehaftes Bild - nur eben nicht mehr den stereotypen weißen Professor, sondern nun etwa eine asiatische Professorin. Trotzdem wird auf diese Weise zumindest formal eine größere Vielfalt an Bildern produziert.

Sehr schnell haben rechte Online-Akteure und / oder -Trolle - einschließlich Elon Musk - herausgefunden, dass sich dieses Verfahren auch auf andere Prompts auswirkt. Wenn man etwa nach “NS-Offizieren”, “Päpsten”, “Wikingern” oder den amerikanischen “Founding Fathers” fragte, bekam man plötzlich Darstellungen von Native-American Founding Fathers, Wikingern als People of Color oder einer indischen Päpstin.

Die Ergebnisse wurden massiv verbreitet und skandalisiert. Ihnen wurde vorgeworfen, historisch “inkorrekt” zu sein - was ein eher albernes Argument ist -, aber vor allem wurden sie als “anti-civilizational” und als “rassistisch gegen Weiße” bezeichnet. Das ist auch die Lesart von Elon Musk: ein angeblicher Rassismus gegen Weiße, ausgeübt von einer “woken Mafia” - ausgerechnet in Gestalt von Google.

Der folgende Backlash war enorm. Er führte nicht nur kurzfristig zu Kursverlusten, sondern auch dazu, dass Google das Modell in der damaligen Form vom Markt nahm.

Eine australische Forscherin hat dazu einen sehr lesenswerten Text geschrieben. Sie argumentiert, dass dieser Fall extrem lehrreich ist, weil er zeigt, wessen Erfahrungen und wessen Ängste in der Tech-Welt ernst genommen werden. Was hier sehr viel stärker zählt als die realen, anhaltenden Diskriminierungserfahrungen von People of Color, ist eine Form “weißer Paranoia”.

Diese Angst wird sofort politisch wirksam, während Versuche, Diskriminierung zumindest oberflächlich entgegenzuwirken, umgehend zurückgenommen werden, sobald sie weiße - genauer gesagt: weiße männliche - Befindlichkeiten berühren.

Und mit ökonomischem Druck einhegehen, wenn der Aktienkurs fällt. Das ist wahrscheinlich auch ein entscheidendes Argument gewesen.

Roland Meyer: Absolut. Und dieser Druck stand damals noch unter anderen politischen Bedingungen. Heute, unter Trump und mit dem engen Bündnis zwischen Big Tech und der Trump-Regierung, haben wir es mit einer grundlegend veränderten Situation zu tun.

Wenn jetzt von “Bias” die Rede ist - etwa bei Meta -, dann ist damit nicht mehr rassistische oder sexistische Diskriminierung gemeint. Stattdessen geht es um den angeblich “woken” oder liberalen Bias von Sprachmodellen, gegen den man vorgehen müsse.

Die Personen, die man sich dafür ins Boot holt, sind im Zweifelsfall ausgewiesene Rechtsradikale, die direkt an den Modellen arbeiten und sie an die neue politische Lage anpassen sollen. Das markiert einen Punkt, an dem nicht mehr nur implizit, sondern ganz offen darum gestritten wird, was KI-Modelle leisten sollen und wessen Weltbild sie reproduzieren dürfen.

In diesem Konflikt lässt sich nüchtern feststellen: Die Rechte hat diese Auseinandersetzung bislang gewonnen.

Bevor wir jetzt nach Deutschland kommen, lass uns kurz bei Donald Trump bleiben. Du hast ihn schon mehrfach angesprochen und auch in deinem empfehlendswerten re:publica-Vortrag zu “Generativer KI und Ästhetik des digitalen Faschismus (Opens in a new window)” behandelt.

Da gibt es KI-Bilder von ihm: mal als überhöhte Heldenfigur, fast schon mythologisch inszeniert, und dann wieder diese völlig enthemmten Darstellungen - etwa das Bild, in dem er Demonstrierende mit Exkrementen überschüttet. Was macht Trump visuell und politisch? Was leisten diese Bilder?

Roland Meyer: Ich glaube, man kann hier mehrere Dinge gleichzeitig beobachten. Ein Aspekt, den wir festhalten sollten, sind Strategien des Trollings - und zwar spezifisch rechten Trollings. Diese Bilder zielen ganz bewusst darauf ab, dass Menschen wie wir, aber auch viele andere, auf Social Media darauf reagieren: dass wir sie als Provokation wahrnehmen, uns darüber aufregen und sie dadurch erst recht sichtbar machen.

Gerade bei Trump ist das eine der größeren Gefahren. Denn solche Bilder liefern seiner Gefolgschaft - ebenso wie der von Elon Musk und ähnlichen Figuren - genau das, was sie sucht: die Befriedigung, es “mal wieder geschafft zu haben, die Libs zu ownen”. Diese Trolling-Strategie funktioniert mit bereits genannten AI Slop besonders gut.

Das hängt auch mit einer ästhetischen Entwicklung zusammen. Die typische KI-Ästhetik - dieses übertriebene Glänzen, die grellen Farben, das Schwanken zwischen fotografischem und malerischem Stil, die extreme Vereindeutigung von Maskulinität und Feminität, aber auch dieses spezifische Leuchten - ist zunehmend klar rechts konnotiert.

Nicht zuletzt deshalb, weil sich die politische Linke aus guten Gründen immer kritischer gegenüber KI und Big Tech positioniert hat und deutlicher sieht, wie problematisch diese Technologien sind.

Genau deshalb funktioniert das Trolling über solche Bilder so gut: weil sie als KI-Bilder erkennbar sind, weil viele Menschen KI ablehnen oder sogar hassen - und weil diese Ablehnung politisch zunehmend sortiert ist. Daraus entsteht eine bewusste Provokationsstrategie.

Gleichzeitig sind diese Bilder schlicht Memes. Es geht darum, eine im Kern sprachlich formulierbare Idee in ein Bild zu übersetzen, das eine enorme Durchschlagskraft hat - so stark, dass es sich kaum wieder aus dem Kopf verdrängen lässt. Das gilt etwa für das Bild, in dem Trump buchstäblich auf Demonstrierende scheißt.

Diese Buchstäblichkeit ist ein zentrales Moment von KI-generierten Bildern. Weil sie Übersetzungen sprachlicher Beschreibungen sind, zielen sie fast immer darauf, extrem eindeutig und unmittelbar lesbar zu sein. Man soll sofort sehen, was man auch hätte lesen können - nur eben mit größerer Wucht. Ein Bild wie “Trump als Papst” geht vollständig in der Beschreibung “Trump als Papst” auf. Und dennoch erzeugt es, sobald man es sieht, eine zusätzliche Abgründigkeit, Dringlichkeit und Absurdität, die der bloßen textlichen Shitpost-Aussage noch einmal einen ganz anderen Impact verleiht.

Zum Trolling gehört schließlich auch ein Moment von Souveränität durch Exzess - etwas, das bei Trump ohnehin sehr stark ausgeprägt ist. Die Botschaft lautet: Der vermeintlich mächtigste Mann der Welt kann es sich leisten, sich öffentlich derart lächerlich zu machen, ohne dass es ihm schadet.

Dass jemand sich so bewegen kann, solche Bilder von sich zirkulieren lässt - und trotzdem von anderen Staatschefs und den Spitzen großer Konzerne weiterhin als mächtig anerkannt und behandelt wird -, ist selbst eine Machtdemonstration. Gerade diese Gleichzeitigkeit von Lächerlichkeit und Macht ist Teil der politischen Logik, die diese Bilder entfalten.

Was mir gerade eingefallen ist, als du diese Buchstäblichkeit beschrieben hast: Man muss diese Bilder ja prompten. Das heißt, man muss diese Gewalt, diese Herabwürdigung, in diesem Fall das Überschütten mit Exkrementen, dieses Shitposten, ja wortwörtlich formulieren, um das Bild überhaupt zu erzeugen.

Ist diese Form von KI-Bildproduktion deshalb auch eine Form von Enthemmung? Fördert sie also Enthemmung, weil man diese Dinge nicht nur zeigt, sondern sie zuvor auch explizit aufschreiben und ausformulieren muss?

Es sind dann nicht nur Bilder, die extrem “auf die Zwölf” sind und maximal eindeutig wirken - sondern auch ein Produktionsprozess, der verlangt, dass jemand diese Gewaltphantasien ganz konkret sprachlich artikuliert.

Roland Meyer: Man kann sich natürlich fragen - und das wäre eher eine sozialpsychologische Frage -, wie genau solche Enthemmungsprozesse funktionieren: Was geht ihnen voraus, was verstärkt sie, was treibt sie an?

Was man in diesem Zusammenhang unbedingt noch sagen muss: Bei vielen dieser Trump-Bilder ist gar nicht klar, wer sie eigentlich produziert hat. Es ist keineswegs sicher, dass Trump selbst am KI-Bildgenerator sitzt und diese Prompts eingibt, so wie er früher Tweets oder Posts auf Truth Social verfasst hat. Das ist zwar vorstellbar…

Ja, das ist absolut vorstellbar.

Roland Meyer: …aber sehr vieles bekommt er vermutlich einfach zugespielt. Und darin liegt ein entscheidender Unterschied zu klassischer Propaganda. Wenn man etwa an totalitäre Regime denkt, dann wurde immer ein enormer ästhetischer, künstlerischer und organisatorischer Aufwand betrieben, um Macht möglichst überwältigend zu inszenieren. Diese Inszenierungen waren ideologisch hochproblematisch, aber sie waren professionell produziert, teuer und stark kontrolliert.

Heute sehen wir etwas anderes: Extrem erfolgreiche Online-Propaganda kann in wenigen Sekunden zusammengeklickt werden. Sie kann von praktisch jeder und jedem produziert werden. Und genau das ist der entscheidende Punkt: Alle können mitmachen.

Wenn man Glück hat, wird der eigene Post von jemandem wie Elon Musk aufgegriffen oder von Donald Trump selbst geteilt. Inhalte, die von irgendeinem anonymen Internetnutzer produziert wurden - inzwischen oft mithilfe von KI -, werden plötzlich global verbreitet.

Natürlich spielen dabei auch Motive wie Grift, Aufmerksamkeitsspekulation und mögliche Monetarisierung eine Rolle. Aber es gibt noch ein tiefer liegendes Moment: Diese Infrastruktur lädt dazu ein, dass alle an der Enthemmung teilhaben können.

Alle können sich beteiligen - auch an der Feier von Gewalt, an der Feier von Menschenverachtung oder an Fantasien, die letztlich auf ethnische Säuberung hinauslaufen. Das ist eine Einladung zum Exzess. Und sie wird vermittelt über digitale Plattformen und über Werkzeuge, die nahezu allen gleichermaßen zugänglich sind und kaum Einstiegshürden haben.

Daran würde ich gern anschließen und den Blick nach Deutschland lenken. Die globale Rechte vernetzt sich ja inzwischen sehr offensichtlich - strategisch, medial, aber auch ästhetisch.

Gibt es aus deiner Sicht klare Beispiele, gerade in der Bildsprache, wo man sagen kann: Hier haben deutsche Akteure tatsächlich abgeschrieben, adaptiert oder nachgepromptet, was anderswo bereits erfolgreich war? Also lassen sich konkrete ästhetische Linien oder visuelle Motive erkennen, die von den USA oder anderen Kontexten nach Deutschland übertragen wurden?

Roland Meyer: Ich denke, das ist sehr gut sichtbar und auch ziemlich naheliegend. Im Grunde lassen sich hier zwei Bildgenres erkennen, die sich durchziehen, seit diese KI-Bildpraktiken etabliert sind - und die eigentlich noch älter sind, weil sie klare Vorläufer haben.

Das erste Genre sind Familienbilder: Darstellungen extrem normschöner, heteronormativer, sehr weißer und sehr blonder Familien. Solche Bilder werden von amerikanischen Neonazis und MAGA-Akteuren verbreitet, inzwischen aber auch von offiziellen Stellen wie dem US Department of Homeland Security - und ebenso von AfD-Abgeordneten in Deutschland.

Bei der AfD ist auffällig, dass ihre Bilder oft gar nicht besonders “deutsch” wirken. Ihre Ästhetik ist vielmehr eine Mischung aus christlichem Fundamentalismus, starkem Traditionalismus und teilweise auch Waffenaffinität. In dieser Kombination sind sie erstaunlich nah an amerikanischen Vorbildern. KI-Bildgenerierung wird hier genutzt, um eine extrem exklusive Vorstellung von Familie zu feiern, die mit sehr klaren Botschaften zu Geschlechterrollen, Ordnung und Zugehörigkeit einhergeht.

Dem gegenüber steht ein zweites Genre, das als bewusstes Gegenbild fungiert und sich international in sehr ähnlicher Form findet: das Bild der “islamischen Anderen”. Diese Figuren erscheinen als Bedrohung genau jener weißen, heteronormativen, christlich aufgeladenen Familienidylle. Man sieht verschleierte Frauen, die als gefährlich oder unterdrückt markiert werden, und als “arabisch” lesbare Männergruppen, die mit Kriminalität oder Terrorismus assoziiert sind.

Solche Darstellungen finden sich in KI-generierten AfD-Werbespots, aber ebenso bei Akteuren wie Geert Wilders in den Niederlanden oder Tommy Robinson in Großbritannien. Überall werden diese Bilder als lustvoll ausgestaltete Angstfantasien verbreitet. Daran lässt sich etwas Grundsätzliches festhalten:

KI-Bildgeneratoren fungieren hier als Wunschmaschinen. Und zu diesen Wünschen gehören nicht nur positive Selbstbilder, sondern vor allem auch angstbesetzte Wünsche - Fantasien, die sich aus Verschwörungsmythen wie dem “Großen Austausch” speisen. Diese werden als düstere Zukunftsszenarien inszeniert, etwa als Visionen eines Jahres 2060 oder eines angeblich vollständig islamisierten Landes.

Diese ästhetisch ausgearbeiteten Angstlust-Fantasien scheinen international hoch anschlussfähig zu sein und bilden ein verbindendes Element rechter Bildpolitiken.

Was ich im deutschen Kontext allerdings weniger stark sehe - vielleicht auch, weil ich es weniger kenne -, ist ein extrem ausgeprägter Personenkult. Den gibt es bei Figuren wie Trump oder auch Javier Milei sehr deutlich, ebenso bei Wilders. In Deutschland wurde so etwas bei Alice Weidel ansatzweise versucht, aber es scheint nicht dieselbe Prominenz zu haben.

Das dürfte auch damit zusammenhängen, dass die AfD bislang eine Oppositionspartei ist und damit unter anderen politischen Bedingungen agiert.

Ich würde vermuten, dass das bei der AfD damit zusammenhängt, dass man sich bislang nicht auf eine klare Leitfigur geeinigt hat. Innerhalb der Partei gibt es nach wie vor interne Machtkämpfe und unterschiedliche Strömungen.

Es fehlt eine Person, die wirklich tragfähig wäre, um all diese Strömungen zu bündeln und zu einen - jemand, der als gemeinsame Identifikationsfigur für das gesamte extrem rechte Spektrum fungieren könnte.

Roland Meyer: Von Maximilian Krah etwa existieren einige wirklich grauenhafte KI-basierte Selbstinszenierungen. Ich habe aber nicht den Eindruck, dass diese Bilder denselben Status oder dieselbe Wirkmacht entfalten. Bei Björn Höcke weiß ich es gerade nicht konkret, aber vermutlich gibt es auch dort entsprechende Versuche - wenn man lange genug sucht, findet man im Netz ja bekanntlich alles.

Entscheidend scheint mir jedoch, dass diese personalisierten Bildinszenierungen bislang keine übergreifende symbolische Funktion übernehmen, wie wir sie etwa aus anderen Kontexten kennen. Sie bleiben eher fragmentarisch und erreichen nicht die Rolle eines verbindenden Personenkults.

Wir haben dazu schon einen Newsletter geschrieben, in dem wir gezeigt haben, dass Björn Höcke rhetorisch und ästhetisch bei Donald Trump kopiert. Dazu gehören auch sehr maskuline KI-Bilder, mit denen seine Aussagen visuell überschrieben werden. Inhaltlich folgt das immer demselben Muster: Höcke inszeniert sich als jemand, der “im Weg steht” - zwischen einer angeblich globalistischen Elite, den Linken, die “an euch ran wollen”, und dem Wahlvolk, für das er ja angeblich spricht.

Er stellt sich als letzte Schutzfigur dar, als Bollwerk gegen eine feindliche Macht. Diese Erzählung wird dann visuell als heroische, stark maskuline Selbstinszenierung umgesetzt. Das ist eins zu eins von Donald Trump übernommen - sowohl in der Rhetorik als auch in der visuellen Dramaturgie.

Roland Meyer: Ja, das kann ich mir gut vorstellen und überrascht mich auch nicht.

Was mich noch interessiert: Du hast dich in der Stadtbild-Debatte sehr klar geäußert und dabei - ich zitiere dich - von “rassistischen Phantasmen der Reinigung” und von einer Sehnsucht nach einer Vergangenheit, die es so nie gegeben hat, gesprochen. Das knüpft direkt an etwas an, womit wir uns im Zusammenhang mit Faschismus ja leider wieder beschäftigen müssen: die Mythisierung einer Vergangenheit, die nie existiert hat.

Die KI ermöglicht es nun, solche Fantasien visuell darzustellen - etwa ethnisch “gesäuberte” Innenstädte oder idealisierte Vergangenheitsbilder, die es real nie gab. Ist das ein zentraler Punkt, der KI so gefährlich macht? Also: dass sie extrem rechte Ideen und Ideologien nicht nur behauptet, sondern emotional wirksam bebildert?

Roland Meyer: Solche Bilder konnte man schon immer herstellen - dafür brauchte man keine KI-Bildgeneratoren. Was heute produziert wird, entspricht im Kern den Bildmotiven, die wir längst kennen.

Ich habe mich da ganz konkret auf Beiträge einer AfD-Bundestagsabgeordneten bezogen. Was man darin sah, war gewissermaßen das Stadtbild, das sich “die Deutschen” wünschen sollen - in direktem Bezug auf die Vorlage von Friedrich Merz. Die KI-Bilder haben dabei noch einmal explizit gemacht, was bei Merz vielleicht als Subtext angelegt war: eine rein weiße Kleinstadtidylle.

Interessanterweise haben viele darauf hingewiesen, dass diese Stadt ohne Autos dargestellt ist. Auch das gehört zu dieser KI-Klischee-Produktion: eine Vereindeutigung dessen, was “Kleinstadtidylle” heißen soll. Es wirkt fast wie eine Art Fußgängerzonen-Fantasie. Man sieht freundliche, fröhliche Menschen weißer Hautfarbe, Trachten, Dirndl, freundliche Polizisten - und ansonsten niemanden, der dieses Stadtbild aus rechter Perspektive stören könnte.

Dazu kommt ein begleitender Text, in dem Begriffe wie “Tradition”, “Lebensfreude” und “Heimat” bemüht werden. Das ist, würde ich sagen, eine faschistische Fantasie, nicht wegen expliziter Gewalt, sondern wegen dessen, was sie impliziert: nämlich all das, was aus diesem Bild verschwunden ist und verschwinden soll.

So ein faschistischer Impuls zielt immer auf Ausschließung, auf die Fragen: “Was muss hier weg? Wer gehört hier nicht hin?” Und damit sind wir wieder bei Momenten der Enthemmung. Allerdings nicht im Sinne von offenem Hass oder Angstschüren, wie man es lange beschrieben hat, sondern als positives Identifikationsangebot.

Diese Bilder funktionieren als emotionale Erzählungen. Sie bestätigen das Gefühl: “Das ist doch eigentlich das, was wir uns alle wünschen - ein schönes, heimeliges Stadtbild.” Genau darin liegt ihre Wirkmacht. Diese Fantasien speisen sich aus Bildern der Vergangenheit, sind aber nicht eindeutig historisch verortet. Sie gehören weder klar der Vergangenheit noch der Gegenwart an. Diese zeitliche Unschärfe ist ein weiterer Punkt, der KI-Bilder besonders attraktiv macht.

Man kann all das auch ohne KI produzieren. Aber mit KI geht es besonders schnell. Und es gibt inzwischen unzählige Bilder, die genau als Vorlagen dienen. Eine AfD-Bundestagsabgeordnete kann solche Bilder ohne großen Aufwand direkt in eine politische Debatte einspeisen.

In diesem Fall wurde buchstäblich sichtbar gemacht, was Merz nur sprachlich angedeutet hatte. Und man konnte sich zugleich als diejenigen inszenieren, die das nicht nur sagen, sondern auch wirklich meinen.

Ich komme zum Schluss mit einer Frage zu dem Begriff des “Disordered Discourse”, geprägt vom Bellingcat-Gründer Eliot Higgins. Gemeint ist damit, dass öffentliche Debatten gezielt durch Kampagnen, Lügen und emotionalisierte Narrative verzerrt werden - das funktioniert besonders in einem Medienraum, der heute stark algorithmisch organisiert ist.

Wenn Sichtbarkeit von Themen vor allem über das funktioniert, was viral geht, gerät die gemeinsame Wirklichkeits- und Wahrheitsbasis von Demokratie unter Druck. Welche Rolle spielen KI-generierte Bilder in diesem Prozess - gerade weil sie emotional stärker wirken als Texte und extrem rechte Kampagnen visuell zuspitzen können?

Roland Meyer: Ja, diese Momente der Emotionalisierung werden auf jeden Fall noch einmal verstärkt. Entscheidend ist, wie wir schon gesagt haben, dass diese Werkzeuge heute für sehr viele Menschen zugänglich sind. Sie können KI als eine Art Wunschmaschine zur Produktion alternativer Wirklichkeiten nutzen - und damit gezielt Stimmungen beeinflussen und in Aushandlungen darüber eingreifen, welches Bild wir eigentlich von der Welt und von Wirklichkeit haben.

Dabei geht es, glaube ich, weniger um klassische Desinformation. Wir müssen uns von der Vorstellung lösen, dass es immer darum geht, falsche Informationen zu streuen, um Menschen bewusst zu täuschen. Viele dieser KI-Bilder zielen gar nicht darauf ab, dass jemand denkt: “Ach so, das ist wahr, das wusste ich noch nicht, jetzt ändere ich meine Meinung.”

Stattdessen passiert etwas anderes: Zum einen erleben wir eine grundsätzliche Destabilisierung von Wirklichkeitsbezügen. Durch die schiere Flut solcher Inhalte wird man zunehmend skeptisch gegenüber allem, was nicht ohnehin den eigenen Überzeugungen und Erwartungen entspricht. Parallel dazu wirken KI-Bilder als Bestätigungs- und Verstärkungsmaschinen für bereits vorhandene Weltbilder - sie emotionalisieren und verdichten das, was viele ohnehin fühlen.

Ein Beispiel, das ich immer sehr eindrücklich fand, stammt von der AfD Baden-Württemberg. Dort wurden KI-generierte Bilder von Weihnachtsmärkten verbreitet, die von Stacheldraht, Betonpollern und Polizeischutz geprägt sind. Diese Bilder greifen ein verbreitetes Gefühl von Unsicherheit auf, etwa im Kontext von Terroranschlägen - und übersetzen es in eine starke visuelle Formel.

Besonders aufschlussreich ist dazu eine Aussage eines Social-Media-Experten der AfD Baden-Württemberg. Er sagte sinngemäß: Wir haben nach Bildern gesucht, die dieses Gefühl von Angst auf Weihnachtsmärkten zeigen - aber wir haben sie nicht gefunden. Die Leute posten immer nur fröhliche, schöne Bilder. Deshalb brauchen wir KI.

Das ist sehr bezeichnend. KI wird hier explizit genutzt, um Bilder einer Wirklichkeit zu erzeugen, die gefühlt vorhanden ist, auch wenn sie empirisch nicht dominant sichtbar ist. Diese Bilder erzeugen Resonanz, weil Menschen sie sehen und sagen: “Ja, das berührt mich, das entspricht genau dem, was ich empfinde.”

Genau dadurch werden sie massenhaft geteilt und wirksam. Diese Produktion von Wirklichkeit - oder besser: von emotional plausiblen Wirklichkeiten - ist ein zentraler Bestandteil dessen, was man als “Disordered Discourse” beschreiben kann. KI spielt dabei eine große Rolle, vor allem wegen der Niedrigschwelligkeit, mit der solche Bilder heute produziert, verbreitet und verstärkt werden können.

Vielen Dank für das spannende und interessante Gespräch!