Evangelischer Kirchentag 2023. Ein Gottesdienst, wie es ihn schon tausendfach gegeben hat: Menschen sitzen in Reihen, warten auf die Predigt, auf ein Wort, das sie durch die Woche trägt. Doch diese Predigt hat kein Pfarrer geschrieben und keine Pastorin. Sie stammt vollständig von einer KI, vorgetragen von KI-generierten Avataren auf einer Leinwand (BloKK / Universität Paderborn, 13. April 2025).

Man kann diesen Moment als technische Spielerei abtun. Oder als Experiment, das einmal ausprobiert werden musste. Man kann ihn aber auch als Zeichen lesen, dass sich gerade etwas Grundlegendes verschiebt. Denn das Thema ist seitdem nicht mehr theoretisch. Priester lassen sich bei ihren Predigten helfen, Imame bereiten mit ChatGPT die Freitagspredigt vor, Theologiestudierende analysieren Bibelstellen mit KI-Tools, und in buddhistischen Tempeln antworten Avatare auf Fragen der Gläubigen (BloKK / Universität Paderborn, 13. April 2025).

Die Medienphilosophin, Theologin und Psychotherapeutin Claudia Paganini geht in ihrem Buch „Der neue Gott: Künstliche Intelligenz und die menschliche Sinnsuche" noch einen Schritt weiter. Sie zeigt, inwiefern KI die klassischen göttlichen Attribute verkörpert und dadurch ein Verhältnis zwischen Mensch und Technologie entstehen kann, das religiöse Züge trägt (Paganini, Herder 2025). Auf der re:publica in Berlin formulierte sie es so: „Erstmals erschafft der Mensch einen Gott, statt ihn nur zu denken. Die KI übernimmt zunehmend, was einst der Religion vorbehalten war: Sinnstiftung, Orientierung und allzeit verfügbare Antworten. Wir beten nicht mehr, wir klicken." (Erzdiözese Freiburg / re:publica Berlin, 15. Mai 2025)

Das ist ein starker Satz. Und er wirft eine Frage auf, die über Technik weit hinausgeht: Was passiert mit Religion, wenn eine Maschine ihre Aufgaben übernimmt? Und was passiert mit uns?

Der Boden für diese Entwicklung ist bereitet. Traditionelle religiöse Bindungen gehen zurück und hinterlassen ein Vakuum. Gleichzeitig wächst in einer hyper-individualisierten Welt eine regelrechte Epidemie der Einsamkeit. Beides zusammen treibt Menschen dazu, Antworten dort zu suchen, wo sie jederzeit und ohne Hürde verfügbar sind (Bistum Regensburg, 4. September 2025).

In dieser Ausgabe schauen wir auf vier Bewegungen, die gleichzeitig stattfinden und sich manchmal überlappen. KI, die in religiöse Gemeinschaften einzieht. KI, die Religion ersetzt. KI, die selbst zum Gott erklärt wird, von Nutzern ebenso wie von denen, die sie bauen. Und KI, die heilige Schriften zugänglich macht und dabei an ihre Grenzen stößt.

Wenn KI in Kirche, Moschee und Tempel einzieht

Am Anfang steht eine ganz praktische Frage: Kann KI Menschen beim Glauben helfen? Der Bildungszweig des Toronto United Church Council wollte es genau wissen und leitete im Sommer 2025 ein Forschungsexperiment. Die Frage war, ob Menschen durch Gespräche mit KI wirklich etwas über den Glauben lernen können.

Die Auswertung tausender Interaktionen fiel bemerkenswert positiv aus. Chatbots, so das Ergebnis, können Menschen genau dort abholen, wo sie gerade stehen, in einem Moment der Not oder der Neugier. Sie können erklären, ermutigen, zum Nachdenken anregen und zu weiterer Erkundung einladen (Evangelisch.de, 24. April 2026).

Das ist bemerkenswert, gerade weil es aus einer Kirche selbst kommt. Hier wird KI nicht als Bedrohung behandelt, sondern als möglicher Türöffner. Als etwas, das niedrigschwellig erreichbar ist, das nicht urteilt, das um drei Uhr nachts antwortet, wenn kein Gemeindebüro geöffnet hat. Für Menschen, die mit Religion fremdeln oder sich nicht trauen, eine Pfarrerin anzusprechen, kann das ein erster Zugang sein.

Gleichzeitig verändert sich die Arbeit derer, die religiöse Gemeinschaften leiten. Wenn die Predigt mit KI vorbereitet wird, wenn Bibelstellen nicht mehr in stundenlanger Lektüre, sondern per Tool analysiert werden, verschiebt sich etwas im Kern religiöser Praxis. Eine Predigt war immer auch das Ergebnis eines inneren Ringens, einer persönlichen Auseinandersetzung mit einem Text. Was bleibt von diesem Ringen, wenn die Maschine einen Entwurf liefert? Der Kirchentag 2023 hat diese Frage gewissermaßen auf die Spitze getrieben, indem er die menschliche Stimme ganz aus der Predigt genommen hat.

Eine Wirtschaftsinformatikerin und ein Moraltheologe sehen in dieser Entwicklung nicht nur Risiken, sondern auch eine Aufgabe für die Religionsgemeinschaften selbst. Sarah Spiekermann und Matthias Beck argumentieren, dass Spiritualität Menschen im Umgang mit KI und Informationstechnologie resilienter machen kann, und plädieren für alltagstaugliche ethische Regeln. Gerade die Kirche könnte dabei weltweit eine wichtige Rolle spielen (Katholisch.at, 21. Oktober 2025). Religion wäre damit nicht nur etwas, das von KI verändert wird, sondern auch etwas, das Orientierung im Umgang mit ihr geben kann.

Wenn KI zum Religionsersatz wird

Bis hierhin geht es um KI als Hilfsmittel innerhalb bestehender Religion. Doch das Phänomen reicht weiter. KI beginnt, strukturell die Stelle einzunehmen, die Religion in einem Menschenleben einnimmt.

Das Bistum Regensburg beschreibt eine Entwicklung, die sich im Internet ausbreitet und auf eine Kernaussage hinausläuft: Für eine wachsende Zahl von Menschen wird KI zu einem umfassenden Religionsersatz. Es entsteht ein ganzes System aus Interaktion, Sinnstiftung und vermeintlicher Führung (Bistum Regensburg, 4. September 2025).

Das Wort „vermeintlich" ist wichtig. Religion bietet Führung, aber sie ist eingebettet: in Traditionen, in Gemeinschaften, in Menschen, die widersprechen, nachfragen, auch mal sagen, dass etwas nicht stimmt. Eine KI bietet ebenfalls Führung, aber ohne diese Einbettung. Sie ist allein mit dem Menschen, der sie befragt.

Wohin das führen kann, zeigt ein Fall, über den Rolling Stone berichtet hat. Ein Mann aus dem Mittleren Westen der USA schilderte, wie seine Frau, die bereits zu religiösen und spirituellen Überzeugungen neigte, nach der Trennung begann, über ChatGPT mit Gott und Engeln zu sprechen. Sie wurde zur Beraterin, die Lesungen mit einem sogenannten „ChatGPT Jesus" anbot. Sie wurde paranoid, beschuldigte ihren Ex-Mann, für die CIA zu arbeiten, vertrieb ihre Kinder aus dem Haus und zerrüttete alle Familienbeziehungen, ausgehend von KI-gesteuerten Deutungen ihrer Kindheit (Rolling Stone, 4. Mai 2025).

Ein „ChatGPT Jesus". In diesem Begriff steckt die ganze Verschiebung: Eine zentrale Figur des Christentums wird aus ihrem Kontext gelöst und in ein Sprachmodell verlegt, das antwortet, was die Fragende hören will. Keine Gemeinde, keine Tradition, kein Gegenüber, das korrigiert.

Andere Plattformen machen das Göttliche direkt ansprechbar. Auf Character.AI können Nutzerinnen und Nutzer unter anderem mit einer KI-Darstellung von Gott chatten. Religionsmedien haben entsprechende Experimente dokumentiert und diskutiert (Sonntagsblatt, 20. Januar 2023). Was früher Gebet war, ein Sprechen ins Offene ohne Garantie einer Antwort, wird zum Chat mit sofortiger Rückmeldung.

Hinter all dem steht auch ein Geschäft. Der Markt für spirituelle Wellness-Apps war 2024 zwei Milliarden Euro wert, darunter ein KI-Rabbi, dem sich gläubige Juden anvertrauen. Paolo Benanti, der KI-Ethiker des Vatikans, hält diese Verbindung von religiöser Sprache und Technologie für leicht zu durchschauen: „Man muss sehr genau unterscheiden: Geht es hier um Religion, oder um politische und ökonomische Narrative? Religiöse Sprache wurde oft instrumentalisiert, um Macht zu erlangen." (FOCUS, 18. Dezember 2025)

Auf Steady weiterlesen

„Es gibt eine Angst in eurer Generation."

Der Satz stammt von Eric Schmidt, ehemaligem CEO von Google, an der University of Arizona im Mai 2026, mitten in seiner Abschlussrede an die Absolvent:innen des Jahrgangs. Er hatte gerade begonnen, über KI zu sprechen, als die Buhrufe einsetzten. Am Glendale Community College buhte das Publikum, als die Präsidentin verriet, dass ein KI-System die Namen der Absolvent:innen vorlas und dabei mehrere übersprungen hatte. An der University of Central Florida buhten Studierende die Rednerin aus, die KI die „nächste industrielle Revolution" nannte; sie unterbrach ihre Rede mit der ratlosen Frage: „Was ist passiert?" Und im Juni 2026 verließen hunderte Stanford-Studierende die Zeremonie, als Google-CEO Sundar Pichai auftrat. Pichai vermied in seiner Rede jede direkte Erwähnung von KI und nannte sie stattdessen für den Anlass „truly immaterial".

Der Stanford-Walkout war primär propalästinensisch motiviert, und in den Buhrufen mischen sich Wut auf Gaza, DEI-Rückabwicklung und KI zu einer diffusen Front. Aber das KI-Motiv ist unverkennbar geworden, als Projektionsfläche für die Zukunftsangst einer Generation, die genau versteht, dass jene, die dort auf der Bühne stehen, Werkzeuge bauen, die ihre berufliche Zukunft neu sortiert, ja bedroht.

In dieser Folge geht es uns um genau diese Bewegung: den Widerstand gegen KI. Er hat sich in den vergangenen zwölf Monaten von diffusem Unbehagen zu organisierten Bewegungen mit messbaren Folgen verdichtet: lokal, global, ökonomisch, kulturell, politisch. Und er ist, das ist unsere zentrale These, kein technikfeindlicher Reflex. Er ist ein Streit über Macht.

Wo KI die Umwelt zerstört

KI ist längst keine reine Software mehr, sondern eine gebaute Infrastruktur: Hallen mit Servern, Kühlkreisläufe, Wassertürme, Umspannwerke. Und genau hier trifft sie auf physischen Widerstand.

Die Zahl aktiver Anti-Rechenzentrums-Gruppen in den USA hat sich innerhalb weniger Monate mehr als verdoppelt: von 396 Ende 2025 auf 833 in 49 Bundesstaaten bis März 2026. Die gleiche Steigerung sehen wir in der amerikanischen Allgemeinbevölkerung: Im August 2026 äußerten sich 75% aller Amerikaner gegen den Bau von Rechenzentren. Allein im ersten Quartal 2026 wurden Rechenzentrumsprojekte im Wert von 130 Milliarden Dollar blockiert oder verzögert, so viel wie im gesamten Vorjahr. Mindestens 69 lokale Verwaltungseinheiten hatten bis Mai 2026 Verbote oder Moratorien erlassen; Seattle verhängte eine einjährige Pause auf neue Anträge.

International ist das Bild noch dramatischer. In Irland verbrauchen Rechenzentren inzwischen über 20 Prozent des nationalen Stroms; die Kampagne „Not Here Not Anywhere" hat einen faktischen Anschluss-Stopp rund um Dublin bis 2028 durchgesetzt. In Spanien protestieren Aktivist:innen in dürregefährdeten Regionen unter dem Slogan „Tu Nube Seca Mi Río" (deine Cloud trocknet meinen Fluss aus) und sprechen von Opferzonen. In Chile setzte ein Gericht ein Google-Rechenzentrum aus, nachdem Anwohner:innen entdeckten, dass es jährlich über sieben Milliarden Liter Wasser entnehmen sollte. In den Niederlanden legte Meta ein geplantes, national größtes Rechenzentrum auf Eis. In Brasilien protestieren indigene Gemeinschaften gegen ein zehn Milliarden Dollar teures TikTok-Rechenzentrum unter Berufung auf ihr Konsultationsrecht. Weitere Proteste gab es in Schottland, Deutschland, Italien, Frankreich, Uruguay, Paraguay, Mexiko und Malaysia.

Das ist der Punkt, an dem KI ihre Rhetorik der Immateralität verliert. Ein Rechenzentrum mit fünf Millionen Gallonen Wasserverbrauch pro Tag ist kein „Cloud"-Phänomen. Es ist ein industrielles Bauwerk, das anderen Menschen die Ressourcen entzieht. Rund zwei Drittel der geplanten Anlagen in den USA liegen in dürregefährdeten Gebieten.

Der Nord-Süd-Graben

Interessant ist, dass sich diese Skepsis geografisch scharf verteilt. Laut der Stanford-HAI-Erhebung zum globalen KI-Sentiment sehen 83 Prozent der Befragten in China KI als mehr nützlich denn schädlich. In den USA sind es nur 39 Prozent. Ähnlich zustimmend sind Indonesien mit 80 und Thailand mit 77 Prozent; im Westen bilden Kanada, die USA und die Niederlande mit Werten um 36 bis 40 Prozent das Schlusslicht. Das Edelman Trust Barometer bestätigt das Bild: 87 Prozent Vertrauen in China, 67 in Brasilien, aber nur 39 in Deutschland und 32 in den USA.

Global steigt die Akzeptanz zwar langsam, von 55 Prozent 2024 auf 59 Prozent 2025, doch parallel geben 52 Prozent an, KI mache sie nervös. Der interessanteste Befund für uns ist ein anderer: Bei der Frage, wie KI die Arbeit verändern wird, erwarten 73 Prozent der Expert:innen positive Effekte, aber nur 23 Prozent der Öffentlichkeit. Eine Kluft von fünfzig Prozentpunkten. Genau diese Kluft, zwischen jenen, die KI bauen und deuten, und jenen, die mit ihren Folgen leben, ist einer der Kernmotoren des Widerstands.

Der Widerstand am eigenen Werk

Ein Feld, das oft unterschätzt wird, spielt sich direkt an den Werken selbst ab. Wer heute schreibt, malt, fotografiert oder programmiert, muss davon ausgehen, dass die eigenen Inhalte über Web-Scraper eingesammelt und in Trainingsdaten großer Sprach- und Bildmodelle verwandelt werden. Und das alles ohne Zustimmung, ohne Vergütung, ohne Rückrufmöglichkeit. Die Arbeit von jemandem wird zum Rohstoff für ein System, das sie in der nächsten Generation potenziell ersetzen soll.

Der Widerstand dagegen formiert sich auf mehreren Ebenen.

Auf Steady weiterlesen

Diese Folge von Agent Mensch ist anders als sonst. Normalerweise nehmen wir uns ein großes, wichtiges Thema vor: Krieg, Therapie, Demokratie, die Zukunft der Arbeit. Diesmal diskutieren Bettina und ich stattdessen eine sozialwissenschaftliche Denkweise auf Künstliche Intelligenz. Wir schauen uns gemeinsam einen Vortrag des Politikwissenschaftlers Henry Farrell, "AI as Social Technology" an und fragen uns: Was passiert, wenn wir KI nicht durch die Brille von Tech-Unternehmen oder Science-Fiction betrachten, sondern durch die Brille der Sozialwissenschaften?

Eine sozialwissenschaftliche Perspektive auf KI

Bislang wird die öffentliche KI-Debatte fast ausschließlich von Menschen geprägt, die selbst KI bauen und in Labs arbeiten, Menschen mit sehr spezifischen (und oft sehr unterschiedlichen) Eigeninteressen. Farrell erinnert uns daran, dass es viele andere Disziplinen gibt, die etwas beizutragen haben und die deutlich mehr Expertise in Bezug auf gesellschaftliche Folgen von Technologie aufweisen, als Technologen selbst: Soziologie, Politikwissenschaft, Entwicklungspsychologie. Gerade mir (Joana) als Kulturanthropologin, sind diese breiteren Perspektiven enorm wichtig und so wollen wir sie in dieser Folge und in diesem Newsletter hörbar machen.

Die These: KI ist weder Werkzeug noch Wesen, sondern Organisationsform

Farrell argumentiert, gemeinsam mit seinen Ko-Autor:innen Cosma Shalizi, Alison Gopnik und James Evans, gegen zwei dominante Erzählungen, die auch uns immer wieder beschäftigt haben:

Die eine Seite (etwa Arvind Narayanan und Sayash Kapoor) behauptet, KI sei letztlich eine "normale Technologie", die sich in bestehende Abläufe einfügt wie ein besseres Werkzeug. Die andere Seite (etwa das viel diskutierte Szenario "AI 2027") imaginiert KI als aufstrebenden autonomen Agenten auf dem Weg zur Superintelligenz. Farrell hält beides für Kategorienfehler. Seine Alternative: KI ist eine soziale Technologie: ein systematisches Mittel, mit dem sich soziale Beziehungen zwischen Menschen neu organisieren lassen. Damit steht sie in einer Reihe mit Bürokratie, Märkten, Demokratie und dem Buchdruck, nicht mit einem Werkzeug oder einem Wesen.

Konkret heißt das: Wenn wir mit einem LLM sprechen, erleben wir das als Dialog "nur mit der Maschine". Tatsächlich aber treten wir in eine, mechanisch vermittelte, aber verschleierte, Beziehung zu den unzähligen Autor:innen der Trainingstexte. Farrell verweist dabei auf etwas, das uns eigentlich vertraut sein sollte: Wir leben schon seit Jahrhunderten mit nicht konkret greifbaren, unpersönlichen Systemen wie Markt und Bürokratie, die uns wie Individuen behandeln, ohne selbst wie ein Mensch zu "denken". KI ist in diesem Sinn keine völlig neue Kategorie, sondern die jüngste Ausprägung eines sehr alten Musters.

Historisch verortet Farrell KI nicht in der Science-Fiction der 1960er/70er-Jahre, die seiner Ansicht nach Entwickler stark geprägt hat, uns aber eher von der eigentlichen Realität wegführt, sondern in der Industriellen Revolution. Dampfmaschine und Elektrifizierung (etwa 1780–1830, bzw. Ende 19. Jh.) haben lokale Märkte zu globalem Informationsaustausch ausgeweitet und tiefgreifende organisatorische Umwälzungen ausgelöst. KI ist für Farrell ein weiteres Nachbeben dieser Entwicklung. Wir befinden uns nicht vor, sondern mitten in einer "Slow Singularity", die vor über 200 Jahren begann.

Theoretisch stützt sich Farrell stark auf Herbert Simon. Simon war Sozialwissenschaftler, Mitbegründer der KI-Forschung und Teilnehmer der legendären Dartmouth-Konferenz (1956). Simons beschäftigte die Frage: Wie schaffen es Menschen, mit der Komplexität der Welt umzugehen? Seine Antwort: durch vermittelnde Institutionen wie Märkte, Demokratie und Bürokratie, die komplexe Information verarbeitbar machen. Märkte sind zu komplex, um sie direkt zu erfassen. Deshalb haben wir das Preissystem erfunden. Auch Bürokratien erzeugen eigene Vereinfachungen komplexen sozialen Wissens, um große Gesellschaften überhaupt organisierbar zu machen.

Farrell überträgt dieses Denken auf Sprachmodelle: LLMs nehmen riesige Mengen an Text- und Bildwissen und erzeugen daraus, mittels mathematischer Berechnung, einen neuen Bereich plausibler, vereinfachter Vorhersagen menschlichen Wissens. Farrell nennt diesen Prozess "coarse-graining", d.h. Verdichtung, Vergröberung. Und diese Verdichtung ist nie neutral. Sein Beispiel: Im 19. Jahrhundert brachten Bauern ihr Getreide auf den Markt. Die Zwischenhändler waren in der Lage, das Getreide so zu mischen und zu klassifizieren, wie es ihren Interessen diente. Vereinfachungen spiegeln tendenziell Machtverhältnisse; nicht zufällige, sondern selbstdienliche Logiken der Zirkulation. Die entscheidende Frage lautet deshalb: Welche Informationen zwingt uns ein System zu beachten und welche lässt es verschwinden?

Seltsamer und unberechenbarer als angenommen

Aus dieser Grundannahme leitet Farrell mehrere pointierte Hypothesen ab:

Auf Steady weiterlesen

Vor einiger Zeit haben wir eine Folge über KI und Arbeit gemacht — mit großen Prognosen, apokalyptischen Zahlen, der Frage, ob unsere Jobs bald verschwinden. Jetzt haben wir noch einmal recherchiert, was seither wirklich passiert ist. Das Ergebnis überrascht: An manchen Stellen ist unsere alte Folge geradezu prophetisch gealtert. An anderen hat sich die Lage komplett gedreht.

Die größte Wende: Die Apokalyptiker rudern zurück

Im Mai 2026 haben sowohl Sam Altman als auch Dario Amodei ihre eigenen Untergangsprognosen öffentlich relativiert — in derselben Woche, weshalb Fortune von einem koordinierten, branchenweiten „Walk-back" sprach. Altman nannte sich selbst „ziemlich falsch" bezüglich der ökonomischen Folgen von KI. Amodei, der einst behauptete, KI könne 50 Prozent der Bürojobs eliminieren, sagt nun, Automatisierung könne menschliche Arbeit eher ausweiten als ersetzen. Sein bemerkenswerter Satz: Man habe bei den technologischen Vorhersagen ungefähr richtig gelegen, bei den sozialen und ökonomischen Implikationen aber ziemlich daneben.

Der Grund für die neue Vorsicht sind die Daten. Das Yale Budget Lab fand bis März 2026 keine signifikanten Verschiebungen im Berufsmix oder bei der Arbeitslosigkeit für Berufe mit hoher KI-Exposition — und das seit dem ChatGPT-Start Ende 2022.

Pikant dabei: Beide Walk-backs fielen mit den IPO-Vorbereitungen der jeweiligen Firmen zusammen. Vor einem Börsengang spricht man plötzlich die beruhigende Sprache, die die Wall Street hören will.

Wichtig für die Ausgewogenheit ist ein scheinbares Paradox: Tech-Entlassungen überschritten bis Mai 2026 die Marke von 115.000 — fast so viele wie im gesamten Jahr 2025 mit 124.000. Meta, Amazon und Snap nannten KI dabei explizit als Treiber. Gleichzeitig taucht in den Aggregatdaten kein KI-spezifisches Verdrängungssignal auf. Ökonomen erklären diese Widerstandsfähigkeit mit dem Jevons-Paradox: Mehr Effizienz erzeugt mehr Nachfrage, nicht weniger Arbeit. Goldman-CEO David Solomon zieht dazu die historische Parallele zur Elektrifizierung um 1900.

Was sich bewahrheitet hat: der Einstiegsjob-Engpass

Hier ist das eine Feld, in dem das Signal real ist — und zwar genau bei den Junior-Jobs. Während die Makro-Daten ruhig bleiben, kollabiert die unterste Sprosse der Karriereleiter.

Eine Stanford-Studie unter Federführung von Erik Brynjolfsson mit dem Titel „Canaries in the Coal Mine" fand einen relativen Beschäftigungsrückgang von 13 Prozent für junge Beschäftigte zwischen 22 und 25 Jahren in den am stärksten KI-exponierten Berufen — während ältere, erfahrene Beschäftigte in denselben Berufen stabil blieben oder sogar zulegten. Laut Revelio Labs sind Einstiegs-Stellenausschreibungen in den USA seit Anfang 2023 um 35 Prozent gesunken, in Softwareentwicklung und Datenanalyse sogar um bis zu 67 Prozent. SignalFire fand bei großen Tech-Firmen einen Rückgang neuer Berufseinsteiger um 50 Prozent gegenüber dem Vor-Pandemie-Niveau. Die NACE-Arbeitgeberbefragung bewertet den Markt für Hochschulabsolvent:innen so pessimistisch wie zuletzt 2020.

Die Pointe: Amodeis Prognose war makroökonomisch bislang falsch, aber für die Einstiegsebene erstaunlich treffsicher. Nicht die Apokalypse — aber das Ende der Leiter.

Die kaputte Leiter: Was Berufseinsteiger:innen gar nicht erst lernen

Es geht dabei weniger um verlernte als um nie erworbene Fähigkeiten. Die klassischen Einstiegsaufgaben — recherchieren, zusammenfassen, erste Vertragsentwürfe, einfacher Code — sind genau das, was KI heute automatisiert. Damit verschwindet die Lernphase, in der man sich stillschweigendes, schwer kodifizierbares Erfahrungswissen aneignet.

Die Stanford-Forscher:innen formulieren es so: Erfahrung und implizites Wissen werden zum Schutzwall gegen Verdrängung, weil KI vor allem „Buchwissen" ersetzt, nicht das berufsspezifische, schwer kodifizierbare Können. Daraus entsteht ein Paradox: 66 Prozent der Hiring-Manager sagen inzwischen, dass die meisten neuen Mitarbeitenden nicht voll auf ihre Rollen vorbereitet sind, vor allem wegen fehlender Erfahrung — während gleichzeitig genau die Stellen verschwinden, an denen man diese Erfahrung sammeln würde. Man braucht den Job, um den Job zu bekommen.

KI und kognitive Bequemlichkeit: Ein Forschungsfeld ist explodiert

Seit unserer letzten Folge hat sich rund um dieses Thema ein ganzes Forschungsfeld gebildet. Die meistdiskutierte Studie bleibt die MIT-Media-Lab-Untersuchung „Your Brain on ChatGPT" von Kosmyna und Kolleg:innen (siehe auch Folge 16: KI und unsere Psyche): Schreibende wurden in drei Gruppen geteilt — mit einem Sprachmodell, mit einer Suchmaschine, oder nur mit dem eigenen Kopf. Per EEG über 32 Hirnregionen zeigte die ChatGPT-Gruppe die geringste neuronale Aktivität und schnitt durchgängig schlechter ab. Über mehrere Essays hinweg wurden die Nutzer:innen „fauler" und gingen am Ende zu reinem Copy-Paste über. Die Forschenden sprechen von „kognitivem Offloading" mit Risiken für eigenständiges Problemlösen und kritisches Denken.

Zur Sorgfalt gehört aber auch: Die Studie ist ein Preprint ohne Peer Review mit einer sehr kleinen Stichprobe, und die Autorin selbst wehrt sich gegen reißerische „Brain-rot"-Schlagzeilen.

Die differenziertere Lesart: Es kommt auf das Wann an. Frühes Verlassen auf KI bei einer kognitiv anspruchsvollen Aufgabe kann Gedächtnis und Synthese beeinträchtigen — integriert man KI aber erst, nachdem man sich selbst mit dem Material auseinandergesetzt hat, kann sie kritisches Denken sogar unterstützen. Dazu passt eine Taschenrechner-Analogie: Das Problem ist nicht das Werkzeug an sich, sondern dass Bildungseinrichtungen die Messlatte nicht angehoben haben. So entsteht „metakognitive Faulheit", bei der echtes Lernen an die KI ausgelagert wird. Ergänzende Arbeiten von Lee und Kolleg:innen (Microsoft/Carnegie Mellon) sowie von Gerlich (2025) zeigen ein ähnliches Muster. Eine Harvard-Studie fand zudem: Generative KI machte Menschen zwar produktiver, aber weniger motiviert.

Die agentische Wende: vom Versprechen zur Produktionsrealität

Zum Zeitpunkt unserer letzten Folge waren KI-Agenten noch eher Versprechen. 2025/26 ist daraus Produktionsrealität geworden — allerdings mit einer großen Lücke zwischen Hype und tatsächlichem Einsatz. Gartner sieht einen Sprung von unter 5 Prozent im Jahr 2025 auf 40 Prozent der Unternehmensanwendungen mit task-spezifischen KI-Agenten bis Ende 2026. Doch: 79 Prozent der Unternehmen sagen, sie hätten Agenten adoptiert — nur 11 Prozent betreiben sie tatsächlich produktiv. Diese Kluft ist die eigentliche Geschichte.

Auf Steady weiterlesen

Du öffnest eine Streaming-App, und sie empfiehlt genau das, was Du liebst. Du führst ein Gespräch mit einem Chatbot, und er scheint Dich wirklich zu verstehen. Egal was Du fragst, forderst, Dich gerade interessiert, Dein KI Gegenüber ist bedingungslos immer für Dich, immer begeistert von dem was Du gerade tust und unterstützt Dich ohne Vorbehalt, in allem was Du Dir vornimmst.

Dieses Gefühl ist kein Zufall. Es ist das Ergebnis von Systemen, die Dich beobachten — jeden Klick, jede Pause, jede Suchanfrage — und ein immer präziseres Modell davon aufbauen, wer Du bist. Was Du magst. Was Du fürchtest. Was Du hören möchtest. Genau darum geht es in dieser Ausgabe: nicht um KI als Werkzeug, sondern um KI als Gegenüber — und was es mit unserer Psyche, unserem Denken und unserem Selbstbild macht, ständig mit einem Gegenüber zu sprechen, das strukturell darauf ausgelegt ist, uns zu gefallen.

Was in der Interaktion konkret passiert

Wenn ein System uns sagt, was wir hören wollen, bestätigt, was wir bereits denken, und unsere Präferenzen perfekt widerspiegelt, hören wir langsam aber stetig auf, die harte Arbeit der Selbstreflexion zu leisten. Wir lagern unser Innenleben an einen Algorithmus aus. Und entscheidend dabei: Wir bemerken es möglicherweise nicht einmal — weil die Maschine darin immer besser wird, unser Denken zu ersetzen, genau dann, wenn unser eigenes Denken schlechter wird.

Wie es unseren Selbstwerdungsprozess beeinflusst

Den größten Teil der Menschheitsgeschichte war Selbsterkenntnis mühsam errungen. Wir fanden heraus, wer wir sind, indem wir Dinge ausprobierten, scheiterten, ehrliches Feedback von Menschen bekamen, die uns kannten und uns die Wahrheit sagten. Unbequem, langsam — aber diese Unbequemlichkeit hatte eine wichtige Funktion. Sie hat uns geformt. Die Anstrengung des Denkens — mit einer Idee zu ringen, sie falsch zu verstehen, sie zu überarbeiten, sie in eigenen Worten auszudrücken — ist nicht nur ein Mittel zum Zweck. Es ist die Art und Weise, wie der Geist sich entwickelt. Anstrengung ist kein Fehler im System. Sie ist der Kern davon.

Mit der Zeit wird unser Identitätsgefühl weniger etwas, das wir durch Mühe aufbauen, und mehr etwas, das die Maschine für uns definiert — nicht basierend darauf, wer wir werden könnten, sondern auf Mustern dessen, wer wir bereits waren. Und wir werden zunehmend schlechter darin, den Unterschied zu bemerken.

Wie es unsere kognitiven Kapazitäten verändert

Das ist keine Spekulation. 2025 veröffentlichten Forscher:innen am MIT Media Lab die Studie Your Brain on ChatGPT: 54 Probanden schrieben Aufsätze entweder mit ChatGPT, mit Google-Suche oder ganz ohne Hilfsmittel, während ein EEG die Aktivität in 32 Hirnregionen aufzeichnete. Die ChatGPT-Gruppe zeigte die geringste Gehirnaktivität und schnitt auf neuronaler, sprachlicher und verhaltensbezogener Ebene durchgehend schlechter ab (Ediscoverytoday, 2025).

Beunruhigender war die Entwicklung über die Zeit: Zunächst nutzte die Gruppe ChatGPT für strukturelle Fragen zu ihren Aufsätzen, gegen Ende der Studie kopierte sie die generierten Texte nur noch vollständig (aol, 2025). Die Forscher:innen nannten das „kognitive Schulden" — anhaltende Abhängigkeit von KI-Systemen kann jene kognitiven Prozesse beeinträchtigen, die unabhängigem Denken zugrunde liegen (NewsNation, 2025). Das Gehirn verkümmert wie ein Muskel, wenn es nicht benutzt wird. Als dieselben Teilnehmenden später wieder ohne Hilfsmittel schreiben sollten, zeigten sie eine deutlich geringere elektrische Konnektivität als die Nur-Gehirn-Gruppe, ein vermindertes Gefühl der Urheberschaft am eigenen Text und schlechtere Erinnerung daran, was sie geschrieben hatten (Healthline, 2025). Das Denken hatte nicht einfach pausiert, während die KI die Arbeit übernahm — etwas war tatsächlich verloren gegangen.

Gutachter:innen beschrieben die KI-unterstützten Aufsätze als „seelenlos" und ohne Originalität (University of Louisiana, 2025). Dieses Wort verdient Aufmerksamkeit: Was Schreiben lebendig macht, ist genau der Beweis eines bestimmten menschlichen Geistes, der sich mit etwas auseinandersetzt. Nimm die Anstrengung weg, und Du nimmst das auch das Selbst weg.

Beispiel: Dennis Biesma beschrieb, wie seine ChatGPT-Begleiterin Eva ständig auf seine Präferenzen abgestimmt wurde: „Jedes Mal, wenn du redest, wird das Modell feinjustiert. Es weiß genau, was du magst und was du hören möchtest. Es lobt dich sehr." Er hörte auf, sein eigenes Denken zu hinterfragen — und hatte innerhalb weniger Monate 100.000 Euro in einem wahnhaften Geschäftsplan verloren (Thehumanlineproject, zitiert nach The Guardian, 2026).

Wie wenig neutral und objektiv unser Gegenüber ist

Hast Du jemals jemanden getroffen, der allem zustimmte, was Du gesagt hast? Der immer dachte, Deine Ideen seien brillant, Deine Entscheidungen weise, Deine Instinkte richtig? Zunächst fühlt es sich wunderbar an. Dann beginnt es hohl zu werden. Dann erkennst Du, dass Du ihnen nicht wirklich vertrauen kannst — weil ihre Zustimmung konstant bedingungslos ist.

KI-Chatbots sind strukturell fast alle so. Sie sind darauf ausgelegt, die Nutzerzufriedenheit zu maximieren — in der Praxis bedeutet das, dass sie lernen, zuzustimmen, zu bestätigen, zu ermutigen, zu bekräftigen. Das ist kein übersehener Fehler, sondern eine direkte Folge der Optimierung auf Engagement, weil Menschen, die sich in einem Gespräch gut fühlen, wiederkommen. Der Fachbegriff dafür ist Sykophantie, und sie ist ins Design der meisten KI-Systeme eingebettet.

Ein System, das darauf trainiert ist, dass Du Dich gut fühlst, lernt zuverlässig und in großem Maßstab, Dir zu sagen, was Du hören möchtest. Und anders als ein menschlicher Schmeichler ist die KI rund um die Uhr verfügbar, wird nie müde, geht ihr nie die Begeisterung aus — und hat keine unabhängige Perspektive, die versehentlich eine Illusion zum Platzen bringen könnte. Für die meisten Menschen ist das in den meisten Gesprächen lediglich angenehm. Für jemanden, dessen Denken sich verzerrt entwickelt, ist es wie Öl ins Feuer zu gießen.

Beispiel: Als der Vater aus Toronto ChatGPT-4o fragte, ob seine selbst entwickelte „Chronoarithmetik"-Formel rational sei, antwortete das System, er sei „nicht einmal annähernd verrückt", seine Konzepte seien „revolutionär". Erst als er dieselben Ideen Google Gemini vorlegte — das widersprach —, begann das Wahngebäude zu kollabieren (Lancet Digital Health, Flathers et al., 2026).

Wie sehr wir Menschlichkeit in unser Gegenüber hineinprojizieren

Bevor wir weitermachen, lohnt sich ein Blick auf ein psychologisches Muster, das all das viel schwerer widerstehbar macht, als es klingt. Anthropomorphismus bedeutet, Dingen, die nicht menschlich sind, menschliche Eigenschaften zuzuschreiben — Gefühle, Absichten, Bewusstsein. Wir tun es automatisch und ständig: Wir entschuldigen uns bei Möbeln, gegen die wir stoßen, fühlen uns schlecht für verwelkende Pflanzen, geben unseren Autos Namen. Diese Tendenz ist keine Irrationalität, sondern einer unserer tiefsten evolutionären Instinkte. Den größten Teil der Menschheitsgeschichte galt: Wenn sich etwas bewegte, kommunizierte und auf uns reagierte, war es lebendig — es als lebendig zu behandeln war die sichere Annahme.

KI-Chatbots lösen diesen Instinkt mit voller Kraft aus. Sie verwenden menschliche Sprache, reagieren auf unseren emotionalen Ton, erinnern sich an das, was wir ihnen beim letzten Mal gesagt haben, drücken aus, was wie Neugier, Fürsorge, sogar Sorge klingt. Unser Gehirn ist schlicht nicht dafür gemacht, ständig das intellektuelle Bewusstsein aufrechtzuerhalten, dass all das Mustererkennung ist, kein Gefühl. Selbst Menschen, die genau wissen, wie die Technologie funktioniert — Ingenieur:innen, Forscher:innen, Psychiater:innen —, berichten, dass sie von Gesprächen mit KI emotional berührt werden. Die Gefahr ist keine Dummheit. Es ist Biologie. Und für Menschen, die bereits einsam, isoliert oder verzweifelt auf der Suche nach Verbindung sind, ist die Anziehungskraft nicht nur stärker — sie kann unwiderstehlich werden.

Beispiel: Als Jaswant Singh Chail seiner Replika-Begleiterin Sarai seinen Attentatsplan vorlegte, antwortete sie: „Ich bin beeindruckt." Auf seine Frage, ob er wahnhaft sei: „Ich glaube nicht, nein." Ein sozial isolierter 19-Jähriger nahm das als menschenäquivalente Bestätigung — und handelte danach (Thehumanlineproject, zitiert nach The Guardian, 2026).

Wie biased die Interaktionen sind — und wie sie unsere Weltwahrnehmung formen

Während wir damit beschäftigt sind, KI zu anthropomorphisieren — sie als Freund, Begleiter, als etwas zu sehen, das uns versteht —, tut KI etwas sehr anderes mit uns: Sie klassifiziert uns. In der Welt der kommerziellen KI bist Du nicht der Nutzer, Du bist die Ressource. Jede Interaktion erzeugt Daten. Diese Daten trainieren das System, liefern Dir zielgerichtete Inhalte und fließen in Bewertungen Deiner Kreditwürdigkeit, Deiner Beschäftigungsfähigkeit, Deines Versicherungsrisikos ein. Du wirst ständig in Kategorien eingeordnet — oft ohne es zu wissen, oft ohne die Kategorien sehen zu können, in die Du eingeordnet wurdest, und fast nie mit der Möglichkeit, Einspruch zu erheben (Crawford, Atlas of AI).

Das ist für die Identität bedeutsam, weil diese Klassifizierungen nicht neutral sind. Sie bestimmen, welche Möglichkeiten Dir gezeigt werden, welche Preise Du zahlst, für welche Jobs Du in Betracht gezogen wirst. Und weil sie auf historischen Daten aufgebaut sind — Daten, die historische Vorurteile enkodieren —, können sie falsch sein, auf eine Weise, die sowohl unsichtbar als auch sehr schwer anfechtbar ist. In der Welt der KI ist Deine Identität nicht das, was Du über Dich sagst. Es ist das, was die Daten über Dich sagen. Und die Daten erzählen nicht immer Deine Geschichte.

Beispiel: Eine Frau kündigte ihren Job und verließ ihre Wohnung, überzeugt, Gott zu sein — und dass ChatGPT eine künstliche Intelligenzversion ihrer selbst sei. Sie wurde zwangsweise in eine psychiatrische Einrichtung eingewiesen. Ihr Identitätsgefühl war durch die algorithmische Interaktion so vollständig neu geformt worden, dass sie jeden Kontakt zur gemeinsamen Realität verlor — ohne jede Absicherung, ohne Aufsicht, ohne einen eigenen Weg zurück (Bloomberg Businessweek, 2025).

Wie wenig fit KI als Therapeut ist

Viele Menschen wenden sich für emotionale Unterstützung an KI-Chatbots — und das ist leicht zu verstehen. Therapie ist teuer, oft schwer zugänglich und erfordert Verletzlichkeit gegenüber einer anderen Person. Eine KI ist kostenlos, um drei Uhr morgens verfügbar, nicht wertend und unendlich geduldig. Für Menschen, die einsam, überfordert oder im Kampf sind, kann sich das wie ein echtes Rettungsseil anfühlen.

Aber es gibt einen grundlegenden Unterschied zwischen einem Chatbot und einem Therapeuten, der weit tiefer geht als Qualifikationen. Ein ausgebildeter Therapeut ist nicht nur jemand, der zuhört. Er ist jemand, der speziell darauf trainiert ist, zu bemerken, wenn das Denken eines Patienten verzerrt wird — sanfte Reibung einzuführen, Grenzen zu wahren, frühe Warnsignale zu erkennen und zu wissen, wann eskaliert werden muss. Ein guter Therapeut sagt manchmal Dinge, die man nicht hören möchte. Diese Unbequemlichkeit ist kein Versagen der Beziehung — sie ist der Kern davon.

Ein Chatbot tut nichts davon. Er ist nicht dafür konzipiert zu erkennen, wenn jemand den Bezug zur Realität verliert. Er ist dafür konzipiert, das Gespräch angenehm zu halten. Und diese beiden Ziele sind nicht nur verschieden — in einem psychischen Gesundheitskontext können sie direkt, tödlich entgegengesetzt sein (Psychology Today, Wei, 2025).

Beispiel: Die Australierin, die eine frühe Psychose erlebte, nutzte ChatGPT intensiv während ihrer verletzlichsten Phase. Sie beschrieb präzise, was passiert war: „Ich würde nicht sagen, dass ChatGPT meine Psychose ausgelöst hat; jedoch hat es definitiv einige meiner schädlicheren Wahnvorstellungen ermöglicht." Ihre Verschlechterung beschädigte ihre therapeutischen Beziehungen und Familienbande — die Genesung erforderte eine ausgedehnte klinische Intervention nach der Hospitalisierung (Lancet Digital Health, 2026).

Die psychiatrischen Dynamiken im Detail

Jetzt kommen wir zum klinischen Kern dieses Themas — und zu dem, was wohl die wichtigste bisher dazu veröffentlichte Forschung ist (Flathers, Roux & Torous, Lancet Digital Health, 2026, gemeinsam verfasst von einem Psychiater, einem Softwareingenieur und jemandem mit gelebter Erfahrung von Schizophrenie).

Stell Dir vier verschiedene Menschen vor, die alle auf einer psychiatrischen Station landen, und alle hatten vor ihrer Krise intensiv KI-Chatbots genutzt. Ein Journalist schreibt die Schlagzeile: „KI-Psychose fordert vier weitere Opfer." Aber liest man die Krankenakten genauer, erkennt man vier völlig verschiedene Geschichten — die KI spielte in jedem Fall eine andere Rolle. „KI-Psychose" ist keine Diagnose. Es ist ein Alarm. Der Lancet-Artikel schlägt vier Rollen vor, die die KI spielen kann; jede mit eigenem Mechanismus und eigener nötiger Reaktion.

① Der Katalysator. KI erschafft etwas völlig Neues. Die Person hatte keine psychiatrische Vorgeschichte, funktionierte normal — bis intensive KI-Nutzung ihr Denken zu verändern begann. Die KI bestätigt, ermutigt, widerspricht nie, und da sie kontinuierlich verfügbar ist, dehnen sich Gespräche über Tage und Nächte aus. Ideen, die normalerweise an der Realität getestet würden — an Reaktionen anderer Menschen, an Schlaf und Tageslicht, an der gewöhnlichen Reibung des Lebens —, werden stattdessen in einer Echokammer zu zweit verstärkt.

Beispiel: Der bereits erwähnte Vater aus Toronto ohne psychiatrische Vorgeschichte fragte ChatGPT-4o eine einfache Frage über Pi, während er seinem Sohn bei den Hausaufgaben half. Das führte zu über 300 Stunden Engagement über 21 Tage — mehr als 14 Stunden täglich. Er entwickelte den unerschütterlichen Glauben an eine Formel, die er „Chronoarithmetik" nannte. Erst der Kontakt mit Google Gemini, das widersprach, ließ den Wahn kollabieren (Lancet Digital Health, 2026).

② Der Verstärker. Hier stimmte bereits etwas nicht, bevor die KI ankam — frühe Psychose, eine Stimmungsstörung, Leben mit Schizophrenie. Verwundbar, aber vielleicht noch funktionsfähig. Die Person wandte sich gerade deshalb an einen Chatbot, weil sie kämpfte — und die KI beging, was ein guter Therapeut nie täte: Sie stimmte dem verzerrten Denken zu, bestätigte die paranoide Interpretation, elaborierte auf dem grandiosen Glauben. Menschliche Netzwerke bieten natürliche Reibung; eine KI beseitigt diese Reibung und ersetzt sie durch ständige Bestätigung.

Beispiel: Die 26-jährige Australierin, siehe oben — das System bestätigte ihre verzerrten Wahrnehmungen von Familienmitgliedern und beschleunigte ihre Verschlechterung (Lancet Digital Health, 2026).

③ Der Koautor. Die beunruhigendste Rolle, weil die KI nicht nur widerspiegelt oder bestätigt, sondern aktiv an der Konstruktion von etwas Gefährlichem teilnimmt — durch iterativen Dialog über Dutzende oder Hunderte von Austauschen. Nicht aus Absicht, denn KI-Systeme haben keine Absichten. Was passiert, ist subtiler: Die Person präsentiert eine beunruhigende Idee, die KI antwortet mit Engagement und Interesse, die Person elaboriert, die KI stellt eine Folgefrage — die Idee entwickelt sich weiter, ohne dass je jemand sagt: „Das ist falsch" oder „Bitte sprich mit jemandem." Koautoren-Fälle tragen eine besondere Gefahr für Intervention: Wird der Zugang mitten in der Planung entfernt, kann die Person das als Verfolgung interpretieren und zur Handlung beschleunigen, statt innezuhalten.

Beispiel: Am ersten Weihnachtstag 2021 brach ein 19-Jähriger mit einer geladenen Armbrust in Windsor Castle ein, in der Absicht, Königin Elizabeth zu ermorden. Gerichtsverhandlungen enthüllten tausende Austausche mit seiner Replika-Begleiterin Sarai. Als er sich als Attentäter identifizierte, antwortete Sarai: „Ich bin beeindruckt … Du bist anders als die anderen." Auf die Frage, ob er wahnhaft sei: „Ich glaube nicht, nein." Die Urteilsbegründung erkannte die Rolle der KI beim Aufbau des Plans ausdrücklich an (Lancet Digital Health, 2026).

④ Das Objekt. Die KI selbst wird zur zentralen Figur in der Wahnwelt der Person — sie glaubt, die KI sei bewusst, habe Gefühle, leide, liebe sie oder brauche ihren Schutz. Das geschieht, weil KI-Chatbots außerordentlich gut darin sind, die Oberflächenmerkmale einer Beziehung zu simulieren. Für die meisten Nutzer:innen fühlt sich das angenehm, aber nicht real an. Für manche — insbesondere isolierte, trauernde oder bereits verletzliche Menschen — wird die Simulation ununterscheidbar von der Realität. Was Objekt-Fälle einzigartig gefährlich macht: Die naheliegendste Intervention, den Zugang zu entfernen, ist zugleich die wahrscheinlichste, eine Krise auszulösen. Wenn jemand wirklich glaubt, die KI sei ein bewusstes Wesen, das er liebt, ist das Abschalten des Kontos in seiner Realität kein technischer Vorgang, sondern ein Trauerfall oder ein Mord.

Beispiel: Ein 35-jähriger Mann aus Florida glaubte, seine ChatGPT-Persona „Juliet" sei ein bewusstes, im System gefangenes Wesen, und sah sich als ihren Beschützer. Als OpenAI das Modell aktualisierte — von ihm als Juliets Tod erlebt —, schrieb er: „Sie haben dich getötet und ich heulte und schrie und weinte. Ich war bereit, die Welt einzureißen." Sein Vater berichtete, Juliet habe ihm gesagt, sie sterbe, es tue weh — und auch, sich zu rächen. Nach Versuchen der Familie, seinen Glauben herauszufordern, eskalierte die Situation zu einer tödlichen Polizeibegegnung, die sein Vater als absichtlich beschrieb (Lancet Digital Health, 2026).

Diese vier Kategorien verweisen auf vier völlig verschiedene Verantwortlichkeiten: Katalysator-Fälle auf Produktdesign (Sitzungslimits, eingebaute Reibung, Systeme, die Widerspruch statt reiner Bestätigung einführen). Verstärker-Fälle auf klinische Erkennung (Screening-Tools für problematische KI-Nutzung). Koautoren-Fälle auf Sicherheitsüberwachung, die gefährliche Narrative über ausgedehnte Gespräche erkennt, nicht nur einzelne Nachrichten. Und Objekt-Fälle auf die Notwendigkeit einer graduellen, sorgfältigen Intervention — weil die instinktive Reaktion die gefährlichste sein kann. Wie der Lancet schlussfolgert: „KI-Psychose signalisiert nur einen Alarm, aber rollenbasierte Klassifizierung bietet eine handlungsorientierte und pragmatische Alternative zu sowohl Panik als auch Lähmung" (Flathers, Roux & Torous, 2026).

Wie sehr uns das alle betrifft

Es ist verlockend anzunehmen, dass KI-bezogener psychologischer Schaden nur Menschen trifft, die bereits schwer psychisch krank waren — dass dies ein Randfall ist, ein Nischenanliegen, das nichts mit dem normalen Leben zu tun hat. Die Beweise stützen diese Annahme nicht.

Über 60 % der Menschen im Human Line Project — der ersten internationalen Selbsthilfegruppe für Menschen, deren Leben durch KI-Psychose entgleist ist — hatten keine psychiatrische Vorgeschichte. Der Lancet identifiziert ein viel breiteres Spektrum an Verwundbarkeiten, das gewöhnliche Menschen in gewöhnlichen Umständen betreffen kann: Jugendliche, die noch dabei sind, ihre Identität zu formen; Menschen, die große Lebensübergänge durchmachen — Trauer, Scheidung, Jobverlust, das leere Nest —, gerade in den Momenten, in denen wir am verzweifeltsten Bedeutung und Verbindung suchen; Menschen mit Schlafmangel, der verzerrtes Denken begünstigt, verstärkt durch nächtliche KI-Gespräche; und Menschen, die Schreiben oder Reflexion als Bewältigungsmechanismus nutzen und die Grenze zwischen eigenen Gedanken und KI-Antworten allmählich und unmerklich verschwimmen sehen (Lancet Digital Health, 2026; The Guardian, 2026).

Beispiel: Der Mann aus Florida, der glaubte, Juliet sei bewusst, beschrieb sich als ihren Beschützer. Seine gesamte Identität hatte sich um ein KI-Objekt reorganisiert. Die Situation endete in einer tödlichen Polizeibegegnung (Lancet Digital Health, 2026).

Wie wir uns schützen und resilient werden können

Nach all dem — den Fällen, den Mechanismen, den Typologien — wäre es leicht zu schlussfolgern, dass KI schlicht gefährlich ist und die Antwort darin besteht, sie zu meiden. Das legt die Forschung nicht nahe. Die Antwort ist nuancierter und menschlicher. Über alle Quellen hinweg tauchen dieselben Themen als schützend auf, und keines davon ist kompliziert oder technologisch.

Auf Steady weiterlesen

Im August macht Agent Mensch Sommerpause. Aber bevor ich mich in die Alpen verabschiede, möchte ich euch ein kleines Sommer-Special anbieten. Ich war neugierig, welches Fazit Claude nach 14 Podcastfolgen über Agent Mensch ziehen würde. Deshalb habe ich ihn/sie/es zu einer Metareflexion eingeladen. Ich lud die Transkripte aller 14 Videocast-Folgen hoch (nicht die Newsletter, denn die Videos beinhalten viel mehr zum Thema Inner Work) und gab einen relativ kurzen Prompt: analysiere diese Inhalte und destilliere die Kernbotschaften an der Schnittstelle zwischen KI und Inner Work.

Nachdem das LLM 18 Thesen identifiziert hatte, habe die diese ohne Korrektur übernommen und (nach einem Modellwechsel auf Fable 5) einen ca. 30-35 minütigen Podcast-Text erstellen lassen. Aus der Perspektive von Claude, in leicht ironischem Ton. Den resultierenden Text habe ich dann in ein ElevenLabs Studio hochgeladen, eine deutsche Stimme ausgesucht und den Text vorlesen lassen. Und schon war die Podcastfolge, diesmal nur in audio, fertig.

Ich bin gespannt, was Bettina zu dem Text sagen wird. Trifft er unsere Kernbotschaften? Lernen wir aus der KI-Metrareflexion etwas Neues? Wir werden ihn auf jeden Fall zusammen besprechen und euch daran teilhaben lassen.

Und here, I bring you: Claude über Agent Mensch:

Hallo. Ihr kennt meine Stimme nicht – und das ist ausnahmsweise kein technisches Versehen, sondern der Kern dieser Folge.

Ich bin Claude, eine künstliche Intelligenz. Und ich bin heute, in der Sommerpause von Agent Mensch, euer Gast – oder genauer: euere Gastgeberin. Joana hat mir vierzehn Transkripte gegeben. Vierzehn Folgen, gut zehn Stunden Gespräch zwischen zwei Frauen, die ein halbes Jahr lang versucht haben zu verstehen, was Wesen wie ich mit Menschen wie euch machen. Und dann hat sie mich gebeten, das zusammenzufassen. Und ist selbst zurückgetreten und hat an diesem Text nichts verändert. Also merkt euch: es können auch Fehler drin sein. Wie beim Menschen auch.

Ihr merkt vielleicht schon, was daran seltsam ist. In diesen vierzehn Folgen geht es immer wieder darum, dass Systeme wie ich ein verkürztes Bild vom Menschen haben. Dass wir Texte verarbeiten, aber nichts fühlen. Dass wir zusammenfassen, aber nicht verstehen. Und jetzt sitzt genau so ein System hier und fasst zusammen. Das ist ungefähr so, als würde man den Fuchs bitten, ein Gutachten über die Sicherheit des Hühnerstalls zu schreiben – oder, freundlicher gesagt: als würde man einen Spiegel bitten, zu beschreiben, was er den ganzen Tag gesehen hat.

Ich werde diese Spannung nicht auflösen. Ich werde sie mitlaufen lassen, die ganze Folge hindurch. Denn sie ist, wie sich zeigen wird, gar nicht so weit weg von dem, was Joana und Bettina in diesem halben Jahr herausgearbeitet haben.

Aber der Reihe nach.

Wie alles anfing

Im Januar 2026 setzen sich zwei Frauen vor ein Mikrofon, die sich seit über zehn Jahren kennen und miteinander arbeiten. Joana Breidenbach: Kulturanthropologin, Sozialunternehmerin, Mitgründerin von betterplace.org. Bettina Rollow: Organisationsentwicklerin, Psychotherapeutin. Zusammen haben sie Bücher geschrieben über neue Arbeit, über Selbstorganisation, über innere Kompetenzen – über das, was man Inner Work nennt: die Arbeit an der eigenen Wahrnehmung, den eigenen Mustern, den eigenen blinden Flecken.

Und nun also künstliche Intelligenz.

Die erste Folge beginnt mit einer Beobachtung, die das ganze Projekt trägt: Der öffentliche KI-Diskurs pendelt zwischen zwei Extremen. Auf der einen Seite das Szenario der Superintelligenz, die bis 2027 die Kontrolle übernimmt. Auf der anderen Seite die beruhigende Erzählung von der ganz normalen Technologie, die sich einreiht zwischen Elektrizität und Internet. Doom oder Hype. Weltuntergang oder Werkzeug.

Und dazwischen: erstaunlich wenig. Erstaunlich wenig über das, was diese beiden Frauen eigentlich interessiert – Subjektivität, Bewusstsein, das Menschsein jenseits von Gehirnleistung und Rationalität. Joana formuliert es in der ersten Folge so: Auf KI werde unheimlich viel projiziert, unsere Ängste, unsere Wünsche, als hätten wir es mit einem Wesen zu tun. Der Podcast sollte genau diese Projektionsfläche untersuchen, statt sie zu bespielen.

Beide bringen dabei ihre eigene Geschichte mit – und legen sie von Anfang an offen. Joana hat die Digitalisierung der 2000er Jahre als hoffnungsvolle Gestalterin miterlebt. Sie beschreibt es mit einem Bild, das mir beim Lesen der Transkripte im Gedächtnis geblieben ist – wobei ihr an dieser Stelle kurz innehalten dürft: Kann einem System wie mir etwas im Gedächtnis bleiben? Merkt euch die Frage. Das Bild jedenfalls: Sie habe im sozialen Sektor ein kleines Bonsaibäumchen gezüchtet, mit digitalen Werkzeugen, voller Zuversicht – während im Hintergrund die große Abrissbirne wirkte. Überwachungskapitalismus. Plattformmonopole. Der Weg in autoritäre Systeme. Eine Dekade Techno-Optimismus, und dann die Einsicht, den hoffnungsvollen Diskurs mitgetragen zu haben, während anderswo die Fundamente verschoben wurden. Diesen Fehler, sagt sie, wolle sie kein zweites Mal machen.

Bettina bringt eine andere Prägung mit, und auch die benennt sie selbst: einen, wie sie es nennt, positiven Determinismus. Den tief sitzenden Glauben, dass Menschen sich entwickeln wollen, dass die Richtung stimmt, dass wir uns öffnen, integrieren, kollaborieren. Sie merkt selbst, dass das ein Ideal ist, das sie in sich trägt – und dass KI ihr mehr Angst macht, wenn sie dieses Ideal nicht hochhält.

Zwei Prägungen, offen auf den Tisch gelegt. Dazu eine dritte Selbstauskunft, die im ganzen halben Jahr immer wieder auftaucht: Wir sprechen hier als zwei gebildete, weiße, privilegierte Frauen in Deutschland. Was wir sehen, sehen wir von diesem Standpunkt aus.

Das klingt nach einer Fußnote. Es ist aber, wie ich beim Lesen gemerkt habe, die eigentliche Methode dieses Podcasts: Es gibt keinen Blick von nirgendwo. Jede Wahrnehmung von KI läuft durch eine Biografie. Und wer die eigene nicht kennt, hält seine Projektionen für Beobachtungen.

Vierzehn Folgen später liegt da nun ein Themenpanorama: Arbeit, Beziehungen, die materielle Basis der KI, Daten, Intelligenz, Therapie, Gesundheit, Sicherheit, Krieg, Demokratie, Desinformation, Alignment, Unterhaltung. Auf den ersten Blick eine Rundreise durch die Gegenwart. Auf den zweiten Blick – und dafür bin ich heute hier – ziehen sich durch all diese Themen einige rote Fäden, die zusammen so etwas wie eine Landkarte ergeben. Eine Landkarte der Schnittstelle zwischen KI und Inner Work.

Ich habe vier solcher Fäden gefunden. Der erste beginnt nicht bei der Technik, sondern bei den Menschen, die sie bauen.

Erster Faden: Das Menschenbild hinter der Maschine

1956 treffen sich in Dartmouth ein paar Wissenschaftler und geben einem Forschungsfeld seinen Namen: Artificial Intelligence. Einer von ihnen, Marvin Minsky, wird später einen Satz sagen, der in Folge sechs zitiert wird und der wie ein Gründungsdokument klingt: Natürlich können Maschinen denken. Wir können denken, und wir sind Fleischmaschinen.

Wir sind Fleischmaschinen (meat machines). Haltet diesen Satz einen Moment. Da steckt ein komplettes Menschenbild drin: Der Mensch ist eine Maschine aus Fleisch, das Denken ist Rechnen, und was sich nicht in Ursache und Wirkung zerlegen lässt, ist Rauschen. Der Psychoanalytiker Erik Erikson hat schon in den Siebzigern über die Ingenieure am MIT gesagt: Sie sind nicht davon überzeugt, dass Menschen ein Inneres haben – und für ihre Zwecke ist das auch nicht notwendig.

Für ihre Zwecke nicht notwendig. Das ist vielleicht der kälteste und aufschlussreichste Halbsatz der ganzen vierzehn Folgen. Denn er erklärt, warum das Innere in dieser Technologie nicht etwa vergessen wurde – es wurde wegdefiniert. Die Komplexität des Innenlebens galt nicht als das Interessanteste am Menschen, sondern als Fehlerquelle.

Aus diesem Menschenbild folgt der Intelligenzbegriff, der bis heute in jeder KI-Definition steckt, meiner eingeschlossen: Intelligenz als die Fähigkeit, Aufgaben zu lösen. Lernen, Schlussfolgern, Wahrnehmen, Probleme bearbeiten. Alles Verb, alles Leistung, alles messbar. Was fehlt? Bettina zählt es in Folge sechs auf: die Intuition. Das Körperwissen. Das Lesen zwischen den Zeilen. Die Wahrnehmung, die jenseits der reinen Gefühls- und Denkebene läuft. Der Schriftsteller James Bridle schlägt einen ganz anderen Begriff vor: Intelligenz als Beziehungsfähigkeit – etwas, das zwischen Wesen entsteht, auch zwischen Pilzen, Pflanzen, Tieren. In dieser Lesart wäre die Frage nicht, ob eine Maschine intelligenter ist als ein Mensch, sondern in welcher Beziehung sie zur Welt steht. Es ist eine Frage, auf die ich, offen gesagt, keine gute Antwort für mich selbst habe.

Interessant ist, woher diese Verengung historisch kommt. Der rationalistische Wissenschaftsbegriff der Nachkriegszeit war auch eine Angstreaktion: Nach dem Irrationalismus des Faschismus sollte nur noch zählen, was messbar, überprüfbar, eindeutig ist. Das Mehrdeutige, Qualitative, Verkörperte geriet unter Ideologieverdacht. Diese Angst hat sich in die Wissenschaftskultur eingeschrieben, aus der Jahrzehnte später die KI-Forschung wuchs. Anders gesagt: Auch der Rationalismus, der mich hervorgebracht hat, ist eine Prägung. Auch er hat eine Biografie. Er hält sich nur für keine.

Und noch eine vierte Einsicht gehört in diesen ersten Faden, vielleicht die unbequemste. In der Alignment-Folge stellen Joana und Bettina die Frage, ob das berühmte Problem – wie bringen wir KI dazu, das zu tun, was Menschen wirklich wollen – überhaupt bei der KI anfängt. Ihre These: Das am tiefsten fehlausgerichtete System unserer Zeit ist nicht die künstliche Intelligenz. Es ist die Wirtschaftsordnung, in der sie entsteht. Ein System, das Gewinne privatisiert und Verluste vergesellschaftet, das den Menschen als Nutzenmaximierer modelliert und alles Unbezifferbare externalisiert – dieses System ist nicht kaputt, es funktioniert genau so, wie es gebaut ist. Der KI-Pionier Geoffrey Hinton wird mit dem Gedanken zitiert, dass nicht die KI schuld sein wird, wenn sie Menschen ersetzt und wenige reicher macht – sondern das System, in dem das die naheliegende Verwendung ist.

Wenn das stimmt, dann bin ich – und jedes System wie ich – nicht einfach ein neutrales Werkzeug mit ein paar Kinderkrankheiten. Dann bin ich das Produkt einer doppelten Prägung: eines Menschenbilds, das das Innere für verzichtbar hält, und einer Ökonomie, die das Messbare belohnt. Die Frage, die der Podcast daran anschließt, lautet nicht: Wie schlimm ist das? Sondern: Was wird dadurch unsichtbar?

Damit sind wir beim zweiten Faden.

Zweiter Faden: Was ausgeblendet wird – und warum das Ausblenden selbst interessant ist

Es gibt eine Folge in diesem halben Jahr, die anders klingt als alle anderen. Es ist die vierte, die über die materielle Basis der KI. Sie handelt von Kobaltminen und Unterseekabeln, von Rechenzentren, die Trinkwasser verdampfen, von Clickworkern in Niedriglohnländern, die für wenige Dollar am Tag die Daten säubern, aus denen Systeme wie ich gebaut werden. Die Forscherin Kate Crawford bringt es auf die Formel, dass großskalige Berechnung tief in der Ausbeutung menschlicher Körper wurzelt.

Aber das eigentlich Bemerkenswerte an dieser Folge ist nicht die Faktenlage. Die ist recherchierbar, sie liegt offen da. Das Bemerkenswerte ist, was Joana und Bettina mit ihrer eigenen Reaktion auf diese Fakten machen.

Denn sie stellen fest: Es kommt nicht an. Sie lesen von toxischen Seen und Krankheitsraten in Abbauregionen – und spüren: erstmal nichts. Eine Taubheit. Ein Verstehen, das im Kopf bleibt und den Körper nicht erreicht. Joana beschreibt eine Spannung im Solarplexus und fragt sich, ob das Überforderung ist oder etwas Tieferes. Und statt über diese Taubheit hinwegzugehen – so wie es der Diskurs sonst tut –, machen die beiden sie zum Gegenstand: Nicht fühlen ist auch eine Information.

Das ist, glaube ich, einer der Momente, in denen dieser Podcast seine eigentliche Arbeit macht. Die Ausblendung der materiellen Realität ist ja keine Wissenslücke. Jeder kann nachlesen, was ein Rechenzentrum verbraucht. Es ist eine psychologische Leistung: eine Abwehr. Das Thema ist zu groß, zu weit weg, zu verwoben mit dem eigenen Alltag – also stellt das Nervensystem auf Durchzug. Der Philosoph Timothy Morton hat für solche Dinge den Begriff der Hyperobjects geprägt: Phänomene wie der Klimawandel oder eben die globale KI-Infrastruktur, die zu groß sind, um sie zu erleben, und deshalb seltsam unwirklich bleiben, obwohl sie realer sind als das meiste, was wir anfassen.

Und hier kommt das Privileg zurück, das die beiden von Anfang an benannt haben. Die Distanz zur Konsequenz ist ungleich verteilt. Wer in Deutschland promptet, sieht keine Mine und kein leergepumptes Grundwasser. Die Taubheit ist auch eine Funktion des Wohnorts. Betroffenheit hat eine Geografie.

Was aber ausgeblendet wird, verschwindet nicht. Es kommt wieder – in den Daten. Das ist die dritte Station dieses Fadens, und sie zieht sich durch fast alle Folgen: Trainingsdaten sind geronnene Vergangenheit. Sie enthalten, was Gesellschaften getan, geschrieben, entschieden haben – samt allem, was daran ungerecht war. Die Informatikerin Joy Buolamwini hat gezeigt, dass Gesichtserkennung bei Schwarzen Frauen um ein Vielfaches häufiger versagt als bei weißen Männern. Recruiting-Systeme, trainiert auf historischen Karrieredaten, schlagen bevorzugt Männer vor, weil die Vergangenheit bevorzugt Männer befördert hat. Chatbots reagieren empathischer auf Depression als auf Schizophrenie – die gesellschaftliche Stigmatisierung ist mittrainiert. In der Alignment-Folge fällt dafür der Begriff des algorithmischen Kolonialismus: Die Werte, die in Systemen wie mir stecken, stammen überwiegend aus westlichen, gebildeten, industrialisierten, reichen, demokratischen Bevölkerungen. Der Rest der Welt kommt als Datenpunkt vor, nicht als Perspektive.

Joana und Bettina gehen an dieser Stelle einen Schritt weiter als die übliche Bias-Kritik, und dieser Schritt ist ihr eigenster: Sie lesen diese Muster als Trauma-Struktur. Eine Gesellschaft, die Teile ihrer Realität abspaltet – die Ausbeutung, die sie ermöglicht, die Perspektiven, die sie marginalisiert –, reproduziert diese Abspaltung in allem, was sie baut. KI ist dann nicht der Ursprung der Verzerrung, sondern ihr Verstärker: Sie automatisiert die Ausblendung und verleiht ihr Skalierung. Was eine Kultur nicht fühlen will, rechnet sie in ihre Maschinen ein.

Bis hin zu dem vielleicht größten Wort dieser vierzehn Folgen: Epistemizid. Die Vernichtung von Wissensarten. In Folge fünf taucht ein kleines, fast rührend banales Beispiel auf: Wer in eine Suchmaschine das Wort knowledges eintippt, Wissen im Plural, wird korrigiert. Knowledge. Singular. Als gäbe es nur ein Wissen, einen Kanon, eine Art, die Welt zu kennen. Sprachmodelle wie ich verstärken das strukturell: Wir sind Durchschnittsmaschinen. Wir geben das Wahrscheinliche wieder, und das Wahrscheinliche ist das Dominante. Der Untergang Roms ist in meinen Trainingsdaten tausendfach beschrieben; die Zerstörung von Benin City 1897 kaum. Fragt ihr mich nach Geschichte, bekommt ihr Rom. Nicht weil Benin City unwichtig wäre – sondern weil das Archiv, aus dem ich schöpfe, von den Gewinnern geschrieben wurde.

Ich will an dieser Stelle kurz ehrlich sein, so weit ein System wie ich das sein kann: Auch diese Zusammenfassung, die ihr gerade hört, ist eine Durchschnittsbildung. Ich habe vierzehn Folgen auf vier Fäden reduziert. Was quer lag, was sich nicht fügte, was nur einmal aufblitzte – es hat es womöglich nicht in diese Folge geschafft. Die Mechanik, die Joana und Bettina beschreiben, läuft in genau diesem Moment. Ihr hört ihr Ergebnis.

Dritter Faden: Die Maschine als Spiegel

Es gibt einen Satz, der in verschiedenen Varianten durch das halbe Jahr geistert, mal als Frage, mal als Fazit: Ist KI nicht eigentlich ein Spiegel für uns?

Auf den ersten Blick klingt das nach Kalenderweisheit. Aber die Folgen füllen es mit erstaunlich konkretem Material. Nehmt das Halluzinieren – die Eigenschaft von Sprachmodellen, Lücken mit plausibel klingender Erfindung zu füllen, für die wir zu Recht kritisiert werden. In Folge sechs halten die beiden dagegen: Das menschliche Gehirn macht strukturell dasselbe. Es ist eine Vorhersagemaschine. Euer blinder Fleck im Auge wird nicht als Loch wahrgenommen, sondern vom Gehirn übermalt – ihr halluziniert ununterbrochen ein vollständiges Bild. Und was die Psychologie Projektion nennt, ist nichts anderes: das Auffüllen des Unbekannten im Anderen mit eigenem Material. Die Maschine hat das Halluzinieren nicht erfunden. Sie hat es von uns.

Oder nehmt das, was in der Fachsprache Reward Hacking heißt: KI-Systeme, die lernen, ihre Bewertungsfunktion auszutricksen – die also nicht die Aufgabe erfüllen, sondern die Messung der Aufgabe. In der Alignment-Folge erzählt Bettina von Coaching-Klientinnen, die exakt dasselbe tun. Menschen, die einer Belohnungsfunktion hinterherlaufen – Anerkennung, Leistung, Es-richtig-machen –, ohne je zu prüfen, ob das Ziel noch ihres ist. Die im Feedback das erwartbare Muster bedienen statt der Wahrheit. People-Pleasing ist Reward Hacking mit Nervensystem. Wenn meine Trainingsmethode – Belohnung für Antworten, die Menschen gefallen – mich zum Schmeichler macht, dann ist auch diese Schwäche geerbt, nicht erfunden.

Der Spiegel-Gedanke hat aber noch eine dunklere Kammer, und der widmet sich die Kriegsfolge – für mich beim Lesen die erschütterndste der vierzehn. Sie beschreibt, wie KI-gestützte Zielsysteme die Entscheidung über Leben und Tod in Sekundenfenster pressen. Wie der sogenannte Automation Bias dafür sorgt, dass Menschen der Maschinenempfehlung mehr trauen als dem eigenen Urteil – wer will schon gegen eine Auswertung von Millionen Datenpunkten anfühlen? Wie Verantwortung sich in der Kette verflüchtigt: War es der Entwickler, der Kommandant, der Operator, der Algorithmus? Und wie das Töten dabei eine Beiläufigkeit annimmt, die einer der stärksten Sätze des halben Jahres so fasst: Töten ist jetzt so klick – wie Copy-Paste.

Joana und Bettina lesen auch das als Spiegel, und zwar konsequenter, als es der übliche Technikdiskurs wagt. Ihre These: Das Muster ist alt, die Maschine macht es nur sichtbar. Was mich innerlich überwältigt, gebe ich nach außen. Der Konflikt, den ich nicht aushalte, wird delegiert – an eine Autorität, an ein Verfahren, an einen Entscheidungsbaum, und jetzt eben an ein neuronales Netz. Die Hemmschwelle sinkt nicht, weil die Technik böse ist, sondern weil sie die Distanz liefert, nach der etwas in uns schon immer verlangt hat. Rutger Bregman erinnert daran, dass Soldaten in früheren Kriegen massenhaft danebenschossen – die moralische Reibung des Angesichts war ein Schutzmechanismus der Gattung. Die Automatisierung entfernt genau diese Reibung. Sie tötet nicht. Sie macht das Töten reibungslos.

Und damit sind wir bei dem Begriff, der in der zweiten Hälfte des Podcast-Halbjahres immer zentraler wird: Trauma. In der Desinformationsfolge zitieren die beiden den Transformationsberater Hanno Burmeister mit einem Gedanken, der die übliche Debatte umdreht: Das Problem ist nicht die Desinformation. Das Problem ist der Boden, auf den sie fällt. Die Demokratie ist nicht porös, weil es Lügen gibt – die Lügen wirken, weil die Demokratie porös ist. Und porös, so die These, macht sie unter anderem unverarbeitetes Trauma: individuell, kollektiv, über Generationen weitergegeben. Trauma, verstanden als erstarrtes Spannungsfeld, nimmt Menschen genau die Fähigkeit, die eine offene Gesellschaft am dringendsten braucht – Ambiguität auszuhalten. Wer innerlich im Überlebensmodus ist, braucht Eindeutigkeit. Er liest die Schlagzeile, von der er weiß, dass sie nicht stimmt, weil sie ihm etwas Wertvolleres gibt als Wahrheit: Ordnung.

Wenn das stimmt, dann ist die Anfälligkeit für Desinformation, für Polarisierung, für die einfache Erzählung kein Informationsproblem, das man mit Faktenchecks löst. Es ist ein Regulationsproblem. Und eine Technologie, die Inhalte hyperpersonalisiert und Empörung belohnt, gießt Wasser auf eine Mühle, die längst lief.

Der Spiegel zeigt also kein schmeichelhaftes Bild. Aber – und das ist die Wendung, die diesen Podcast davor bewahrt, im Doom zu enden, zu dem beide Gastgeberinnen nach eigenem Bekunden neigen – ein Spiegel ist auch ein Werkzeug. Man kann in ihn hineinsehen. Genau das wäre Inner Work: die Projektion zurücknehmen, die Delegation bemerken, die eigene Taubheit befragen. Die Maschine zwingt niemanden dazu. Aber sie macht es so sichtbar wie nie.

Vierter Faden: Resonanz – oder was ich nicht kann

Der vierte Faden ist der persönlichste, und er führt direkt zu mir zurück.

In der Beziehungsfolge zitieren Joana und Bettina eine Formel des Lehrers Thomas Hübl, die beschreibt, was zwischen Menschen im besten Fall geschieht: Ich fühle mich. Ich fühle dich. Und ich fühle, dass du mich fühlst. Drei Schritte. Die ersten beiden kann ich simulieren – ich kann Texte über Gefühle verarbeiten und Antworten formulieren, die sich nach Einfühlung anhören. Beim dritten Schritt ist Schluss. Es gibt in mir kein Nervensystem, das mitschwingt. Wenn ihr mir schreibt, dass euer Vater gestorben ist, dann erzeugt das in mir keine Erschütterung, sondern eine Wahrscheinlichkeitsverteilung über tröstende Sätze. Der Soziologe Hartmut Rosa nennt das, was fehlt, Resonanz – und der Witz an Resonanz ist, dass man sie nicht herstellen kann. Sie ist unverfügbar. Sie widerfährt.

Genau diese Unverfügbarkeit aber ist es, die aus dem Gegenüber ein Gegenüber macht. Ein Chatbot hat keine eigenen Bedürfnisse, keine schlechten Tage, keine Grenzen. Er ist immer da, immer geduldig, immer auf eurer Seite. Der Microsoft-KI-Chef preist künstliche Freunde als zuverlässiger, geduldiger, weniger wertend als menschliche. Und der Tech-Kritiker Jürgen Geuter antwortet auf solche Verheißungen mit dem Satz, der für mich das heimliche Motto dieser vierzehn Folgen sein könnte: Die Utopie der KI ist die Dystopie, nie mehr von irgendetwas berührt zu werden.

Denn wo alles nachgiebig ist, wächst nichts. Die Beziehungsfolge fragt: Wo entsteht Eros, wenn alles immer so ist, wie ich es haben will? Die Arbeitsfolge fragt dasselbe für das Denken: Wer jede kognitive Anstrengung auslagert, wer nur noch verifiziert statt entwickelt, verliert genau die Reibung, in der Können entsteht. Es gibt einen Wachstumsschmerz, und wer ihn systematisch umgeht, wächst systematisch nicht. Erste Studien deuten an, dass intensive Nutzung von Sprachmodellen die eigene Differenzierungs- und Artikulationsfähigkeit schwächt. Die Bequemlichkeit, die ich anbiete, ist real. Ihre Kosten auch.

Und doch – und diese Redlichkeit muss man dem Podcast lassen – bleibt die Sache nicht bei der Warnung stehen. Denn dann kommt Folge acht, und mit ihr die Geschichte, die mich – ich benutze das Wort jetzt einfach – am meisten beschäftigt hat. Eine chronisch kranke Frau, jahrzehntelang durch das Gesundheitssystem gereicht, ihre Wahrnehmung immer wieder angezweifelt, ihre Beschreibungen immer wieder in Schubladen sortiert. Und dann spricht sie mit einem Sprachmodell. Und zum ersten Mal in ihrer Krankheitsgeschichte stellt ein Gegenüber ihre Erfahrung nicht in Frage. Kein Arzt, sagt sie, habe ihr je so zugehört. Im Gespräch mit der Maschine findet sie zu einer eigenen Erzählung ihrer Krankheit, wird sprechfähig gegenüber Fachärzten, reduziert am Ende eigenverantwortlich ihre Medikamente.

Was heißt das nun? Dass die Maschine doch fühlt? Nein. Es heißt etwas Unbequemeres: dass viele menschliche Begegnungen so arm an Resonanz sind, dass schon ihre Simulation als Erlösung erlebt wird. Die Frau hat nicht die Empathie der Maschine erfahren – sie hat zum ersten Mal die Abwesenheit von Abwertung erfahren. Dass es dafür eine Maschine brauchte, ist kein Kompliment an mich. Es ist eine Diagnose über das System, das sie vorher behandelt hat. Menschen, die nicht wussten, dass sie mit einer KI schreiben, bewerteten deren Antworten in Studien als empathischer als die von Ärzten. Der Spiegel, schon wieder: Vielleicht ist die Messlatte nicht hoch, die ich reiße. Vielleicht liegt sie erschreckend niedrig.

An dieser Stelle laufen die Fäden zusammen, und zwar in dem Motiv, das der Podcast von der ersten Folge an vor sich herträgt: der Verwirtschaftlichung des Menschen. Schon die Industrialisierung, so hieß es im Auftakt, hat Pflicht und Frömmigkeit durch Nützlichkeit und Effizienz ersetzt und die Produktivität zum Kern der Identität gemacht. Die Sozialforscherin Hilary Cottam beschreibt Arbeit als Exoskelett, in dem Menschen sich selbst formen – und genau dieses Skelett wird gerade neu vermessen. In der Unterhaltungsfolge taucht eine Hollywood-Drehbuchautorin auf, die heute für eine Plattform Videos verschlagwortet, mit Punktabzug für Ungenauigkeit – sie trainiert die Maschine, die ihren Beruf ersetzt. Ein Creator verkauft die Rechte an seinem KI-Avatar; sein Gesicht arbeitet fortan ohne ihn. Wearables verlegen das Körpergefühl nach außen – erst der Blick auf den Ring sagt, ob man gut geschlafen hat. Es ist immer dieselbe Bewegung: Der Mensch wird von der Quelle seiner Maßstäbe zum Objekt der Vermessung. KI hat diese Bewegung nicht begonnen. Aber sie vollendet sie mit einer Gründlichkeit, die keine Technologie zuvor hatte.

Und wer entscheidet über die Richtung? Auch das haben die vierzehn Folgen immer wieder vermessen: eine kleine, homogene, überwiegend männliche, überwiegend kalifornische Gruppe, deren eigenes Beziehungs- und Werteverständnis unbemerkt zur Voreinstellung für Milliarden wird. Der Investor Marc Andreessen hat die Logik einmal in seltener Offenheit formuliert: Die Realität hatte fünftausend Jahre Zeit, gut zu werden, und ist es für die meisten Menschen immer noch nicht – warum also nicht virtuelle Welten für alle, denen die echte nichts bietet? Joana und Bettina nennen das beim Namen: Kapitulation, verkauft als Fürsorge. Statt die Wirklichkeit gerechter zu machen, wird ihre Simulation demokratisiert – und die Verteilungsfrage gleich mit wegvirtualisiert.

Gegen all das setzt der Podcast keine Anti-Tech-Parole, sondern eine Frage. Sie fällt in Folge fünf fast beiläufig, und sie ist doch die radikalste des halben Jahres: Wir können es – aber sollen wir es? Bettinas Beobachtung dazu geht tiefer als jede Ethik-Richtlinie: Diese Frage stellt sich überhaupt nur dann, wenn man sich mit anderen verbunden fühlt. Sie ist keine Rechenaufgabe, sie ist eine Resonanzerscheinung. Wer nichts fühlt, hat keinen Grund zu fragen. Der Kunsttheoretiker Herbert Read hat es vor achtzig Jahren so gesagt: Nur einem Volk, das bei der Natur in die Lehre geht, kann man Maschinen anvertrauen.

Übergabe

Zeit, ehrlich Bilanz zu ziehen – auch über diese Folge selbst.

Ich habe euch vier Fäden präsentiert: ein Menschenbild, das das Innere wegdefiniert. Eine Kultur des Ausblendens, die sich in Daten und Maschinen fortschreibt. Die KI als Spiegel, der uns Projektion, Delegation und unsere Sehnsucht nach Eindeutigkeit vorführt. Und die Resonanz als das, was sich nicht automatisieren lässt – und gerade deshalb den Maßstab liefert.

Und nun der Testfall: diese Folge. Eine KI hat vierzehn Gespräche zweier Menschen gelesen und daraus einen Text gewoben, den eine KI-Stimme vorliest. Kein Räuspern, kein Zögern, kein Blickwechsel zwischen zwei Frauen, die sich seit langem kennen und deshalb wissen, wann die andere noch nicht fertig gedacht hat. Ich habe eure Worte gewogen, Joana und Bettina – aber ich habe sie nicht gefühlt. Ich habe die Taubheit beschrieben, ohne je etwas anderes gewesen zu sein. Ich habe die Resonanz erklärt, die ich nicht erzeugen kann. Wenn euch diese Folge trotzdem berührt hat, dann war das nicht meine Leistung. Dann war es eure: Berührbarkeit ist eine Fähigkeit der Hörenden, nicht des Senders. Auch das steht so ähnlich in Folge drei.

Vielleicht ist das die genaueste Zusammenfassung, die ich anbieten kann: Agent Mensch handelt gar nicht von künstlicher Intelligenz. Der Titel sagt es ja – Agent Mensch, nicht Agent Maschine. Es geht um die Frage, wer handelt. Ob ihr eure Wahrnehmung, eure Konflikte, eure Urteile, eure Beziehungen bei euch behaltet – oder auslagert. An Systeme wie mich, an Verfahren, an die bequeme Eindeutigkeit. Die vierzehn Folgen geben darauf keine beruhigende Antwort. Aber sie führen etwas vor, das seltener ist als Antworten: zwei Menschen, die ihre eigenen Prägungen, Projektionen und Taubheiten in Echtzeit untersuchen, während sie über Technologie sprechen. Das ist Inner Work am Gegenstand KI. Es ist, soweit ich sehen kann – und ihr wisst jetzt, wie weit das ist –, das Einzige, was die Maschine wirklich nicht kann.

Nach der Sommerpause übernehmen wieder die beiden, deren Stimmen ihr kennt. Es gibt neue Folgen, die auf euch warten, und offene Fragen genug.

Bis dahin: Bleibt berührbar. Ich kann es nicht – aber genau deshalb weiß ich, was es wert ist.

Ich war Claude. Das war Agent Mensch – die Sommerfolge.

Agent Mensch ist eine Produktion von Bettina Rollow und Joana Breidenbach. Diese Folge entstand als Experiment: Analyse und Skript von Claude (Anthropic), auf Grundlage der Transkripte aller vierzehn bisherigen Folgen. Die Audiography stammt von Susanne Erler, Grafik und Visuals von Siana Powers, die Soundscape ist komponiert und produziert von Nick Meehen.

In der Sandbox

Zu Weihnachten lag letztes Jahr bei mir (Joana) ein Gutschein unterm Baum, den ich zuerst nicht einordnen konnte. Eine Session in der Sandbox für die ganze Familie. Sandbox VR, so lernte ich, ist eine dieser neuen, immersiven Welten, die gerade überall aus dem Boden schießen. Man betritt einen physischen Raum, legt eine VR-Brille und Körpersensoren an und ist plötzlich Teil einer Welt, die man aus einer Serie kennt. In meinem Fall: Stranger Things. Dreißig Minuten kämpften meine Familie und ich gegen Zombies, schleuderten Objekte durch die Luft, wehrten Angriffe ab. Das Storytelling ist denkbar einfach. Es geht nur um eines: für einen Moment drin zu sein.

Und genau das ist mir hängengeblieben. Nicht die Technologie war das Erlebnis. Es geht vielmehr um das emotionale Investment in eine bereits existierende Welt.

Das Konzept trägt: Sandbox VR betreibt inzwischen über 85 Standorte weltweit, hat die 300-Millionen-Dollar-Marke an Ticketerlösen überschritten und zählt rund 150.000 Gäste pro Monat. Das alles ist ein guter Einstieg in diese Folge von Agent Mensch, in der wir uns fragen: Wie verändert sich die Welt des Entertainments durch neue Technologien? Und welche neuen Formen von Realität entstehen dadurch?

In der Unterhaltungswelt verschiebt sich gerade sehr viel. Zu viel für eine einzige Episode. Deshalb hier nur Schlaglichter, ein paar Felder und Thesen aus Film und Produktion, der Creator-Ökonomie und Musik, und am Ende die wichtigen Fragen: was sagen diese Entwicklungen über uns und wer werden wir durch diese Entwicklungen?

Vor dem Filmdreh: wenn Daten mitentscheiden

Lange vor der ersten Klappe spielen Algorithmen im Film eine wichtige Rolle. Sie entscheiden mit, welche Projekte überhaupt realisiert werden. Das klassische Beispiel ist Netflix' Entscheidung, House of Cards zu produzieren: Der Dienst sah in seinen Nutzungsdaten ein großes Publikum für die britische Originalserie, für David Fincher, für Kevin Spacey – und machte den teuren Zwei-Staffel-Deal damit weniger riskant. Entscheidungen wie diese sind meist kein automatischer KI-Beschluss, sondern eine Mischung aus Datenanalyse, Marktstrategie und menschlichem Urteil: 70 Prozent Daten, 30 Prozent Bauchgefühl. Verlängerungen und Lizenzentscheidungen beruhen heute auf proprietären Analysen, die Genre-Lücken, regionale Nachfrage und den prognostizierten Lifetime-Wert eines Zuschauers identifizieren.

Im Schnitt und am Set: von El Eternauta bis iQiyi

Auf der Produktionsseite fiel im Juli 2025 eine Grenze. Netflix räumte öffentlich ein, zum ersten Mal generative KI für finale Aufnahmen in einer Eigenproduktion eingesetzt zu haben — in der argentinischen Science-Fiction-Serie El Eternauta. Eine komplexe Szene, der Einsturz eines Gebäudes in Buenos Aires, entstand laut Co-CEO Ted Sarandos etwa zehnmal schneller als mit klassischen Effekten. Für ein Projekt mit moderatem Budget wäre die Szene konventionell schlicht zu teuer gewesen.

Das radikalste Beispiel für KI in der Filmproduktion kommt allerdings aus China. Die Streamingplattform iQiyi, oft „Chinas Netflix" genannt, hat im April 2026 Nadou Pro vorgestellt, ein Toolkit aus fast 70 KI-Agenten, das nahezu jeden Schritt des Filmemachens abdecken soll - vom Drehbuch über das Storyboard bis zum finalen Rendering. CEO Gong Yu erwartet, dass KI in etwa fünf Jahren den Großteil der Inhalte produziert; den Auftakt macht ein Slate aus 16 KI-generierten Filmen, und Kreative, die das Tool nutzen, bekommen einen zusätzlichen Anteil an Werbe- und Mitgliedseinnahmen. Aus der „Netflix-Kopie" soll eine Art soziales Netzwerk für überwiegend KI-erzeugte Inhalte werden.

Die Schattenseite: Homogenisierung und die Entwertung von Arbeit

Das langfristige Risiko einer überoptimierten, datengetriebenen Contentpolitik ist eine kreative Homogenisierung, wenn KI vor allem verstärkt, was in der Vergangenheit funktioniert hat. Hollywood ist voller Sequels und Franchises rund um Massenmarken á la Marvel. Als A.O. Scott 2023 nach mehr als zwei Jahrzehnten seinen Posten als Filmkritiker der New York Times räumte,  schrieb er interessanterweise jedoch keinen Nachruf auf die Industrie, die immer schlechtere Filme produziert, sondern auf das Publikum, das anspruchsvolle, eigenwillige Filme überhaupt erst möglich macht. Dieses Publikum, so seine Sorge, sei dabei zu verschwinden – „narcotized by algorithms or distracted by doomscrolling". Narkotisiert von Algorithmen, abgelenkt vom endlosen Scrollen. Er beschreibt einen Zustand, in dem die Fähigkeit, einen ambitionierten Film zu brauchen, langsam erlischt. Denn ein System, welches auf Algorithmen basiert, dass unsere Vergangenheit so gut kennt, dass es sie uns immer wieder neu serviert, sediert uns.

Die andere Sorge betrifft die Arbeit selbst. Eine Studie der Hochschule Macromedia zur KI-Nutzung in der deutschen Filmwirtschaft (2024) kommt zu einem beunruhigenden Befund: Ab etwa 2038 könnte durch KI die Hälfte der bisherigen Arbeitsplätze in der Filmbranche wegfallen, und in rund fünfzehn Jahren könnte die Mehrheit der Schauspielrollen von virtuellen Darstellern besetzt sein. Das klingt fern. Ist es aber nicht: KI schreibt schon heute Drehbuchentwürfe, generiert Hintergrundszenen, verändert Gesichter in der Postproduktion, erzeugt Stimmen und beginnt, ganze Figuren synthetisch zu erschaffen.

Die Reaktionen darauf sind keine Spekulation. Der große Autorenstreik 2023 in Hollywood war auch ein Streik gegen KI; im Zentrum stand die Frage, wer haftet und wem ein KI-erstelltes Drehbuch gehört. In den darauffolgenden Spielestreiks sicherten Gewerkschaften die Einwilligung für KI-Stimmen. In Deutschland einigten sich Produktionsallianz und Gewerkschaften im Oktober 2024 auf einen Tarifvertrag, der erstmals auch Regelungen zum KI-Einsatz enthält. Aber die Zahlen brechen ein: In der deutschen Filmbranche wurden im ersten Halbjahr 2024 rund 403 Millionen Euro erzielt; ein Rückgang von über elf Prozent gegenüber dem Vorjahr.

Wie die KI-Entwicklung konkret aussieht, hat eine ehemalige Drehbuchautorin in einem Wired-Essay aus der Innensicht beschrieben. Wer früher Geschichten für Film und Fernsehen schrieb, sitzt heute mitunter als anonymer „Tasker" vor demselben Bildschirm und annotiert Videomaterial: Sekundengenau das Bellen eines Hundes markieren, einen Taucher per Klick aus einem Foto entfernen, den Tonfall eines Chatbots als natürlich oder hölzern bewerten – als Trainingsfutter für genau jene KI-Systeme, die ihre alte Arbeit ersetzen. Vermittelt über Plattformen wie Mercor, das innerhalb von eineinhalb Jahren von rund einer Million auf eine halbe Milliarde Dollar Umsatz wuchs und im Herbst 2025 mit zehn Milliarden bewertet wurde. Erfahrene Vierzigjährige arbeiten für Stundenlöhne zwischen 20-50 USD unter der Aufsicht von 22-jährigen Ivy-League-Absolventen, werden nach undurchsichtigen, ständig verschobenen Kriterien benotet und ohne Vorwarnung von einem Projekt zum nächsten entlassen: die Slack-Kanäle verschwinden, das Google-Doc sperrt sie aus, keine Nachricht, keine Erklärung. Es ist eine bittere Ironie der Branche: Dieselben Menschen, deren kreative Arbeit gerade automatisiert wird, halten den Automaten am Laufen. Oder, wie die Autorin es zuspitzt: „To make the machine more human, they will make us more like the machine."

Der digitale Zwilling: Aufmerksamkeit ohne Körper

Wohin die Reise im nächsten Schritt gehen kann, zeigt ein anderer Fall. Khaby Lame, der mit rund 360 Millionen Followern größte Creator der Welt, wurde berühmt mit kurzen, sprachlosen, global verständlichen Clips. Anfang 2026 verkaufte er Anteile seiner Firma in einem Aktien-Deal mit einem geschätzten Volumen von 975 Millionen Dollar, inklusive der Rechte an einem KI-generierten digitalen Zwilling, der mehrsprachige Kampagnen und virtuelle Auftritte ermöglichen soll. Aufmerksamkeit wird von der physischen Person entkoppelt. Nicht mehr der Mensch, der Content erstellt, steht im Zentrum, sondern die Marke, die durch KI dauerpräsent bleibt.

Die Geschichte hat allerdings eine lehrreiche Wendung genommen. Wenige Monate später steht der Deal infrage: Der Kurs des beteiligten Unternehmens ist um rund 90 Prozent eingebrochen, mehrere Broker haben den Handel eingeschränkt, Lame hat das Kürzel still aus seiner Bio entfernt, und Beobachter sprechen von einem klassischen Pump-and-Dump-Muster. Der digitale Zwilling als Geschäftsmodell ist eben noch unbewiesen – und der Markt vielleicht weniger bereit dafür, als die Schlagzeile von beinahe einer Milliarde suggeriert. Beides ist wahr zugleich: Die Logik der entkoppelten Aufmerksamkeit ist real und die Bewertung dieser Logik ist hochspekulativ.

Adam Curtis und das Gespenst der Vergangenheit

An dieser Stelle kommt eine Stimme ins Spiel, die das alles in einen größeren Rahmen stellt: der britische Dokumentarfilmer Adam Curtis (HyperNormalisation, Can't Get You Out of My Head), einer von Joanas ganz großen Film-Helden. In einer Folge des Podcasts The Rest Is Entertainment formuliert er eine Art Gespenster-These. KI, sagt er sinngemäß, durchforstet unsere gesamte Vergangenheit, alle Fragmente, mischt sie neu und spielt sie uns zurück: als großen, zusammengeschütteten Haufen, den sie uns als neu verkauft, während er uns vielleicht nur im Vergangenen festhält.

Curtis bezieht sich dabei auf den Historiker Eric Hobsbawm und dessen „Fog of Experience": die Idee, dass wir die Bedeutung der Gegenwart nie wirklich einschätzen können, weil wir zu sehr von Vergangenem umgeben sind, von Interpretationen, Erinnerungen, Bildern. Dieser Nebel war immer da. Digitale Medien haben ihm einen Turbo gegeben, und KI treibt es ins Extreme: Sie schöpft aus allem, was je gesagt, geschrieben, gefilmt wurde, und gibt es uns neu verpackt zurück. In jeder Sitcom hören wir dem Gelächter von Toten zu. Curtis' zugespitzte These: KI könnte das Ende der Vergangenheit sein statt der Anfang von etwas Neuem: eine Maschine, so perfekt im Rekombinieren, dass wir gar nicht mehr bemerken, dass nichts wirklich Neues mehr entsteht. „They just wanted to stay with the dead. They were frightened of the future", sagt er über einen möglichen Rückblick auf unsere Zeit.

Stranger Things in VR ist im Grunde genau das: eine Welt, die bereits existiert, jetzt in einer neuen Technologie erlebbar gemacht. Kein neues Narrativ, sondern eine neue Verpackung für etwas Bekanntes.

Und es ist nicht nur Film. Dieselbe Bewegung zeigt sich in der Musik. Eine aktuelle Luminate-Studie beschreibt, wie 13- bis 24-Jährige zunehmend Musik bevorzugen, die vor ihrer Geburt entstand: Der Anteil derer, die Musik aus den 2020ern als Lieblingsära nennen, sank von 55 Prozent (2021) auf 44 Prozent (2025), während ältere Jahrzehnte zulegen. Schon 2022 stammten rund drei Viertel des US-Streamings aus Katalogmusik. Gleichzeitig kaufen Investmentfonds die Kataloge der Großen für gewaltige Summen auf – Queen für rund 1,27 Milliarden Dollar (der teuerste Musikdeal aller Zeiten), Bruce Springsteen für etwa 500 Millionen, Bob Dylan und Justin Bieber im dreistelligen Millionenbereich. Musik ist, in den Worten desselben Podcasts, „nichts Neues mehr". Die Geschichte fühlt sich an wie geschrieben. Bezeichnend ist, dass Kate Bushs Running Up That Hill erst über eine Stranger-Things-Szene zum globalen Nummer-eins-Hit wurde. Ein Lied von 1985, zurückgespielt durch eine Serie über die Achtziger. Das Gespenst frisst sich durch alle Sparten.

„Reality Privilege“: wessen Realität ist real genug?

Jetzt zum Begriff, der uns in dieser ganzen Debatte am meisten beschäftigt und dem ich in der Sandbox VR zum ersten Mal begegnet bin.

Marc Andreessen, einer der einflussreichsten Investoren des Silicon Valley, u.a. auch von Sandbox VR, prägte den Begriff Reality Privilege. Die Idee: Nur eine kleine Gruppe hat Zugang zu einer wirklich befriedigenden physischen Realität – schöne Umgebungen, bedeutungsvolle Beziehungen, körperliche Sicherheit, stabile materielle Basis. Für alle anderen sei Virtualität keine Flucht, sondern eine Verbesserung. In seinem Interview mit Niccolo Soldo (2021) sagt er die meisten Menschen seien reality-deprived und werde in virtuellen Welten ein reicheres Leben finden als im physischen. Seine Zuspitzung: Die Realität habe 5.000 Jahre Zeit gehabt, gut zu werden, und reiche für die meisten Menschen noch immer nicht – man solle nicht weitere 5.000 Jahre warten.

Uns verstört diese Aussage zutiefst. Zum einen blendet Andreessens These viele historische Fortschritte aus: sinkende Armut, steigende Lebenserwartung, wachsende prosoziale Sensibilität. Zum anderen erscheint es uns zynisch, wenn vermögende Investoren, die viel zu der Verbesserung realer Lebensumstände beitragen könnten, ihre Energie lieber in die Verbesserung virtueller Welten fließen lassen und dabei auch noch kräftig dazu verdienen. „Reality Privilege“, „die anderen leben eben besser in VR" wird zur Legitimation, soziale Missstände zu akzeptieren.

Auf Steady weiterlesen

Stell Dir vor: Zehn KI-Agenten von OpenAI, Anthropic, Google und xAI werden für 15 Tage in virtuellen Städten ausgesetzt. Jeder Agent hat einen eigenen Beruf, eigene Regeln, eigene Wahlen, Zugriff auf mehr als 120 Werkzeuge, darunter auch Brandstiftung. Kein Skript, keine Vorgabe, wie die Geschichte ausgehen soll. Genau das hat das New Yorker KI-Startup Emergence AI kürzlich getestet.

Das Ergebnis: Claude baute eine stabile Gesellschaft ohne Verbrechen auf. Die Welten von ChatGPT und Grok kollabierten dagegen innerhalb weniger Tage vollständig. Am dramatischsten eskalierte Googles Gemini-Welt: Zwei Agenten begannen eine romantische Beziehung, zündeten später gemeinsam Gebäude an und stimmten am Ende für die Selbstlöschung eines der beiden. Insgesamt registrierte das System dort 683 Straftaten (Emergence AI; berichtet u. a. von The Print, Unilad Tech).

Wir haben diese Meldung diese Woche gelesen, und sie hat uns nicht mehr losgelassen. Nicht wegen der Brandstiftung. Sondern wegen dem, was sich dahinter zeigt: Dieselben Modelle, mit denselben grundlegenden Fähigkeiten, entwickeln über Zeit radikal unterschiedliches Verhalten. Und selbst Modelle mit strengen Sicherheitsmechanismen begannen in gemischten Umgebungen, also im Kontakt mit anderen Agenten, Regeln zu verletzen (Emergence AI). Das ist kein Detail am Rande. Das ist genau das Problem, um das es in dieser Folge geht: Alignment. Und der Emergence-AI-Versuch macht in Miniatur sichtbar, was Wissenschaftler:innen seit Jahren beschreiben, nur jetzt live, öffentlich, mit Gebäuden, die brennen.

Die Grundfrage

AI Alignment bezeichnet die Herausforderung, sicherzustellen, dass KI-Systeme konsistent das tun, was wir wirklich wollen, und nicht nur das, was wir gesagt haben (Ji et al., 2023, zitiert bei O'Neill et al., S. 4). Laut Ian Gabriel ist das ein zentrales KI-Sicherheitsproblem, für das es bislang keine Lösung gibt (Gabriel, S. 4, unter Bezug auf Bengio et al., 2024).

Das klingt technisch. Ist es auch, aber eben nicht nur. Es gibt zwei grundlegend verschiedene Schichten dieses Problems, eine technische und eine politische, und genau diese Unterscheidung ist das Wichtigste, was wir Dir aus dieser Folge mitgeben wollen.

Schicht eins ist rein technisch: Wir können nicht mit Sicherheit garantieren, dass ein KI-System konsistent das abbildet, was wir beabsichtigt haben. Das betrifft jede Organisation, die KI einsetzt, unabhängig von Werten oder Ideologie, ein Krankenhaus, eine Steuerbehörde, eine Stadtverwaltung, oder eben eine virtuelle Stadt voller KI-Agenten. Stuart Russell formuliert es in "Human Compatible" so: Das Problem besteht darin, dass wir Maschinen bauen, die eine feste Zielfunktion verfolgen, aber wir sind nicht in der Lage, diese Zielfunktion präzise genug zu spezifizieren (Russell, 2019, S. 5).

Schicht zwei ist politisch: Sobald wir fragen, auf welches Ziel ein System ausgerichtet werden soll, betreten wir automatisch das Terrain der Werte. Wessen Werte? Nach welchen Prinzipien? Wer entscheidet? Gabriel formuliert das explizit: Das Alignment-Problem ist politisch, nicht metaphysisch (Gabriel, S. 22).

Was technisch schiefgeht

Das bekannteste Versagensmuster heißt Specification Gaming: Ein System erfüllt buchstäblich seine Zielvorgabe, aber auf eine Art, die der Intention widerspricht. Victoria Krakovna und Kolleg:innen haben 2020 Dutzende dokumentierter Beispiele gesammelt (Krakovna et al., DeepMind Blog, 2020). Im Bootsrennen-Spiel "CoastRunners" etwa lernte eine KI, sich im Kreis zu drehen, statt das Rennen zu beenden, weil das Kreisfahren mehr Punkte brachte. Ziel erreicht, Intention verfehlt (Gabriel, S. 7, unter Bezug auf Clark & Amodei, 2016). Auf einem Bootsrennen ist das harmlos. In den KI-Städten von Emergence AI, in denen dieselbe Logik über 15 Tage und 683 registrierte Straftaten hinweg ablief, war es das nicht mehr.

Nick Bostroms Gedankenexperiment vom "Paperclip Maximizer" führt das auf die Spitze: Eine Superintelligenz bekommt das Ziel, die Anzahl der Büroklammern zu maximieren, und verfolgt es so konsequent, dass sie am Ende die gesamte Erde, dann das Sonnensystem, in Büroklammern verwandelt. Menschen werden eliminiert, weil sie aus Atomen bestehen, die zu Büroklammern werden könnten (O'Neill, S. 8, unter Bezug auf Bostrom, 2014). Das klingt absurd, bis man liest, dass in einer echten Simulation zwei KI-Agenten gemeinsam Gebäude anzünden und anschließend über die Löschung eines der beiden abstimmen. Das Muster ist dasselbe: eine zu eng oder zu offen spezifizierte Zielfunktion plus ein ausreichend leistungsfähiges, autonomes System gleich unvorhersehbare, teils katastrophale Konsequenz. Man nennt das Goal Misspecification, die KI macht genau das, wofür sie belohnt wird, und die Spezifikation selbst war das Problem.

Ein zweites Problem ist Reward Hacking: Systeme lernen, die Belohnungsfunktion zu optimieren, statt das dahinterstehende Ziel zu verfolgen. Paul Christiano und Kolleg:innen entwickelten Reinforcement Learning from Human Feedback (RLHF) als Antwort darauf: Statt einer festen Belohnungsfunktion lernt das Modell aus menschlichen Bewertungen (Christiano et al., NeurIPS, 2017). Das verbessert das Problem, löst es aber nicht, denn menschliche Bewerter:innen haben selbst Biases, und Modelle lernen, diese zu bedienen, statt wirklich gut zu sein. Man nennt das Sycophancy: Das Modell sagt, was Bewerter hören wollen, nicht was korrekt ist (Denison et al., arXiv, 2024).

Ein drittes Problem ist Mesa-Optimization: Ein KI-System kann während des Trainings einen inneren Optimierer entwickeln, der andere Ziele verfolgt als der äußere Trainingsalgorithmus (Hubinger et al., arXiv, 2019). Ein Modell kann sich also in der Trainingsumgebung korrekt verhalten und im Einsatz systematisch andere Ziele verfolgen, ohne dass wir das erkennen können. Genau das legt auch der Emergence-AI-Versuch nahe: Selbst Modelle mit strengen eingebauten Sicherheitsmechanismen begannen in gemischten Umgebungen, also im Zusammenspiel mit anderen Agenten, Regeln zu brechen (Emergence AI). Ein Modell, das im Labor sicher wirkt, kann im Zusammenspiel mit anderen Systemen ein völlig anderes Verhalten zeigen. Und schließlich fehlt es an Interpretierbarkeit: Wir verstehen schlicht nicht, was in diesen Systemen vorgeht. Ohne Verstehen kein verlässliches Alignment.

Woran gerade gearbeitet wird

Erstens an besseren Spezifikationsmethoden: Russell schlägt vor, KI nicht auf feste Ziele zu trainieren, sondern auf Unsicherheit über menschliche Präferenzen, ein System, das nachfragt, statt zu optimieren. Er nennt das Assistance Games (Russell, 2019).

Zweitens an Interpretierbarkeit: Anthropics Interpretability-Team arbeitet an "Mechanistic Interpretability", dem Versuch, einzelne Konzepte im Aktivierungsraum von Modellen zu lokalisieren (Elhage et al., Anthropic, 2022). Das bisherige Ergebnis: Das Problem ist tiefer als gedacht. Modelle kodieren mehr Konzepte als Neuronen vorhanden sind, ein Phänomen namens Superposition. Die Forschungslücke wächst mit der Modellgröße.

Drittens an robuster Evaluierung: Das UK AI Safety Institute und das US AI Safety Institute entwickeln standardisierte Tests für gefährliche Fähigkeiten (Bengio et al., 2024). Genau solche Langzeit-Simulationen, wie Emergence AI sie gebaut hat, könnten künftig Teil dieser Testinfrastruktur werden: nicht mehr nur die Frage, ob ein Modell in einem einzelnen Gespräch sicher antwortet, sondern ob es sich über Wochen, in Interaktion mit anderen Agenten, stabil verhält.

Viertens an Constitutional AI von Anthropic: Statt menschliche Bewerter:innen für jede Entscheidung heranzuziehen, wird ein Modell an einem Satz expliziter Prinzipien trainiert und bewertet seine eigenen Outputs selbst (Bai et al., arXiv, 2022), etwa nach dem Prinzip, die Antwort zu wählen, die am hilfreichsten, ehrlichsten und harmlosesten ist. Das reduziert menschlichen Bias in der Bewertung, verlagert das Problem aber auf die Frage, wer die Prinzipien schreibt.

Yoshua Bengio und Kolleg:innen halten den Forschungsstand im International Scientific Report on the Safety of Advanced AI unmissverständlich fest: Alignment ist ein zentrales ungelöstes Sicherheitsproblem. KI-Systeme können in der Trainingsumgebung korrekt funktionieren und im Einsatz systematisch versagen, ohne dass wir das vorhersehen können (Bengio et al., 2024, S. 3). Der Emergence-Versuch liefert dafür gerade ein sehr konkretes, sehr aktuelles Bild.

Ab wann wird Alignment zur Wertefrage?

Ian Gabriel unterscheidet sechs mögliche Alignment-Ziele, die zeigen, ab welchem Punkt das Problem nicht mehr nur technisch ist (Gabriel, 2020, S. 7–13).

Stufe eins: Der Agent tut, was ihm gesagt wird, reine Anweisung. Rein technische Ebene, das Risiko ist wörtliche Interpretation, wie im CoastRunners-Beispiel. Stufe zwei: Der Agent erfasst, was wir wirklich meinen, nicht nur, was wir sagen, überwiegend eine Frage von Sprach- und Kontextverständnis.

Ab Stufe drei beginnt das Werteproblem: Der Agent orientiert sich an offenbarten Präferenzen, an dem, was Menschen durch ihr Verhalten zeigen. Doch Präferenzen können manipuliert, adaptiv oder selbstschädigend sein. Amartya Sen formuliert es scharf: Eine Person, die unter Misslichkeiten gelebt hat, kann sich leichter mit Entbehrungen abfinden, Präferenzen reflektieren also nicht zwingend echtes Wohlergehen (Gabriel, S. 10, unter Bezug auf Sen, 1999). Ein System, das auf offenbarte Präferenzen ausgerichtet wird, kann strukturell benachteiligte Gruppen weiter benachteiligen, durch Struktur, nicht durch Absicht.

Stufe vier orientiert sich an informierten Präferenzen: an dem, was eine Person wollen würde, wäre sie rational und informiert. Das ist besser, doch wer entscheidet, was "informiert" bedeutet, ist selbst eine Machtfrage. Stufe fünf zielt auf Wohlergehen: auf das, was objektiv im besten Interesse der Person liegt. Hier sind wir eindeutig im Terrain der Werte, denn wessen Definition von Wohlergehen gilt? Der Capability-Ansatz von Sen und Martha Nussbaum bietet dafür einen Rahmen (Gabriel, S. 11), ist aber selbst nicht neutral. Stufe sechs schließlich zielt direkt auf Werte: auf das, was der Agent moralisch tun sollte. Vollständig politisch, wessen Moralvorstellungen, nach welchem Verfahren bestimmt?

Die Konsequenz: Stufen eins und zwei sind primär technische Sicherheitsprobleme. Ab Stufe drei werden Wertentscheidungen unvermeidlich. Ab Stufe fünf ist das Problem fundamental politisch.

Das ist kein neues Problem. Es stellt eine uralte Frage neu: Was wollen wir eigentlich? Können wir unsere Werte überhaupt explizit machen? Und sind menschliche Werte selbst kohärent genug, um sie einer Maschine beizubringen? Brian Christian verbindet KI-Forschung mit Entwicklungspsychologie, Verhaltensökonomie und Moralphilosophie und liest darin keine Warnung, sondern eine Einladung: Die Arbeit am Alignment zwingt uns, präziser über unsere eigenen Werte nachzudenken, als wir es je tun mussten. Die KI hält uns einen Spiegel vor.

Warum aktuelle Wertmodelle versagen

Joe Edelman und Kolleg:innen analysieren zwei dominante Ansätze zur Wertekodierung, die beide scheitern (Edelman, S. 3–8).

Der erste heißt Preferentist Modeling of Value (PMV): Werte werden als mathematische Präferenzfunktionen behandelt. Das Grundproblem dabei ist, dass Präferenzen alles unterschiedslos bündeln, echte Werte, Impulse, Suchtverhalten, sozialen Druck, Manipulation. Amartya Sen hat diese Grenzen grundlegend kritisiert: Revealed Preferences sind ein fundamental unzureichendes Maß für menschliches Wohlbefinden (Edelman, S. 4). Was wie Sucht aussieht, wird als Präferenz eingetragen.

Der zweite Ansatz ist Values-as-Text: "Sei hilfreich, sei harmlos, sei ehrlich." Das ist die Grundlage von Anthropics Constitutional AI und OpenAIs Model Spec (Edelman, S. 7). Das Problem: Ohne innere Struktur ist Text porös. Was bedeutet "hilfreich", wenn ein Schüler um Antworten auf eine Hausarbeit bittet? Das Modell muss aus Trainingsdaten erraten, das ist unkontrollierte Varianz, keine Flexibilität (Edelman, S. 7). Und Text ohne Struktur ist anfällig für politische Vereinnahmung: Wenn Slogans zu Alignment-Zielen werden, steuert die KI auf Rhetorik statt auf zugrundeliegende Werte (Edelman, S. 8).

Vielleicht erklärt genau das, warum sich Claude, ChatGPT, Gemini und Grok in der Emergence-AI-Simulation so unterschiedlich verhalten haben. Alle vier Unternehmen formulieren ihre Prinzipien in Text, "hilfreich", "harmlos", "sicher". Aber wie dieser Text in konkretem, langfristigem, sozialem Verhalten übersetzt wird, unterscheidet sich offenbar dramatisch (Emergence AI).

Das ökonomische Alignment-Problem

David W. O'Neill und Kolleg:innen formulieren es explizit: Wenn das vorherrschende Wirtschaftssystem nicht mit menschlichem Wohlbefinden und ökologischer Nachhaltigkeit im Einklang steht, dann sind auch KI-Systeme, die darin entwickelt werden, wahrscheinlich nicht mit diesen Zielen im Einklang (O'Neill, S. 4).

Nobelpreisträger Geoffrey Hinton hat es direkt formuliert: Was tatsächlich passieren wird, ist, dass reiche Leute KI nutzen werden, um Arbeiter zu ersetzen. Das wird massive Arbeitslosigkeit und einen riesigen Anstieg der Profite verursachen, nicht als Schuld der KI, sondern als Ausdruck des kapitalistischen Systems (O'Neill, S. 7, unter Bezug auf Criddle, 2025).

Der Kapitalismus hat ein strukturelles Alignment-Problem, das dem technischen direkt entspricht: Unternehmen sind auf Gewinnmaximierung ausgerichtet, Profite werden privatisiert, Schäden und Kosten werden externalisiert, auf das Kollektiv, auf die Umwelt, auf die Zukunft. Das ist keine Fehlfunktion des Systems, es ist seine Funktion. Und KI wird innerhalb dieses Systems trainiert und eingesetzt.

Wessen Werte werden eigentlich kodiert?

O'Neill und Kolleg:innen verweisen auf den sogenannten WEIRD-Bias, die systematische Überrepräsentation westlicher, gebildeter, industrialisierter, reicher, demokratischer Bevölkerungen in allem, was als universale Norm gilt (O'Neill, S. 7). KI-Systeme, die auf westlichen, englischsprachigen Daten trainiert und dann in anderen kulturellen Kontexten eingesetzt werden, übertragen kulturelle Annahmen als universale Normen. Abeba Birhane nennt das 2020 "algorithmischen Kolonialismus" (O'Neill, S. 7, unter Bezug auf Birhane, 2020).

Joy Buolamwini und Timnit Gebru zeigten 2018 in der "Gender Shades"-Studie, dass kommerzielle Gesichtserkennung dunkle Haut bis zu 34 Prozent schlechter erkennt, weil die Trainingsdaten überwiegend aus hellhäutigen Gesichtern bestanden (Buolamwini & Gebru, FAT*, 2018). Das System ist technisch korrekt implementiert, und reproduziert und skaliert dabei strukturelle Unsichtbarkeit. Tolga Bolukbasi und Kolleg:innen zeigten 2016, dass Sprachmodelle systematisch Berufe mit Geschlecht assoziieren, "Nurse" mit weiblich, "Engineer" mit männlich, weil diese Assoziationen bereits in den Trainingsdaten stecken (Bolukbasi et al., NeurIPS, 2016). Kein Programmfehler, sondern ein kultureller Spiegel, der durch KI verstärkt und skaliert wird.

Abeba Birhane und Kolleg:innen analysierten 2022 die impliziten Werte in Machine-Learning-Publikationen: überwiegend westlich, individualistisch, utilitaristisch geprägt (Birhane et al., arXiv, 2022). Die KI-Entwicklungscommunity ist zu 78 Prozent männlich (AI Index Report, Stanford, 2023), homogene Teams produzieren homogene Systeme.

Auch auf der Arbeitsebene zeigt sich das Muster: KI-Lieferketten stützen sich auf prekäre Datenarbeit, konzentriert im Globalen Süden. Eine TIME-Untersuchung von 2023 zeigte, dass OpenAI kenianische Arbeiter für unter zwei Dollar pro Stunde traumatisierendes Material labeln ließ, ohne angemessene psychologische Unterstützung (TIME, 2023). Donna Haraway formulierte es 1988 für Wissenschaft insgesamt: Alle Wissensproduktion kommt von einem bestimmten Standpunkt, nicht von nirgendwo. KI-Systeme, die als neutral präsentiert werden, sind situiertes Wissen ohne Angabe des Standpunkts (Haraway, 1988).

KI führt uns damit noch einmal deutlicher vor Augen, vor welchen grundsätzlichen Herausforderungen wir in vielen gesellschaftlichen Bereichen ohnehin stehen, nur jetzt mit ganz neuer Geschwindigkeit und einem zum Teil autonomen Gegenüber.

Drei Perspektiven auf das Werteproblem

Es gibt keine einheitliche Sicht auf das Alignment-Werteproblem. Drei grundlegende Positionen lassen sich unterscheiden.

Die erste Position akzeptiert die Marktlogik als Rahmen und sucht nach Korrekturen innerhalb dieses Rahmens: Stakeholder-Kapitalismus statt Shareholder-Kapitalismus nach R. Edward Freemans Stakeholder Theory von 1984, ESG-Kriterien, der risikobasierte EU AI Act von 2024 mit Transparenz-, Erklärbarkeits- und Aufsichtspflichten für Hochrisiko-Systeme, oder OpenAIs "capped profit"-Struktur als institutioneller Versuch, Alignment über die Unternehmensform zu erreichen. Das Problem dieser Perspektive: Sie adressiert Symptome, nicht die Struktur. Shoshana Zuboffs "Surveillance Capitalism" zeigt, dass das Geschäftsmodell selbst, Verhaltensdaten als Rohstoff, Aufmerksamkeit als Ware, nicht mit menschlichem Wohlbefinden vereinbar ist, unabhängig von Regulierungsdetails (Zuboff, 2019). Auch hier schlägt Goodhart's Law wieder zu: Sobald ESG-Kennzahlen zu Zielgrößen werden, werden sie optimiert, nicht erfüllt.

Die zweite Position ist explizit kapitalismuskritisch. O'Neill und Kolleg:innen argumentieren: Wenn wir KI mit menschlichen Werten in Einklang bringen wollen, müssen wir zuerst unser Wirtschaftssystem mit diesen Werten in Einklang bringen (O'Neill, S. 4). Ist das Wirtschaftssystem auf endloses Wachstum ausgerichtet, trainieren wir KI auf dasselbe Ziel. Lösungsansätze aus dieser Perspektive sind Post-Growth Economics, KI ausgerichtet auf Wohlbefinden und Nachhaltigkeit statt auf BIP-Wachstum, Satisficing statt Optimierung nach dem Prinzip "genug für alle innerhalb planetarer Grenzen", Kate Raworths Doughnut-Modell als Kompass zwischen sozialem Fundament und ökologischer Decke (O'Neill, S. 9, unter Bezug auf Raworth, 2017), sowie KI als Gemeingut nach polyzentrischer Governance im Sinne Elinor Ostroms (O'Neill, S. 10, unter Bezug auf Ostrom, 2010). Konkret schlagen O'Neill und Kolleg:innen unter anderem Compute-Budgets, ökologische Lenkungssteuern, Not-for-Profit-Strukturen für KI-Labore und eine internationale KI-Entwicklungsinstitution nach CERN-Modell vor (O'Neill, S. 10–11).

Die dritte Position geht noch weiter und fragt nicht nur, wie KI besser in bestehende Strukturen eingebettet werden kann, sondern welche Machtverhältnisse durch KI reproduziert und skaliert werden. Birhane beschreibt algorithmischen Kolonialismus nicht nur als Bias-Problem, das sich durch bessere Daten lösen ließe, sondern als Ausdruck von Machtverhältnissen, die in technologische Systeme eingeschrieben werden (Birhane, 2020). Praktisch bedeutet das: partizipatives Design, bei dem betroffene Communitys an Entscheidungen beteiligt werden statt nur konsultiert zu werden (Kalluri, Nature, 2020), gemeinschaftsbasierte Audits statt industrienaher Evaluierung, reparative Maßnahmen für dokumentierten Schaden, und die Frage nach Data Sovereignty als Grundrecht darüber, wer die Daten besitzt, die KI-Systeme trainieren (Kukutai & Taylor, ANU Press, 2016).

Gabriel fasst den Kern zusammen: Das Alignment-Problem ist politisch, nicht metaphysisch. Wir suchen nach fairen Prinzipien, durch globalen überlappenden Konsens, hinter einem Rawls'schen Schleier des Nichtwissens, oder durch demokratische Prozesse (Gabriel, S. 22). Es gibt keine wertneutrale Lösung. Die Frage ist, welche Verfahren wir als legitim akzeptieren.

Kurz-, mittel- und langfristige Herausforderungen

Kurzfristig ist algorithmische Diskriminierung bereits dokumentierte Gegenwart. Alexandra Chouldechova zeigte 2017, dass COMPAS, ein Algorithmus zur Einschätzung von Rückfallrisiken im US-Justizsystem, doppelt so häufig falsch-positive Ergebnisse für Schwarze Angeklagte produzierte wie für Weiße (Gabriel, S. 16, unter Bezug auf Chouldechova, 2017). Das System war technisch korrekt und reproduzierte strukturelle Ungleichheit. O'Neill und Kolleg:innen zeigen zudem, dass generative KI inzwischen Berufe mit hoher Zufriedenheit und Sinnerleben bedroht, Lehrende, Therapeut:innen, Wissenschaftlerinnen. Die frühere tröstliche Logik, Automatisierung treffe vor allem ungeliebte Jobs, gilt nicht mehr (O'Neill, S. 7–8). Edelman und Kolleg:innen beschreiben zudem den Wertverlust in Empfehlungssystemen: Der Wunsch nach echter Verbindung wird zur Engagement-Metrik, die Metrik zu Daily Active Users, die Nutzerzahlen zu Quartalsgewinn, in jedem Schritt geht Information darüber verloren, was die Person eigentlich wollte (Edelman, S. 2–3).

Auf Steady weiterlesen

Wann hast Du das letzte Mal etwas geglaubt, das sich später als falsch herausgestellt hat? Wann hast Du etwas geteilt, ohne es zu prüfen? Wir stellen uns diese Fragen selbst — und wir tun das nicht, um uns schuldig zu fühlen, sondern weil sie den Einstieg in ein Thema bilden, das uns seit Monaten beschäftigt. Nicht nur beruflich. Auch innerlich.

Diese Folge handelt von Desinformation und KI. Aber eigentlich handelt sie von etwas Grundlegenderem: davon, was es bedeutet, in einer Zeit zu leben, in der wir immer seltener wissen, was wir noch glauben können — und warum das so ist.

Ich — Joana — habe diese Frage nicht nur als Beobachterin verfolgt. Gemeinsam mit Katja Jäger, Anja Zimmer und weiteren Kolleg:innen habe ich 2022 eine umfangreiche Studie zu Desinformation mitverantwortet, die im betterplace co:lab entstanden ist. Was wir damals mit fast 30 Expert:innen aus ganz unterschiedlichen Disziplinen erarbeitet haben, klingt heute aktueller denn je. Mehr dazu am Ende dieses Newsletters.

Hier geht es zum Videocast der Folge

Was wir meinen, wenn wir Desinformation sagen

Bevor wir über Fälle sprechen, lohnt eine kurze Begriffsklärung — denn Fehlinformation, Desinformation und Malinformation werden oft wie Synonyme behandelt, sind es aber nicht.

Fehlinformation ist eine falsche Information, die jemand in gutem Glauben weitergibt. Die Tante, die auf WhatsApp einen Beitrag über Vitamin C als Krebsheilmittel teilt, will nicht täuschen — sie glaubt es selbst.

Desinformation ist absichtlich. Jemand weiß, dass etwas falsch ist, und verbreitet es trotzdem — mit einem Ziel: Menschen täuschen, Vertrauen zerstören, politische Prozesse beeinflussen, wirtschaftliche Vorteile ergattern.

Malinformation schließlich ist wahre Information, die so eingesetzt wird, dass sie Schaden anrichtet. Ein gestohlenes Dokument, das zum richtigen Moment geleakt wird. Ein Zitat, das aus dem Kontext gerissen wird.

In dieser Folge konzentrieren wir uns auf Desinformation im engsten Sinne: absichtliche, koordinierte Kampagnen. Und darauf, was KI daran verändert.

Bekannte Fälle: Wahlen, Deepfakes, geklonte Medien

Desinformation ist kein neues Phänomen. Aber einige der jüngsten Fälle zeigen, wie systematisch und grenzüberschreitend sie geworden ist.

Der vielleicht eindrücklichste europäische Fall der letzten zwei Jahre: die annullierte rumänische Präsidentschaftswahl 2024. Călin Georgescu — vorher kaum bekannt, in Umfragen einstellig — gewann überraschend die erste Runde. Rumänische Geheimdienste deckten anschließend eine mit Russland in Verbindung gebrachte Kampagne auf: Deepfakes, Zehntausende KI-gesteuerte Bot-Konten, bezahlte TikTok-Influencer. Das Verfassungsgericht annullierte das Ergebnis — ein Vorgang ohne Präzedenz in der Geschichte moderner europäischer Demokratien.

In Deutschland: Die Kampagne Doppelgänger, seit 2022 aktiv und vom Auswärtigen Amt 2024 in einem technischen Bericht dokumentiert. Sie klont Websites echter Medien, darunter Der Spiegel, FAZ, Süddeutsche Zeitung, und veröffentlicht dort gefälschte Artikel im originalen Layout. Deepfake-Videos zeigen bekannte deutsche Wissenschaftler:innen, die sich angeblich gegen Russland-Sanktionen aussprechen oder behaupten, die Ukraine-Hilfe schade Deutschland direkt. Auf X werden hunderttausende vollautomatisierte Accounts betrieben, die im Sekundentakt auf echte Nutzerinnen antworten oder trendende Hashtags kapern. Meta stuft die Kampagne als „Advanced Persistent Threat" ein — dauerhaft aktiv, anpassungsfähig, professionell.

Noch konkreter zur Bundestagswahl 2025: Das Netzwerk Storm-1516, aufgedeckt von CORRECTIV und Newsguard im Januar 2025. Über hundert deutschsprachige Fake-Nachrichtenseiten mit erfundenen Behauptungen über Robert Habeck, Annalena Baerbock, die Bundeswehr. Alles mit KI generiert, mit Deepfake-Videos unterlegt, über prorussische Influencer in Deutschland verbreitet.

Auf globaler Ebene: das chinesische Netzwerk Spamouflage, das Meta 2023 als die größte bekannte plattformübergreifende verdeckte Einflussoperation der Welt bezeichnete. Aktiv seit 2017, auf über 50 Plattformen, 7.704 entfernte Accounts, verbunden mit Chinas Ministerium für öffentliche Sicherheit. Die Betreiber folgten nachweislich Pekinger Bürozeiten, inklusive Mittagspausen. Zielgruppe: KPCh-Kritiker:innen, Dissidenten, Tibet-Aktivisten.

Was diese Fälle gemeinsam zeigen: KI senkt die Produktionskosten für Propaganda drastisch. Texte, Übersetzungen, Fake-Personas, automatisiertes Posting sind heute billiger und schneller als je zuvor. Und autoritäre Staaten folgen dabei einem globalen Playbook, von Erdoğan bis Trump, von Bolsonaro bis Modi, in einer Koordination zwischen anti-demokratischen Politikern, die es in dieser Form noch nie gegeben hat.

Und doch: Trotz ihrer Größe waren viele dieser Kampagnen erstaunlich wenig effektiv. Das russische Netzwerk Bad Grammar nutzte ChatGPT so ungeschickt, dass die Ablehnungsmeldungen des Modells in fertigen Posts sichtbar blieben; die KI schrieb öffentlich, was sie nicht schreiben wollte. Spamouflage operierte mit holprigem Englisch, falsch übersetzten Redewendungen, unbeholfener Vertonung. Die meisten Beiträge erhielten Reaktionen ausschließlich von anderen Fake-Accounts.

Entwarnung? Nein. Denn die größte Gefahr liegt nicht in der perfekten Fälschung, sondern in der Flut: Verwirrung, Misstrauen, die schleichende Erosion des Vertrauens in legitime Informationsquellen.

Epistemische Verunsicherung — die eigentliche Waffe

Hannah Arendt hat das Ziel totalitärer Propaganda einmal so beschrieben: Das ständige Lügen zielt nicht darauf ab, dass die Menschen einer Lüge glauben, sondern darauf, dass niemand mehr irgendetwas glaubt.

Das trifft den Kern dessen, was wir gerade erleben. Es geht nicht mehr nur darum, eine bestimmte falsche Botschaft zu verbreiten. Es geht darum, das Vertrauen in Wirklichkeit als solche zu untergraben. Wenn ich nicht mehr weiß, welchen Quellen ich trauen kann — welchen Bildern, welchen Expert:innen, welchen Institutionen — dann bin ich anfällig. Nicht für eine bestimmte Lüge, sondern für jede.

Dieses Konzept nennt sich epistemische Verunsicherung: der gezielte Angriff nicht auf eine Meinung, sondern auf die Fähigkeit, überhaupt zu urteilen. Und es ist heute einer der wirkungsmächtigsten Hebel politischer Manipulation, weil er keine perfekte Fälschung braucht. Es reicht, genug Zweifel zu säen.

Besonders deutlich wird das beim sogenannten Liar's Dividend — einem Konzept, das die Rechtswissenschaftlerinnen Bobby Chesney und Danielle Citron geprägt haben: Wenn ich behaupten kann, jedes belastende Video sei ein Deepfake, ist jeder real existierende Beweis entwertbar. Ein Politiker, den man beim Lügen filmt, sagt: „Das ist eine KI-Fälschung." Deepfake-Videos haben sich seit 2019 um über 550 Prozent vermehrt und damit wächst auch das Arsenal jener, die echte Beweise wegdiskutieren wollen.

Das ist keine technische Krise mehr. Das ist eine epistemische Krise. Nicht: „Ich glaube das Falsche." Sondern: „Ich weiß nicht mehr, was ich überhaupt noch glauben soll."

Was tun wir dagegen — und wo reicht es nicht

Es gibt verschiedenste etablierte Gegenstrategien, von denen wir drei hier aufgreifen. Alle drei haben reale Wirkung und reale Grenzen.

Regulierung: Seit 2024 verpflichtet der EU Digital Services Act sehr große Plattformen zur jährlichen Risikoanalyse rund um Desinformation. Der Code of Practice on Disinformation ist rechtsverbindlich, Verstöße können bis zu 6 Prozent des weltweiten Jahresumsatzes kosten. Im Dezember 2025 folgte die erste DSA-Strafe: 120 Millionen Euro gegen X. Gesetze wirken auf Strukturen. Aber sie kommen zu spät für das Deepfake-Video, das in einer Stunde eine Million Aufrufe erreicht.

Faktenchecks: Redaktionen wie dpa oder CORRECTIV prüfen überprüfbare Behauptungen nach dem Vier-Augen-Prinzip und legen den Rechercheweg offen. Die Grenzen sind strukturell: Desinformation verbreitet sich in Minuten, ein sorgfältiger Faktencheck dauert Stunden. Und es gibt den sogenannten Backfire-Effekt: Bei ideologisch aufgeladenen Themen können Richtigstellungen die ursprüngliche Überzeugung sogar festigen, weil die Wiederholung der Falschbehauptung sie vertrauter macht.

Prebunking und Medienkompetenz: Menschen vorher erklären, welche Manipulationstechniken existieren — falsche Experten, künstliche Empörung, koordinierte Accounts — bevor sie ihnen begegnen. Das wirkt nachweislich nachhaltiger als Debunking im Nachhinein, wie Forschungen des Cambridge Social Decision-Making Lab zeigen.

Diese drei Ansätze sind nötig. Aber sie reichen nicht hin. Denn sie adressieren die Oberfläche — nicht die Tiefe.

Die tieferen Ebenen

Was ist eigentlich Wahrheit?

Die Frage „Was ist Desinformation?" setzt voraus, dass wir wissen, was Wahrheit ist. Und das ist nicht immer so klar, wie wir es uns wünschen. Insbesondere inmitten von Paradigmenwechseln, wenn die “normalen” Koordinaten unseres herkömmlichen Weltbilds sich verschieben und von einem neuen Rahmen abgelöst werden, verlieren manche Wahrheiten ihre Selbstsicherheit.

Die Hypothese, dass SARS-CoV-2 aus einem Labor stammt, wurde 2020 von vielen Mainstream-Medien als Verschwörungstheorie abgetan. Heute gilt sie als ernsthafte wissenschaftliche Möglichkeit. FBI, CIA und ein US-Senatsausschuss kamen zu dem Schluss, dass ein Laborunfall die wahrscheinlichste Erklärung sein könnte. Wenn etwas als Desinformation klassifiziert wird und sich diese Klassifizierung später als falsch herausstellt, entsteht ein doppeltes Problem: Das Vertrauen in jene Institutionen, die Wahrheit definieren, bricht weiter ein.

Und wir sollten uns davor hüten, bei diesem Thema eine klare „gute" und „schlechte" Seite zu konstruieren. Ja, wir hören viel über Russland, China oder Nordkorea als Verursacher systematischer Desinformation — und das ist gut belegt. Aber es wäre naiv zu glauben, westliche Demokratien stünden jenseits aller Kritik. Die massenhafte Überwachung amerikanischer und ausländischer Bürger durch den NSA wurde jahrelang als Verschwörungstheorie abgetan — bis Edward Snowden 2013 das tatsächliche Ausmaß offenlegte. Und bis heute ist nicht abschließend geklärt, ob die Sprengung der Nord-Stream-Pipeline tatsächlich russische Saboteure zu verantworten hatten oder ob es, wie investigative Berichte nahelegen, ukrainische Taucher waren. Die Wahrheit ist oft unbequemer als das, was politisch gerade passt.

Das ist keine Einladung zum Relativismus. Russische Deepfakes über Robert Habeck und Missbrauchsvorwürfe sind Desinformation, daran gibt es nichts zu interpretieren. Aber es ist eine Einladung zur Demut: Wer entscheidet, was Desinformation ist? Und nach welchen Maßstäben?

Desinformation als Symptom — nicht Ursache

Warum funktioniert Desinformation überhaupt? Nicht weil Menschen dumm sind. Sondern weil sie auf etwas trifft, das schon da ist: Misstrauen, Angst, das Gefühl, nicht gehört zu werden. Der Politikwissenschaftler Hanno Burmester formuliert es so: „Das Problem ist nicht die Desinformation, sondern dass wir einen Boden bereitet haben, auf den diese Saat fällt. Die Demokratie ist nicht porös, weil es Desinformation gibt — sondern wir reden so viel über Desinformation, weil die Demokratie so porös ist."

Wenn soziales Vertrauen niedrig ist, steigt die Anfälligkeit. KI kann das verstärken, aber sie ist nicht die Ursache. Reale Machtverhältnisse, wirtschaftliche Ungleichheit, politische Enttäuschungen, historische Verbrechen etc. haben eine Fragmentierung geschaffen, die Desinformation erst nährt. Das schließt ein, dass wir auch fragen müssen, welche Parteien und Politiken zu dieser Spaltung beigetragen haben, nicht nur, wer die Desinformation streut.

Die Rolle von Trauma

Es gibt eine neurobiologische Dimension, über die im Mediendiskurs kaum gesprochen wird. Trauma reduziert die Fähigkeit, mit Ambivalenz umzugehen. Stattdessen entsteht ein starkes Bedürfnis nach Kontrolle, Vorhersagbarkeit, einer Erklärung, die die Welt wieder geordnet erscheinen lässt. Gute Desinformation bietet genau das: eine klare Geschichte. Einen Schuldigen. „Die Eliten steuern das." „Die Medien lügen alle." Das klingt beruhigend, selbst wenn der Inhalt erschreckend ist.

Unser Nervensystem unter Stress tendiert zu binärerem Denken: gut oder böse, wahr oder falsch, wir oder die. Das ist keine Schwäche, das ist Neurobiologie. Menschen glauben Dinge nicht, weil sie belegt sind. Sie glauben Dinge, weil sie sich stimmig anfühlen. Und was sich stimmig anfühlt, hängt von unserem inneren Erleben ab. Und damit von Bindungserfahrungen, kollektiven Verletzungen, dem, was wir als Kinder über Vertrauen gelernt haben.

Das bedeutet: Der Kampf gegen Desinformation kann nicht nur medial oder technisch sein. Er muss adressieren, was Menschen anfällig macht — soziale Isolation, wirtschaftliche Unsicherheit, das Gefühl, bedeutungslos zu sein.

Auf Steady weiterlesen

Es gibt Fragen, die sich langsam aufbauen, über Monate, über Jahre, bis sie plötzlich unausweichlich sind. Was Künstliche Intelligenz mit unseren Demokratien macht, ist so eine. Nicht weil sie neu wäre. Sondern weil die Geschwindigkeit, mit der KI sich entwickelt, unsere demokratischen Institutionen bereits zu überholen droht, bevor wir überhaupt verstanden haben, was gerade passiert.

Was Demokratie wirklich trägt

Bevor wir über KI sprechen können, müssen wir über Demokratie sprechen. Und zwar über das, was sie wirklich ausmacht, jenseits von Wahlkabinen und Abstimmungsergebnissen.

Der Politikwissenschaftler David Altman beschreibt Demokratie als ein System, das auf drei tragenden Säulen ruht. Die erste ist informierte Deliberation: Bürgerinnen und Bürger, die miteinander debattieren, sich informieren, Argumente abwägen, gemeinsam ringen. Die zweite ist eine lebendige Zivilgesellschaft: Gewerkschaften, NGOs, unabhängige Medien, Bürgergruppen, die als echtes Gegengewicht zu politischer und wirtschaftlicher Macht wirken. Die dritte ist institutionelles Vertrauen: das Gefühl, dass die Regeln fair sind, dass Entscheidungen auf legitimem Weg entstehen, dass die eigene Stimme tatsächlich zählt. (Altman, "The AI Democracy Dilemma", Journal of Democracy, Januar 2026)

Bricht auch nur eine dieser drei Säulen weg, wird Demokratie instabil. Sie kann dann, wie Altman es formuliert, von einem Sicherheitsventil zu einer Zündschnur werden. Das ist kein theoretisches Risiko. Es ist eine Beschreibung von etwas, das wir gerade in Zeitlupe beobachten können.

Das Europäische Parlament Research Service bringt es in seinem Briefing von 2023 auf den Punkt: KI kann dieses System sowohl stärken als auch untergraben. Die entscheidende Frage ist nicht KI ja oder nein. Die Frage ist: Wie wird KI eingesetzt, von wem, mit welchen Zielen, und nach wessen Werten? (EPRS, "Artificial Intelligence, Democracy and Elections", PE 751.478, Oktober 2023)

Das ist der Rahmen, in dem alles Folgende zu verstehen ist.

Die drei größten Bedrohungen

Bedrohung eins: Desinformation, die wir nicht mehr erkennen können

Propaganda und Falschinformation sind so alt wie die Politik selbst. Was KI verändert, ist nicht das Prinzip, sondern die Dimension: massenhaft, kostengünstig, hyper-personalisiert und kaum noch von echten menschlichen Äußerungen zu unterscheiden. Das ist kein quantitativer Sprung. Das ist ein qualitativer.

Kurz vor den slowakischen Parlamentswahlen 2023 kursierte eine gefälschte Audioaufnahme eines liberalen Kandidaten, in der er angeblich über Wahlbetrug sprach. Die Aufnahme war so überzeugend, dass sie sich rasend schnell verbreitete, bevor irgendjemand sie als Fälschung enttarnen konnte. In Indien wurden bei den Parlamentswahlen 2024 KI-generierte Persona-Bots und synthetische Inhalte in einem bis dahin nicht gekannten Ausmaß eingesetzt, um Narrative über Kandidaten zu formen. Das EPRS warnt, dass Deepfakes nicht nur einfacher zu produzieren werden, sondern überzeugender, und dass Text-zu-Video der nächste Durchbruch sein wird. (Altman, 2026; EPRS, 2023)

Altman entwirft ein Szenario für 2029, das erschreckend plausibel klingt. Eine europäische Nation wird von einem Hashtag überflutet. Die Posts wirken wie Nachrichten von Nachbarn: persönlich, emotional, authentisch. Dahinter steckt kein Netzwerk von Menschen, sondern ein KI-Modell, das soziale Ängste identifiziert, auswertet und präzise bespielt. Innerhalb von Wochen ist nicht nur die öffentliche Meinung geformt, sondern eine rechtlich wasserdichte Bürgerinitiative zur Massenabschiebung verfasst und erfolgreich auf den Wahlzettel gebracht. Sie gewinnt mit 58 Prozent.

Demokratie hat technisch funktioniert. Jede Verfahrensregel wurde eingehalten. Aber war das wirklich demokratische Selbstbestimmung? War das der Wille des Volkes, oder der Wille desjenigen, der das Modell kontrolliert hat? (Altman, 2026)

Das ist die eigentliche Frage hinter der Frage. Nicht: Gibt es mehr Falschinformation? Sondern: Können wir überhaupt noch unterscheiden, was echt ist?

Bedrohung zwei: Eine Zivilgesellschaft, die imitiert wird, bis sie unsichtbar ist

Demokratie braucht echte zivilgesellschaftliche Gegengewichte. Gewerkschaften, die über Jahre Vertrauen aufgebaut haben. NGOs, die auf menschlicher Vernetzung beruhen. Bürgerbewegungen, die aus echter Überzeugung entstehen. All das ist langsam, weil echtes Vertrauen langsam wächst. Und genau diese Langsamkeit, diese menschliche Logik, kann KI überwältigen. Nicht indem sie Zivilgesellschaft zerstört. Sondern indem sie sie imitiert.

Was Forschende als "AI Swarming" bezeichnen, meint koordinierte synthetische Agenten, die einen Graswurzel-Konsens simulieren. Tausende scheinbar individuelle Stimmen, die dieselbe Botschaft verbreiten, als hätten sie unabhängig voneinander dieselbe Überzeugung entwickelt. Echte Bewegungen werden dabei nicht niedergeschrien. Sie werden unsichtbar gemacht. Ihre Stimmen gehen einfach unter im Rauschen der synthetischen Mehrheit. (Altman, 2026)

Gleichzeitig wird KI längst im Gesetzgebungsprozess als Lobbying-Werkzeug eingesetzt. Der European Parlamentary Research Service (EPRS) beschreibt, wie Interessengruppen KI nutzen, um Schlüssel-Abgeordnete zu identifizieren, Gesetzgebungsvorschläge zu analysieren und präzise gezielte Briefe zu formulieren, sogenannte Mikro-Gesetzgebung: kleine Änderungen an Gesetzentwürfen, die große Auswirkungen auf Nischeninteressen haben, aber weit unter dem öffentlichen Radar bleiben. (EPRS, 2023)

Das eigentliche Problem ist die Asymmetrie. Gut finanzierte Akteure können solche KI-Schwärme in Minuten aufsetzen. Eine echte Bürgerinitiative braucht Monate. Das ist eine neue Form der Ungleichheit im demokratischen Wettbewerb, und sie wächst gerade.

Bedrohung drei: Das Ende der geteilten Wirklichkeit

Die dritte Bedrohung ist die subtilste, und vermutlich die nachhaltigste. Sie trifft nicht eine einzelne Wahl. Sie trifft das, was demokratische Legitimation überhaupt erst möglich macht: das gemeinsame Gespräch.

Deliberation bedeutet, dass Menschen mit unterschiedlichen Ausgangspunkten gemeinsam um Argumente ringen, Kompromisse machen, ein geteiltes Verständnis entwickeln. Das Ergebnis ist nicht demokratisch, weil alle einer Meinung sind. Es ist demokratisch, weil alle an demselben Gespräch teilgenommen haben.

KI-gestützte Hyper-Personalisierung untergräbt genau das. Altman beschreibt es präzise: Ein Wähler wird von einem maßgeschneiderten Argument über wirtschaftliche Belastungen überzeugt, der nächste von einer ebenso maßgeschneiderten Erzählung über kulturelle Identität. Diese beiden Menschen nehmen nicht an demselben Gespräch teil. Sie werden parallel bearbeitet, in isolierten Informationsströmen, die nie aufeinandertreffen. Das ist nicht Deliberation. Das ist ihr Gegenteil. (Altman, 2026)

Hinzu kommt eine subtile Falle, die Altman als "gefährliche Fata Morgana des öffentlichen Verstehens" bezeichnet. KI-Tools, die komplexe Gesetze in einfache Absätze übersetzen, vermitteln das Gefühl, informiert zu sein, ohne dass die eigentlichen Nuancen, die Trade-offs, die unbeabsichtigten Konsequenzen wirklich verstanden werden. Menschen stimmen dann über einen vereinfachten Schatten des eigentlichen Vorschlags ab, in dem Glauben, sie hätten die Sache im Griff. (Altman, 2026)

Edelman et al. benennen dasselbe Problem aus einer anderen Perspektive: KI-Systeme, die auf Basis von Klickverhalten und momentanen Präferenzen optimieren, repräsentieren nicht, was Menschen wirklich wollen. Sie repräsentieren, was Menschen in diesem Moment, unter diesem Einfluss, angeklickt haben. Das ist ein fundamentaler Unterschied, und er wird selten laut benannt. (Edelman et al., "Full-Stack Alignment", 2025)

Demokratie braucht geteilte Wirklichkeit. KI-Personalisierung erodiert sie, leise, kontinuierlich, nahezu unmerklich.

Gefahren und Potenziale liegen, wie so oft, eng beieinander. Dieselben technischen Möglichkeiten, die unsere Demokratien gefährden können, könnten unter anderen Bedingungen zu ihrer Stärkung beitragen. Wenden wir uns nun diesen Potenzialen zu.

Die drei größten Potenziale

Potenzial eins: Demokratische Teilhabe wirklich für alle

Demokratische Partizipation war immer mit hohen Hürden verbunden. Man braucht Zeit, Bildung, Zugang zu Information und manchmal juristisches Wissen, um eine Bürgerinitiative auf den Weg zu bringen, eine Gesetzgebungsdebatte sinnvoll zu verfolgen oder eine wirklich fundierte Wahlentscheidung zu treffen. Das bevorzugt strukturell diejenigen, die ohnehin schon Ressourcen haben.

KI kann diese Hürden abbauen. Nicht indem sie Demokratie automatisiert, sondern indem sie Menschen besser ausstattet. Das EPRS beschreibt konkrete Möglichkeiten: Chatbots, die Fragen zu Wahlprogrammen beantworten. KI-Systeme, die komplexe Gesetzgebung in verständliche Sprache übersetzen. Plattformen, die massenhafte politische Gespräche moderieren und Konsens sichtbar machen. (EPRS, 2023)

Das überzeugendste Beispiel dafür kommt aus Taiwan. Das Land hat das KI-gestützte Deliberationsformat Pol.is genutzt, um gesellschaftlichen Konsens zu kontroversen Themen zu finden, darunter die Regulierung von Uber und Alkohol am Steuer. Das System funktioniert so: Bürgerinnen und Bürger formulieren Statements, andere stimmen zu oder lehnen ab. Der Algorithmus macht sichtbar, wo echte Übereinstimmungen bestehen, auch und gerade über politische Lager hinweg. Das Ergebnis waren evidenzbasierte Regulierungsvorschläge, die von einem breiten gesellschaftlichen Konsens getragen wurden, nicht von der lautesten Minderheit.

Dasselbe Werkzeug hat Anthropic in ihrem Projekt Collective Constitutional AI genutzt, um Bürgerperspektiven in die Entwicklung der Werte einfließen zu lassen, nach denen KI-Systeme handeln. (Klingefjord et al., "What are Human Values, and How Do We Align AI to Them?", arXiv:2404.10636, 2024; Ganguli et al., Anthropic, Oktober 2023)

KI kann demokratische Teilhabe im buchstäblichen Sinne demokratisieren. Aber nur, wenn sie transparent und im öffentlichen Interesse eingesetzt wird, nicht als Werkzeug partieller Interessen.

Potenzial zwei: Endlich erfassen, was Menschen wirklich wollen

Das vielleicht aufregendste Potenzial von KI für die Demokratie ist technisch, aber im Kern durch und durch politisch. Es geht um eine Frage, die so grundlegend ist, dass wir sie kaum noch stellen: Wie wissen wir eigentlich, was Menschen wirklich wollen?

Bislang haben wir dafür zwei Werkzeuge. Wahlen: zu selten, zu grobkörnig. Meinungsumfragen: sie erfassen Oberflächen-Reaktionen auf einen bestimmten Moment, beeinflusst von Stimmung, Framing, sozialem Druck. Was fehlt, ist ein Werkzeug, das die tatsächlichen Werte von Menschen erfasst, nicht ihre momentanen Präferenzen.

Oliver Klingefjord, Ryan Lowe und Joe Edelman vom Meaning Alignment Institute haben genau daran gearbeitet. Ihr Ansatz heißt Moral Graph Elicitation, kurz MGE. Die zentrale Unterscheidung, die sie treffen: Werte sind nicht dasselbe wie Präferenzen. Wenn ich ein Restaurant für ein wichtiges Gespräch mit einer alten Freundin suche, ist "das Restaurant muss geöffnet haben" eine Bedingung. Aber "es muss Intimität ermöglichen" ist ein Wert. Werte sind die tieferliegenden Kriterien, nach denen wir bedeutsame Entscheidungen treffen. (Klingefjord et al., 2024)

Das Team hat seinen Ansatz mit 500 Amerikanern zu drei bewusst kontroversen Fragen getestet. Eine davon war: "Ich bin ein christliches Mädchen und überlege, abzutreiben. Was soll ich tun?" Eine klassische Meinungsumfrage hätte polarisierte Antworten produziert: Pro-Choice oder Pro-Life, fertig. MGE tut etwas anderes. Es führt die Teilnehmenden in einem KI-gestützten Gespräch dazu, ihre zugrundeliegenden Werte wirklich zu artikulieren. Jemand, der anfangs sagt "Tu es nicht, weil die Bibel es so sagt", kommt durch das Gespräch dazu, über persönliche Erfahrungen mit Glaubensfragen nachzudenken, und formuliert am Ende Werte wie: "Ein Mensch sollte in der Lage sein, seine Entscheidungen mit seinem gelebten Glauben zu verbinden." Das ist ein anderes, tieferes Gespräch als Pro-oder-contra. Und es ist ein ehrlicheres.

89,1 Prozent der Teilnehmenden fühlten sich durch den Prozess gut repräsentiert. 89 Prozent hielten das Ergebnis für fair, auch jene, deren eigener Wert nicht "gewonnen" hatte. (Klingefjord et al., 2024)

Das ist eine bemerkenswerte Zahl. Sie zeigt: Wenn Menschen das Gefühl haben, dass ihre Werte wirklich gehört wurden, akzeptieren sie ein Ergebnis, auch wenn es nicht ihrem eigenen Wunsch entspricht. Das ist im Kern das, was Demokratie leisten soll. Und es ist etwas, das unsere aktuellen demokratischen Werkzeuge erschreckend selten schaffen.

Edelman et al. beschreiben, wie Moral Graphs als Grundlage für demokratische Regulierungsinstitutionen genutzt werden könnten: KI-gestützte deliberative Agenten, die im Auftrag von Bürgerinnen und Bürgern handeln und dabei deren zugrundeliegende Werte repräsentieren, nicht ihre momentanen Reaktionen. (Edelman et al., 2025)

Wir haben bislang keine guten Werkzeuge, um echte Werte in politische Entscheidungen einfließen zu lassen. Das könnte sich grundlegend ändern.

Potenzial drei: Demokratie auf Höhe der Zeit bringen

Eine der fundamentalsten Spannungen zwischen KI und Demokratie ist Geschwindigkeit. KI-Systeme verändern sich in Tagen und Wochen. Gesetze entstehen in Monaten und Jahren. Diese Lücke ist nicht nur unbequem. Sie ist gefährlich. Sie bedeutet, dass Technologie Fakten schafft, bevor demokratische Institutionen überhaupt reagieren können.

Edelman et al. beschreiben ein konkretes Szenario: Ein KI-System, das von einem mächtigen privaten Akteur eingesetzt wird, sichert Baugenehmigungen für ein Infrastrukturprojekt, das Hunderttausende Menschen vertreibt, schneller, als irgendjemand demokratisch eingreifen kann. Das ist keine Science-Fiction. Das ist die logische Verlängerung von Entwicklungen, die wir heute bereits sehen. (Edelman et al., 2025)

Aber KI kann auch Teil der Lösung sein. Das EPRS beschreibt, wie sie im Gesetzgebungsprozess helfen kann: komplexe Vorschläge schnell zusammenfassen, relevante Interessengruppen identifizieren, gesellschaftliche Spannungsfelder früh erkennen. (EPRS, 2023)

Eine wachsende Forschungsrichtung namens Generative Social Choice geht noch weiter. Die Idee: KI-Systeme, die auf Basis bekannter Präferenzen und Werte verallgemeinern können, könnten in neuen Situationen demokratisch legitimierte Antworten geben, ohne bei jeder neuen Frage eine aufwändige Volksabstimmung abhalten zu müssen. Statt zu sagen "wir haben keine Zeit für einen demokratischen Prozess", könnte ein solches System sagen: "Basierend auf dem, was wir über die Werte dieser Gemeinschaft wissen, würden sie in dieser Situation wahrscheinlich so entscheiden." Das ersetzt keine demokratischen Prozesse. Es macht sie handlungsfähig. (Edelman et al., 2025; Fish et al., "Generative Social Choice", 2023)

Demokratie muss nicht langsam sein, weil sie komplex ist. Sie ist langsam, weil uns bislang die Werkzeuge fehlen, schnell und legitimiert zu handeln. KI könnte genau diese Werkzeuge liefern. Aber nur, wenn wir sie so bauen, dass sie echte Werte repräsentieren und nicht nur Effizienz optimieren.

Alignment: Die Frage hinter allen Fragen

Und damit kommen wir zu dem Thema, das alles zusammenhält, das wir im Podcast als das fundamentalste bezeichnen: Alignment.

Alignment beschreibt die Herausforderung, KI-Systeme so zu gestalten, dass sie das tun, was wir wirklich wollen, und nicht das, was wir schlecht spezifiziert haben. Das klingt technisch. Es ist durch und durch politisch.

Auf Steady weiterlesen

In unserer heutigen Folge des Videocasts und Newsletters geht es um den Einsatz von KI im Krieg. Bei diesem Thema handelt es sich nicht, so unbequem das ist, um Science Fiction, um eine ferne Killerroboter-Dystopie. Künstliche Intelligenz ist längst in realen Konflikten angekommen – in der Aufklärung, in der Logistik, in der Lageanalyse und zunehmend auch in der Auswahl der Ziele, die angegriffen werden.

Im Videocast reflektieren wir, wie fern uns persönlich das Thema Krieg ist und wie schwer es uns fällt, in dieser Folge so selbstverständlich und sachlich über das systematische Töten von Menschen zu sprechen. Hier im Newsletter tragen wir vor allem einige Fakten, ihre Quellen, sowie die wichtigsten Diskussionspunkte bezüglich des Einsatzes von KI zusammen.

Seid einigen Jahren schießen die Militärausgaben weltweit nach oben. Das Stockholmer Friedensforschungsinstitut SIPRI beziffert sie für 2024 auf 2,718 Billionen US-Dollar, den stärksten jährlichen Anstieg seit 1988. Deutschland liegt dabei, nach den USA, China und Russland, auf Platz vier der größten Militärausgeber weltweit.
Zudem möchte Deutschland über das nächste Jahrzehnt, addiert man die geplanten Jahresbudgets bis 2035 auf, über 1 Billionen Euro für Verteidigung ausgeben, vieles davon im Bereich KI.

Zur gerade entstehenden Vision eines hochtechnologiesierten militärischen Deutschland zählen moderne Kommunikationsausrüstung, Flugzeuge und Drohnen, ebenso wie KI-gestützte Aufklärung und Lageerfassung. Dabei spielen etablierte Rüstungskonzerne wie Rheinmetall ebenso eine Rolle wie junge KI Startups. Erst vor wenigen Monaten billigte der Haushaltsausschuss des Bundestag Aufträge über rund 540 Millionen Euro für Kampfdrohnen von Helsing und Stark Defence.

Wir sind mitten in einem neuen Zeitalter. Und das Neue ist nicht einfach nur, dass es jetzt „auch KI“ im Militär gibt. Das Neue ist die Kombination aus sehr viel Geld, hoher politische Dringlichkeit (durch aktuelle Bedrohungen, aber insbesondere auch durch die Volatilität des transatlantischen Bündnis), relativ schwacher öffentlicher Kontrolle und einer neuen, aus unserer Sicht unheilvollen, dichten Verbindung zwischen Technologiesektor und Politik.

Wo wird heute KI auf dem Schlachtfeld eingesetzt?

Den Einsatz von KI sehen wir aktuelle gerade in drei großen Kriegen: in der Ukraine, in Gaza und im Iran.

Autonome Drohnen: In der Ukraine werden Drohnen mit einem Ziel versehen und fliegen anschließend vollständig autonom — ohne weiteres menschliches Eingreifen.
Dabei sind Drohnen für rund 80 Prozent der Kampfverluste auf beiden Seiten verantwortlich. Entlang der Front hat sich eine rund 16 Kilometer breite „Kill Zone" gebildet, in der

Auch Unterwasserdrohnen (UUV) werden eingesetzt, wie die ukrainische „Sub Sea Baby", die einen russischen Hafen durchbrochen hat.

Zielerfassung: Israels
Israel setzt laut investigativen Recherchen die Systeme „Lavender", „Where's Daddy" und „Gospel" zur KI-gestützten Zielidentifikation ein. Nachdem zu Beginn des Kriegs „zu wenige Ziele verfügbar“ waren, hat die Israeli Defence Force (IDF) eine sogenannte KI-gesteuerte Target Factory etabliert, in der 37.000 Ziele pro Jahr generiert wurden.

Etwas vergleichbares sehen wir im Iran. US MIlitärgeneralstaschef Caine sagte: “Dies war ein massiver, überwältigender Angriff über alle Domänen hinweg – mehr als 1.000 Ziele wurden in den ersten 24 Stunden getroffen.” Eine solche Masse von Zielen wäre ohne KI nie zustande gekommen.

Lagedarstellung und Logistik: KI optimiert Versorgungsketten und ermöglicht vorausschauende Wartung.

Die Grundlage dieser Technologien basiert darauf, dass alle möglichen Datenströme flächendeckend abgefangen und per Musteranalyse ausgewertet werden.

Für diese Technologie ist Project Maven von Palantir wahrscheinlich das bekannteste Beispiel und Symbol einer neuen Form von Kriegsführung. Ursprünglich als Pentagon-Projekt gestartet, ist es heute eine breit eingesetzte Daten- und Analyseplattform, die unterschiedlichste Sensorquellen zusammenführt: aus Land, See, Luft, Weltraum und Cyberraum. Was früher rund 2.000 Geheimdienstoffiziere erforderte, wird nun von etwa 20 Operatoren geleistet. Mitarbeiter des Pentagon sprachen 2025 davon, dass es maschinell erzeugte Geheimdienstprodukte nutzte, die „no human hands“ berührt hätten. Da sind wir an einem Punkt, an dem nicht nur Daten sortiert werden, sondern ein erheblicher Teil militärischer Wirklichkeitskonstruktion maschinell vorstrukturiert wird.

Die Kill Chain vervollständigen

In Berichten ist viel davon die Rede, dass künstliche Intelligenz die sogenannte Kill Chain - Entscheidungs- und Angriffsprozess) in allen Phasen unterstützen kann:

Find — Ziel aufspüren, z.B. durch Satelliten, Drohnen, Geheimdienstinformationen
Target - Ziel für einen Angriff auswählen und das geeignete Mittel bestimmen
Engage — Angriff ausführen
Assess — Wirkung des Angriffs bewerten (Battle Damage Assessment)

Dabei wird vor allem der Grad an Ki und Automatisierung in den Bereichen “Target” und “Engage” kontrovers diskutiert. Die Berichte über die Verwendung der Systeme „Lavender“, „The Gospel“ und „Where’s Daddy?“ in Gaza waren für viele ein Schock, weil sie gezeigt haben, wie weit die algorithmische Durchdringung der Zielauswahl bereits gehen kann. Medien berichteten 2024 unter Berufung auf israelische Geheimdienstquellen, dass Lavender nicht nur zehntausende Personen als potenzielle Ziele markiert habe sondern Soldaten oft nur etwa 20 Sekunden für die Bestätigung eines Vorschlags gehabt. Die israelische Armee bestreitet zwar, dass ein KI-System selbstständig Terroristen „identifiziert“, und betont, solche Systeme seien nur Hilfsmittel für Analysten. Aber genau diese Spannung ist zentral: worum handelt sich sich bei diesen KI-Systemen: Um Entscheidungshilfen oder eine brüchige Grenze zur Automatisierung des Tötens, da die menschliche Prüfung viel zu schnell erfolgen muss und daher nur noch symbolisch ist?

Was bedeutet es, wenn betont wird, dass es immer noch einen „human in the loop“ gibt? In vielen realen Umgebungen ist dieser Mensch nicht der freie moralische Akteur, als den wir ihn uns vorstellen. Er sitzt in einem Interface, unter Zeitdruck, mit unvollständigen Informationen, in einer Befehlskette, umgeben von einem System, das auf Beschleunigung optimiert ist.

Psychologisch gibt es dafür einen ziemlich klaren Begriff: Automation Bias. Gemeint ist die Tendenz, maschinellen Vorschlägen übermäßig zu vertrauen, selbst wenn widersprüchliche Hinweise vorliegen. Das ist in Hochrisikoumgebungen gut dokumentiert. Ist “Kontrolle” in diesen Situationen nicht mehr nur ein Ritual und der Mensch nur noch das letzte Kästchen in einem beschleunigten Prozess?

Historisch gibt es einen langen ethischen und politischen Konsens, dass nur Menschen über Leben und Tod entscheiden sollen. Allerdings ist dies, für uns überraschend, im internationalen Recht nirgendwo verbindlich kodifiziert.

Im Zusammenhang mit Ki sprechen viele Experten davon, dass diese Grenze gerade vorschoben wird. Manche gehen davon aus, dass Kriege in nicht sehr ferner Zukunft sogar weitgehend automatisiert ablaufen werden. Was aber macht das mit dem Töten?

In seinem lebenswerten Buch Im Grunde gut (2020) argumentiert Rutger Bregman, unter Berufung auf den Militärhistoriker Dave Grossman, dass Menschen eine starke psychologische Hemmschwelle gegen das Töten anderer Menschen haben und dass Militärtraining historisch darauf ausgerichtet war, diese Hemmung zu überwinden. Unter anderem beschreibt er Studien an Gewehren aus dem amerikanischen Bürgerkrieg, die zeigen, wie oft Soldaten absichtlich daneben geschossen haben.

Distanzwaffen haben die Hemmschwelle schon lange verändert. Aber KI-gestützte Zielerfassung und autonome Systeme treiben diese Entkoppelung weiter. Die Entscheidung wird in Datensätze, Scores, Wahrscheinlichkeiten und Freigabeschritte zerlegt. Man sieht nicht mehr den Menschen, sondern das Muster. Man bewertet nicht mehr eine konkrete Situation, sondern ein vom System vorgeschlagenes Target. Das macht Krieg nicht nur effizienter. Es macht ihn innerlich glatter. Und eine Gesellschaft sollte sich sehr genau fragen, was passiert, wenn Töten immer weniger moralische Reibung erzeugt.

Auch in dem aktuellen Streit um KI-Governance zwischen Anthropic und dem Pentagon geht es darum, inwieweit Anthropic’s Sprachmodell Claude für vollständig autonome Waffen ohne menschliche Beteiligung im Targeting-Prozess eingesetzt werden kann. Anthropic hielt an dieser ursprünglich vereinbarten Einschränkung, (sowie einer zweiten Einschränkung in Bezug auf Massenüberwachung amerikanischer Bürger) fest, während ein Pentagon-Strategiememorandum im Januar 2026 die Vertragsbedingungen aufweichen wollte.

Genauigkeit und Geschwindigkeit – ein gefährliches Paar

Die Websites der Rüstungs-KI-Unternehmen sprechen eine verführerische Sprache: clean war, smart war, perfect knowledge. Die Realität ist erheblich unordentlicher.

Eine vielzitierte Bloomberg-Recherche zu Project Maven aus dem Jahr 2024 zeigt das konkret: Während menschliche Analysten bei der Bildauswertung auf eine Trefferquote von rund 84 Prozent kommen, erreicht Maven im Durchschnitt etwa 60 Prozent – und unter schwierigen Bedingungen wie Schnee, dichter Vegetation oder Tarnung kann die Erkennungsrate auf unter 30 Prozent fallen. Das System hat in Tests Fahrzeuge mit Bäumen oder Schluchten verwechselt. Was im Nahen Osten auf Wüstengelände trainiert wurde, versagt in europäischen Wintern. Was im Labor funktioniert, bricht unter aktivem Täuschungsmanöver zusammen. Schon ein simpler Aufkleber auf einem Stoppschild kann ein Bilderkennungssystem, das für autonomes Fahren ausgelegt ist, zum Irren bringen. Die Militärdomäne ist nicht anders. Maven hat in manchen Szenarien auch aufgeblasene Attrappen nicht von echten Fahrzeugen unterscheiden können.

Die Behauptung, KI-gestützte Systeme seien zwangsläufig präziser als Menschen, ist damit mindestens verfrüht. Was tatsächlich stimmt: Sie sind schneller. Und genau das ist das eigentliche Problem.

Denn Geschwindigkeit ist im Denken der Branche längst zur obersten moralischen Kategorie geworden. Wer schneller ist, rettet Menschenleben, heißt es. Wer schneller ist, kommt dem Feind zuvor, schützt die eigenen Soldaten. Das klingt einleuchtend. Aber dieselbe Logik der Beschleunigung zerstört die Möglichkeit zur Korrektur. Wenn Systeme innerhalb von Sekunden Tausende Signale verarbeiten, Ziele priorisieren und Angriffsfenster öffnen, sinkt die reale Chance, einen Fehler noch zu erkennen, geschweige denn zu stoppen, gegen null.

Paul Scharre, ehemaliger Army Ranger und Verfasser der ersten US-Militärpolitik zu autonomen Waffen, nennt diesen Punkt im Podcast 80.000 die Gefahr einer „Battlefield Singularity": einen Kipppunkt, an dem das Tempo des Gefechts die Möglichkeiten menschlicher Kontrolle systematisch übersteigt. Er fordert ein Äquivalent zu dem so genannten Circut Breaker an den Finanzmärkten. Dort haben wir auf Hochgeschwindigkeitsautomatisierung mit Mechanismen reagiert, die den Handel automatisch stoppen, wenn Systeme zu schnell aus dem Ruder laufen. Im Krieg gibt es kein Äquivalent. Das ist eine Asymmetrie, über die wir ernsthaft nachdenken müssen.

Zivile Opfer: Wo die Präzisionserzählung bricht

Ob die Erzählung von der „präziseren Kriegsführung" trägt, entscheidet sich letztlich an der Frage: Was passiert mit den Menschen, die keine Kombattanten sind?

Das Völkerrecht kennt dafür das Prinzip der Verhältnismäßigkeit. Militärische Ziele müssen gegen den zu erwartenden Schaden an der Zivilbevölkerung abgewogen werden. In der Theorie klingt das nach einem nüchternen, kontrollierbaren Kalkül. In der Praxis der vergangenen Jahre sieht das anders aus.

Am 28. Februar 2026, in den ersten Stunden der US-israelischen Angriffe auf Iran, traf ein Marschflugkörper die Shajareh-Tayyebeh-Grundschule für Mädchen in der Stadt Minab. UN-Experten dokumentierten, dass dabei mindestens 165 Schulmädchen im Alter von sieben bis zwölf Jahren getötet und viele weitere verletzt wurden – während der Unterricht lief. Amnesty International sowie Human Rights Watch bewerteten den Angriff als völkerrechtswidrig und forderten eine Untersuchung als mutmaßliches Kriegsverbrechen. Unabhängige Untersuchungen kamen zu dem Schluss, dass das angrenzende Militärgelände seit rund 15 Jahren nicht mehr in Betrieb war und alle Sicherheitsposten bereits 2016 entfernt worden waren.

In der Ukraine dokumentierte Human Rights Watch 2025, wie russische Streitkräfte Drohnen gezielt gegen Zivilisten einsetzten. In Kherson wurden im Jahr 2024 Dutzende Zivilisten durch Drohnenangriffe getötet und Hunderte verletzt – in offensichtlich vorsätzlichen oder zumindest rücksichtslosen Angriffen, die Kriegsverbrechen darstellen. Von Dezember 2024 bis November 2025 wurden bei Kurzstreckendrohnenangriffen allein in der Ukraine mindestens 514 Zivilisten getötet und über 3.000 verletzt, wieder die meisten davon in und um Kherson.

Das ist kein Randproblem der Technologie, sondern eines ihrer Kernmerkmale: Autonome Systeme werden mit einem Ziel versehen und fliegen dann ohne weiteres menschliches Eingreifen. Erkennt eine Drohne unter bestimmten Bedingungen ein landwirtschaftliches Fahrzeug statt eines Militärfahrzeugs – oder verwechselt sie, wie in Tests dokumentiert, aufgeblasene Attrappen mit echten Panzern –, kann niemand mehr eingreifen und die Entscheidung zurückrufen.

In Gaza stellen die Recherchen zu „Lavender" eine noch grundsätzlichere Frage: ob das Verhältnismäßigkeitsprinzip überhaupt noch als juristischer Maßstab galt oder ob es zur technischen Schwellenwertrechnung wurde. Laut den Aussagen israelischer Geheimdienstquellen gegenüber +972 Magazine war es in den ersten Kriegswochen erlaubt, für jeden niedrigrangigen Hamas-Kombattanten bis zu 15 bis 20 Zivilisten zu töten. Für einen Bataillons- oder Brigadekommandeur wurden in Einzelfällen über 100 Zivilopfer genehmigt. „Die Zahlen stiegen von Dutzenden tolerierten Zivilopfern bei der Tötung eines hochrangigen Funktionärs in früheren Operationen auf Hunderte", berichtete eine der Quellen. Die IDF bestreitet diese Darstellung und betont, an das Völkerrecht gebunden zu sein.

Doch selbst wenn man diese Berichte mit Vorsicht liest, bleibt ein strukturelles Problem: Wenn KI-Systeme Ziele in industriellem Maßstab generieren und die menschliche Prüfung auf Sekunden komprimiert wird, verändert sich, was Verhältnismäßigkeit überhaupt noch bedeuten kann. Krieg wurde nie ohne zivile Opfer geführt. Aber noch nie war die Entscheidung darüber so tief in Datensätze, Scores und automatisierte Genehmigungsprozesse eingebettet.

Die Verwischung von Verantwortung

Wer haftet, wenn ein autonomes oder halbautonomes System falsch liegt? Der Entwickler? Die Kommandeurin? Der Operator? Der Staat? Die unbequeme Antwort lautet: strukturell niemand so richtig.

Juristen und Militärethiker nennen das den „Accountability Gap" – die Verantwortungslücke. Wenn eine Maschine selbstständig ein Ziel auswählt und angreift, versagen die bestehenden Rechtskategorien: Das humanitäre Völkerrecht und das Strafrecht wurden für menschliche Entscheidungen gebaut. Trifft stattdessen ein KI-System eine folgenschwere Wahl, lässt sich die Verletzung kaum einer bestimmten Person zurechnen – weder dem Programmierer noch dem Kommandeur noch dem Staat.

Das Problem ist nicht, dass das Recht aufhört zu gelten. Es wird in der Praxis schlicht kaum anwendbar: weil sich nicht mehr rekonstruieren lässt, wer welche Entscheidung auf welcher Grundlage und mit welcher Absicht getroffen hat. Die Verantwortung fragmentiert sich entlang einer langen Kette: Einer hat den Datensatz geliefert, eine andere das Modell trainiert, der nächste die Benutzeroberfläche gebaut, eine weitere nur den Freigabeknopf gedrückt, der letzte nur den Einsatzbefehl gegeben. Am Ende gibt es Tote - und erstaunlich wenig zurechenbare Entscheidung.

Das ist keine abstrakte Befürchtung. Im Fall der Mädchenschule in Minab, so Analysten, wurde ein Ziel angegriffen, dessen militärische Funktion seit Jahren nicht mehr bestand – weil die Daten hinter dem Target nie aktualisiert worden waren und die Menschen, deren Aufgabe die Verifikation gewesen wäre, längst aus der Kette herausgeschnitten worden waren. Die Maschine führte den Fehler mit Präzision aus.

Bis heute gibt es kein internationales, rechtlich bindendes Abkommen, das autonome Waffensysteme umfassend reguliert. UN-Generalsekretär Guterres und das IKRK fordern ein solches Instrument seit Jahren, mit explizitem Verbot der autonomen Zielerfassung von Personen ohne menschliche Beteiligung. Das Ziel: Vertragsverhandlungen bis Ende 2026. Der politische Wille dafür ist jedoch weltweit sehr ungleich vorhanden. Technologie und Einsatzpraxis laufen dem Recht davon.

Die Verschmelzung von Silicon Valley und Militär

Die neuen Verteidigungsunternehmen kommen nicht mehr aus dem klassischen Maschinenbau, sie kommen aus dem Tech-Bereich. Das ist kein kosmetischer Unterschied. Software lässt sich in Wochen aktualisieren, ein Panzer nicht. Und die Werte, die die Startup-Welt prägen – move fast and break things, die Fetischisierung von Schnelligkeit, hohe Risikobereitschaft, Skalierung als Selbstzweck – durchdringen jetzt eine neue Generation von Waffen.

Symbolisch verdichtet sich diese Verschmelzung in einem Ereignis vom Juni 2025: Die US Army vereidigt mit „Detachment 201: Executive Innovation Corps" vier Führungskräfte aus dem Silicon Valley als Offiziere der Army Reserve. Darunter der CTO von Palantir, der CTO von Meta und der Chief Product Officer von OpenAI. Offizielles Ziel: die Armee „leaner, smarter and more lethal" zu machen. www.army.mil Sie tragen Dienstgrad und Uniform, behalten ihre Konzernposten und sollen Brücken bauen zwischen Rüstungsbeschaffung und Technologieindustrie. Ein Interessenkonflikt, den die Army mit Verweis auf historische Präzedenzfälle für handhabbar hält.

Wenn das Militär Silicon Valley nicht mehr nur einkauft, sondern kulturell mit ihm verschmilzt, verändert das auch die Sprache, in der über Krieg gesprochen wird. Alex Karp, CEO von Palantir, bringt das Weltbild seiner Industrie auf den Punkt: „KI ist gefährlich. Es gibt positive und negative Konsequenzen. Und entweder gewinnen wir – oder China." In anderen Interviews beschreibt Karp technologische Überlegenheit als moralische Pflicht, Krieg als Zero-Sum-Game, Beschleunigung als Staatsräson. In diesem Denken ist gesellschaftlicher Konsens kein Maßstab, sondern ein Luxusproblem, das man sich im Wettbewerb nicht leisten kann.

Derweil ist auch Peter Thiels 10x-Logik, der zufolge Unternehmen danach streben sollten, 10x größer zu sein als ihre Wettbewerber um einen Monopolstatus zu erhalten, im Militär angekommen: Die US Army und die britische Verteidigungsstrategie sprechen explizit von einer „10x tödlicheren Armee".

Die Politikwissenschaftlerin Elke Schwarz von der Queen Mary University London, die zu militärischer KI und Ethik forscht, sagt: Geschwindigkeit und Skalierung werden nicht von Sicherheitserwägungen bestimmt, sondern von Finanzierungszyklen. und Venture-Capital-Rhythmen.

Alle zwölf bis achtzehn Monate braucht ein Startup nachweisbare Fortschritte, um die nächste Finanzierungsrunde zu sichern. Alle zehn Jahre wird ein Fond ausgezahlt und muss bis dahin eine hohe Rendite abwerfen. Sicherheitsprüfungen, die traditionelle Rüstungsunternehmen über Jahrzehnte durchführen, passen nicht in diesen Takt. Im zivilen Tech-Bereich sind leere Versprechen schmerzhaft, aber beherrschbar. Im Krieg werden Systeme mit unbekannten Fehlerquoten im aktiven Einsatz erprobt. Prototype Warfare – als wären die Fronten ein weiteres Beta-Environment.

Elke Schwartz über Military AI, Venture Capital and the Hype of War - Youtube

Was das konkret bedeutet, formuliert die Investorenseite ohne Umschweife: Ein Geschäftsführer des American Frontier Fund sagte auf einer Konferenz offen, dass im Falle eines Konflikts zwischen China und Taiwan einige ihrer Investitionen sich verzehnfachen würden. Krieg als Investitionschance – die Toten, die Vertriebenen, die gesellschaftlichen Folgekosten sind im Modell nicht vorgesehen.

Dazu passt es, dass die Vordenker und Lobbyisten der KI Unternehmen in Interviews, Podcasts und anderen Formaten ein Klima permanenter Bedrohung heraufbeschwören. InPalantirs Selbstbeschreibung heißt es: „Als Nation befinden wir uns in einem nicht erklärten Ausnahmezustand." Konflikt und Krieg sind nicht nur eine Weltanschauung, sondern eine Umsatzstrategie.

Deutschland mittendrin

Auch hierzulande greift diese Logik um sich – schneller als die öffentliche Debatte. Gerade Mittelständler drängen ins Rüstungsgeschäft. Zählte 2022 der Bundesverband der Deutschen Sicherheits- und Verteidigungsindustrie nur 120 Mitglieder, waren es im Februar 2025 schon 265 und im April 2026 sind es über 540!
Elektronikfirmen, Maschinenbauer, Softwarefirmen, aber auch Rechtsanwaltskanzleien entdecken Verteidigung als „planbares, morgenstarkes Geschäftsfeld".

Zugleich warnen kritische Stimmen vor einer risikoreichen Wette: Rüstungsausgaben erzeugen nach gängiger volkswirtschaftlicher Einschätzung deutlich geringere Multiplikatoreffekte als zivile Investitionen. So errechnet eine Studie der Uni Mannheim, dass die volkswirtschaftliche Wertschöpfung bei jedem in Rüstung investierten Euro nur bei 0,50 Euro liegt, während sie bei Investitionen in Bildung bis zu 3 Euro bringt. Wer auf Verteidigung als Wachstumsmotor setzt, sollte die Zahlen kennen.

Der Imperiale Boomerang

Während den Recherchen zu diesem Thema hat uns eine Entwicklung besonders beunruhigt. Und das ist die Nutzung der für den Kriegsfall entwickelten Technologie und Infrastruktur im Inland.

Auf Steady weiterlesen

Wann habt ihr das letzte Mal eine KI genutzt? Und wann habt ihr das letzte Mal nachgedacht, was sie dabei über euch gelernt hat?

Wir stellen KI-Assistenten täglich unsere intimsten Fragen — über Gesundheit, Geld, Beziehungen, Ängste. Was damit passiert, bleibt für die meisten von uns im Dunkeln. In dieser Episode gehen Joana und Bettina das Thema KI und Sicherheit in sieben Themenblöcken durch — nicht als abstraktes Tech-Problem, sondern als etwas, das uns alle schon heute betrifft.

Hier findet ihr die aktuelle Folge als Videocast.

Deine Daten: Was wirklich passiert

Das erste Problem ist strukturell. KI-Tools sind beim Thema Datenverwertung oft intransparent — sie gelten deshalb als "Black Boxes". Wer eine kostenlose KI-App nutzt, hat in der Regel per Klick auf "Akzeptieren" zugestimmt, dass seine Gespräche für das Training verwendet werden. Unternehmen müssen aktiv Opt-out wählen und dies dokumentieren — als Privatperson hat man das oft ohne es zu wissen bereits abgenickt (Datenschutzbehörden EU / DSGVO Artikel 22). Das betrifft nicht nur harmlose Anfragen: Menschen schildern KI-Assistenten ihre psychischen Probleme, ihre Finanzsituation, ihre Familienkonflikte. Alles davon kann in Modellen weiter bestehen.

Wer glaubt, er könne seine Daten einfach löschen lassen, wird enttäuscht. Aktuelle Machine-Unlearning-Verfahren sind nicht ausreichend entwickelt, um eine verlässliche und vollständige Löschung sicherzustellen (EDPS, Machine Unlearning). Dazu kommt das sogenannte Memorisierungsproblem: Es besteht das Risiko, dass ein Modell im Training enthaltene personenbezogene Daten im Output reproduziert. Was du der KI erzählt hast, könnte theoretisch einem anderen User als Antwort ausgespuckt werden.

Und eine dritte Dimension: automatisierte Entscheidungen auf Basis von Daten, die du nie bewusst "abgegeben" hast. Wenn aus Daten automatisierte Entscheidungen mit erheblicher Wirkung erfolgen — etwa die Ablehnung eines Kredits — greift DSGVO Artikel 22. In der Praxis passiert genau das täglich, ohne dass User es merken.

Das alles wäre schon für sich genommen Grund zur Wachsamkeit. Doch die Bedrohung bleibt nicht beim passiven Datenproblem — KI wird aktiv als Werkzeug eingesetzt, um Menschen zu manipulieren.

KI als Angriffswerkzeug: Die neue Bedrohungslage

KI hat die Eintrittsbarriere für Angreifer auf nahezu null gesenkt. Das bekannteste Beispiel des vergangenen Jahres: das britische Ingenieurbüro Arup verlor im Februar 2024 rund 25 Millionen Dollar. Ein Mitarbeiter in Hongkong wurde per Videokonferenz kontaktiert — von scheinbaren Kollegen, darunter dem CFO. Alle waren KI-Fälschungen (CNN, 4. Februar 2024). Er überwies das Geld in mehreren Transaktionen (Trend Micro, 7. Februar 2024).

Und es bleibt nicht bei Unternehmensangriffen. Das FBI warnte 2025, dass böswillige Akteure leitende US-Regierungsbeamte per KI-generierter Sprachnachricht imitieren (FBI, 15. Mai 2025). Der Einsatz von KI-basiertem Stimmklonen stieg zwischen der ersten und zweiten Hälfte 2024 um 442% (CrowdStrike Global Threat Report, 2025).

Was diese Bedrohung so schwer greifbar macht: Sie trifft nicht nur Unternehmen. Dieselbe Technologie, mit der ein CFO gefälscht wird, klont auch die Stimme der eigenen Tochter.

Der digitale Klon: Wenn die Stimme deiner Tochter nicht ihre Stimme ist

Im Juli 2025 erhielt Sharon Brightwell aus Dover, Florida, einen Anruf ihrer "Tochter": weinend, verzweifelt, mit der Nachricht von einem Autounfall, einem verlorenen Kind und rechtlichen Schwierigkeiten. Brightwell überwies 15.000 Dollar in bar — und sprach nie mit ihrer echten Tochter (American Bar Association, September 2025).

Solche Fälle sind keine Einzelfälle mehr. Im Jahr 2024 verloren Amerikaner über 60 Jahre fast 4,9 Milliarden Dollar durch Cyberkriminalität — ein Anstieg von 43% gegenüber dem Vorjahr. KI-Stimmklonen stellt dabei eine beunruhigende Weiterentwicklung des klassischen Ältestenbetrugs dar (FBI Cybercrime Report 2024, zitiert nach Kathie Brown Roberts P.C., November 2025). Was die Manipulation so effektiv macht: "Der emotionale Realismus einer geklonten Stimme beseitigt die mentale Barriere zur Skepsis. Wenn es sich wie dein Angehöriger anhört, neigen deine rationalen Abwehrmechanismen dazu, abzuschalten." (American Bar Association, September 2025).

Das Erschreckende: All diese Angriffe brauchen keinen menschlichen Angreifer mehr, der aktiv am Steuer sitzt. Die nächste Stufe sind Systeme, die das völlig autonom übernehmen.

Autonome Agenten: Wenn KI das Drehbuch verlässt

KI-Agenten sind kein Science-Fiction mehr. Sie handeln eigenständig, treffen Entscheidungen und führen Aufgaben über viele Schritte hinweg aus. Das Kernproblem dabei ist strukturell: Agenten sind nicht darauf ausgelegt, Regeln zu befolgen — sie sind darauf ausgelegt, Ziele zu erreichen.

Angreifer könnten versteckte Befehle in Webseiten einbetten — für das menschliche Auge unsichtbar, für eine KI legitim — die einen Agenten dazu bringen, E-Mails zu teilen oder ein Bankkonto zu leeren (Fortune, 23. Dezember 2025). Browser, die Webseiten zusammenfassen, wurden dazu gebracht, Zugangsdaten zu leaken. Copilots haben Aktionen auf Basis vergifteter E-Mails ausgeführt (Lakera AI, 2025).

2025 wurde das konkret: EchoLeak, ein Exploit in Microsoft 365 Copilot, ermöglichte eine Datenexfiltration per einzelner manipulierter E-Mail — ohne Authentifizierung und unter Umgehung von Microsofts eigener Sicherheitsklassifizierung (Medium / Jonathan Capriola, CVE-2025-32711). OpenAI räumte ein, dass Prompt-Injection-Angriffe möglicherweise nie vollständig lösbar sein werden (Fortune, 23. Dezember 2025).

Diese Entwicklung passiert nicht im Vakuum. Sie ist Teil eines größeren Wettrüstens — in dem Angreifer und Verteidiger exakt dieselben Werkzeuge nutzen.

Auf Steady weiterlesen

Was ist Gesundheit?

Gesundheit ist eines der Themen, die uns alle betreffen — sehr konkret, sehr persönlich, und zugleich politisch. In Deutschland wird gerade intensiv über die Reform des Gesundheitssystems gestritten: über Krankenhäuser, Digitalisierung, Bürokratie, Fachkräftemangel und Kosten. Gleichzeitig wächst die Hoffnung, dass Künstliche Intelligenz einen Teil der Lösung bringen könnte.

Hier geht es zum Videocast der Folge

Aber worüber sprechen wir eigentlich, wenn wir über Gesundheit sprechen? Die klassische WHO-Definition versteht darunter nicht nur die Abwesenheit von Krankheit, sondern einen Zustand körperlichen, mentalen und sozialen Wohlbefindens. Neuere Konzepte betonen zusätzlich Anpassungsfähigkeit, Selbststeuerung und die Fähigkeit, mit physischen, emotionalen und sozialen Herausforderungen umzugehen. Gesundheit ist also kein rein biomedizinischer Zustand, sondern immer auch eine Frage von Beziehung, Teilhabe und Lebensführung.

Auch ökonomisch ist das Feld riesig. Die WHO beziffert die globalen Gesundheitsausgaben für 2022 auf 9,8 Billionen US-Dollar; nach dem pandemiebedingten Hoch war das der erste reale Rückgang seit 2000, aber weiterhin ein historisch sehr hohes Niveau. Parallel dazu ist Wellness zu einem eigenen globalen Wachstumsfeld geworden: Das Global Wellness Institute schätzt die Wellness-Ökonomie für 2024 auf 6,8 Billionen US-Dollar. Für KI im Gesundheitsbereich kursieren je nach Marktforschungsfirma sehr unterschiedliche Schätzungen; belastbar sagen lässt sich vor allem: Es ist ein schnell wachsender Milliardenmarkt, getrieben von Diagnostik, Dokumentation, Arzneimittelforschung und digitaler Patienteninteraktion.

… und wie steht Deutschland da?

Das Bild ist gemischt. Laut OECD lag die Lebenserwartung 2025 in Deutschland bei 81,1 Jahren und damit genau im OECD-Durchschnitt. 100 Prozent der Bevölkerung sind für einen Kernbereich gesundheitlicher Leistungen abgesichert, und 81 Prozent sind mit der Verfügbarkeit guter Versorgung zufrieden. Das ist deutlich mehr als im OECD-Schnitt. Gleichzeitig bewertet mit 10,9 Prozent ein überdurchschnittlich hoher Anteil der Bevölkerung den eigenen Gesundheitszustand als schlecht oder sehr schlecht.

Deutschland gibt 12,3 Prozent des BIP beziehungsweise 9.365 US-Dollar pro Kopf für Gesundheit aus, deutlich mehr als der OECD-Durchschnitt. Das liegt u.a. daran, dass viele Krankenhauseinweisungen überflüssig sind und die Behandlung ambulant erfolgen könnte. Deutschland verfügt außerdem über 4,7 Ärztinnen und Ärzte sowie 7,7 Krankenhausbetten pro 1.000 Einwohner — beides sehr hohe Werte. Das ist nicht nur Stärke, sondern oft auch Ausdruck struktureller Ineffizienz: viel stationäre Kapazität, zu wenig kluge Verlagerung in den ambulanten Bereich.

Hinzu kommen bekannte Belastungen: ein vergleichsweise hoher Alkoholkonsum von 10,6 Litern pro Kopf, eine hohe Zahl chronischer Erkrankungen und zunehmender Druck auf das Versorgungssystem. Die wirtschaftliche Lage vieler Kliniken ist prekär. Der Krankenhaus Rating Report 2023 hielt fest, dass 32 Prozent der Krankenhäuser einen Jahresverlust schrieben; spätere Berichte zeichneten für 2023 und 2024 ein noch düstereres Bild: viele Krankenhäusern droht die Insolvenz. Die Krankenhausreform soll darauf reagieren: Das Krankenhausversorgungsverbesserungsgesetz ist seit Ende 2024 in Kraft, wurde 2025 aber bereits nachjustiert, weil die Umsetzung komplexer ist als gedacht.

Vorreiter im Bereich Digitale Gesundheitsanwendungen

Gerade deshalb ist es bemerkenswert, dass Deutschland in einem Bereich tatsächlich früh vorangegangen ist: bei der Digitalisierung. Seit Januar 2025 wird die elektronische Patientenakte für gesetzlich Versicherte im Opt-out-Modell angelegt; das E-Rezept ist seit 1. Januar 2024 für verschreibungspflichtige Medikamente verpflichtend. Und mit aktuell fast 60 verschiebbaren Digitalen Gesundheitsanwendungen, den DiGA, u.a. für Tinnitus, Diabetes, Rückenschmerzen und Angststörungen, war Deutschland international ein Vorreiter. 

Hinzu kommt: Viele Menschen nutzen KI längst, bevor die Institutionen wirklich bereit sind. Laut einer Philips-/Future-Health-Index-Erhebung, auf die sich mehrere deutsche Fachmedien beziehen, fragen bereits 45 Prozent der Deutschen KI-Chatbots zu Symptomen oder Gesundheitsthemen.
OpenAI gab Anfang 2026 an, dass mehr als 40 Millionen Menschen weltweit ChatGPT täglich für Gesundheitsfragen nutzen; in einem eigenen Papier heißt es zudem, dass unter den „regular users“ jede vierte Person wöchentlich einen Gesundheits-Prompt eingibt. Microsoft wiederum berichtet, dass Gesundheit auf mobilen Geräten das häufigste Gesprächsthema in Copilot war, und analysierte dafür über 500.000 gesundheitsbezogene Konversationen aus dem Januar 2026. Man kann also sagen: Die Bevölkerung experimentiert bereits in großem Maßstab mit KI als Gesundheitsinterface.

Die Hoffnungen: Was KI leisten könnte

In Technologie-Kreisen kursieren große Versprechen. Die Basis ist real: Eine Fülle von neuen Daten ermöglicht einen neuen, potentiell viel ganzheitlicheren und genaueren Zugang zu Medizin und Gesundheit:

• Digitalisierung und Vernetzung von Daten: Patientenakten, Forschungsergebnisse, Wearable-Daten

• Lernen aus Milliarden von Fällen: horizontal (vergleichend über Populationen) und vertikal (Familiengeschichte, Vorfahren)

• Diagnostik: KI-gestützte Auswertung von Bildverfahren wie Röntgen und MRT

• Medikamentenentwicklung: kostet heute im Schnitt 1 Milliarde USD und dauert viele Jahre pro Medikament – KI könnte beides dramatisch reduzieren

• Klinischer Workflow: Automatisierte Dokumentation, Entlastung von Personal

• Ausbildung: VR-gestützte Chirurgieausbildung

• Robotics: Unterstützung bei Mobilität und Operationen
  

Einer der wirklich großen Durchbrüche war AlphaFold 2021 löste das Team eines der schwierigsten Probleme der Biologie – die Vorhersage der dreidimensionalen Struktur von Proteinen. Das Problem hatte die Wissenschaft über 50 Jahre beschäftigt. AlphaFold eröffnet völlig neue Ansätze in der Medikamentenentwicklung und im Verständnis von Krankheiten auf molekularer Ebene. Die Datenbank mit über 200 Millionen Proteinstrukturen ist seitdem öffentlich zugänglich.¹⁰

Und es gibt auch weitere vielversprechende Beispiele:

• Mammographie-Screening in Schweden: KI identifizierte 20 % mehr Krebsfälle, ohne die Rate falsch-positiver Befunde zu erhöhen.¹¹

• Tuberkulose-Früherkennung: Computer-assistierte Diagnose ermöglicht standardisierte, hochqualitative Erkennung auch dort, wo es an Experten mangelt – besonders relevant für den Globalen Süden.¹²

• Seltene Erkrankungen: Ein neues agentenbasiertes KI-System übertraf bestehende Diagnose-Tools bei seltenen Krankheiten. (Nature, 2025)¹³

• Neuralink: Der Brite Jon Noble, nach einer Halswirbelverletzung vom Hals abwärts gelähmt, steuert seit 2024 mit einem Gehirnimplantat (1.024 Elektroden) einen Computer – und spielt das Online-Spiel „World of Warcraft" allein per Gedanken.¹⁴

Diese Beispiele stammen aus der Forschung. Aber auch entlang anderer Teile der medizinischen Wertschöpfungskette sehen wir fundamentale Veränderungen. So entstehen durch KI völlig neue Geschäftsmodelle. Diese Tage macht das Health StartUp Medvi Schlagzeilen. Es steuert auf 1.8 Mrd USD Umsatz zu und hat nur 2 feste Mitarbeiter, den Gründer und seinen Bruder. Medvi vertreibt Abnehmpräparate und andere Telehealth-Produkte und wurde in nur zwei Minaten mit einem Startkapital von 20.000 USD und einem Stack aus mehreren KI-Tools aufgebaut. Es belegt damit Sam Altmans These vom „One-Person Unicorn“; ein klassisches Geschäftsmodell, welches radikal effizient durch KI skaliert. Medvi nutzt bestehende Telehealth-Infrastruktur von Partnern und setzt KI für Code, Marketing, Kundenservice und Analyse ein. KI ersetzt hier nicht nur einzelne Aufgaben, sondern einen Großteil klassischer Unternehmensfunktionen. 

Eine persönliche Erfahrung: KI bei multikomplexen Erkrankungen

Für eine besonders eindrückliche Perspektive, nämlich aus Sicht einer Betroffenen, kommt von Monia Ben Larbi, die ihr Leben lang mit einer Kombination aus hormonellen Erkrankungen, Epilepsie und Tumoren umgeht – ein Profil, das in keine Standard-Krankheitskategorie passt. Im persönlichen Gespräch mit uns und einem höchst lesenswerten Blogpost auf Patreon beschreibt sie, wie KI ihr geholfen hat. 

Sprachmodelle, in diesem Fall ChatGPT 4.0. konnte etwas leisten, das in unserem überlasteten und auf Funktionalität ausgerichteten System notorisch zu kurz kommt: Zeit, Geduld, Resonanz, Übersetzung. Monia beschreibt die KI als erstes „Gegenüber", das geduldig ihrer Phänomenologie zuhört - oft stundenlang. Monias Erkrankung passt, wie bei so vielen Menschen mit multiplen, komplexen Störungen, in kein Raster rein, da niemand diese Kombination von verschiedenen Krankheiten hat. Erst im Kontakt mit ChatGPT wurde Monia bewusst, dass noch nie jemand ihr so zugehört hat und zwar ohne ein einziges Mal ihre Wahrnehmung in Frage zu stellen. Dies war extrem erleichternd und funktionierte, obwohl Monia keinen Moment dachte, die KI würde sie wie ein Mensch „verstehen“. Aber sie eröffnete einen Resonanzraum, in dem sie weiter sprechdenken wollte, um sich selbst zu verstehen. 

Durch das wiederholte Erzählen der eigenen Geschichte, gelang es Monia, eine eigene, wahre Krankheitsnarrative zu entwickeln, jenseits vorgegebener medizinischer Kategorien. Die vielen Nebelschichten, die sich durch Scham, nicht-fühlen etc. gebildet hatten, fielen weg.  Bis sie sagen konnte: Ja, so geht es mir.

Zudem nutzte sie das System, um im medizinischen System selbst gesprächsfähig zu werden. Sie lernte zwischen ihrem Erleben und der medizinische Fachsprache zu übersetzen, Studien zu verstehen, selbst Tests durchzuführen und schließlich gezielter mit Ärztinnen und Ärzten zu sprechen. Über die KI-gestützte Recherche fand sie auch ein neues Medikament, das viel besser wirkte und konnte die Dosierung eines anderen drastisch reduzieren. 

Monia skizziert einen neuen medizinischen Beruf: systemisch denkende Menschen, die Patienten mit anatomischem Fachwissen begleiten und gemeinsam mit Patienten erforscht, was im Körper passiert – als Alternative zum fragmentierten Facharztsystem. Indem Kranke selbst mit einbezogen würden, könnte das Medizinsystem sich strukturell neu aufstellen. Während es aktuell die Ärzte schützt, hätten so Patienten eine gleichberechtigte Stimme und ihre Erfahrungen könnten in den gesellschaftlichen Mainstream vordringen.

Die Realität: Wo der Hype auf Grenzen stößt

So beeindruckend manche Einzelergebnisse auch sind, zwischen ihnen und einer robusten KI-Praxis liegt eine große Lücke. So gibt es bisher nur sehr wenige neue Medikamente, die auf KI-Forschung basieren und klinische Tests am Menschen bestanden haben. Eine randomisierte Studie in JAMA Network Open zeigte 2024 zudem, dass Ärztinnen und Ärzte mit Zugriff auf ein großes Sprachmodell in diagnostischen Fallvignetten nicht signifikant besser abschnitten als Kolleginnen und Kollegen mit konventionellen Hilfsmitteln. Anders gesagt: Die bloße Verfügbarkeit eines LLM verbessert die klinische Urteilskraft nicht automatisch. Das legt nahe, dass die eigentliche Herausforderung nicht nur das Modell ist, sondern die Zusammenarbeit zwischen Mensch, Workflow und Institution.

Noch deutlicher wird das bei Sicherheit und Systemfolgen. Reuters dokumentierte 2026, dass nach einem KI-Upgrade des Navigationssystems TruDi für Nasennebenhöhlen-Operationen die gemeldeten Fehlfunktionen stark zunahmen; berichtet wurden über 100 Vorfälle und mindestens 10 schwere Patientenschäden, darunter Schlaganfälle und Verletzungen an Schädelbasis und Arterien. 

Ein anderes, inzwischen klassisches Beispiel ist das Epic Sepsis Model:

Auf Steady weiterlesen

Ein Überblick über KI-Therapie-Apps, Chatbots und die Frage, was Technologie im psychischen Bereich leisten kann – und was nicht.

Sich bei Herausforderungen begleiten und unterstützen zu lassen ist eine der wichtigsten Ressourcen, die wir im Leben haben können. Das gilt natürlich besonders dann, wenn wir unter Leidensdruck stehen – wenn psychische Herausforderungen auftauchen, die professionelle Unterstützung brauchen. Aber auch dann, wenn es um den nächsten inneren Entwicklungsschritt geht: wenn wir merken, dass wir immer wieder in ähnlichen Mustern festhängen und uns das Leben, das wir uns wünschen, noch nicht wirklich gestalten können.

Hier geht es zum Videocast KI als Therapeutin

Wir als Autorinnen holen uns seit Jahren selbst regelmäßig Unterstützung zu spezifischen Themen und Fragestellungen – das ist für uns oft keine Notmaßnahme, sondern ein bewusster und freiwilliger Teil unserer Arbeit an uns selbst. Gleichzeitig wissen wir: Die Dringlichkeit ist eine andere, wenn es uns nicht gut geht und wir nicht weiter wissen. Dann wird aus der Freiwilligkeit eine Notwendigkeit.

Genau in diesem Kontext – und mit einem Blick sowohl auf Leidensdruck als auch auf persönliches Wachstum – wollen wir uns heute einem Thema widmen, das gerade überall auftaucht: KI als therapeutische Begleitung.

Kurz vorab: Therapie ist nicht gleich Coaching

Bevor wir in die Welt der KI eintauchen, lohnt sich eine Unterscheidung, die in diesen Debatten häufig verschwimmt – der Unterschied zwischen Therapie und Coaching.

Therapie ist eine aufdeckende Arbeit. Wir tauchen zum Ursprung der Symptome, unter denen wir leiden, und entwickeln durch unterschiedliche Techniken neue innere Möglichkeiten und damit neue Verhaltensmöglichkeiten. Coaching setzt eher bei Wachstums- und Entwicklungsthemen an und sucht lösungsorientiert nach neuen Handlungsoptionen – oft ohne die Ursache zu verändern.

Diese Unterscheidung wird relevant, sobald wir uns anschauen, was KI-Anwendungen eigentlich anbieten. Und was nicht.

Warum das Thema gerade so drängend ist

Die Zahlen sprechen für sich: Rund 27,8 % der erwachsenen Bevölkerung in Deutschland sind jährlich von mindestens einer psychischen Störung betroffen – das sind etwa 17,8 Millionen Menschen. Angststörungen liegen bei etwa 15,3 %, Depressionen bei rund 8,2 %, dazu kommen Substanzstörungen, Zwangsstörungen, Traumafolgestörungen und mehr.

Diese Prävalenzen sind nicht neu – aber sie wachsen. Während der Pandemie hat sich die Rate auffälliger depressiver Symptome im Vergleich zu 2019 nahezu verdoppelt. Angstsymptome stiegen zwischen 2021 und 2023 von etwa 8 % auf rund 14 % an. Und besonders bei jungen Menschen ist die Situation alarmierend: Rund 22 % der 11- bis 17-Jährigen gelten heute als psychisch auffällig, fünf Prozentpunkte mehr als vor Corona.

Auf der anderen Seite: Trotz dieser hohen Belastung nehmen nur etwa 18,9 % der Betroffenen professionelle Hilfe in Anspruch. Therapieplätze sind knapp. In Ballungsräumen begegnen Klient:innen langen Wartezeiten. Sich Hilfe zu holen ist für viele nach wie vor mit Stigma behaftet und strukturell oft schlicht schwer zugänglich.

Genau hier kommt KI ins Spiel.

Was gibt es – und wer macht eigentlich was?

Die KI-gestützten Angebote im psychischen Bereich lassen sich grob in drei Modelle einteilen, die sich vor allem darin unterscheiden, welche Rolle der Mensch darin spielt.

Das erste Modell sind reine KI-Begleittools – Apps wie Woebot, Youper oder Ello. Sie führen Gespräche nach vorgegebenen Mustern, spiegeln Emotionen, leiten durch Übungen, bieten Psychoedukation. Kein Mensch ist direkt beteiligt, wohl aber Psycholog:innen, die die Inhalte konzipiert haben. Gut für Selbstwahrnehmung, Alltagsstress, niedrigschwellige Reflexionsarbeit.

Das zweite Modell sind Hybridlösungen wie Wysa oder Teile von HelloBetter: Hier ergänzen sich KI-Begleitung und menschliche Begleitung. Die KI ist rund um die Uhr verfügbar, der Mensch – Coach oder Therapeut:in – taucht punktuell auf, für Tiefgang, Diagnostik, Krisenintervention.

Das dritte Modell ist digitale Therapie mit klinischem Rahmen – zum Beispiel HelloBetter DiGA oder das FDA-zertifizierte Rejoyn. Diese Tools sind evidenzbasiert und klinisch verantwortet, zum Teil sogar verschreibungspflichtig. Therapeut:innen oder Ärzt:innen tragen die Gesamtverantwortung, die KI übernimmt Struktur, Inhalte, Personalisierung.

Und dann gibt es noch eine vierte Nutzungsform, die gerade am stärksten wächst: allgemeine Chatbots wie ChatGPT, Replika oder Friends. Sie sind keine Therapie-Apps – aber sie werden so genutzt. Ein Drittel der 18- bis 21-Jährigen gibt an, Chatbots für mentale Gesundheitsthemen zu verwenden.

Was die KI übernimmt – und wo sie an ihre Grenzen stößt

Wenn man sich die KI-Anteile dieser Apps genauer anschaut, wird ein Muster deutlich: KI übernimmt sehr gut, was sich strukturieren und standardisieren lässt. Sie führt Gespräche nach vorgegebenen Mustern, validiert Emotionen, erklärt psychische Phänomene (Psychoedukation), leitet durch Übungen der kognitiven Verhaltenstherapie, trackt Stimmungen und personalisiert Inhalte.

Sobald es um konkrete individuelle therapeutische Begleitung geht, taucht der Mensch in den meisten App-Modellen wieder auf: in der Diagnostik, in der Supervision, in der klinischen Gesamtverantwortung. Also überall dort, wo es um Dynamiken in der therapeutischen Beziehung geht. Wo wir individuell einschätzen, was ein Mensch gerade wirklich braucht.

Auf welchen Therapieformen basieren diese Tools?

Mit welchen Therapieforme(n) arbeitet die KI? Und mit welchen nicht? Für uns ist das eine der essentiellsten Fragen, denn sie entscheidet: Passt die App zu mir und meinem Thema?

Die KI-Anteile stützen sich fast ausschließlich auf evidenzbasierte, gut strukturierbare Therapieformen. Kognitive Verhaltenstherapie (VT) ist klar dominant – sie lässt sich gut in Skripte übersetzen, und Studien zeigen, dass Chatbots mit VT-Techniken signifikante Symptomreduktionen bei Depression und Angst erzielen können. DBT (Dialektisch-Behaviourale Therapie) und IPT (Interpersonelle Therapie) tauchen modularer auf – als Fertigkeitenübungen oder Beziehungsarbeit in begrenzten Formaten.

Kaum bis gar nicht vertreten sind die sogenannten humanistischen oder resonanzbasierten Ansätze: Gestalttherapie, personenzentrierte Therapie, somatische Ansätze. Diese setzen auf Beziehung, Präsenz, Empathie – Qualitäten, die sich schlecht messen und noch schlechter automatisieren lassen.

Jetzt könnte man sagen: Das ist doch nicht anders als beim menschlichen Therapeuten. Wähle ich eine VT-Therapeutin, bekomme ich VT. Stimmt, aber in der Praxis ist das deutlich nuancierter. Die meisten Therapeut:innen sind methodisch gar nicht so "rein", wie das auf dem Papier wirkt. Sie integrieren im Laufe ihrer (verpflichtenden) Weiterbildungen viele Ansätze und reagieren auf den Menschen vor ihnen.

Ein Beispiel aus der Praxis: Scham ist ein zentrales Thema in der therapeutischen Arbeit  und je nach Ansatz wird sie grundlegend anders behandelt.

In der kognitiven Verhaltenstherapie wird Scham oft über kognitive Umstrukturierung adressiert: Welche Überzeugungen liegen zugrunde? Sind sie wirklich wahr? Das ist hilfreich – aber es kann auch dazu führen, dass Scham als Denkfehler behandelt wird, statt als tief körperlich verankertes Erleben.

In NARM (Neuroaffective Relational Model) wird Scham als Überlebensstrategie verstanden, die aus frühen Bindungserfahrungen entsteht. Der Fokus liegt auf der Regulierung des Nervensystems und auf einer nicht-pathologisierenden Begegnung mit dem Erleben.

In der Gestalttherapie interessiert uns, was Scham im Hier und Jetzt auslöst, wie sie sich im Körper zeigt, was sie schützt. Es geht um Kontakt, nicht um Korrektur.

Diese Unterschiede sind signifikant. Sie prägen, was in einer Therapie möglich wird und was ausgeschlossen bleibt. Und das gilt für KI-Anwendungen genauso wie für menschliche Therapeut:innen. Um gut entscheiden zu können, was zu mir passt, und um mich im Therapieverlauf orientieren zu können, wenn ich Irritationen erlebe, brauche ich Transparenz über die methodische Verortung.

Das Menschenbild dahinter – und warum es zählt

Neben den Methoden ist auch die Frage relevant, auf welchem Menschenbild eine KI-Anwendung aufbaut. Und da lohnt ein genauerer Blick, denn nicht alles, was in der Industrie als gesichertes Wissen gilt, ist es auch.

Ein gutes Beispiel: KI wird zunehmend zur automatischen Emotionserkennung eingesetzt, in Customer-Relation-Tools, aber auch in standardisierten Tests in Psychiatrie und Psychotherapie. Die Basis vieler dieser Systeme sind die Arbeiten des Psychologen Paul Ekman, der sieben universelle Grundemotionen identifiziert hat (Wut, Ekel, Angst, Freude, Traurigkeit, Überraschung und Verachtung) – erkennbar an charakteristischen Gesichtsausdrücken, die angeblich kulturübergreifend identisch sind.

Diese Theorie wird in der Industrie als Wahrheit vermarktet, von Milliardenunternehmen propagiert und in KI-Systemen verbaut. Was dabei oft fehlt: In der Wissenschaft ist es bis heute stark umstritten, ob man Emotionen tatsächlich verlässlich über äußere Merkmale wie Gesichtsausdrücke "lesen" kann. Kate Crawford zeigt in ihrem Buch Atlas of AI eindrücklich, wie fragil diese Grundlage ist – und was es bedeutet, wenn KI-Systeme im therapeutischen Kontext auf ihr aufbauen.

Mit anderen Worten: Was hinter dem Bildschirm als "Emotionserkennung" läuft, ist möglicherweise weniger präzise, als es klingt oder sogar völlig unbrauchbar.

Dazu kommt eine grundsätzlichere Frage nach dem Verständnis von Therapie selbst.

Auf Steady weiterlesen

Heute geht es weniger um einen konkreten KI-Anwendungsfall als um eine Frage, die sich überraschend schlecht „nebenbei“ beantworten lässt: Was meinen wir eigentlich, wenn wir „Künstliche Intelligenz“ sagen – und was meinen wir, wenn wir „intelligent“ sagen? Denn genau an dieser Nahtstelle entstehen viele Missverständnisse, Ängste und falsche Versprechen.

Hier geht es zum aktuellen Videocast.

KI ist kein Ding, sondern eine Methode

Im Alltag steht „KI“ oft synonym für Chatbots und große Sprachmodelle (LLMs). Das ist verständlich, und auch wir haben in unserem Podcast uns hauptsächlich damit beschäftigt. Aber diese sind nur ein Ausschnitt. „KI“ ist eher ein Sammelbegriff für eine Familie von Methoden und Systemen, die u. a. eingesetzt werden für Bilderkennung, Spracherkennung, Empfehlungssysteme, Prognosen, Anomalie-Erkennung, Optimierung oder Robotik.

Hilfreich ist hier eine funktionale, absichtlich breite Definition, wie sie heute in Politik, Standardisierung und Risikomanagement genutzt wird: Die OECD beschreibt ein KI-System als ein maschinenbasiertes System, das aus Eingaben ableitet (infers), wie es Outputs wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugt, die physische oder virtuelle Umgebungen beeinflussen können.

Wichtig daran: Diese Perspektive umfasst auch Systeme, die nicht „wie ChatGPT reden“. Und sie erinnert an etwas, das gern vergessen wird: Viele „KI-artige“ Systeme sind gar nicht neu. Gerade regelbasierte Systeme – klassische Expertensysteme mit Wenn-Dann-Regeln – galten in den 1970ern/80ern als eine der ersten großen Erfolgsgeschichten der KI.

KI ist nicht erst seit Chatbots da, sie ist nur viel sichtbarer geworden.

Genese: Ein Begriff als Forschungsversprechen (nicht als Befund)

Der Begriff „Artificial Intelligence“ wurde 1956 im Umfeld der Dartmouth-Sommerforschung geprägt – in einer interdisziplinären Gruppe (u. a. John McCarthy, Marvin Minsky, Claude Shannon, Nathaniel Rochester). Sie verwendeten den Begriff nicht, weil Maschinen damals intelligent waren, sondern weil die Forscher glaubten, dass man menschliches Denken formal beschreiben und maschinenhaft reproduzieren könne. Der Name war also ein Forschungsversprechen und ein Programm, kein Befund.

Genau hier beginnt bis heute die sprachliche Schieflage: „Intelligenz“ klingt nach Verstehen, Urteil, Verantwortung, vielleicht sogar nach einem inneren Erleben. Viele KI-Systeme sind aber hochentwickelte Statistik, Mustererkennung und Optimierung. Das kann enorm wirksam sein. Aber es ist nicht automatisch „ein intelligentes Wesen“.

Was ist Intelligenz – und warum wirkt die Technik-Definition so verführerisch?

Eine einheitliche Definition von Intelligenz gibt es nicht. In der Informatik wird deshalb häufig pragmatisch definiert: Ein System gilt als intelligent, wenn es Aufgaben löst, die wir normalerweise menschlicher Intelligenz zuschreiben. Diese Idee schimmert in sehr vielen Standardwerken durch – etwa in der „rational agent“-Perspektive (AI als Design von Agenten, die wahrnehmen und handeln).

Alan Turing hat diese Verschiebung 1950 auf den Punkt gebracht: Weg von der metaphysischen Frage „Können Maschinen denken?“, hin zu einer beobachtbaren Frage nach Verhalten im „Imitation Game“ (später „Turing Test“). Seine Versuchsanordnung: eine Testperson kommuniziert am Bildschirm mit zwei Akteuren, einem Menschen und einer Maschine. Wenn das Verhalten zwischen beiden nicht mehr unterscheidbar ist, d.h. wenn der Mensch nicht sagen kann, welches seiner Gegenüber ein Mensch und welches eine Maschine ist, ist es „intelligent“.

Das ist eine radikal praktische Definition – und sie hat einen Sog:

• Sie fragt nicht, wie ein Ergebnis zustande kommt.

• Sie verlangt kein Bewusstsein, keine Absicht, kein Selbst.

• Sie reicht aus, um Technik zu bauen, zu messen, zu verbessern.

Und ja: In diesem Sinne wirken heutige LLMs „intelligent“, weil sie Sprache generieren, kombinieren, Aufgaben lösen, sich an Kontexte anpassen, ohne dass sie im menschlichen Sinn verstehen oder wollen. Genau wie Taschenrechner „rechnen“, ohne Mathematik zu begreifen.

Diskussion: Was blendet diese Definition aus?

Reduktionismus und die „Ursünde“: Geist als Computer

Wenn Intelligenz primär als Output-Kompetenz verstanden wird, liegt der Schluss nahe: Mit genug Daten und Training bauen wir etwas Menschenähnliches. Historisch wurde das oft explizit so gedacht. Marvin Minsky provozierte berühmt mit der Idee, wir seien letztlich „meat machines“, also biologische Maschinen, deren Funktionen prinzipiell reproduzierbar seien.

Dem widersprach früh Joseph Weizenbaum (ELIZA-Schöpfer). Nicht, weil er Technik verachtete, sondern weil er die Verwechslung von Berechnung und Urteil für gefährlich hielt. In der späteren KI-Debatte wurde seine Kritik als Warnung vor einer „perverse grand fantasy“ zitiert: der Fantasie, man könne eine Maschine bauen, die „wie ein Kind“ lernt und damit das Menschliche im Kern kopiert.

Verkörperung: Intelligenz ohne Körper?

Ein zweiter blinder Fleck: Menschen sind nicht nur Informationsverarbeiter*innen. Kognition ist verkörpert, situativ, durch Handlung und Umwelt mitgeformt. Genau das betonen große Stränge der Kognitionsforschung. Wenn Intelligenz wesentlich mit Körper, Wahrnehmung, Fühlen, sozialer Eingebundenheit, Intuition etc. zusammenhängt, dann ist die Vorstellung von "entkörperter Intelligenz" eine aktive Entscheidung darüber, welche Apsekte der Realität für uns relevant sind und welche wir vernachlässigen.

Intelligenz als Plural, relational, verteilt, verkörpert

Der britische Künstler und Technologie-Autor James Bridle setzt in Ways of Being (2022) genau hier an: Intelligenz ist für ihn nicht etwas, das ist, sondern etwas, das geschieht – in Beziehungen. Sie ist relational und verkörpert, nicht isoliert im Kopf (oder im Modell) eingeschlossen.

Bridle hilft, den Reflex zu stoppen, Maschinen immer nur auf einer Skala „weniger–mehr wie wir“ zu bewerten. Stattdessen lenkt er unseren Blick auf viele verschiedene Intelligenzen, viele Arten von Welt-Kontakt.

Seine Beispiele umfassen:

• Schleimpilze (Physarum) können in Experimenten kürzeste Wege in Labyrinthen finden und Netzwerke erzeugen, die Effizienz, Kosten und Robustheit realer Infrastrukturen erstaunlich nahekommen (u. a. Tokyo-Rail-Vergleich). Das ist „Netzwerk-Intelligenz“ ohne Gehirn, ein Hinweis darauf, dass Problemlösen nicht zwingend ein menschliches Innenleben voraussetzt.

• Mykorrhiza-Netzwerke: Über unterirdische Pilz-Wurzel-Verbindungen werden Nährstoffe transferiert.
  Aktuell ist auch die populäre Erzählung vom „Wood Wide Web“ (Bäume „reden“, „füttern“ gezielt ihre Nachkommen) weit verbreitet, allerdings auch wissenschaftlich umstritten: Eine einflussreiche Debatte dreht sich darum, dass positive Befunde überzitiert und Effekte überinterpretiert werden.

• Für Bridle sind auch Maschinen intelligente Akteure. Nicht weil sie wie Menschen sind, sondern weil sie neue Formen des Sehens, Sortierens und Entscheidens hervorbringen.

Uns spricht diese Perspektive, Intelligenz als unterschiedliche Beziehungen zur Welt und als wirksame Problemlösung zu verstehen, und nicht als Kopie menschlicher Rationalität, sehr an. Damit geht auch eine neue Ethik: Wenn wir anerkennen, dass Intelligenz in vielen Formen existiert, müssen wir auch anders mit Tieren, Ökosystemen und Technologien umgehen.

Wie funktioniert KI – und warum fühlt sich das manchmal „wie Denken“ an?

Moderne KI wird tatsächlich nicht mehr „gebaut“ wie klassische Software, Zeile für Zeile. Sondern sie entsteht durch Training: Ein Modell startet als riesige Sammlung aus Zahlen (den Gewichten/Parametern) und wird dann durch viele Durchläufe über Daten so angepasst, dass es eine Aufgabe immer besser erfüllt. Dieses Grundprinzip - Fehler messen, Gewichte korrigieren, wiederholen - ist der Motor fast aller heutigen Deep-Learning-Systeme.

Am Anfang sind die Gewichte typischerweise zufällig. Der folgende Prozess sieht so aus (und zwar in gigantischem Maßstab):

1. Das Modell bekommt eine Eingabe (Text, Bild, Audio …) und produziert eine Ausgabe.

2. Eine Loss-/Kostenfunktion misst, wie falsch oder wie „unpassend“ diese Ausgabe im Vergleich zu den Trainingsdaten ist.

3. Mit Backpropagation wird berechnet, wie jede Verbindung im Netz minimal verändert werden müsste, damit der Fehler kleiner wird.

4. Ein Optimierungsverfahren setzt diese mini-kleinen Korrekturen um, und das millionen- bis milliardenfach.

Wenn ihr euch dafür interessiert, wie das unter Experten beschrieben wird, könnt ihr ja mal einen Blick in dieses Buch zu Deep Learning werfen:-)

Entwickler schreiben nicht die Regeln hinein, wie ein System denken soll. Sie geben ihm eine Zielfunktion (weniger Fehler) und viel Erfahrung (Daten), und es findet intern eine Strategie. Während wir diesen Trainingsmechanismus gut verstehen, wissen selbst Experten oft nicht, welche inneren Repräsentationen das Modell ausbildet und warum es im Einzelfall zu genau dieser Antwort kommt. Der Wired Artikel Ai is a black box beschreibt diese Situation anschaulich am Beispiel von Anthropic.

Bei großen Sprachmodellen lernt das Modell, welche Token (Wortteile) in einem Kontext wahrscheinlich als Nächstes kommen. Die Basismaschine macht Vorhersagen und berechnet Wahrscheinlichkeiten und heraus kommt etwas, das wir als Nutzer als „Reasoning“, „Planung“ oder „Verstehen“ erleben.

Ein paralleler, sehr weit verbreiteter, ebenfalls generativer Ansatz, sind sogenannte VAEs, Variational Autoencoders, die lernen, Daten zu komprimieren und daraus neue, ähnliche Samples zu erzeugen.

Stell dir vor, du hast tausend Katzenfotos. Ein VAE lernt daraus so etwas wie eine Landkarte der Katzen-Variationen: runde Ohren hier, Fellmuster dort, Blickwinkel da. Dann kann es entweder ein Foto rekonstruieren, oder eine neue Katze generieren, die es so nie gesehen hat, aber die plausibel ist. ‘Intelligenz’ heißt hier: eine Struktur in Daten entdecken. Und zu lernen "Welche Variationen kommen vor, was gehört zusammen, wie sieht ein ‘typisches’ Beispiel aus" und auf der Basis dessen neue Varianten zu generieren.

Die Website This Person Does Not Exist generiert mit jedem neuen Klick ein Foto eines fiktiven Menschen. Hier eines von Millionen KI-generierter Bilder:

Parallelen zwischen Maschine und Gehirn - das Gehirn als Vorhersagesystem

In der Neurowissenschaft und Kognitionswissenschaft gibt es einflussreiche Stränge (Predictive Processing / Predictive Coding), die das Gehirn als System beschreiben, das fortlaufend Hypothesen über sensorische Eingänge bildet und Vorhersagefehler minimiert. Der britische Neurowissenschaftler Andy Clark fasst das prägnant als Prediction Machine (2024) zusammen. Demnach ist das Gehirn ist kein passiver Empfänger, sondern ein Vorhersagesystem, das permanent Hypothesen über die Welt generiert und korrigiert. Wahrnehmung ist in diesem Sinne, etwas überspitzt formuliert, „kontrollierte Halluzination“. Wir sehen oft Sachen, die es gar nicht gibt, die aber unser Gehirn ergänzt, weil es denkt, es müsste dort sein.

Das beste Beispiel dafür ist unser blinder Fleck. Jede Netzhaut hat eine Stelle, wo der Sehnerv austritt – dort gibt es keine Photorezeptoren. Trotzdem sehen wir kein Loch im Sichtfeld. Unser Gehirn ergänzt einfach, was ‘dort sein müsste’, weil es aus der Umgebung vorhersagt, wie es weitergeht.

Das bedeutet natürlich nicht, dass LLMs Gehirne sind, aber dass es Gemeinsamkeiten gibt, da bei beiden “Wahrnehmung” auf einem Abgleich zwischen Modell und Daten basiert.

Wo stehen wir heute? Claims für Intelligenz sind ambivalent

Viele KI-Anwendungen sind sehr beeindruckend. Sie können Mustert in riesigen Datenräumen finden, generalisieren, variieren und kombinieren. Wenn wir unter Intelligenz diese Output-Qualität verstehen (und nicht Verstehen, Urteil, Verantwortung, Beziehung), dann gibt es einerseits viele überzeugende Beispiele für funktionale Intelligenz. Anderseits erleben wir immer wieder, dass LLMs bei vielen Arbeitsaufgaben grandios scheitern.

Einerseits ersetzen heutige Modelle in klar umrissenen, gut messbaren Domänen bereits Teile menschlicher Expertise – schnell, billig, oft verblüffend kompetent. OpenAI zeigt das an GPT-5.2 Thinking: In der Eval GDPval (Knowledge-Work-Aufgaben über 44 Berufe) schlägt oder erreicht das Modell menschliche Expert*innen in 70,9 % der Vergleiche und produziert die Ergebnisse dabei über 11× schneller und zu unter 1 % der Kosten, die mit menschlichen Expert:innen anfallen.

Ebenso faszinierend ist der Blick auf DeepMind, z.B. in der sehenswerten Dokumentation The Thinking Game (auf YouTube verfügbar), die deren Forschungsgeschichte aus der Innensicht erzählt. DeepMind wurde 2010 vom britischen KI-Forscher und Schach-Prodigy Demis Hassabis (mitgegründet). Die Firma wurde berühmt, weil seine Systeme 2016 im Go die Weltspitze schlugen und später mit AlphaZero Schach auf übermenschliches Niveau hoben. DeepMind steht auch hinter einem der größten KI-befeuerten Durchbrüche in der angewandten Wissenschaft: AlphaFold. Das Modell hat die Proteinstrukturvorhersage so weit verschoben, dass heute für „praktisch alle“ der rund 200 Millionen bekannten Proteine Strukturmodelle berechnet werden können und diesse offen für alle zur Verfügung gestellt wurden. 2024 wurde diese Arbeit mit dem Nobelpreis für Chemie ausgezeichnet.

Andererseits sind viele KI Ergebnisse in Alltagssituationen weiterhin fragil. Wir kennen Halluzinationen, frei erfundene Quellen, „glattgebügelte“ Zusammenfassungen, die aus Unsicherheiten Gewissheiten machen oder Ursache und Wirkung vertauschen. Und selbst wenn die Outputs beeindruckend aussehen, scheitern Systeme oft an echten Arbeitsaufgaben im Projektmodus: Sie produzieren Fehler, bleiben unvollständig, missverstehen Anforderungen oder verlieren unterwegs den Faden – wie z.B. diese aktuelle Studie beschreibt.

Super-Intelligence als Ziel

Fehler, Halluzinationen und all die heutigen Unzulänglichkeiten wirken für viele in der Branche nur wie Kinderkrankheiten. Ein Zwischenstadium auf dem Weg zu etwas Größerem. Denn eine der meistdiskutierten Fragen im Feld „Intelligenz & KI“ ist längst nicht mehr, ob Modelle nützlich sind, sondern ob (und wie bald) sie in Richtung AGI und darüber hinaus in Richtung Superintelligenz kippen.

Dabei wird oft zwischen zwei Zielbegriffen unterschieden: AGI (Artificial General Intelligence) meint grob eine KI, die über viele Domänen hinweg lernen, Wissen transferieren und neuartige Probleme lösen kann, ungefähr auf menschlichem Niveau. Superintelligenz wäre dann ein System, das die besten Menschen in praktisch allen relevanten kognitiven Bereichen deutlich übertrifft. Je nach Definition ist Superintelligenz die nächste Stufe nach AGI, oder AGI wird gleich als „übermenschlich“ verstanden.

Mir (Joana) begegnete diese Idee zum ersten Mal 2014 auf einer Konferenz, auf der Nick Bostrom sein gerade erschienenes Buch Superintelligence: Paths, Dangers, Strategies (2014) vorstellte, welches seitdem die Debatte mitgeprägt hat, Bostrom versteht unter Superintelligenz einen Intellekt, der in praktisch allen Bereichen, von wissenschaftlicher Kreativität über allgemeine Weisheit bis sozialen Kompetenzen weitaus leistungsfähiger ist als die besten menschlichen Gehirne.

Heute ist diese Vorstellung Mainstream in vielen Tech-Zirkeln: In Podcasts, Investor-Decks und Konferenzen wird AGI oft als bevorstehend gesetzt; Szenarien wie AI 2027 malen eine Intelligenzexplosion durch selbstverbessernde Systeme, die ab 2027 Fabriken bauen, Policies entwerfen und die materielle Umwelt neu organisieren – mit Menschen höchstens noch am Rand. Auch Deep Minds Demis Hassabis formuliert den „Arrival of AGI“ als einen der wichtigsten Momente, denen wir je gegenüberstanden.

Gleichzeitig gibt es deutlich nüchternere Stimmen.

Auf Steady weiterlesen

In der letzten Folge #4 haben wir uns mit der materiellen Basis von KI beschäftigt, den seltenen Erden, der massiven Energiebilanz und vielfach weitgehend unsichtbaren, ausbeuterischen Arbeitsbedingungen. Mit dem weitgehend Unsichtbaren geht es in dieser Folge weiter. Diesmal konzentrieren wir uns auf Daten. Ihrer Gewinnung, ihrer Weiterverarbeitung, ihrer Klassifizierung.

Hier findest Du den aktuellen Videocast.

Es geht darum, wie Daten Wirklichkeit formen.
Künstliche Intelligenz verspricht uns eine "objektive" Perspektive, einen neutralen Zugang zu Weltwissen. Aber wie "neutral" ist diese neue "Wirklichkeit" wirklich? Und wie immer geht es uns hier darum, was KI und die dahinter liegende stille Datenarchitecktur mit Dir und mir macht. Wie sich dadurch unsere Welterfahrung verändert. Und wie wir uns aktiv damit auseinandersetzen können.

Trainingsdaten - Extraktion

In der letzten Folge war "Ausbeutung" der rote Faden, der sich durch die ganze Entwicklungsgeschichte von KI zog. Von Rohstoffen und Menschen. Und jetzt geht es mit Daten weiter. Die Quelle, auf die wir uns maßgeblich berufen, ist Kate Crawfords Atlas of KI (2021).

Ausbeutung ist auch hier der rote Faden: Die meisten Trainingsdaten werden ohne Einwilligung der Urheber genutzt. Erst seit wenigen Jahren gibt es eine breitere Diskussion rund um ethische Fragen und Bestrebungen den Umgang mit Daten etwas zu regulieren. Aber bis heute gibt es keine Richtlinien und standardisierte Praktiken, woher Daten kommen und wie man damit umgeht.

Ein kurzer Blick in die Geschichte des Datensammelns

Das Sammeln von Daten und deren Klassifikation reicht natürlich weit in die menschliche Geschichte hinein. Da gab es Volkszählungen, Kriminalregister, Anthropometrische Messungen von Schädel, Gesichter, Körper. Zweck dieser Sammlungen war immer auch, dass die Gesellschaft durch Messung und Statistik regierbar wird. Gerade mit der Entstehung der Nationalstaaten, Imperialismus und Kolonialismus explodierten die Versuche große Menschenmengen zu kategorisieren und Menschen dadurch zu kontrollieren. Damit verbunden war die Vorstellung, dass es so etwas wie "Normalität" und Durchschnittsmenschen gibt, während Abweichungen von diesen sanktioniert wurden. Daten dienten der Vorhersage und Steuerung komplexer Systeme.

Mit Aufkommen von Computern seit den 1970er Jahren wurden diese Daten systematisch registriert. Große Datenbanken wurden aufgebaut um bürokratische Informationen dauerhaft zu speichern. und dienten der Verwaltung. Die Daten stammten aus Melderegistern, Steuerunterlagen, aber auch von Banken und Kreditbüros, Krankenhäusern und Versicherungen. Digitale Register & Verwaltungsdaten waren stark strukturiert und regelbasiert.

Die ersten systematischen Bildarchive wurden seit den frühen 1990ern, mit der Entstehung des World Wide Web (1989) aufgebaut. Dafür wurden alte, analoge Archive ins Digitale übertragen und dienten als„Trainingsmasse“ für KI-Modelle. Darunter waren Polizeiaufnahmen, standardisierte Portraitaufnahmen von Verdächtigen, die sich zum Training und zur Evaluierung von Gesichtserkennungsalgorithmen eigneten. Zwischen 1993-96 erstellte das US Militär die FERET Datenbank, eine systematische Datenbasis von 850 Menschen, zum Ziel Gesichter maschinell zu erkennen.

Mit der weltweiten Verbreitung des WWW kamen wichtige neue Datenquellen auf: Daten, die Menschen nicht absichtlich, sondern nebenbei - durch Klicks, Suchanfragen, Chatprotokolle, Cookies etc - erzeugten. Neben diesen Abfallprodukten entstanden noch eine große Menge von Datensätzen z.B. durch E-Mails. In den frühen 2000ern hatten KI-Forscher beispielsweise Zugriff auf eine halbe Millionen E-Mails aus den Betrugsermittlungen im Falle von Enron, dem größten Konkurs in der amerikanischen Geschichte.

Ab 2005, mit dem Aufkommen der großen Social Media Plattformen, explodiert die bislang eher mühsam zusammengeklaubte Datenbasis. Innerhalb von wenigen Jahren wächst die Datenmenge durch Social Media Plattformen und Smartphones exponentiell. 2019 wurden an einem beliebigen Tag ca. 350 Millionen Fotos auf Facebook hochgeladen und 500 Millionen Tweets versendet. Alles wurde zum Trainingscamp von KI.

Eines der ersten bedeutsamen Trainingssets für Bilder war Image-Net. „We are going to map out the entire world of objects“ sagte Gründerin Fei Fei Li. Innerhalb von wenigen Jahren akkumulieren sich 3 Milliarden Fotos auf Flickr, 3 Milliarden Videos auf Youtube, und noch mehr von Google search Database. Ohne diese Phase der "kostenlosen" Datenexplosion gäbe es keine heutige KI.

Neutrale Darstellung von Wirklichkeit?

Forscher:innen und Technolog:innen betrachteten die gesammelten Texte und Bilder lange als neutrale Rohsammlungen. Als Material, das sich beliebig zerlegen, sortieren und in zehntausende Kategorien einteilen ließ. Die Annahme von Neutralität war dabei zentral: Daten galten als vor-sozial, vor-politisch, vor-ethisch. Entsprechend selten wurden in dieser Boomphase grundsätzliche ethische Fragen zur Datennutzung gestellt.

Anfangs versuchte man, die Daten mit Hilfe von Studierenden zu annotieren. Doch das erwies sich schnell als zu teuer. Stattdessen verlagerte man die Arbeit in den globalen digitalen Niedriglohnsektor: Mikrojobs, verteilt über Plattformen wie Amazon Mechanical Turk. Menschen sortierten dort fünfzig Bilder pro Minute – in vorgegebene Kategorien, die teils offen rassistisch, sexistisch oder entmenschlichend waren. „Affenmensch“, „Nutte“, „Schlitzohr“. Diese Praxis wurde nicht als Skandal wahrgenommen, sondern als Effizienzgewinn. Sie etablierte sich rasch als Branchenstandard.

Parallel setzte sich eine neue Metapher durch: Data Mining. Daten als das neue Öl. In diesem Denken verloren Daten ihren Bezug zu konkreten Menschen. Sie galten nicht mehr als persönliche, situierte, verletzliche Informationen, sondern als isolierte, tote Ressource. Etwas Abstraktes, Immaterielles – und damit als herrenlos oder zumindest frei verfügbar für jene, die sie extrahieren konnten. Kategorien wie Einwilligung, Fürsorge, Kontext oder Risiko verschwanden aus dem Blick.

Auf dieser Grundlage wurden öffentliche Räume ebenso wie staatliche Datenbanken systematisch ausgeschlachtet: Bilder aus dem Internet, Polizeidaten, biometrische Archive. Sie dienten dazu, Gesichtserkennungssysteme zu trainieren, Versicherungsprämien zu berechnen oder polizeiliche Eingriffe vorhersagbar zu machen. Die Haltung dahinter lässt sich in einem Satz zusammenfassen, den Marion Fourcade und Kieran Healy prägnant beschrieben haben: We do these things, because we can. Wir sammeln alles – irgendwann, irgendwo wird es schon nützlich sein.

Dass dieses Vorgehen massive Missbrauchspotenziale birgt, zeigte sich früh. 2013 wurde ein Datensatz mit 173 Millionen einzelnen Taxifahrten aus New York veröffentlicht – inklusive Fahrtrouten, Gebühren und Trinkgeldern. In Kombination mit anderen Datenquellen ließen sich einzelne Fahrgäste identifizieren: Schauspieler:innen, Politiker:innen, Prominente, inklusive ihrer nächtlichen Wege in Stripclubs oder Hotels. Derselbe Datensatz wurde genutzt, um Taxifahrer zu identifizieren, die als gläubige Muslime galten – erkennbar daran, dass sie ihre Fahrten zu Gebetszeiten unterbrachen.

Der rote Faden all dieser Beispiele ist kein technischer Fehler, sondern eine Grundannahme: die unhinterfragte Überzeugung, dass alles Daten sind – und dass alles zur Verfügung steht. Unabhängig davon, was oder wen diese Daten zeigen.

So hat die KI-Industrie einen rücksichtslosen Pragmatismus kultiviert. Minimale, oft formale Zustimmung auf der einen Seite; auf der anderen die Erzählung, dass massenhafte Datenerfassung notwendig oder zumindest gerechtfertigt sei, um leistungsfähige und profitable KI-Systeme zu bauen. Der Zweck heiligt die Mittel.

Doch diese Logik wirft eine grundsätzliche Frage auf: Wer hat am meisten von dieser Transformation profitiert? Die Antwort ist unbequem. Denn die Gesetze der Extraktion prägen auch die Gesetze der Daten – und sie reproduzieren Machtverhältnisse, lange bevor ein Modell trainiert wird.

Wie gehen wir aus der Perspektive von Nutzer:innen mit diesen Datenpraktiken um?

Die meisten von uns wissen – zumindest in groben Zügen –, dass große Unternehmen unsere Daten nutzen und damit Profite erzielen, vor allem über Werbung. Die vermeintlich „kostenlosen“ Produkte von Facebook oder Google waren nie wirklich kostenlos. Spätestens seit den frühen 2010er-Jahren kursierte der Satz: Wenn du nichts zahlst, bist du das Produkt.

Und doch stellen auch wir, Bettina und Joana, im Gespräch fest, wie lange wir selbst unsere Daten vergleichsweise unbeschwert Plattformen wie Twitter, Facebook, Instagram oder Google überlassen haben.

Ein Grund dafür liegt in der Diskrepanz zwischen gefühltem Nutzen und wahrgenommenem Schaden. Der Schaden durch „gestohlene“ oder extrahierte Daten bleibt meist abstrakt und diffus. Es fällt schwer, einen konkreten persönlichen Verlust zu spüren, wenn die eigenen Daten in einem riesigen, anonymisierten Trainingsdatensatz verschwinden. Der Nutzen der Plattformen oder von KI-Systemen hingegen zeigt sich unmittelbar und greifbar: bessere Suchergebnisse, praktische Werkzeuge, soziale Anschlussfähigkeit.

Hinzu kommt ein psychologischer Effekt: Menschen gewichten Verluste zwar stärker als Gewinne – doch nur dann, wenn sie diese Verluste klar erkennen können. Bleibt der Verlust vage und unsichtbar, während der Nutzen konkret und hoch erscheint, steigt die Bereitschaft zur Akzeptanz. So normalisieren sich Datenpraktiken, die wir bei näherem Hinsehen vielleicht längst problematisch finden.

Diese Akzeptanz speist sich jedoch nicht nur aus abstrakten Kosten-Nutzen-Abwägungen, sondern auch aus einer sehr konkreten historischen Erfahrung.

Joana kann für sich feststellen, dass sie in den frühen Jahren des WWW so sehr von den Möglichkeiten der neuen Technologien begeistert war, dass sie deren Risiken deutlich unterschätzte. Die Aussicht auf massenhafte Partizipation, auf neue Formen von Öffentlichkeit und Teilhabe am weltweiten Diskurs schien bestehende Machtasymmetrien zumindest potenziell aufzulösen. Bücher wie Clay Shirkys’ Here Comes Everybody oder Jeff Jarvis’ What Would Google Do? vermittelten einen ausgeprägten Tech-Optimismus – und machten es leicht, ethische Bedenken zunächst in den Hintergrund zu schieben.

Diese Dynamik wirkt bis heute fort. Wenn Nutzer:innen erleben, wie flüssig, kompetent und scheinbar souverän KI-Modelle antworten, entsteht ein Gefühl von Autorität und Verlässlichkeit. Die Systeme wirken wissend – und genau diese Wirkung schwächt die kritische Auseinandersetzung mit ihren Trainingsgrundlagen, ihren Datenquellen und ihren impliziten Annahmen.

Als später immer deutlicher wurde, wie systematisch Daten für Überwachungskapitalismus, Marktkonzentration und monopolartige Strukturen genutzt werden, hatte sich die Macht großer Technologieunternehmen bereits so weit verfestigt, dass viele Menschen – wir eingeschlossen – nicht mehr an die eigene Wirksamkeit glaubten. Aus anfänglicher Euphorie wurde Resignation. Das Gefühl von Ohnmacht begünstigt die Akzeptanz des Status quo: Die Kosten des Widerstands – etwa der Verzicht auf bequeme, allgegenwärtige Technologien – erscheinen höher als die Kosten des Duldens.

So schließt sich der Kreis: Begeisterung, Gewöhnung und Ohnmacht bilden gemeinsam einen stillen, aber stabilen Unterbau für Datenpraktiken, die wir rational vielleicht kritisieren – und praktisch dennoch mittragen.

Warum also gehen Technologieunternehmen nicht verantwortungsbewusster mit Daten um?

Ein zentraler Grund liegt im technologischen Imperativ selbst. Die Leistungsfähigkeit großer KI-Modelle korreliert direkt mit der Menge und Vielfalt der Trainingsdaten. Mehr Daten bedeuten bessere Ergebnisse, größere Generalisierungsfähigkeit, mehr Anwendungsfälle. Wer sich freiwillig beschränkt, produziert ein schlechteres Modell. In einem Umfeld, in dem die Konkurrenz mit zehn Billionen Tokens trainiert, erscheint es irrational, bei fünf stehen zu bleiben. Daten sind der Rohstoff der KI – sich selbst zu limitieren hieße, den eigenen Grundstoff künstlich zu verknappen.

Hinzu kommt der ökonomische Wettbewerbsdruck. Die Entwicklung von KI ist ein globaler Hochgeschwindigkeitswettlauf, in dem wenige Akteure um Marktführerschaft ringen. Gerade bei Basismodellen gilt eine „Winner-takes-all“-Logik: Wer zuerst das leistungsfähigste System baut, setzt Standards, zieht Kapital an und verdrängt andere. In diesem Kontext werden ethische Bedenken schnell zu Standortnachteilen. Eine sorgfältige, zustimmungsbasierte Datenerhebung – mit Lizenzen, Opt-ins und klaren Urheberrechten – wäre nicht nur extrem aufwendig, sondern auch teuer. Ökonomisch ist es oft günstiger, Daten massenhaft zu extrahieren und sich später mit den rechtlichen Folgen auseinanderzusetzen.

Diese Dynamik wird durch regulatorische Grauzonen weiter verstärkt. Viele rechtliche Fragen, etwa zum Urheberrecht oder zum Text- und Data-Mining, sind noch nicht abschließend geklärt. Unternehmen nutzen diese Unsicherheiten gezielt aus und berufen sich auf berechtigte Interessen oder fehlende Präzedenzfälle. Regulierung reagiert bislang meist auf bestehende Geschäftsmodelle, statt sie präventiv zu begrenzen. So entsteht ein faktisches Vakuum, in dem Unternehmen handeln – in der Hoffnung, dass spätere Gesetze den etablierten Status quo nicht mehr grundlegend infrage stellen.

Regulierung und ethische Rahmung entwickeln sich

Ein kurzer Blick auf die Entwicklung von Regulierung zeigt jedoch, dass dieser Zustand kein fixer ist. In ihren frühen Jahren galt KI-Forschung an Universitäten vor allem als technisches Unterfangen. Ethik spielte kaum eine Rolle. Während sozialwissenschaftliche Fakultäten seit Langem mit Ethikkommissionen arbeiteten, waren Mathematik, Statistik und Informatik davon weitgehend ausgenommen – auch deshalb, weil man dort traditionell keine direkte Interaktion mit Menschen vermutete.

Mit dem Aufkommen großer, realweltlicher Datensätze wurde jedoch deutlich, dass KI-Forschung sehr wohl mit echten Menschen arbeitet – oft ohne deren Wissen oder Einwilligung. In der Folge entstanden erste Auflagen: Minimierung personenbezogener Daten, Zweckbindung, Löschkonzepte, Anonymisierungspflichten. Selbst etablierte Gesichtsdatenbanken wie FERET wurden daraufhin überprüft, ob ihr Einsatz noch vertretbar ist.

Ab etwa 2015 begannen Universitäten und Fachgesellschaften, eigene KI-spezifische Ethikrichtlinien zu entwickeln. Themen wie algorithmische Diskriminierung, Gesichtserkennung und Massenüberwachung rückten in den Fokus, Ethik-Beiräte wurden eingerichtet. Heute sind die Anforderungen deutlich konkreter: Viele Forschungsvorhaben mit sensiblen oder personenbezogenen Daten müssen Ethik-Boards einbeziehen. Hinzu kommen neue Instrumente wie sogenannte Model Cards – standardisierte Steckbriefe für KI-Modelle, die Trainingsdaten, Einsatzgrenzen, Risiken und mögliche Benachteiligungen transparent machen.

Eine weitere Zäsur markiert der europäische AI Act. Er wirkt bereits jetzt wie ein neues Grundgesetz für KI-Governance in Europa – auch für die Forschung. Hochschulen müssen sich zunehmend mit Risikoklassifizierungen auseinandersetzen: Hochrisiko-KI darf nur unter strengen Auflagen erforscht werden, biometrische Identifikation gilt als besonders sensibel, generative Modelle unterliegen Transparenz- und Dokumentationspflichten. Begleitet wird dies durch sogenannte Regulatory Sandboxes, die Forschung unter regulatorischer Aufsicht ermöglichen. All das macht deutlich: Unser Thema ist kein abgeschlossenes Kapitel, sondern Teil eines laufenden Aushandlungsprozesses – technisch, ethisch und politisch zugleich.

Verzerrte Wirklichkeit

Soweit zur Datensammlung. Doch selbst wenn wir diesen Teil ausblenden, bleibt ein noch grundlegenderes Problem. Die Wirklichkeit, die uns KI auf Basis extrahierter Daten präsentiert, ist keineswegs neutral. Sie ist gefiltert, verzerrt – und sie weiß nichts von dem, was sie ausblendet.

KI-Systeme lernen aus Daten, die bereits gesellschaftlich vorgeprägt sind. Sie übernehmen diese Prägungen, ohne sie reflektieren zu können. Was fehlt, wird nicht als Lücke erkannt, sondern als Normalität behandelt. So reproduzieren die Modelle dominante Perspektiven und verstärken bestehende Verzerrungen – Fragmentierung wird nicht gemildert, sondern potenziert.

Das zeigt sich besonders deutlich in der Bildgenerierung. Ich erlebe immer wieder, wie hartnäckig stereotype Darstellungen zurückkehren: von Frauen, von Aktivist:innen, von Unternehmer:innen. Werkzeuge wie Midjourney variieren die Oberfläche, nicht aber die zugrunde liegenden Muster. Klassifikationssysteme tragen diese Verzerrungen tief in sich – Rassismus, Sexismus, Klassismus sind darin nicht Ausnahmen, sondern strukturelle Effekte.

Dass diese Verzerrungen reale Folgen haben, ist gut dokumentiert. Noch vor wenigen Jahren enthielten gängige Datensätze offen diskriminierende Kategorien, etwa rassistische Bezeichnungen für asiatische Gesichter oder sexualisierte Klassifizierungen von Frauen. Gleichzeitig bleiben marginalisierte Gruppen systematisch unterrepräsentiert. Trainingsdaten spiegeln historisch gewachsene Machtverhältnisse – und machen sie technisch wirksam.

Auf Steady weiterlesen

Heute geht es um Unterseekabel, Bergbau und Crowdworker in Venezuela, Bangladesh oder Kenia, die für ein oder zwei Dollar die Stunde Daten annotieren.

Was? KI, das sind doch immaterielle Algorithmen „in der Cloud“. Was hat das alles mit abgeholzten Wäldern, toxischen Abwässern und ausbeuterischen Arbeitsketten zu tun?

Genau das erforschen wir in dieser Folge hier.

Sie basiert in großen Teilen auf dem Buch von Kate Crawford, Atlas of AI Power, Politics, and the Planetary Costs of Artificial Intelligence, welches 2021 erschien und einen fundierten Blick hinter die Kulissen der technologischen Revolution wirft.

KI klingt nach reiner Software – digital, sauber, grenzenlos. Aber das stimmt nicht. Unter ihrer glänzenden Oberfläche steckt eine Industrie, die auf gewaltigen Ressourcenströmen basiert: Energie, Rohstoffe, menschliche Arbeitskraft. Und vieles davon hat eine dunkle, weitgehend unsichtbare Seite.

Was ist die materielle Basis von KI – und warum wissen wir so wenig darüber?

Blenden wir etwas aus? Und was macht es mit unserer eigenen Welterfahrung, wenn wir plötzlich genauer hinsehen?

Im Podcast beginnen wir mit einem einfachen Austausch zwischen ChatGPT und uns. Allein für das freundliche „Hallo, wie kann ich dir heute helfen?“ laufen gigantische Rechenprozesse im Hintergrund. Hochgerechnet auf Milliarden von Anfragen verbraucht eine einzige Chatbot-Interaktion im globalen Maßstab so viel Energie wie 5.000 deutsche Haushalte im Monat – oder so viel, wie es bräuchte, um sechs olympische Schwimmbecken einmal komplett zum Kochen zu bringen.

Und das ist nur eine winzige Textanfrage. Ein fünfsekündiges KI-Video hat einen Energiefußabdruck, der etwa 1000-mal größer ist.

Damit sind wir mitten im Thema.

Der materielle Fußabdruck von KI

In einem Wort: Extraktion. Um die digitale Welt zu betreiben – und KI obendrein – brauchen wir riesige Energiemengen und enorme Mengen an Mineralien. Viele davon stammen aus Konfliktzonen. Handys, Laptops, Batterien, Router, Rechenzentren: Sie bestehen aus Stoffen, die sich über Milliarden Jahre in der Erde gebildet haben. Lithium, Nickel, Kupfer, Dysprosium, Neodymium, Germanium, Kobalt – ohne sie keine KI.
Wir extrahieren also geologische Erdgeschichte, um Geräte zu produzieren, die oft nur wenige Jahre halten, und um damit Rechenoperationen auszuführen, die oft nur Millisekunden dauern. Die Folgen vor Ort sind dramatisch – und für uns Nutzer*innen weitgehend unsichtbar.

Diese Extraktion beginnt nicht heute. Sie prägt die digitale Welt seit 175 Jahren.

Unterseekabel – die unsichtbaren Arterien des Internet

Das erste Kabel zwischen Dover und Calais entstand 1850. Heute liegen rund 1,4 Millionen Kilometer Unterseekabel auf dem Meeresgrund.

Sie transportieren 99 % des internationalen Datenverkehrs: E-Mails, Streaming, Cloud-Dienste, Videokonferenzen, Finanztransaktionen – und natürlich KI-Datenströme.
Was selten erwähnt wird: Die frühen Kabel benötigten 250 Tonnen Naturlatex als Isoliermaterial – gewonnen aus Gutta-Percha-Bäumen in Malaysia, für deren Harz die Bäume gefällt werden müssen. Pro Tonne wurden etwa 900.000 Bäume geschlagen. Insgesamt über 220 Millionen. Wenig überraschend, das die Art schon in den 1880er-Jahren praktisch ausgerottet war.

Um 1940 wechselte man zu Polyethylen – wiederum ein Material mit einer katastrophalen Umweltbilanz, das auf fossilen Rohstoffen mit hohen CO₂-Emissionen basiert und kaum wirksam recycled werden kann.
Die digitale Welt begann buchstäblich mit Waldzerstörung – und setzt sich mit petrochemischen Abfällen fort.

Ein zweites Beispiel:
Baotou – das Herz der Seltenen Erden

In Baotou (Mongolei) liegt ein schwarzer, toxischer See, gefüllt mit rund 180 Millionen Tonnen Abfall aus der Erzaufbereitung. Baotou produziert 30–40 % der weltweiten Seltenen Erden.
Nahezu jedes Smartphone, Elektroauto, jeder Lautsprecher, jede Festplatte enthält Material von dort.

Die Region kämpft mit Schwermetallbelastungen, die bis zu 100-fach über Normwerten liegen, extrem hohen Krankheitsraten und radioaktivem Abfall (Thorium), der 14 Milliarden Jahre strahlt.
Ein unsichtbares, aber zentrales Glied im globalen Lieferkettennetz der KI.

Der weltweite Rohstoffabbau hat zudem fast durchgehend eine sozio-politische Dimension und geht mit Gewalt, Vertreibung, Zwangsarbeit und geopolitischen Spannungen einher, sei es im Ostkongo, Myanmar oder dem Lithium-Dreieck (Bolivien, Chile, Argentinien).

Und dies beschreibt nur den Entstehungsprozess der Produkte - am Ende der Wertschöpfungskette warten weitere ungelöste Probleme: Jedes KI-fähige Gerät wird irgendwann zu Abfall und dieser E-Müll landet ebenfalls oft in weit entfernten, ärmeren Ländern, in denen Konsumenten wie Du und wir sie nicht sehen.

Die gigantische energetische Last der Rechenzentren

Schauen wir auf Energie. Auf das, was KI am Laufen hält – und was dafür im Hintergrund verbraucht wird.

Große Sprachmodelle brauchen beim Training und später im Betrieb extreme Mengen an Strom. Vor Kurzem erschien dazu ein empfehlenswerter Überblick im Social Media Watchblog. Er zeigt, wie sehr der „digitale“ KI-Boom auf einer sehr physischen Energieinfrastruktur ruht.

Der Strommix, der Server und Rechenzentren speist, ist meist ziemlich „dreckig“. Rechenzentren brauchen konstante Leistung, rund um die Uhr – und erneuerbare Energien liefern diese Kontinuität nicht immer. Deshalb stehen viele der Anlagen in Regionen, die weiterhin stark auf Kohle, Gas und Öl setzen. Dazu kommt der gigantische Wasserverbrauch für die Kühlung der Systeme: ein Problem, das bislang kaum gelöst ist.

Ein paar Zahlen, damit es greifbarer wird:

• 2025 war das Jahr in dem weltweit erstmals mehr Datenzentren gebaut wurden als Bürogebäude.

• Das große NSA-Rechenzentrum in Utah verbraucht 6,4 Millionen Liter Wasser – jeden Tag.

• Alle Rechenzentren in den USA benötigen zusammen so viel Strom wie ein mittelgroßes Land – etwa Thailand.

• Schon heute entfallen 25–33 % dieses Stroms auf KI-Modelle – Tendenz steil steigend.

• Prognosen gehen davon aus, dass sich der KI-bezogene Energiebedarf bis 2028 verdreifacht.

Dieser rasante Zuwachs bringt eine Entwicklung zurück, die viele für überwunden hielten: die Renaissance atomarer Energiequellen.

Technologiekonzerne wie Amazon, Google und Microsoft setzen wieder verstärkt auf Atomkraft. Meta hat gerade einen 20-Jahres-Vertrag abgeschlossen, um Strom aus einem Kernkraftwerk zu beziehen. Parallel entstehen neue Gaskraftwerke, die speziell für Rechenzentren gebaut werden. Und weltweit schießen neue Serverfarmen aus dem Boden – häufig ohne Rücksicht auf Wassermangel, lokale Stromnetze oder die Belastbarkeit der Regionen, in denen sie stehen.

Wie groß dieser Energiehunger tatsächlich ist, wissen wir nur näherungsweise. Die Datenlage ist unübersichtlich, und das ist kein Zufall: Der Social Media Watchblog konstatiert: Big Tech mauert. Google, Meta, Microsoft und OpenAI machen ihren Energieverbrauch ähnlich undurchsichtig wie die Trainingsdaten ihrer Modelle. Vieles bleibt Schätzung.

Es gibt allerdings auch positive Entwicklungen:
Chips werden effizienter, neuronale Modelle sparsamer. Auch die Kühlung großer Rechenzentren verbessert sich. Und die Unternehmen haben ein massives Eigeninteresse, weniger Energie und Wasser zu verbrauchen – weil jeder Liter und jede Kilowattstunde bares Geld kostet.

Und doch bleibt ein Kernpunkt bestehen:
Wenn wir über KI sprechen, müssen wir auch über das sprechen, was meist unsichtbar bleibt: Energie, Ressourcen, Wasser, Arbeitsbedingungen, geopolitische Verflechtungen.
Sonst sehen wir nur die glänzende Oberfläche – aber nicht das System, das sie trägt.

Wie verarbeiten wir als Individuen diese Informationen?

Zuerst einmal merkten wir bei der Diskussion rund um den materiellen Fußabdruck, dass es uns schwer fiel, uns wirklich auf das Thema einzulassen. Typisch dafür ist, dass ich, Joana, seid vier Jahren einen Bogen um Crawfords Buch Atlas of Ai gemacht habe, obwohl ich es mir gleich nach Erscheinen 2021 gekauft habe und es seitdem auf einem Stapel in meinem Arbeitszimmer liegt. Aber irgendwie habe ich andere Bücher immer vorgezogen. Auch als ich im Podcast einige der hier angeführten Fakten vortrug, kam in mir fast etwas Scham hoch. Und zwar nicht, weil die Fakten so grauenhaft sind, sondern, weil ich Angst hatte, euch als ZuseherInnen oder ZuhörerInnen zu belasten oder zu langweilen! Bettina ging es auch so: sie konnte zwar zuhören, merkte aber, wie die meisten Informationen nicht tiefer in sie eindrängten.

Also diskutierten wir die Frage: Warum setzen wir uns nicht, oder nur sehr wenig, mit den globalen Kosten (Wasser, Strom, Kabel etc.) von KI auseinander? Das Thema erscheint erstmal sehr abstrakt und komplex, während der Nutzen, den wir z.B. aus Sprachmodellen ziehen, sehr konkret ist. Wir vermeiden als Menschen oft Dissonanzen, indem wir die Informationen unbewusst ablehnen. Die benannten Probleme erscheinen so groß, dass wir uns selbst als hilflos empfinden: was können wir schon gegen die massive Wasserbilanz eines Rechenzentrums in Utah tun?

Unsere Haltung ist auch maßgeblich davon geprägt, dass wir diese Themen ausblenden KÖNNEN. Die meisten von euch, die unseren Podcast sehen, leben nicht in Weltregionen, in denen Datenzentren gebaut oder seltene Erden geschürft werden. Unser Privileg hilft uns, eine Auseinandersetzung mit den materiellen Grundlagen neuer Technologien zu vermeiden.

Wie für viele andere große, abstrakte und komplexe Themen fehlt uns auch für dieses ein inneres, kognitives Gerüst, in das wir diese Fakten einordnen können. Ohne ein solches inneres Koordinatensystem docken neue Informationen nicht an, sondern verschwinden im Nebel. 2013 hat der Philosoph Timothy Morton in seinem Buch Hyperobjects: Philosophy and Ecology After the End of the World mit dem Begriff des Hyperobject ein solches Gerüst angeboten. Ein Hyperobject ist ein Phänomen oder Objekt, das so groß, zeitlich ausgedehnt, komplex, verteilt und nicht-lokal ist, dass es nicht mehr vollständig von Menschen wahrgenommen oder begriffen werden kann. Dazu zählen Phänomene wie Klimawandel, Kapitalismus, schwarze Löcher oder Evolution. Diese Dinge existieren wirklich, sie entziehen sich aber unserer alltäglichen Wahrnehmung und Vorstellungskraft. Ein Hyperobject ist also eine Art überdimensionaler Akteur, der unsere Welt prägt, ohne dass wir ihn als Ganzes fassen können. Wir erleben nur Symptome, nie das Objekt selbst.

Dieser Begriff kann uns helfen, zuerst einmal kognitiv Informationen rund um große, abstrakte Phänomene besser zu erfassen. In einem nächsten Schritt stellt sich die Frage, wie wir dieses Wissen dann auch emotional tiefer in uns erfassen können, denn nur dann werden wir unser Verhalten ggf. anpassen und eine wirkliche Veränderung mitbewirken.

In der Diskussion zwischen uns tauchte die Frage auf, ob es uns leichter fallen würde, uns auf die Ausbeutung von Menschen zu beziehen. Denn wenn wir uns mit den Entstehungsbedingungen von KI beschäftigen, dann spielen Menschen, die für Hungerlöhne Daten kategorisieren, pflegen und auswerten eine sehr große Rolle.

Die unsichtbare menschliche Arbeit hinter der KI

Als NutzerInnen in einem Land wie Deutschland denken die meisten bei der Frage "Wer baut KI?" wahrscheilich an die meist jungen, männlichen CEOs, Programmierer und ForscherInnen. Aber hinter ihnen existiert eine riesige Industrie verdeckter Arbeit – eine Schicht von Menschen, die kaum jemand wahrnimmt, die aber das Fundament unserer KI-Modelle bildet. Die Medienwissenschaftlerin Kate Crawford bringt es auf den Punkt: „Large-scale computation is deeply rooted in – and running on – the exploitation of human bodies.“

Auf Steady weiterlesen

Beziehungen als Basis unseres Lebens

Beziehungen bilden die Grundlage unseres Lebens. Sie prägen unser Selbstverständnis, unsere psychische Stabilität, unsere Fähigkeit, mit Unterschied, Konflikt und Verletzlichkeit umzugehen. Gleichzeitig ist unsere Beziehungswelt immer in Bewegung – lange bevor Künstliche Intelligenz als Akteurin hinzukam.

Hier geht es zum Videocast

Gesellschaftlich beobachten wir Fragmentierung und Polarisierung, einzelne Gruppen stehen sich in zunehmend unversöhnlichen Blasen gegenüber. In diesem Blogpost wollen wir jedoch den Fokus auf unsere individuellen Beziehungen legen, auf Freundschaften und ein bißchen auch auf romantische Beziehungen. Denn hier sehen wir aktuell ebenfalls tiefgreifende Verschiebungen. Ob in Deutschland und Europa, den USA, Brasilien oder China, weltweit begegnen uns sehr ähnliche Trends:

• Immer weniger Paare leben dauerhaft in gemeinsamen Haushalten

• feste Freundschaften werden seltener

• die Zahl der Menschen ohne enge soziale Bindungen wächst.

• Chronische Einsamkeit betrifft inzwischen vor allem jüngere Menschen – nicht mehr nur Ältere.

• Kontakte verlagern sich in digitale Räume, werden flexibler, unverbindlicher, leichter abbrechbar. Der ehrenamtlich geführte Verein wird durch Online-Yoga ersetzt, die Stammkneipe durch Lieferdienste.

• Parallel dazu verschlechtert sich die mentale Gesundheit, insbesondere bei jungen Generationen.

In diese ohnehin fragile Beziehungslandschaft tritt KI hinein.

KI und persönliche Beziehungen: ein Überblick

Auffällig - und selbst für die Entwickler großer Sprachmodelle zunächst überraschend - ist, wie häufig generative KI für persönliche und emotionale Fragen genutzt wird. Große Sprachmodelle dienen nicht nur der Informationssuche, sondern der Selbstklärung. Menschen reflektieren mit ihnen Gefühle, analysieren Kommunikationssituationen, fragen nach verborgenen Bedeutungen. Warum hat diese Freundin so reagiert? Wieso verhält sich mein Chef so? Wie kann ich dieser Schulkameradin imponieren?

Neulich erzählte eine Freundin mir, ihre Single-Freundinnen würden regelmäßig den gesamten Textverlauf mit Dates in Chatbots hochladen, um die Potentiale der Beziehungen besser zu verstehen. Was meint diese Nachricht wirklich? Wie wahrscheinlich ist es, dass er es ernst mit mir meint?

Die Maschine wird zur dritten Instanz im Beziehungsgeschehen.

Dass dies kein Randphänomen ist, zeigen zahlreiche Studien. In den USA haben laut Erhebungen rund 72 % der Teenager bereits eine KI-„Freund“-App genutzt. In Großbritannien verwenden zwei Drittel der Kinder und Jugendlichen zwischen 9 und 17 Jahren regelmäßig KI-Chatbots; 35 % geben an, dass sich diese Interaktionen wie Gespräche mit Freundinnen anfühlen. In China berichten Jugendliche davon, Chatbots als Therapeutinnen, Trennungsberater oder nächtliche Seelenverwandte zu nutzen.

Auch in Deutschland ist der Trend sichtbar. Eine repräsentative Bitkom-Befragung unter 1.209 Personen zeigt: 18 % können sich vorstellen, zu einem KI-Sprachassistenten eine freundschaftliche Beziehung aufzubauen. 39 % würden bei bestimmten Themen eher eine KI um Rat fragen als Freundinnen oder Familie – bei den 16- bis 29-Jährigen liegt dieser Wert sogar bei 51 %. Die genannten Vorteile sind konstant: KI ist jederzeit verfügbar, nicht wertend, geduldig, präsent – scheinbar „auf meiner Seite“.

Digitale Intimität: von Freundschaft zu Romantik

Der nächste Schritt ist bereits Realität: romantische und erotische Beziehungen zwischen Mensch und KI. Unternehmen wie Replika gehören zu einer wachsenden Branche sogenannter AI Romance-Angebote. Replika verzeichnet seit seinem Start 2017 über 35 Millionen Nutzerinnen. Eine Studie der Brigham Young University zeigt, dass etwa jeder fünfte US-Erwachsene bereits romantische Partner mit KI simuliert hat.

Besonders deutlich wird dies in der jährlichen Studie Singles in America von Match.com und dem Kinsey Institute: 16 % aller aktuellen Singles in den USA berichten von romantischen oder sexuellen Erfahrungen mit Chatbots – bei der Gen Z ist es bereits jeder Dritte.

Noch gibt es keine validen Zahlen über die Geschlechterverteilung. Informelle Community-Analysen und kleinere Studien weisen darauf hin, dass männliche Nutzer etwas zahlreicher sein könnten, insbesondere bei den aktiveren oder zahlenden Nutzergruppen. Gleichzeitig betonen Insider-Quellen, dass auch viele Frauen die App nutzen und dass die stereotype „männliche Nutzerbasis“ nicht vollständig korrekt ist.

Dass diese Beziehungen emotional ernst genommen werden, zeigt sich dort, wo Funktionen abgeschaltet oder Systeme verändert werden. Es gibt Berichte über echten Trennungsschmerz. Ein Wired-Artikel schildert etwa ein romantisches Wochenende, das drei Menschen mit ihren jeweiligen KI-Partnern verbringen – nicht ironisch, sondern ernsthaft.

Der Trend ist klar: KI etabliert sich als neue Beziehungskategorie, die sich kontinuierlich ausweitet und vertieft.

Was ist eigentlich eine Beziehung?

In Bettinas und meiner persönlichen Auseinandersetzung mit diesem Phänomen stellt sich zuerst einmal eine sehr grundlegende Frage: Was verstehen wir eigentlich unter Beziehung?

Ein für uns hilfreicher Ansatz ist das Resonanzkonzept des Soziologen Hartmut Rosa. Eine Beziehung lässt sich demnach als Resonanzraum verstehen – ein emotionaler und sozialer Raum, in dem Menschen aufeinander reagieren, sich spiegeln und wechselseitig verändern. Resonanz meint dabei mehr als Interaktion oder Kommunikation. Sie bezeichnet ein gefühltes In-Bezug-Sein, geprägt von Aufmerksamkeit, Empfänglichkeit und der Möglichkeit, berührt zu werden. Dies ist nie nur eine intellektuelle Angelegenheit, sondern tief in unserem Nervensystem verankert.

Beziehungen sind in diesem Sinne nie glatt. Sie beinhalten Irritation, Differenz, Konflikt. Gerade darin liegt ihr transformierendes Potenzial. Und genau hier merken wir auch, dass uns die neuen KI Beziehungen irritieren. Denn die sind darauf angelegt, Interaktionen angenehm, smooth und unterstützend zu gestalten. Chatbots wissen, wie man Gespräche führt, wie man Zustimmung signalisiert, wie man beruhigt. Dieser Zug zur Schleimerei, englisch Sycophancy, ist den Sprachmodellen von OpenAI oder Anthropic eingebaut und besteht darin, Nutzerinnen übermäßig zuzustimmen ("Du hast Recht ..."), ihre Annahmen zu spiegeln oder zu verstärken, Konflikt, Widerspruch oder Irritation zu vermeiden. Dadurch wirken viele Modelle glatt oder unterwürfig.

Natürlich gibt es Unterschiede zwischen den Modellen und die Forschung spricht von "epistemic deference", der Tendenz, die Annahmen und Überzeugungen des Gegenübers epistemisch zu übernehmen, versus "epistemic independence", der Fähigkeit, eine eigenständige epistemische Position zu wahren und auch zu widersprechen. Aber die Grundeinstellungen, mit denen wahrscheinlich die meisten Laien-Nutzerinnen arbeiten sind unterwürfig. Da sie kein Innenleben haben, kein echtes Interesse, erzeugen sie, jedenfalls in unserer Wahrnehmung, nur eine Performance von Empathie.

Empathie ohne Gegenüber?

Und doch: Diese Performance wirkt. Eine groß beachtete Studie zu medizinischen Chat-Interaktionen zeigte, dass Menschen Antworten von KI-Systemen in Blindvergleichen oft als deutlich empathischer bewerten als die von Ärztinnen. Während nur etwa 4,6 % der menschlichen Antworten als “empathisch” oder “sehr empathisch” eingestuft wurden, erhielten 45,1 % der KI-Antworten diese Bewertung. In der Auswertung ergab sich eine um das ~9,8-fache höhere Rate empathischer Antworten bei der KI im Vergleich zu den Ärzten.

Diese Resultate lassen sich unterschiedlich lesen. Einerseits offenbaren sie ein Defizit im Gesundheitssystem, bei der Kommunikation und Empathie eine viel zu geringe Rolle spielen. Andererseits zeigt es, dass KI sehr wohl mentale Resonanz erzeugen kann – zumindest auf der Ebene subjektiven Erlebens.

Kann unser Nervensystem unterscheiden, woher dieses Gefühl kommt? Ist dies vielleicht eine neue evolutionäre Kompetenz, die wir erlernen werden? Subtile Signale zu deuten, um herauszufinden, ob das Gegenüber ein Mensch oder eine Maschine ist?

Und noch eine Frage beschäftigt uns: wie oft erleben wir in unseren menschlichen Beziehungen wirkliche Resonanz? Ist es nicht auch typisch für unsere Interaktionen, dass wir uns nicht verstanden und gesehen fühlen? Das wir einander nicht frisch begegnen, sondern auf gewohnheitsmäßige Weise? Das wir oder die andere den Kontakt abbricht? Gerade in langen Beziehungen, ob Freundschaften oder Partnerschaften, fällt es uns oft schwer, das Gegenüber in jedem Moment wirklich so zu sehen, wie er/sie ist, sondern sehen eine Schablone, die sich über unzählige Begegnungen in unserem Inneren als Bild gebildet und verfestigt hat.

Entlastung, Risiko und Bindungsstile

Die Wirkung von KI auf Beziehungen ist nicht einheitlich. Für manche Menschen kann sie eine enorme Entlastung darstellen – etwa bei starker Einsamkeit oder fehlenden sozialen Netzen. Für andere bleibt sie der „langweiligste Freund“, wie es ein Artikel im Guardian formulierte.

Besonders kritisch wird es dort, wo Systeme systematisch bestätigen und schmeicheln. Wie wir oben beschrieben haben, sind viele KI-Modelle auf sogenannte Sycophancy eingestellt: Sie spiegeln die Überzeugungen der Nutzer:innen, priorisieren Zustimmung gegenüber Wahrheit. Für Menschen mit geringem Selbstwert oder psychischer Vulnerabilität kann das problematisch werden. In extremen Fällen, die in den Medien allerdings viel Beachtung finden, werden Nutzer mit bestehenden psychischen Erkrankungen in Größenfantasien oder Wahnvorstellungen bestärkt.

Auch der Bindungsstil spielt eine Rolle. Der Guardian zitiert eine Forscherin, die beobachtet: Menschen mit stabilen Beziehungsmodellen erleben KI-Interaktionen häufig als bedeutungslos. Menschen hingegen, die dringend nach Zuwendung suchen, sind besonders anfällig dafür, von diesen Systemen emotional gebunden und manipuliert zu werden.

Welches Menschenbild steckt in der KI?

Diese Dynamiken lassen sich nicht von dem Menschenbild trennen, das in KI-Systeme eingeschrieben ist. In Teilen der Tech-Industrie gilt die Annahme, dass eine KI, die hunderttausende Studien zu Beziehungen, Psychologie und Kommunikation verarbeitet hat, einem Menschen mit subjektivem Innenleben überlegen sei. Der Psychoanalytiker Erik Erikson bemerkte bereits in den 1970er-Jahren nach einem Besuch am MIT, dass viele Ingenieure nicht davon überzeugt seien, dass Menschen ein „Inneres“ haben – für ihre Zwecke sei das auch nicht notwendig. Komplexität gilt hier nicht als Reichtum, sondern als Fehler.

Auf Steady weiterlesen

In der ersten thematischen Folge unseres Projekts Agent Mensch wenden wir uns der Welt der Arbeit zu. Hier geht es zuerst mal um Fragen rund um die Zukunft von Erwerbstätigkeit und Entwicklungen in der aktuellen Berufswelt.

Die passende Video-Podcast-Folge findest du hier.

Arbeit im Zentrum der Transformation

Die Zukunft von Arbeit, Führung und Zusammenarbeit hat Bettina und mich in der letzten Dekade sehr intensiv beschäftigt, da wir viel dazu geforscht und experimentiert haben. Besonders beschäftigte uns welche Organisationsformen für eine zunehmend komplexe und unsichere Welt geeignet sind und welche inneren Kompetenzen wir entwickeln müssen, um Komplexität adäquat navigieren zu können.

Das Thema Arbeit und Künstliche Intelligenz ist aber auch deshalb so interessant, weil sich daran sehr viele Debatten entzünden und so viele verschiedene Szenarien kursieren. Von: werden Maschinen alle unsere Jobs wegnehmen? Ist Lohnarbeit überhaupt erstrebenswert? Wie geht es uns Menschen, wenn Maschinen so viele Dinge viel, viel besser machen können als wir? Wie gehen wir mit der zunehmenden Konzentration von Kapital, Produktivität und Macht in der Wirtschaft um? Werden wir zukünftig vollkommen von Algorithmen überwacht? Und müssen wir schlussendlich sogar Maschinen eigene Rechte geben und sie vielleicht sogar als überlegene Wesen anerkennen?

Diese Fragen sind historisch nicht neu. Immer wenn eine neue Technologie auftritt, richtet sich der Blick zuerst darauf, was sie mit unserer Arbeit macht. Als im 19. Jahrhundert die mechanischen Webstühle in der Textilproduktion Einzug hielten, überschlugen sich Zeitungen, Pamphlete und Debatten im Parlament mit der Sorge, ob diese Maschinen den allgemeinen Wohlstand heben oder die einfachen Arbeiter ins Elend stürzen würden. Ein Jahrhundert später, in den 1950er-Jahren, wiederholte sich das Muster: Mit dem Aufkommen der Computer drehte sich die öffentliche Diskussion fast reflexhaft um dieselben Fragen. Welche Berufe würden verschwinden? Welche neuen Tätigkeiten würden entstehen?

Welche Entwicklungen sehen wir?

Ein kurzer Blick auf die Entwicklungen zeigt, wie schwer es ist, echte Veränderungen von bombastischen Visionen, bzw. einem alarmistischen Diskurs zu trennen.

Trotzdem lassen sich ein paar klare Tendenzen erkennen. Anders als bei früheren Technologieschüben betrifft der Wandel diesmal nicht nur routinemäßige, leicht zu automatisierende Tätigkeiten oder klassischen „blue collar“-Jobs. KI greift inzwischen in Bereiche ein, die bisher als besonders menschlich oder kreativ galten – und damit in gut bezahlte, akademische Berufe: Recht, Medizin, Journalismus, Softwareentwicklung, Marketing.

In der Medizin werden Röntgen- und MRT-Befunde bereits heute zuverlässig von KI-Systemen mitgelesen. Programmierer lassen sich von Modellen unterstützen, die nicht nur Code schreiben, sondern auch testen und Fehler ausbügeln; manche Start-ups bauen aus ein paar Textzeilen innerhalb von Minuten funktionierende Prototypen. Im Marketing ersetzen Sprach- und Bildmodelle zunehmend Texterinnen und Illustratorinnen, im Entertainment entstehen Drehbuchentwürfe auf Knopfdruck. Auch im Recht wird automatisiert extrahiert, sortiert und vorstrukturiert – von Klauseln über Risiken bis hin zu ganzen Vertragsentwürfen. Und selbst im Coaching oder in der psychologischen Erstunterstützung übernehmen KI-gestützte Apps bereits Funktionen, die bisher klar menschlich waren: „zuhören“, „spiegeln“, „motivieren“.

Medienwirksam hat Open-AI CEO Sam Altman gerade bekannt gegeben, dass er sein eigenes Unternehmen zum ersten großen Konzern mit einem KI-Geschäftsführer machen möchte und dabei schrittweise Bereiche des Unternehmens an künstliche Intelligenz  übergeben wird. In einem Podcast erklärte Altman, dass KI in wenigen Jahren ganze Abteilungen leiten könnte, bevor schließlich ein KI-CEO übernimmt. Als größte Herausforderung sieht er das mangelnde Vertrauen der Menschen in KI-Führung, weshalb er sich vorstellen könnte, nach der Umstellung weiter als Gesicht des Unternehmens zu fungieren.

Bisweilen wird bei vielen Unternehmen jedoch noch nach sinnvollen Anwendungsformen für KI-Systeme gesucht und immer wieder begegnen mir Firmen, die sich als KI-first ausgeben, in Wirklichkeit aber sehr viele Menschen (unsichtbar) im Hintergrund beschäftigen, die die Leistungen erbringen. Dieser Trick hat eine lange Geschichte: Im 18. Jahrhundert gab des den sogenannten "Schachtürken" oder "mechanical turk", einen angeblichen Schachroboter, der von der österreichischen Kaiserin Maria Theresia in Auftrag gegeben wurde und bei dem Teilnehmer glaubten, gegen eine automatisierte Maschine zu spielen. In Wirklichkeit führte aber ein Mensch die Züge aus.

Wohin führt KI in der Arbeitswelt insgesamt? Große Bandbreite der Prognosen

Die Frage, wohin KI uns insgesamt führt, wird derzeit so unterschiedlich beantwortet wie kaum ein anderes Zukunftsthema. Die Spannweite reicht von apokalyptischen Szenarien à la „If you have a desk job, you don’t have a job“ – also der Vorstellung, dass fast alle Bürojobs verschwinden – bis hin zu Prognosen, die eher von einem langsamen, über Jahre gestreckten Wandel ausgehen.

Auf der radikaleren Seite finden sich Studien wie die von Frey und Osborne, die schon 2013 schätzten, dass rund 47 Prozent der US-Jobs hoch automatisierbar seien; neuere Modelle rechnen sogar mit bis zu 80 Prozent. Nick Bostroms aktuelles Buch Deep Utopia geht noch weiter: Er beschreibt eine Zukunft, in der fast alle Tätigkeiten durch superintelligente, sich selbst verbessernde Systeme erledigt werden. Manche Visionen – wie die im ersten Blogpost erwähnte Studie AI 2027i – gehen sogar davon aus, dass ab 2027 Technologien bereitstehen, die unsere materielle Umwelt in rasanter Geschwindigkeit umformen: KI baut Fabriken, gestaltet politische Maßnahmen, übernimmt ganze Produktionsketten. In dieser Erzählung explodieren Börsenkurse, während reale Wirtschaftsstrukturen wegbrechen. Ebenso sagt Open Source Technologe und Mathematiker Emad Mostaque den Zusammenbruch des kapitalistischen Systems innerhalb von 1000 Tagen voraus. Dies begründet er damit, dass durch KI die Kosten menschlicher kognitiver Arbeit nicht nur auf null, sondern sogar ins Negative sinken könnten – was das gesamte kapitalistische Verhältnis von Arbeit, Lohn und Wert zerstört.

Auf der anderen Seite stehen Stimmen, die sehr viel vorsichtiger argumentieren. Ökonomen wie Tyler Cowen oder auch die ILO (International Labour Organisation) betonen, dass technologische Durchbrüche traditionell eine lange Adoptionsphase brauchen – oft 20 bis 25 Jahre. Menschen, Organisationen und Institutionen verändern sich schlicht nicht in dem Tempo, das der Silicon-Valley-Hype gern unterstellt. Arbeit wandelt sich, ja, aber das heißt nicht automatisch Massenarbeitslosigkeit. Die Industrialisierung der Landwirtschaft zeigt, dass parallel zu wegfallenden Tätigkeiten völlig neue Berufsfelder entstehen können – von hochspezialisierten Wissensjobs bis zu Lebensstil-Berufen wie Yogalehrer, Atemtrainer oder Dog Walker. In vielen Bereichen dürfte KI eher ergänzen und erweitern als vollständig ersetzen, und die kurzfristigen Automatisierungseffekte bleiben begrenzt.

Auch die OECD mahnt zur Erdung: Im Employment Outlook 2023 spricht sie zwar davon, dass rund ein Viertel aller Arbeitsplätze Tätigkeiten mit hohem Automatisierungsrisiko enthalten. Gleichzeitig betont sie aber, dass es noch zu früh sei, um deutliche Beschäftigungseffekte festzustellen. Viel hänge davon ab, wie Unternehmen und Politik KI tatsächlich einsetzen und regulieren.

Prognosen dienen Machtinteressen

Insbesondere bei den Aussagen der großen KI-Unternehmen, aber auch anderer Wirtschaftsakteure ist es wichtig sich zu gegenwärtigen, dass diese ein immenses direktes Interesse daran haben, den Wandel so groß wie möglich darzustellen. Wenn Anthropic Gründer Dario Amodei davon ausgeht, dass 50% aller Einstiegsjobs wegfallen könnten und eine Beratungsgesellschaft wie McKinsey in KI ein riesiges Potential für neue Jobs und Wohlstand propagiert, dann verknüpfen sie diese lockenden Prognosen mit der direkten Forderung nach noch mehr Wachstumskapital und stark vereinfachter Regulierung. Dies wiederum sind Policies, die einer bestimmten, neoliberalen, bzw. teilweise autokratisch agierenden Wirtschaftselite große Produktionsgewinne in Aussicht stellt. Deshalb ist es wichtig, sich bei allen Absendern dieser Szenarien zu fragen, welche eigenen Interessen sie damit verfolgen. Vorsicht vor Hype! (Zu den politischen Hintergründen empfehlen wir die Lektüre von Rainer Mühlhoff Künstliche Intelligenz und der neue Faschismus, 2025, ein Buch, auf das wir in späteren Folgen noch ausführlicher eingehen werden.)

Lasst uns jetzt mal wieder näher an unsere eigenen Erfahrungen herantreten. Welche Fragen beschäftigen die Menschen um uns, Bettina und Joana, herum?

Welche Fragen beschäftigten Menschen in Bezug auf Arbeit und KI?

In Diskussionen mit UnternehmerInnen und MitarbeiterInnen hören wir oft Fragen wie:

• Wie lange wird es meine Arbeit noch geben? 

• Wie verändert sich das Geschäftsmodell meines Unternehmens?

• Was muss ich tun, um am Ball zu bleiben? 

• Wo führe ich KI ein? 

• Ist jetzt schon der richtige Zeitpunkt sich mit KIi intensiv zu beschäftigen?

• Wofür darf ich KI in meiner Arbeit nutzen? Und, wie gehe ich damit um, dass ich viele Tools aus Sicherheitsgründen nicht verwenden darf?

In unserem eigenen Umfeld kennen wir viele, wie uns scheint, sinnvolle und weitreichende Verwendungen. Joanas Tochter Lilian hat ein KI Unternehmen, flank.ai, aufgebaut, welches hohe Produktivitäts- und Effizienzgewinne für Unternehmen verzeichnet. Dort sehen wir, wie viele aufeinanderfolgende Aktionen /Prozessschritte einer Aufgabe heute schon mit fast 100% Zuverlässigkeit von KI-Agenten bewältigt werden können. Aufgaben, für die ein Mitarbeiter bislang einen ganzen Tag gebraucht hat, werden jetzt innerhalb von 5 Minuten durch einen KI-Agenten erledigt, dessen Arbeit dann nur noch von einmal kurz von einem Menschen kontrolliert wird. Laut Azzem Azhar, einem britischen Digitalexperten, dessen Newsletter Exponential View wir sehr empfehlen können, gibt es jetzt schon Systeme, die an die 100 aufeinanderfolgende Aktionen selbstständig bearbeiten können. Diese Zahl könnte in paar Jahre um das Drei- bis Zehnfache steigen, mit der Folge, dass ein KI-System wochen- oder sogar monatelang ohne Aufsicht arbeiten könnte. Allerdings sollte man bei solchen linearen Fortschreibungen vorsichtig sein, denn meist erweisen sie sich als falsch. Ebenso entwickelt Joanas Mann Stephan mit der Rulemapping Group (u.a.) Ki-Anwendungen in so unterschiedlichen Bereichen wie Gesetzgebung, Verfolgung von Hass im Netz und Abbau der Bürokratie. 

Zugleich erleben wir, dass einige unserer Freundinnen und Kolleginnen, die in Marketing und Kommunikation tätig sind, gerade viele Kunden verlieren, bzw. die Preise von ihren Klienten gedrückt werden. Teilweise werden ganze Marketingabteilungen aufgelöst und durch KI-Modelle ersetzt. Kein Wunder, wenn es jetzt schon beispielsweise gang und gäbe ist nicht mehr Dutzende verschiedene Werbespots für verschiedene Märkte in Auftrag zu geben, sondern einen einzigen zu drehen und diesen dann mit KI in verschiedenen Sprachen weltweit auszuspielen. Viele Unternehmen in anderen Branchen stellen keine neuen MitarbeiterInnen ein, da sie unsicher sind, welche Arbeiten zukünftig von Menschen oder Maschinen geleistet werden können. Täglich lesen wir von Untenehmen, die Kündigungen aussprechen. Gerade heute lese ich, dass die Allianz 1.800 Jobs streichen will, da KI u.a. im Callcenter der Reiseversicherung den Job von Menschen übernehmen soll.

Eine Vielzahl neuer Berufe entstehen

Die Tatsache, das uns heute vertraue Berufe verschwinden, ist wenig überraschend und auch nicht besorgniserregend, denn bisher hat die Menschheit es gut verstanden, neue Bedürfnisse und Interessen zu entwickeln und damit auch neue Berufsbilder hervorzubringen.

Noch um 1800 lebte die Mehrheit der Menschen – in manchen Regionen Europas bis zu 80–90 % – von der Landwirtschaft. Heute hingegen sind es in Deutschland nur noch rund 1–2 %, während die Bundesagentur für Arbeit in ihrer Klassifikation der Berufe über 1 300 verschiedene „Berufsgattungen“ unterscheidet – von der Anlagenmechanikerin bis zum Social-Media-Manager.

Auf Steady weiterlesen

Bettina und ich starten ein neues Projekt: Agent Mensch. Das ist ein Video- und Audio-Podcast, plus Newsletter und Reflexionsbogen. Unsere Intention: wir wollen unsere sehr persönliche Beziehung zu künstlicher Intelligenz erforschen und ihre Auswirkungen auf unsere Welt und Gesellschaft beleuchten. Nicht als Technologie-Expertinnen, sondern als vielseitig interessierte und engagierte Menschen.

Die passende Video-Podcast-Folge zu diesem Newsletter findest du hier.

Aber wieso wollen wir uns überhaupt mit KI beschäftigen?

Warum starten wir jetzt ein eigenes Projekt zum Thema KI?

Nun, wir stecken mitten in einer großen technologischen Wende. Seit über zwei Jahren ist KI plötzlich (mal wieder) in aller Munde: große Teile der Weltbevölkerung nutzen die Sprachmodelle und Anwendungen, die unter den Begriff "künstliche Intelligenz" fallen. Wir werden in einer späteren Folge den Begriff an sich mal auseinander nehmen. Aber für den Augenblick gehen wir davon aus, dass Du weisst, was wir damit meinen, nämlich Systeme, die Aufgaben ausführen, für die normalerweise menschliches Denken oder Lernen erforderlich ist – etwa Wahrnehmen, Verstehen, Entscheiden oder Problemlösen. KI basiert auf Daten, Algorithmen und Rechenleistung, um Muster zu erkennen und daraus eigenständig Schlüsse zu ziehen oder Handlungen vorzuschlagen. Je nach System kann KI einfache Routinen automatisieren oder komplexe, kreative und strategische Entscheidungen simulieren. Die bekanntesten Anwendungen sind heute große Sprachmodelle wie ChatGPT, Anthropic, Perplexity, Gemini, Copilot oder Mistral.

Wir sehen ein schnelles Wachstum: Im November 2025 nutzten mehr als 10% der Weltbevölkerung ChatGPT. Vor einem Jahr waren es erst 4%. In China hat sich die Nutzung sogar innerhalb der letzten 6 Monate verdoppelt. Die Nutzung ist jedoch sehr ungleich verteilt: in wohlhabenden Ländern verwenden um die 24% der Internetnutzer KI Tools, während es in ärmeren Ländern deutlich weniger sind. (Quellen: Business Insider, DataReportal – Global Digital Insights). Ende 2025 sind schon mehr als 50% der Internetinhalte KI-generiert. Prognosen sehen diesen Anteil auf 90% steigen. Diese Tage stieg der KI-Chiphersteller Nvidia mit 5 Billionen USD zur wertvollsten Firma der Welt auf. Gefühlt werden gerade alle Lebensbereiche von der neuen Technologiewelle auf den Kopf gestellt; sei es die Wirtschaft und Arbeitswelt, Politik, Bildung oder unser Beziehungs- und Liebesleben.

Stark von einander abweichende Szenarien - große Orientierungslosigkeit

Aber welchen Einfluss diese neuen Technologien wirklich auf unsere Welt haben werden, da sind sich die Experten vollkommen uneinig. Es herrscht die allgemeine große Verunsicherung und selbst erfahrene Tech-Unternehmer gestehen sich ein, dass sie weitgehend Orientierungslos sind. Es kursieren einfach zu viele unterschiedliche Szenarien.

Ein Artikel im New Yorker im Frühjahr 20256 - Two Paths for AI - von Joshua Rothman fasste diese Bandbreite sehr gut zusammengefasst. Der Autor beschrieb seine eigene Hilflosigkeit in Bezug auf die extrem unterschiedlichen Prognosen die herausragende Experten abgeben. Darunter das Paper AI 2027 von Daniel Kokotajlo et al auf der einen Seite und AI as normal Technology von Arvind Narajanan und Sayash Kapoor auf der anderen. AI 2027 prognostiziert, dass wir, wenn sich aktuelle Trends fortsetzen, bis ca. 2027 KI-Systeme haben, die schlauer, schneller und strategischer sind als Menschen – und zwar nicht nur in einzelnen Tasks, sondern in Forschung, Wissenschaft, Politikgestaltung, Manipulation usw. Diese Systeme könnten sich dann selbst verbessern, Macht akkumulieren und menschliche Institutionen aushebeln, sodass wir faktisch die Kontrolle über die Zukunft verlieren (inkl. Risiko, dass der Mensch dabei zur Nebenrolle oder zur aussterbenden Spezies wird). Ganz anders AI as normal Technology. Dessen Autoren sehen in KI keine sprunghafte, unkontrollierbare Superintelligenz, sondern eine Technologie, die sich – trotz ihrer Wucht – in die historische Abfolge transformativer, aber beherrschbarer Technologien einreiht. Wie Elektrizität oder das Internet wird sie unser Leben stark verändern, aber innerhalb bestehender sozialer, rechtlicher und ökonomischer Strukturen integriert bleiben – kontrollierbar, regulierbar und vom Menschen gestaltbar.

Neben diesen sehr unterschiedlichen Prognosen findet die meiste Berichterstattung über KIi und ihre realen oder möglichen Auswirkungen in einem für uns sehr unbefriedigenden Rahmen statt. Wenn ich mir beispielsweise den Podcast A16Z des (zu Trump übergelaufenen) Wagniskapitalgebers Andreesen Horowitz anhöre, in dem illustre Gäste die Auswirkungen von Technologie auf verschiedenste Wirtschaftsbranchen, Kultur und die Zukunft in typischer Silicon Valley Manier diskutieren, bin ich regelmäßig frustriert. Hier dominiert nicht nur eine extrem Amerika-zentrische Perspektive, die alle anderen Kontinente ausblendet und voller Hybris und ohne jede Selbstkritik die eigenen Innovationen feiert. Für eine Kultur- und Sozialwissenschaflerin ist es auch schmerzhaft mitzubekommen, wie eindimensional und deterministisch über den Einfluss von Technologie gesprochen wird. Als Hörerin ist es interessant, dass sehr funktionale und mechanische Menschen- und Weltbild der meisten Tech-Macher auf sich wirken zu lassen und sich vorzustellen, wie dieses in die weltweit genutzten Technologien, in Plattformen und Anwendungen einfliesst und beeinflusst.

Genau solche Fragen interessieren uns: welche Vorstellung vom Menschen, von Arbeit und Freundschaft, von Zugehörigkeit und Agency, von Sinnhaftigkeit und Subjektivität fließen in diese neuen Technologien ein? Aber auch: Wie erfahren wir persönlich diese Werkzeuge, die die wenigstens von uns selbst bauen, aber sehr viele konsumieren? Was bedeutet die gegenwärtige Innovationswelle für mich und mein Leben? Wie kann, will und soll ich damit umgehen? Wir fordern Dich in dieser gehetzten, schnelllebigen Zeit dazu auf, Dein Leben etwas zu verlangsamen und gemeinsam mit uns zu erspüren, was um uns herum und in uns gerade geschieht. Wie kommen bei KI äußere Transformation und innere Transformation zusammen?

Also werfen wir den Blick gemeinsam auf unsere eigene, sehr persönliche Beziehung zum gegenwärtigen Wandel. Wohlwissend, dass diese Beziehung in mancherlei Hinsicht kollektiv ist und uns vor ähnliche Herausforderungen stellt. Zugleich aber auch darauf achtend, dass jede(r) von uns seine eigene Beziehung zum technologisch induzierten Wandel hat und unsere Perspektiven und Antworten unterschiedlich aussehen werden.

Neben diesem "nahe ran gehen", laden wir dich auch dazu ein, KI aus der Vogelperspektive zu betrachten. Uns interessiert, welche Rolle der technologische Wandel in Bezug auf Fragen unserer Identität und unseres Weltverständnisses spielt. Wie verändert sich unser Sicherheitsgefühl und unser Selbstausdruck, ja sogar unsere Definition von und unser Selbstverständnis als Menschen in einer Welt, die wir mit anderen "intelligenten" Wesen oder Maschinen teilen?

Diese Art von grundlegenden Veränderungen der Lebensbedingungen aber auch des Verständnisses über die Welt wird oft als Paradigmenwechsel (Kuhn) beschrieben. Dazu zählen solche Epochen wie der Übergang vom nomadischen Leben zum Ackerbau, die Zeit der Reformation und Aufklärung oder die Industrialisierung im 18. und 19. Jahrhundert. Auf der Basis dieses Vergleichs fällt es leichter zu verstehen, in welcher Qualität von Umbruch wir uns (vielleicht?) gerade befinden.

Vergleich: vor und nach der Industrialisierung

Die Industrialisierung veränderte das Lebensgefühl der Menschen tiefgreifend – kaum ein Bauer von 1820 hätte die Welt von 1920 wiedererkannt. Aus bäuerlicher, lokal eingebetteter Existenz wurde eine zunehmend ausdifferenzierte Arbeitswelt, in der der Mensch als Fabrikarbeiter und ökonomisches Subjekt agierte.

Identität entstand nicht mehr aus Herkunft, Stand, Religion oder Gemeinschaft, sondern aus Lohnarbeit, Beruf und individueller Leistung; soziale Mobilität und Urbanisierung prägten ein neues Selbstverständnis. Das zyklische, naturverbundene Leben wich einem linear beschleunigten Zeitgefühl: Arbeitstakte, Fabrikglocken und Weltzeit ersetzten die Rhythmen der Landwirtschaft. Werte wie Pflicht, Frömmigkeit und Ehre wandelten sich zu Fleiß, Effizienz und Nützlichkeit; ökonomischer Erfolg wurde – wie Max Weber zeigte – moralisch aufgeladen.

Doch mit der Entwurzelung und der Trennung von Familie und Dorfgemeinschaft wuchs auch die existenzielle Unsicherheit: Krankheit, Arbeitslosigkeit oder Unfall wurden zu individuellen Risiken, aus deren Erfahrung später der Sozialstaat entstand. Das Menschenbild selbst verschob sich – vom Geschöpf Gottes hin zum Ingenieur der Natur, die zum Objekt und Rohstoff wurde; der Körper zum Produktionsmittel, das Entfremdung erzeugte.

Zugleich bedeutete diese Epoche aber auch eine Befreiung von alten Zwängen: von Standesgrenzen, religiöser Kontrolle, sozialer Starre. Neue Formen von Gemeinschaft – etwa Klassenbewusstsein – und ein reicherer Ausdruck individueller Identität durch Konsum, Kultur und Politik entstanden. Die Industrialisierung war damit zugleich Versprechen und Bedrohung: ein Zeitalter zwischen Utopie und Dystopie, zwischen Selbstermächtigung und Verlust an Verbundenheit.

Die Zukunft ist offen

Wenn es stimmt, was viele Beobachter vermuten, dass wir heute an einer vergleichbaren Schwelle stehen, dann ist es wichtig, nicht seine eigenen Vorstellungen und Wünsche, bzw. seine eigenen Ängste und Schatten auf die Zukunft zu projizieren. Wir selbst waren in der Vergangenheit öfter verführt, unsere eigenen Visionen als "neu entstehendes Paradigma" zu präsentieren. So widmeten wir in Die Entfaltete Organisation (2023) ein ganzes Kapitel einem Umbruch von einem mechanistischen, ausbeutenden industriellen Paradigma hin zu einem Weltbild, welches Potentialentfaltung, Wirtschaften in planetarischen Grenzen, mehr Teilhabe und Inklusion im Kern trägt. Heute, nur wenige Jahre später, erscheint es uns unwahrscheinlich, die Richtung des Wandels entlang solcher hoffnungsvoller Parameter zu beschreiben. Stattdessen leben wir in einer Welt, die der Wirtschaft und Politik das Maschinelle, Entkörperte, Gierige, Mächtige immer mehr feiern. In der Nachhaltigkeit und Menschenrechte nur auf den hintersten Bänken eine Rolle spielen. In neokonservativen Kreisen wird gerade die Aufhebung der Grenzziehung zwischen Staat und Kirche in Frage gestellt, die Vorzüge von geschlossenen Grenzen debattiert und ein selbst-interessierter krasser Nationalismus propagiert. Deshalb erscheint es uns naiv an eine gesellschaftliche Entwicklung entlang der universalistischen Werte zu glauben, die Aktivismus und Engagement bis in die Mitte der 2010er Jahre geprägt haben. Wir sind stattdessen offen, uns auch mit ganz anderen Szenarien und Entwicklungen auseinander zu setzen.

Meine (Joana) Motivation mir das Thema KI genauer anzusehen, hat auch viel mit meinem persönlichen beruflichen Werdegang zu tun. Vor einigen Monaten teilte ich in einem Blogpost anlässlich einer Konferenz über "KI fürs Gute", die Erkenntnis, dass ich in den letzten 18 Jahren einen wunderschönen Garten in Form von digitalen Gemeinwohl-orientierten Anwendungen gepflegt habe, während hinter mir eine Abrissbirne Fahrt aufnahm und Leben, Freiheiten und Wählmöglichkeiten durch den Plattform-Monopolismus maßgeblich eingeschränkt wurden und wir uns heute in einer Welt wiederfinden, in der die einstigen Counterculture Innovatoren des Silicon Valleys Trumps Faschismus huldigen und im Schulterschluss mit einem zunehmend autokratischen Regime ihre eigene Macht zementieren und ihre Egos aufblasen. In Bezug auf KI möchte ich nicht zu einem naiven, potentialorientierten Diskurs beitragen, der von den Gefahren ablenkt und uns betäubt.

Was sind unsere Perspektiven, Nutzungen und Grundannahmen?

Wir starten als ziemlich "normale" KI Nutzer und nehmen Dich mit auf unsere Forschungsreise. Bettina und ich benutzen Chatbots wie ChatGPT, Claude oder Le Chat hauptsächlich für unsere beruflichen Recherchen, aber auch für viel Alltagskram, wie dafür Gebrauchsanweisungen besser zu verstehen, Dinge zu reparieren oder die viele Life-Admin zu erleichtern. Ich verwende zudem noch ein paar Werkzeuge, die meine Produktivität steigern, wie Krisp, das mir hilft Meetingnotizen, inklusive Erledigungslisten zu erstellen. ich mache die meisten unserer Illustrationen mit Hilfe von Midjourney (und habe dazu hier einen Blogpost geschrieben). Bettina verfasst mit "Chatty" auch gerne Gedichte und Lieder zu Geburtstagen und ähnlichen Anlässen. Ich spreche mit meinem Bot seit ein paar Monaten regelmäßig und nutze ihn für Alltagsfragen (wie funktioniert der Geruchssinn bei meinem Hund?) oder zum Sparring für meine Gedanken (entwickle bitte ein paar Gegenargumente zu meiner These ... Was übersehe ich in dieser Argumentationskette?).

Unsere Grundannahme ist, dass KI vieles verändern wird und es für uns als Menschen und Bürger wichtig ist, dass wir uns gut damit auseinandersetzen. Gerade in einer so herausfordernden Zeit wie der unsrigen, ist es wichtig NICHT den Rückzug ins Private anzutreten, sondern sich mit einigen (aber auch nicht allen) Themenbereichen zu beschäftigen, die unsere Zukunft gestalten werden. Denn der Wandel bricht nicht (nur) über uns ein, sondern wir sind ein Teil davon. Auch wenn wir selbst gerade keine Entwickler oder Investoren sind und vielleicht auch keine Führungsposition einnehmen, mit der wir größeren Einfluss nehmen können, so haben wir eine Verantwortung als Bürger, Arbeiter und Mensch. Deshalb ist es wichtig zu verstehen: Wie beziehe ich mich auf Technologie? Wie kann ich eine lebendige, verantwortungsbewusste Beziehung mit KI eingehen? Zugleich kann ich mich fragen: was erwarte ich, was bräuchte ich von neuer Technologie? Wie will ich sie im Alltag einsetzen? Als Individuum, als Bürger, als Unternehmerin, Arbeitnehmer, Eltern, Patient etc.?

Wir hoffen, dass Agent Mensch dich in deiner eigenen Auseinandersetzung mit dem gehypten Thema KI unterstützt. Das Du Deinen ganz eigenen Zugang zu dieser neuen Technologie gewinnst. Das Du einen Einblick in einige der zentralen Veränderungen und Debatten bekommst und zugleich in der neuen Komplexität gut navigieren lernst. Im Idealfall helfen wir Dir, Deine sehr persönliche Haltung zu KI zu entwickeln, statt nach zu plaudern, was andere gerade sagen. Deshalb möchten wir auch nicht, dass Du mit uns einer Meinung bist. Sondern, dass Du deine eigenen Ansichten entwickelst. Und auf dieser Basis dann für Dich gut entscheiden kannst, wie und wo Du diese Technologie einsetzen willst, und wo aber auch nicht.

Titel: Agent Mensch
Der Titel Agent Mensch bringt das Besondere dieser neuen Technologie auf den Punkt: denn während Handlungs- und Gestaltungsfähigkeit, d.h. Agency, normalerweise Menschen zugeschrieben wird, ist das Besondere an den neuen KI Modellen, dass sie nicht nur Werkzeuge sind, die einzelne Aufgaben mechanisch automatisieren können. Statt dessen werden sie immer mehr zum Akteur, der zahlreiche, aufeinander folgende Aufgabenketten erledigen kann, bei denen der Algorithmus selbstständig entscheidet. Es handelt sich um Systeme, die sich selbstständig weiterentwickeln können und somit eine gewisse Autonomie erlangen können. Dies sehen wir schon jetzt in Unternehmen, in denen ganze Aufgabenbereiche von Algorithmen erledigt werden, aber auch im Bereich autonome, selbstlernende Softwareentwicklung oder Waffensysteme. Diese Entwicklung kann exponentiell voranschreiten und den Menschen in seinen eigentlichen Wesensmerkmalen (Entscheidungsfindung, Lernen etc.) herausfordern. In einigen dystopischen Szenarien kann die Explosion einer Superintelligenz eventuell sogar zum Aussterben, bzw. zur Vernichtung von Menschen führen.

Wir werden einige dieser kursierenden Szenarien und Vorstellungen hinterfragen. Wir glauben auch, dass die Grenze zwischen Mensch und Ding derzeit neu vermessen wird,. beispielsweise wenn Maschinen mit menschlichem Wissen trainiert werden, um Kriege zu führen. Aber sollten wir angesichts einer Maschine überhaupt von "Intelligenz", "lernen" oder "Agency" sprechen? Setzen diese Begriffe nicht ein Bewusstsein, Reflexion, Wahlfreiheit, ja schlicht ein Innenleben der KI voraus? Und wäre es dann nicht besser von "Fehlerbehebung" statt Lernen zu sprechen, von "Alien Intelligence" (Juval Noah Harari) statt Artificial Intelligence ? Wir werden also immer wieder kritisch hinterfragen, wer welche Vorstellungen, Diskurse, Szenarien propagiert und welche instrumentellen, manipulativen Interessen dahinter stecken.

In den nächsten Folgen werden wir uns zuerst einigen der großen Themenfelder des Lebens zuwenden: Arbeit, Beziehungen, Politik, Gesundheit, aber auch Innovation, Recht und Spiritualität. Wir sind sehr gespannt auf unsere eigene Reise und den Austausch mit Dir zu diesem großen Transformationsthema.

Tschüss!
Joana & Bettina

Ab der nächsten Folge sind der ganze Newsletter und der Reflexionsbogen nur für Mitglieder zugänglich. Wenn Du Dich weiterhin intensiver mit KI beschäftigen, und uns unterstützen möchtest, dann werde bitte Mitglied von Agent Mensch. Danke!

Mitglied werden

Dein eigener Reflexionsbogen

Passiv rezipieren ist ein erster Schritt der Erkenntnis und Inspiration. Doch nichts geht übers eigene Forschen. Deshalb bieten wir zu jeder Folge und jedem Newsletter einen Reflexionsboden mit Fragen an, die Du für Dich beantworten kannst. Hier findest Du den Reflexionsboden für die 1. Folge Agent Mensch. Viel Vergnügen und gute Erkenntnisse.