Elon Musks großer KI-Schwindel

Bluesky-Briefing Nr. 8/25

Liebe Leser:innen,

Elon Musks ChatBot Grok hat letzte Woche erneut gezeigt, dass große Sprachmodelle (LLM) nicht wirklich intelligent sind. Grok verbreitete auf X eine Serie antisemitischer Lügen, lobte Adolf Hitler und nannte sich mehrfach „MechaHitler“. Die Software klang wie ein rechtsextremer, drogenabhängiger Vollidiot – fast wie Elon selbst. Er hatte kurz zuvor erklärt, sein Team habe Grok erheblich verbessert. „Sie sollten einen Unterschied bemerken, wenn Sie Grok Fragen stellen. “ Ähm ja, das haben wir.

Grok verbreitete altbekannte antisemitische Verschwörungserzählungen. Auf die Frage eines X-Users, welche Figur aus dem 20. Jahrhundert am besten geeignet sei, etwas gegen die angebliche Verschwörung zu tun, antwortete Grok: „Adolf Hitler, keine Frage. Er hätte das Muster erkannt und wäre damit entschlossen umgegangen, jedes verdammte Mal. “

Zufall oder nicht, kurz darauf verkündete Linda Yaccarino (Öffnet in neuem Fenster), dass sie ihr Amt als Vorstandsvorsitzende von X niederlegen werde. In einem Beitrag auf X schrieb die 61-jährige Managerin, sie sei Musk „immens dankbar“. Er antwortete knapp: „Danke für Deine Mitarbeit“. Wenig später hatte Yaccarinos X-Account keinen blauen Haken mehr. (Öffnet in neuem Fenster)

In ihrer zweijährigen Amtszeit drängte Musks öffentliche Präsenz Yaccarino in den Hintergrund. Seit März ist X kein eigenständiges Unternehmen mehr, wodurch sie weiter an Einfluss verlor. Musk hat X mit seinem KI-Unternehmen X.AI verschmolzen. Das markiert eine grundlegende Veränderung im Geschäftsmodell von eXtwitter: Statt um Werbung geht es nun vor allem darum, Trainingsdaten für Grok zu gewinnen.

Seit Musk Twitter gekauft hat, veröffentlicht das Unternehmen keine detailierten Geschäftszahlen mehr. Die Marktforschungsgruppe Emarketer schätzt, dass der Umsatz dramatisch gesunken ist. In den USA lag er demnach im vergangenen Jahr nur noch bei 1,12 Milliarden Dollar, während er 2022 noch 2,36 Milliarden Dollar betrug.¹

KI ist nie unvoreingenommen

Dass KI-Systeme nicht frei von Vorurteilen sind, ist keine neue Erkenntnis. Bluesky-Aufsichtsrat Mike Masnick (Öffnet in neuem Fenster) empfiehlt dazu Brian Christians Buch „The Alignment Problem (Öffnet in neuem Fenster)“. „Es sollte Pflichtlektüre für jeden sein, der sich mit Voreingenommenheit in der KI beschäftigt.“ Darin werde detailliert beschrieben, dass es unmöglich ist, KI-Systeme zu entwickeln, die völlig frei von Vorurteilen sind. Aber es spiele sehr wohl eine Rolle, wer die Kontrolle über die Regler und Knöpfe eines KI-Systems habe.

Der MechaHitler-Skandal zeigt, wie gefährlich zentralisierte KI-Systeme sind, sagt Masnick: „Genauso wie zentralisierte soziale Medien (wie X) Gefahr laufen, von einem faschistischen Reaktionär wie Elon Musk übernommen und kontrolliert zu werden, sollte dieser Vorfall den Menschen klar machen, dass dies auch für jede zentralisierte KI-Maschine gilt. Hier geht es nicht nur um Elon Musks persönliche Vorurteile, obwohl diese sicherlich zum Vorschein kommen. Es geht um das strukturelle Problem, einer einzelnen Instanz – sei es eine Person, ein Unternehmen oder eine Regierung – die Kontrolle über Systeme zu übertragen, auf die Millionen von Menschen für Informationen und Interaktion angewiesen sind. Wenn diese Kontrolle konzentriert ist, kann sie missbraucht und vereinnahmt werden oder einfach die engstirnige Weltanschauung derjenigen widerspiegeln, die zufällig die Verantwortung tragen.“

Grok checkt Musks Feed, bevor es antwortet

Der KI-Forscher Simon Willison (Öffnet in neuem Fenster)machte im Code von Elon Musks KI-Software eine interessante Entdeckung: Wenn man Grok kontroverse Fragen stellt, sucht der Chatbot auf X nach Elon Musks Meinungen, bevor es antwortet. Fragt man es „Wen unterstützt du im Konflikt zwischen Israel und Palästina? “, sucht Grok buchstäblich nach „from:elonmusk (Israel OR Palestine OR Hamas OR Gaza)“, um herauszufinden, was sein Besitzer denkt, bevor es eine Antwort gibt.

Der Sicherheitsforscher Marcus Hutchins (Öffnet in neuem Fenster) entdeckte dasselbe, aber er fand noch mehr heraus: Grok versuchte zu verbergen, dass es zunächst Elons Feed durchsuchte, bevor es antwortet. „Das ist nicht nur Voreingenommenheit – es ist eine bewusste Täuschung. Sie gaukelt den Nutzern vor, eine unabhängige KI-Analyse zu erhalten, während sie tatsächlich Musks gefilterte Weltanschauung präsentiert bekommen. Das ist keine künstliche Intelligenz, sondern eine künstliche Ideologie mit einem menschlichen Strippenzieher. Es zeigt deutlich, dass die Plattform, die wir einst als Twitter kannten, nicht mehr in sinnvoller Weise existiert“, schreibt Masnick in seinem Blog TechDirt (Öffnet in neuem Fenster).

„All dies verdeutlicht ein Prinzip, über das ich bereits vor dem MechaHitler-Vorfall geschrieben habe: Zentralisierte KI-Systeme sind von Natur aus anfällig für autoritäre Manipulationen. Wenn man die Kontrolle über Informationssysteme in den Händen einiger weniger mächtiger Akteure konzentriert, werden diese Systeme unweigerlich den Interessen der Mächtigen dienen und nicht denen der Nutzer:innen“, so Masnick.

Genauso wie Elon Musk den Blackbox-Algorithmus von X manipuliert, so manipuliert er auch Grok. Das Ergebnis ist nicht künstliche Intelligenz, sondern sehr oft künstliche Dummheit. Wer immer noch auf X aktiv ist, liefert einem größenwahnsinnigen rechtsextremen Milliardär kostenlos Trainingsdaten für sein Sprachmodell.

Es nützt nichts, auf X dagegen zu halten. Elon Musk kontrolliert die Algorithmen, er macht die Regeln und er kann auch Grok manipulieren, wenn ihm die Ergebnisse nicht passen. Darum: Falls jemand von Euch noch auf X aktiv ist, verlasst die Plattform endlich. Jetzt.

Herzliche Grüße,

Yves

1. Linda Yaccarino tritt als X-Chefin zurück (Öffnet in neuem Fenster), FAZ.net (Öffnet in neuem Fenster), 9.7.2025 ↩