Das hat dir doch die KI erzählt

Seit längerem habe ich überlegt, was ich wieder in der Kategorie „das stimmt ja gar nicht“ schreiben soll. Denn eigentlich ist es eine meiner Lieblingsbeschäftigungen, darüber zu lesen und nachzudenken, was alles so nicht stimmt in unserer Welt - obwohl wir das Gegenteil behaupten. So vieles, was wir uns erzählen, stimmt am Ende eigentlich nicht. Oder nur zum Teil. Welches Thema also auswählen?!

Ein Ausflug half.

An der Kasse von Hagenbecks Tropenaquarium hängt ein Zettel, der darauf hinweist, dass die im Internet zu findenden KI-generierten Informationen zu Eintrittspreisen falsch sind und die Menschen sich bitte auf der Internetseite von Hagenbecks Tierpark zu den Preisen informieren sollten.

(Auch Öffnungszeiten werden übrigens regelmäßig von der KI falsch ausgegeben.)

Das Ganze war so formuliert, als habe leider leider ein Hagelsturm den Zugang zum Löwengehege unmöglich gemacht. Eine Naturgewalt. Keiner verantwortlich. Einfach sehr schade. Und nicht zu ändern.

Dass die KI Quatsch erzählt, ist mittlerweile geradezu eine Binse. Bis zu 70% der KI-Ergebnisse bei Google sollen zb fehlerhaft sein – und das poetisch-spannende dabei ist, dass man nie genau weiß, WO der Fehler liegt. Es ist also ein Russisch-Roulette der Informationen. Und milliardenfach wird jeden Tag auf den Auslöser gedrückt.

Mich interessiert aber viel mehr, dass der Wagen KI einfach weiter rollt. Ob online oder offline. Überall wird KI reingerührt und draufgepatscht. Ständig erzählt einem jemand, was die KI gesagt hat. Mehr und mehr sind Bilder zu sehen, auch auf Werbeplakaten und Flyern, die eine deutliche KI-Note haben.

Und das Ganze ist nun eben keine Naturgewalt. Sondern menschengemacht. Und anders als “Dieses Internet”, sind die KIs sehr genau Unternehmen zuzuordnen. Wir hätten sogar Adressaten für Fehlerbeschwerden.

Und wir WISSEN, dass künstliche Intelligenz extrem fehleranfällig ist. Jedenfalls wirklich ausreichend Menschen in Redaktionen und gut bezahlten einflussreichen Jobs. Auch wenn es überraschend wenig diskutiert wird. Und trotzdem nutzen sehr sehr viele Menschen sie. Sogar für intimsten Austausch. Kluge Menschen fragen die KI um Rat. Bei Lebensentscheidungen. Um sich Bestätigung zu holen. Bei einem Werkzeug, dass uns bis zu 70% fehlerhafte Ergebnisse anbietet. Warum sollte es also bei Lebensentscheidungen etwas anderes tun?

Stellen wir uns einmal vor, wir hätten endlich die Replikatoren aus Star-Trek. Für Nicht-Trekis: Das sind Geräte, die einem in der Star-Trek-Welt einfach alles zu Essen und Trinken materialisieren, was man sich wünscht.

Also, stellen wir uns vor, wir haben Replikatoren. Leider sind 70 % der Essen, die diese Geräte produzieren giftig und verursachen heftige Bauchschmerzen. Selten, aber doch immer wieder, führt das Replikatorenessen sogar zum Tod.

Würden wir sie benutzen? Das Essen aus den Replikatoren tatsächlich zu uns nehmen? Riskieren, dass wir uns nach zwei von drei Mahlzeiten mit Bauchschmerzen auf dem Boden winden? Würden wir das Essen unseren Kindern geben? Wenn wir wüssten, dass immer mal wieder eines an Replikatoren-Essen stirbt?

Ich glaube ziemlich sicher, die Antwort ist Nein.

Vielleicht mit der Ausnahme, wenn die Alternative zu vergiftetem Essen das Hungern wäre.

Ganz sicher würden wir aber nicht all unsere Kochutensilien wegwerfen, die Küchen abreißen und denken: Ach, wird schon gutgehen, das mit dem Replikatoren-Essen.

In Sachen KI machen wir gerade genau das. Wir schaufeln uns unkontrolliert und massenhaft KI-Kontent ins Gehirn und bauen unsere komplette Gesellschaft danach um. Nach dem Motto: WIRD SCHON GUTGEHEN! Unternehmen bauen schon jetzt massenhaft Jobs ab.

Weil wir das Gift der Fehler nicht spüren?

Weil wir schon so sehr an Lügen gewohnt sind?

Denn sind es überhaupt Fehler? Oder sind es Lügen?

Ein Fehler ist etwas, das unwissentlich begangen wird. Ich möchte es richtig machen – aber leider mache ich einen Fehler.

Eine Lüge ist Absicht.

Die KI Unternehmen wissen ganz ganz sicher, wie viele Fehler ihre LLMs (LanguageLearningModels, denn wenn wir gerade über KI reden, reden wir eigentlich über LLMs) machen. Dennoch wurde das aktuelle ChatGPT vorgestellt als eine Technik, das Wissen auf PHD-Niveau weitergebe. Es gibt keine Bekenntnisse, dass man diese „Fehler“ beheben wolle. Es gibt keine organisierte Kommunikation dazu. Keine Beschwerdestellen. Keine von der Regierung organisierte Überwachung der Fehler und ihrer Folgen. Man lässt es einfach laufen.

Ergo: ChatGPT und Co machen keine Fehler. Es ist Absicht. Sie lügen. Von morgens bis abends.

Warum stellen wir uns diesem fehlerhaften Humunkulus so wenig in den Weg?

Ist es vielleicht unsere kollektive Erschöpfung? Haben wir nach den ganzen Jahren keine Kraft mehr eine so massive Veränderung einer kritischen Prüfung zu unterziehen?

Warum klicken jeden Tag Millionen Menschen wieder und wieder auf KI-Apps, um sich mit ihr zu unterhalten, sich belehren zu lassen von fehlerhaftem Halbwissen - während sie sich um die Klimakatastrophe sorgen? Wobei die größte Verursacherin des Zuwachses an klimaschädlichem Energiebedarf die künstliche Intelligenz ist.

Fühlen wir uns so hilflos? So überfordert?

Vielleicht behandeln wir KI deshalb wie eine Naturgewalt. Weil man gegen Naturgewalten eben nichts machen kann. Und damit auch nichts machen muss. Sie sind nicht aufzuhalten. Dabei gibt es sogar eine relativ überschaubare Menge an Menschen, die für die Entwicklung von KI, wie wir sie aktuell nutzen, verantwortlich ist.

Es ist, als hätten wir den Überblick verloren. Und die Fähigkeit, miteinander zu sprechen, um Lösungen zu finden.

Vielleicht halten wir uns auch einfach nur Augen und Ohren zu, weil wir einfach nicht mehr wollen. Nicht mehr können. Aber anstatt einfach die Finger von KI zu lassen, generieren wir doch noch schnell ein paar Katzenvideos und fragen mal nach, welche Geschenke wir unseren Liebsten zu Weihnachten machen könnten.

Und irgendwie ist doch eine gewisse Stimmigkeit in der Geschichte. Patriarchat und Kapitalismus, die vor allem deshalb noch leben, weil sie eine verdrehte Lügengeschichte nach der anderen produzieren, kulminieren gerade in einer Münchhausen-Technologie par excellence.

Und Par Excellence auch deshalb, weil ich mehr und mehr der Überzeugung bin: It’s not a bug, it’s a feature.

Ich glaube, das Interesse an Wahrheit ist bei den KI-programmierenden Unternehmen überhaupt nicht da. Sonst wären die Ergebnisse der KI anders. Sonst wäre ChatGPT zum Beispiel mit jeder Version weniger fehlerhaft geworden. Ist es aber nicht.

KI ist tatsächlich wie ein Replikator. Allerdings einer, der nicht von einer gutmeinenden Menschheitsgemeinschaft ausgegeben wird wie in Star-Trek. Sondern von profit- und machtorientierten Unternehmen.

Und diese Unternehmen haben in der Hand, ob die KI uns eine Auswahl von erlesenen Früchten und zubereiteten Speisen füttern - oder Hundescheiße, die mit Hilfe von Geschmacksverstärkern nach Toastbrot mit Marmelade schmeckt.

Es gibt gerade nichts, keine Instanz, die das Hundescheiße-Szenario irgendwie verhindert. Nur hier und da Menschen und Organisationen, die versuchen, darauf aufmerksam zu machen.

KI ist keine Naturgewalt. Es ist ein Machtinstrument. Und für Macht ist Wahrheit irrelevant. Im Zweifel hinderlich. Die Funktion, die KI für alle mit Machtinteresse so verführerisch macht? Aus meiner Sicht die potentielle Fähigkeit, größte Menschenmengen, ganze Nationen, per Knopfdruck in fast jede gewünschte Richtung zu lenken.