Wie schützen wir die Demokratie vor Tech Bros und KI?

KI ist eine Maschine, die Vermögen von unten nach oben pumpt. Sie erspart Unternehmen Kosten, indem sie Jobs überflüssig macht. Nicht unbedingt weil sie diese Jobs besser erledigt, sondern weil sie billiger ist als ein Mensch.

Gleichzeitig brauchen diese Unternehmen unsere Daten, unsere Texte, unsere Kunst, um ihre KI-Systeme zu trainieren. Doch während sie mit den Ergebnissen Milliarden machen, sehen die Urheber:innen – Künstler:innen, Journalist:innen, Musiker:innen – davon nichts. Stattdessen konkurrieren sie plötzlich mit Maschinen, die ihre eigenen Werke nachahmen und sie damit obsolet machen. Und je mehr Menschen ihre Jobs verlieren, desto ärmer wird die Gesellschaft. Der Wert, den die KI erzeugt, geht nicht an die Gesellschaft – sondern an einige immer reichere Unternehmen.

Auf welche Zukunft steuern wir im schlimmsten Fall zu? Und wie können wir umsteuern?

Hier kommt das automatisch erstelle Transkript zur Sendung.

Transkript

hauseins:

[0:00] Haus 1 und Perspective Daily präsentieren Wind und Wurzeln.

O-Töne:

[0:05] Aber ich kann sehr viel glauben, dass was wir als Arbeit wirklich verändert werden. Und von unserer Reference-Perspektive, es würde vielleicht eher weniger als Work als was wir jetzt machen. Ich kann auch glauben, dass die soziale Kontrakte verändert werden, besonders wenn es eine Transition passiert, wo es fast passiert. Ich habe einen Short-Term Worte als wir durch diese Transition gehen, aber... Man, I'm so willing to bet on human drives being what they are. And I think we'll find plenty of things to do.

Marina:

[0:42] Nicht mal ich kann dem Thema KI entkommen, so sehr ich es auch versucht habe. Weil da vieles ist, wo wir einfach am Thema vorbeireden. Was wir im Kern kritisch hinterfragen sollten. welche Arbeitsmodelle KI vermeintlich ersetzt und was sie dabei wirtschaftlich in Wirklichkeit bewirkt. Es gibt diverse Mechanismen, WKI jetzt schon dafür sorgt, Kapital, Daten und Internet-Traffic an sich zu reißen und zu zentralisieren, während sie die Geschäftsmodelle, auf deren Daten sie basiert, kannibalisiert. Klar beobachtbar der Diebstahl von Kunst, Musik, Videos und Texten, auf denen generative Modelle trainiert werden und dann selbst Inhalte generieren, die den ursprünglichen KünstlerInnen Konkurrenz machen und sie gleichzeitig am Gewinn natürlich nicht beteiligen. Dann sehen wir zunehmend, wie Chatbots Suchmaschinen und Journalismus ersetzen, indem sie direkt Antworten aus Blogs und Zeitungen extrahieren, ohne dass der Nutzer diese Websites anklicken muss. Dadurch gehen die Werbeeinnahmen und Views auf den Seiten verloren, die die Inhalte zur Verfügung stellen. Die Nutzung der KI erhöht sich. Und das ist offensichtlich ein Problem. Demokratie braucht Journalismus.

Marina:

[2:04] Wenn der aber nicht mehr geleistet werden kann, weil er keine Einnahmen erzielt, dann wird die KI sich in Zukunft nicht mehr auf die Arbeit von JournalistInnen verlassen können, sondern wird sich statistisch etwas Plausibles zusammenreimen. Zuletzt kann KI womöglich nicht meinen Job ersetzen. Aber vielleicht interessiert das meinen Chef einfach nicht. Denn KI ist günstiger als ein Mitarbeiter. Je mehr Menschen ihre Jobs verlieren, desto ärmer wird die Gesellschaft. Der Wert, den die KI erzeugt, geht aber nicht an die Gesellschaft, sondern an einige immer reichere Unternehmen. KI ist derzeit eine große Umverteilungsmaschine von unten nach oben. Und genau deswegen müssen wir darüber sprechen. Und damit herzlich willkommen zu Wind und Gewurzeln. Schön, dass ihr wieder dabei seid. Nehmt euch eine Tasse Tee. Wir legen los.

O-Töne:

[3:07] I think the permanent underclass attitude is that you're either in the AI industry or you're irrelevant to anyone because AI is going to do everything, perform every job, become smarter than a Das.

Marina:

[3:22] Ist Kyle Chaker. Er ist Redakteur beim New Yorker und schreibt dort eine Kolumne über das Internet. Anfang Oktober erschien sein Text Will AI trap you in the permanent underclass? Und der schlug einige Wellen. Kyle beschreibt darin, wie die Idee einer permanenten Unterschicht, er spricht damit von einem neuen Lumpenproletariat, gerade als Witz in Silicon Valley die Runde macht. Wir haben mit ihm darüber gesprochen, warum er diese Idee, die ja nur ein witziges Meme war, dann doch irgendwie ernst genommen hat.

O-Töne:

[3:56] Well, I was seeing that phrase permanent underclass definitely as a meme or a joke on X and kind of across social media, particularly from Silicon Valley people, like really insider niche engineers and meme accounts and investors, they were talking about this permanent underclass. Und ja, es ist ziemlich lustig als ein Witz. Ich denke, Silicon Valley ist immer immer wieder zu entwickeln, und es ist immer bemüht auf tech workers zu werden, und die resten uns nicht. Aber das hat sich mehr zu haben. Und ich denke, ich habe das Idee mehr zu machen, particularly wenn die News kam, dass Meta war zu pay AI researchers hundreds of millions of dollars in salary.

Marina:

[4:46] Das Geschäft mit KI in den USA ist gerade ein Milliardengeschäft und die Gehälter, die da teilweise gezahlt werden, sind einfach krass.

O-Töne:

[4:53] There was this burgeoning talent war for AI researchers and they were just getting paid utterly incredible or insane amounts of money. And that made me think about the permanent underclass idea, like that kind of extreme economic inequality where their income is just orders and orders of magnitude higher than a normal person's even just as salary.

Marina:

[5:16] Kyle bemerkte vor allem eine riesige Ungleichheit, die zwischen Leuten in der KI-Branche und ganz normalen Jobs und Gehältern entsteht. Kyle hat uns erzählt, dass es eben dieser Kontrast war, der ihn nachdenklich gestimmt hat. Die Realität der Millionen und Milliarden, die gerade im KI-Geschäft normal sind. Und daneben die Witze, die man in der Silicon Valley Tech Bubble über Jobs macht, die keiner mehr braucht, weil die KI sich ja erledigen kann. Für diese Leute, auch wenn sie es als Witze und Memes tarnen und sich damit auf den Standpunkt zurückziehen wollen, es sei ja nicht so ernst gewesen, sind manche Menschen einfach ersetzbar und in ihrer Welt wertlos.

O-Töne:

[6:25] Worthless is, right? I mean, I think that concept that either you're getting automated or you own the machine, I think that's the divide of the permanent underclass.

Marina:

[6:35] Und damit stellt sich Kyle genau die Frage, die mich auch umtreibt. In was für eine Zukunft blicken wir da eigentlich, in der Menschen für die Wirtschaft unnütz sein sollen? Und wie wahrscheinlich ist es, dass diese Zukunft kommt? Die letzte Frage kann im Moment wohl niemand eindeutig beantworten, denn aus dem Silicon Valley hören wir seit Jahren Versprechen und Visionen, die nicht selten illusorisch und komplett übertrieben sind.

O-Töne:

[7:02] I think Silicon Valley is always delusional. So it's kind of, you have to analyze their own myth-making to figure out where they're going or what they're aiming for. So I think because they're talking so much about that, tech entrepreneurs and startup founders are thinking of this as a real thing. Whether it will actually happen or not.

Marina:

[7:41] Wie Karl sagt, hängt alles davon ab, wie gut KI wirklich wird. Einige im Silicon Valley versprechen jetzt schon, bis 2030 wird sie mindestens so gut sein wie ein Mensch. Das sagt unter anderem Sam Altman, der CEO von OpenAI. Aber vielleicht muss er das auch sagen, damit die Leute in seine Firma investieren und er noch reicher wird? Was ist wirklich dran an der Idee von der sogenannten Artificial Generative Intelligence, kurz AGI? Also einer KI, die die Fähigkeit besitzen soll, jede noch so schwierige intellektuelle Aufgabe zu verstehen oder zu lernen, die ein Mensch ausführen kann. Eine KI also, die bei der Lösung der meisten Aufgaben, zumindest wenn es um intellektuelle Lösungen geht, menschliche Fähigkeiten übertrifft.

O-Töne:

[8:36] Wenn wir über AGI reden, dann sehen sie eben eine Welt, die alles besser machen wird. Ich kann leider nicht mehr ins Detail gehen, weil es ist genau dieses Versprechen, was halt eben der Investoren gemacht wird.

Marina:

[8:47] Das sagt Aya Jaff. Aya ist Unternehmerin und Autorin des Buchs Broligarchie. Sie hat selbst einige Jahre in Tech-Startups in Silicon Valley gearbeitet. Sie kennt die Branche also von innen und sie weiß auch, dass die Visionen und die Versprechen, die Firmengründer und CEOs im Silicon Valley machen, oft nicht mehr sind als heiße Luft.

O-Töne:

[9:07] Es verläuft sich ins Nichts. Es ist etwas, was im Verborgenen bleibt, weil sie sich winden wollen von allen Versprechungen, von allen Bedingungen. Sie wollen eigentlich einen wunderbaren Case einfach aufbauen, mit dem sie in diesen Raum gehen können und sagen können, ich brauche... XY amount of billions of dollars. Also ich brauche einfach dieses große Geld, ich brauche die große Geldmenge, um diesen Traum wirklich wahr werden zu lassen. Und das ist zu Recht etwas, was mittlerweile auch als Kunstwort verschrien wird. Also das Wort AGI, das Wort KI sind Worte, die künstlich aufgebläht wurden über die Zeit und auf eine undefinierte Art und Weise dafür sorgen sollen, dass sich die Welt zum Besseren wendet.

Marina:

[9:55] Aya sieht das Gerede um die AGI, die schlauer ist als wir Menschen, deswegen sehr kritisch. Sie ist eine von vielen BeobachterInnen des Silicon Valleys, die prophezeien, dass die Blase bald platzen wird, dass das alles nichts weiter ist als ein großer Hype, um richtig viel Geld zu machen. Noch mehr Geld, denn wir reden hier jetzt schon von superreichen Männern. In ihrem Buch schreibt Aya Jav von einer Broligarchie.

O-Töne:

[10:21] Also Boligarchie beschreibt eine kleine Gruppe aus hauptsächlich Männern bzw. Männern, die vor allem viele Technologie-Businesse führen bzw. Unternehmen, die viel mit Technologie zu tun haben. Und die unglaublich reich, privilegiert sind und auch politischen Einfluss ausüben. Und diese Welt ist quasi für mich mit dem Wort Broligarchy eine Welt, die ich kenne aus dem quasi diesem ersten Wort Tech Bro, der ein bisschen auch beschreibt, wie diese Menschen vom Charakter her sind, sowie eben ein politisches System auch, Oligarchie. Das heißt, hier haben sich Menschen wirklich an die Spitze zusammengetan und arbeiten miteinander, die sehr ähnlich denken. Und ich beschreibe im Buch, um welche Ideologie es geht und was diese Menschen antreibt.

Marina:

[11:17] Und diese Ideologie hat auch eine ganz bestimmte Vision von der Welt in der Zukunft, die auf den ersten Blick gut klingt. Nach einer Welt, wie wir sie uns eigentlich alle wünschen.

O-Töne:

[11:29] Also was mir aufgefallen ist, ist, dass sie, um diese Welt zu beschreiben, ganz ähnliche Worte verwenden, wie ich sie jetzt verwenden würde, wenn ich die Welt in 20, 30 Jahren beschreiben müsste. Wenn ich sie beschreiben müsste, würde ich die Worte nennen wie, ich möchte in Freiheit leben, ich möchte demokratisch leben, ich möchte so leben, dass es uns allen gut geht. So ganz basic.

Marina:

[11:52] Das würden wir vermutlich alle unterschreiben, oder? Die Frage ist nur, ob ihr, ich und Aya mit den Worten Freiheit, Demokratie und gutem Leben dasselbe meinen wie die Tech Bros.

O-Töne:

[12:04] Was ich dann bemerkt habe, was sie tun, ist, dass sie dieselben Worte nehmen und sie aber ummünzen. Das heißt, wenn sie von Freiheit sprechen in 20, 30 Jahren, dann sprechen diese Menschen ganz oft von einer Freiheit von Regulation. Das heißt, sie wollen nicht reguliert werden, einer Freiheit, sich überall erklären zu müssen, eben eine Freiheit von demokratischer Kontrolle und eine Freiheit, das zu tun als Unternehmer, was sie halt eben am besten machen können, tun, wollen, nämlich Kapital anzuhäufen ohne Grenzen. Und das ist etwas, was sie immer wieder skizzieren als Unternehmer. Wirklich den Status, den sie anstreben, den sie erreichen wollen, ob das jetzt so ist, wie jetzt im Beispiel Tim Draper, ein Milliardär, bei dem ich eben am Anfang war, der dann sagt, okay, wir müssen Kalifornien komplett aufspalten, weil Silicon Valley muss für sich alleine stehen. Silicon Valley braucht seine eigenen kleinen Experimentierfelder, wo kein Recht herrscht.

Marina:

[13:05] Die Freiheit, von der die Proligarchen träumen, das ist vor allem eine Freiheit von. Ist keine Freiheit, die wiederum ihre Grenzen in der Freiheitsausübung anderer Menschen findet, so wie ich mir Freiheit vorstelle oder unser Grundgesetz. Andere Menschen, die sind für die Silicon Valley Bros ohnehin, sagen wir mal, nicht zentral. Wer sich um jeden Preis von Gesetzen und Konventionen oder Verpflichtungen befreien will, der will sich ja davon befreien, auf andere Menschen Rücksicht zu nehmen. Was zählt? Das ist das Kapital. Ihr Kapital. Das Kapital ihrer Firmen. Nur wo bleiben da Werte wie Verantwortung oder sogar Gerechtigkeit?

O-Töne:

[13:49] Es ist schwierig, mit dem Wort Gerechtigkeit zu kommen, weil das ist auch einer dieser Worte, die sie natürlich auch jetzt für sich nutzen und umdefiniert haben.

Marina:

[13:59] Okay, Mist.

O-Töne:

[14:00] Wenn ich beispielsweise, wahrscheinlich, ich kann nicht für ihn sprechen, aber ich kann mir gut vorstellen, dass wenn ich auf einen Milliardär wie Tim Draper zugehe, der weder jetzt super links noch rechts ist und ihn frage, was ist Gerechtigkeit, dann sagt er, naja, gerecht ist, wenn eine Gruppe von Menschen, die wirklich einen Zugang hat zur Technologie, wie beispielsweise KI, dafür sorgt, dass allen Menschen irgendwie gerecht die Ressourcen zugeteilt werden. Ich kann mir vorstellen, dass er sich damit rühmt, dass er sagt, ja, wir benutzen jetzt Technologie, um die Welt besser zu machen. Und dann sind wir da fein raus, weil ich definiere ja gar nicht, was gerecht ist, sondern die Technologie macht das. Und die Technologie müssen wir eben jetzt stärken und aufbauen. Man denkt, die Technologie ist die Antwort auf alles. Deswegen wird man, glaube ich, durchaus Milliardäre treffen, die sich von dieser Frage ein bisschen befreien wollen, was jetzt dann gerecht ist am Ende. Weil sie wissen es ja noch gar nicht, aber sie arbeiten ja alle jeden Tag, Tag und Nacht daran, dass sie das beste System herausfinden durch das. KI.

Marina:

[15:08] Okay, wow. Ich meine, wir Menschen diskutieren mindestens seit der Antike über Gerechtigkeit. Unzählige philosophische Texte sind dazu schon erschienen und es gab und gibt Debatten auf der ganzen Welt. Bis heute ist es in der Philosophie und in der Politikwissenschaft sehr unterschiedliche Sichtweisen darauf, was gerecht ist und was nicht. Was soll schon dabei schief gehen, einer KI die letztendliche Definition darüber zu überlassen? Tausende Jahre Philosophie hin oder her. Das Problem ist nur, ich meine das ironisch, falls man das nicht gehört hat, die meinen das aber ernst und nicht wenige im Silicon Valley denken, dass auch solche Fragen von einer AGI in Zukunft ein für allemal beantwortet werden. Stellt euch vor, all die Probleme, die wir heute haben, Klimawandel, Krankheiten, Armut und Wohnungsnot, die werden einfach von einer KI gelöst, die viel besser darin ist, Probleme zu lösen als wir.

O-Töne:

[16:06] Das ist das Versprechen, was zumindest aufgebaut wird. Und das wird ja auch von den Tech Bros sehr stark, sage ich jetzt mal, mit sehr vielen Bildern bestückt. Also die Fantasie ist da so lebendig, so quicklebendig, dass wir ja schon ganz viele Bücher zu diesen Szenarien haben. Aber ich finde, das ist so ein bisschen wie, als man sich 1980 vorgestellt hat, wie denn die Welt 2020 sein wird.

Marina:

[16:46] Lasst uns die Zukunftsvision noch ein kleines bisschen weiterspinnen, bevor wir uns wieder ganz fest in der Realität verankern. Eindreh noch, okay? Wenn die KI, die schlauer ist als wir Menschen, also die AGI, wirklich kommt, sind Menschen in einer Wirtschaft, die dann entsteht, einfach nichts mehr wert?

O-Töne:

[17:06] Unter der Voraussetzung, dass es da noch eine Wirtschaft gibt. Also wenn wir über AGI reden, da reden wir über etwas sehr Krasses. Das müssen wir einmal ganz klar machen.

Marina:

[17:15] Das ist Dirk Walbrühl. Er ist Autor für Digitalisierung und Kulturkonflikte bei Perspective Daily und beschäftigt sich seit bald zehn Jahren mit der Digitalisierung und auch KI. Und Dirk sagt, wenn die AGI tatsächlich kommen sollte, dann wären die Folgen für uns überhaupt nicht überschaubar.

O-Töne:

[17:35] Man kann das sehr schön vergleichen mit der Erschaffung quasi von etwas, was, da können wir darüber diskutieren, ob das irgendwie lebendig dann ist, im weitesten Sinne, je nachdem wie mein Leben definiert, aber AGI, also wenn wir darüber reden wollen, ist etwas sehr Extremes. Am besten vergleichbar quasi mit so einer Art von Evolutionssprung. Man kann sich so vorstellen, der Unterschied zwischen uns und AGI könnte, also wir wissen ja nicht genau, was dann passiert, könnte tatsächlich irgendwie wieder Unterschied zwischen Affen und Menschen sein. Nur, dass wir in dem Fall dann die Affen sind. Die Affen können auch nicht spontan entscheiden, dass die Menschen wieder loswerden. Das ist Quatsch.

Marina:

[18:06] Geht euch das auch so? Daran habe ich noch nie gedacht, dass die Affen auch keine Wahl haben. Sie müssen mit dem Menschenleben, einem Evolutionssprung, der ihnen einfach so passiert ist. Und so werden wir dann auch mit dem leben müssen, was auch immer entsteht, wenn die KI tatsächlich selbst lernt und immer schlauer wird. Schlauer als wir selbst.

O-Töne:

[18:27] Das sollte uns besorgen, ja. Etwas, was intelligenter als wir ist, können wir uns extrem schwer vorstellen, weil wir ja in unserer Intelligenz gefangen sind. Was dann ein solches System macht, wie das aussieht, welches Potenzial es hat, das können wir schlichtweg nicht sagen. Aber darüber reden wir, wenn wir über AGI reden. Und dann tatsächlich ist halt natürlich die Frage des Alignments, das ist die große Frage in der Forschung, nämlich ob die AGI diese Superintelligenz dann mit menschlichen Zielen übereinstimmt oder nicht.

Marina:

[18:59] Und da sind wir wieder bei der Idee, dass wir die KI einfach alle unsere Probleme lösen lassen. Das ist nämlich vielleicht gar keine so gute Idee.

O-Töne:

[19:08] Wenn wir der AGI dann auftragen, löst doch mal bitte die Klimakatastrophe für uns. Und wenn die AGI dann findet, naja, kann ich machen, aber irgendwie das Problem ist ja der Mensch, also muss der Mensch weg. Dann wäre das ein Alignment-Problem, denn der Mensch möchte ja weiterleben im weitesten Sinne. Und wir müssen sicherstellen, dass falls es so etwas geben kann, wie eine Artificial General Intelligence, dass die natürlich irgendwie mit unseren Bedürfnissen weitgehend konform ist. Und jetzt kommt eine andere Schwierigkeit, welche Bedürfnisse, unsere Bedürfnisse, die deutschen Bedürfnisse, die US-amerikanischen Bedürfnisse, die russischen Bedürfnisse, das ist ja alles sehr unterschiedlich und da arbeiten sehr schlaue Teams in sehr gut bezahlten Unternehmen daran, um das zu versuchen sicherzustellen.

Marina:

[20:00] So und damit machen wir dem ganzen Kristallkugelgeglotze auch ein Ende. Denn wenn ihr genau zugehört habt, dann werdet ihr gemerkt haben, dass es alles ganz schön viel könnte, würde, hätte, also Konjunktiv und Prophezeiungen. Und wie Ayadjav schon sagte, diese Prophezeiungen, die dienen vor allem dafür, Investoren zu überzeugen, Milliarden von Dollar in KI zu investieren. Zur Realität gehört aber, im Moment machen die KI-Unternehmen keinen Gewinn. Sie sind bisher ein Minusgeschäft. Rendite gibt es einfach nicht. Sie leben in einer winzigen Bubble aus Unternehmen, die zwar im Moment am Aktienmarkt noch milliardenschwer bewertet werden, die sich aber vor allem gegenseitig finanzieren.

Marina:

[20:50] OpenAI kauft Chips von NVIDIA und dafür investiert NVIDIA in OpenAI. Dasselbe mit AMD und Microsoft. Es gibt eine Grafik, die wir euch in den Shownotes verlinken, die aufzeigt, OpenAI und NVIDIA treiben den Milliarden-Dollar schweren KI-Markt mit einem Netz von Kreislaufgeschäften an. Das, wovon sie wirklich leben, das hat mit Technologie wenig zu tun. Wenn man ganz genau hinsieht, dann wird klar, sie leben vor allem davon, eine gute Story zu verkaufen. Und je nachdem, wann ihr diesen Podcast hört, ist der nächste Satz vielleicht schon Realität. Die KI-Blase, da sind sich die meisten ExpertInnen einig, wird platzen. Aber bis dahin, bis dahin versuchen die Unternehmen, so viel Geld wie möglich abzugreifen.

O-Töne:

[21:42] Wenn sich jetzt irgendwie Sam Altman hinstellt und sagt, hey, in 2027 haben wir AGI, dann ist ein Großteil davon einfach Marketing. Das mag widersinnig klingen, was ja erstmal so ein Horrorszenario ist oder sein könnte. Aber er betont quasi, wie kompetent er und sein Unternehmen dabei ist irgendwie und wie krass das ist und wie schnell das die Welt revolutioniert. Und in gewisser Art und Weise, dass er auch der Einzige ist, der irgendwas daran regulieren kann, weil er die Ahnung davon hat und die meisten Politikerinnen und Politiker bei AGI eher mit den Schultern zucken und nicht genau wissen, was das ist.

Marina:

[22:15] Was wir deshalb mal zusammenfassen sollten. Kyle, Aya, Dirk haben uns alle erzählt, dass die Fantasie im Silicon Valley keine Grenzen kennt. Dass dort alle sehr viel erzählen, wenn der Tag lang ist. Es sind einfach gute Storyteller. Dass es aber immer darum geht, Investoren zu kriegen. Ob die AGI tatsächlich möglich ist, das weiß im Moment niemand. Wenn sie Realität werden sollte, dann ist das eine so krasse Veränderung, dass wir es uns gleichzeitig aber auch nicht leisten können, uns auf diesen Worst Case gar nicht vorzubereiten. Es wäre jetzt und heute nicht klug, sich auf den Prognosen auszuruhen, die sagen, ach, das wird schon nicht passieren. Das haben uns alle drei sehr klar gesagt.

O-Töne:

[23:00] Wenn man AI ist, wenn man AI ist, wenn man AI ist superhuman und schnell denkt besser als uns und mit besseren Ideen ist, dann wir in für eine reale Permanente Unterklasse oder eine reale Hierarchie von.

Marina:

[23:19] Sagt Kyle. Und Dirk meint.

O-Töne:

[23:21] Man muss das ernst nehmen, weil das eine ernste Sorge ist, genauso quasi wie die großen Sorgen unserer Zeit oder der Generation vor uns Nuklearkrieg waren, ist auch nicht passiert, wo dann Menschen Entscheidungen getroffen haben, dass das nicht passiert.

Marina:

[23:34] Und da sind wir bei meinem liebsten Teil unseres Podcasts, bei der Frage, was wir denn tun können. Denn wie Dirk eben sagte, wir haben ja auch keinen Atomkrieg bekommen, auch wenn es möglich gewesen wäre. Und den haben wir uns erspart, weil Menschen Entscheidungen getroffen haben. Die wirklich wichtige Frage ist also, welche Entscheidungen sind jetzt notwendig, damit wir Menschen zusammen mit KI eine gute Zukunft haben? Dick Walpul sagt, der einzig richtige Umgang mit den Herausforderungen durch KI ist?

O-Töne:

[24:12] Ein demokratischer Umgang, ganz einfach. Und da stoßen wir quasi schon an Grenzen dessen, was auch Sam Altman verkörpert. Ein demokratischer Umgang ist nämlich nicht das, für das er steht. Er ist ein Superreicher an der Spitze eines globalen Unternehmens und er diktiert Regeln und kauft sich manche Präsidenten dieser Welt. Und tatsächlich irgendwie hat das nichts mit demokratischen Entscheidungsprozessen da zu tun. Wir müssen uns, glaube ich, nochmal klar machen, mit wem wir es hier zu tun haben, wenn wir über die Personen reden, die künstliche Intelligenz gerade voranbringen. Also wenn wir über Max Zuckerberg reden, wenn wir über Elon Musk reden, wenn wir über Sam Altman reden. Um sich das nochmal wirklich vor Augen zu führen, das ist eine Zahl, die ich von meiner früheren Chefin gelernt habe und die ich immer update, die aber sehr wichtig ist, dass nach Schätzung von Oxfam acht Milliardäre, acht Personen, acht Menschen so viel Geld besitzen, Vermögen besitzen, wie die ärmsten 3,8 Milliarden Menschen dieses Planeten. Das ist die Hälfte. Das ist abgefahren. Das muss man einfach so offen sagen. Also da ballt sich Reichtum in einem unvorstellbaren Maß. Das ist auch ganz wichtig. Also dass da tatsächlich so eine Art von kritischer Masse passiert, die dann eventuell dazu führt, dass plötzlich irgendwie, wie in den USA, diese Personen im Hintergrund mit die Fäden ziehen und sich einfach kaufen, was sie wollen, inklusive irgendwie Ausnahmeregelungen für ihre eigenen Unternehmen, weil plötzlich irgendwie Regierung käuflich ist.

Marina:

[25:41] Und auch Aya Jav hat uns erzählt, dass sie sich viel mehr um die Demokratie im Hier und Jetzt sorgt, als um die Zukunft der Menschheit angesichts einer AGI.

O-Töne:

[25:51] Absolut. Die Gefahr der Demokratie sehe ich vor allem...

O-Töne:

[25:55] Schon in diesem Machtgefälle, was aufgebaut wird durch diesen Reichtum. Also am Ende des Tages reden wir von Männern, die unglaublich reich sind und die durch ihren Reichtum ja auch Gesetze formen, umgehen und auch erstellen können, die halt eben für sie Sinn machen. Und wenn ich sage, für sie Sinn machen, dann geht es ihnen nicht darum, dass sie jetzt, ich weiß nicht, ihre christlichen Ideologien oder antichristlichen Ideologien, wie man sie nennen möchte, von Peter Thiel oder so zum Leben erwecken, sondern nein, es geht in allererster Linie darum, dass sie noch reicher werden, damit sie eben mehr Möglichkeiten haben, ihren Willen durchzusetzen. Und das sehen wir ja jetzt schon auch bei den normalen, normalen Milliardären, die nicht durch Technologie eben groß geworden sind. Das heißt, hier würde ich schon sagen, dass dieses Machtgefälle immer noch die größte Rolle spielt, die hier aufgebaut wird und dass sie aber bei diesen Polygarchen, bei diesen Tech-begeisterten Milliardären, dass sie dann die Form annimmt, dass sie beispielsweise unser Social-Media-Verhalten sehr stark beeinflussen können. Das heißt, was wir gesehen haben bei Donald Trump, dass er sich umgeben hat von den Milliardären, die Meta, Ex, Washington Post und Co. Oder auch jetzt Larry Ellison, der mit Oracle sehr reich geworden ist und sich jetzt auch eine Social Media Plattform eben anschaut, wie TikTok, dass diese Menschen die Medienplattformen unserer Welt einfach ja auch erzeugen.

O-Töne:

[27:24] Also sie besitzen die Macht, unsere Algorithmen, unsere Meinung zu beeinflussen und ich glaube, uns als Gesellschaft wird immer klarer, dass wir das nicht demokratisch beeinflussen können, inwiefern diese Medienunternehmen unsere Meinung eben dirigieren. Alles, was wir wissen, ist, dass es wahrscheinlich, und das sehen wir ja mit Elon Musk jetzt und X, da gibt es sehr viele Beispiele, dass Milliardäre ihre Meinung bevorzugt auf der Plattform sehen wollen und dass das rechte Narrative vor allem im Moment viel Aufwind verleiht.

Marina:

[27:56] Schon jetzt sind diese Proligarchen eine Gefahr für unsere Demokratie. Sie beeinflussen unsere Meinung und, wie wir in der letzten Sendung ausführlich besprochen haben, sie rauben uns unsere Aufmerksamkeit und sie lenken sie immer weiter in die Richtung, die gut dafür ist, dass sie immer reicher und reicher werden. Und diese Richtung heißt Autokratie. Sie helfen Leuten dabei, an die Macht zu kommen, die ihnen im Gegenzug versprechen, Gesetze und Beschränkungen abzuschaffen, die zur Regulierung der Firmen gedacht sind. In den USA können wir gerade live dabei zusehen. Eine wehrhafte Demokratie ist darum auch eine, die sich nicht von Superreichen kaufen lässt. Und sie wird sich darüber bewusst, welche Infrastruktur für das Funktionieren einer Gesellschaft derart essentiell ist, so wichtig, dass sie nicht in die Hände von einzelnen Unternehmern, sondern der gesamten Gesellschaft gehören sollte. Aya sagt, bei den.

O-Töne:

[28:55] Und Polygarchen, da hören wir ganz oft, dass das, was sie haben, gar nicht so greifbar ist, was sie so reich macht. Das ist irgendwie Technologie, das ist irgendwie in den Clouds und so weiter. Hier würde ich gerne ansetzen, weil das Internet besteht nicht aus Clouds, das ist nicht irgendwo im Himmel. Das ist eine ganz reale Infrastruktur, die ja dafür sorgt, dass diese Menschen mächtiger werden. Und die besteht aus Kabeln, Servern, Rechenzentren, Antennen und Energie. Also jetzt ganz kurz für alle, die wirklich nicht ganz verstehen, wie Internet funktioniert, aber wenn du eine Nachricht verschickst, dann reißt sie wirklich durch Glasfaser-Kabeln unter dem Atlantik, läuft durch Router in Rechenzentren, die oft in wenigen Ländern konzentriert sind, vor allem in den USA. Und diese Zentren gehören Konzernen wie Amazon, Google oder Microsoft. Das ist nicht das dezentrale Internet, was immer so schön aufgezeichnet wird, dass es alle so kleine Notes sind, die dann miteinander verbunden sind, sondern es ist ganz klar ein privatisiertes Netzwerk. Das ist nicht dezentral. Und das, auch durch öffentliche Infrastruktur erst möglich gemacht wurde. Also zum Beispiel unsere Stromnetze, für die wir bezahlen, Frequenzen oder auch Universitätsforschung. Dinge, die wir gemeinsam als Gemeinschaft erforscht haben, fließt in dieses privatisierte Netzwerk rein, um das besser funktionieren zu lassen. Aber am Ende ist das eben in privater Hand. Und darum muss es gehen, dass wir das, was in privater Hand gerade ist, dass das wieder in demokratische Kontrolle geht.

Marina:

[30:22] Klingt radikal? Ist es auch. Aber wenn man darüber nachdenkt, hat Aya recht. Was wir sehen, das ist, dass die Gewinne durch Digitalisierung und KI immer nur privatisiert werden, obwohl die Infrastruktur und Forschung aus öffentlichen Mitteln finanziert wurde. Außerdem bedient sich die KI, teils ohne zu fragen oder sich an Urheberrechte zu halten, an Kunst, Musik, Videos und Texten, die wir Menschen erschaffen haben. Sie erzeugt darauf basierend eigene Kunst, Musik, Videos und Texte, ohne die KünstlerInnen angemessen am Gewinn zu beteiligen. Gerade wurde OpenAI von der GEMA verklagt und von einem Münchner Gericht dazu verurteilt, Schadensersatz zu zahlen. Aber das ist nur ein Tropfen auf den heißen Stein und OpenAI wird natürlich in Berufung gehen. Der Output von KI wäre also ohne menschlichen Input nicht denkbar. Ob öffentliche Mittel, die die Forschung finanzieren, oder Werke von KünstlerInnen und JournalistInnen, mit denen die Software trainiert wird.

O-Töne:

[31:26] Und wenn wir das wieder zurückhaben wollen, dann müssen wir über Ownership sprechen, also wirklich über das Eigentum. Ich setze mich sehr dafür ein, dass wir diese Narrative verändern müssen. Wem diese digitale Infrastruktur am Ende gehören soll. Weil viele sagen ja, diese Tech-Oligarchen, die haben sich das ja aufgebaut. Die haben ein Vorrecht darauf, dass ihnen das alles gehört. Und wir können ihnen das doch nicht einfach wegnehmen. Aber ich würde sagen, wir brauchen eine öffentliche Cloud-Infrastruktur. Also genauso wie wir ja Straßen haben, Stromnetze, Bahnen, so könnten wir auch staatlich oder genossenschaftlich betriebene Clouds haben. Es gibt da schon erste Ideen, wie das so ausschauen könnte in Deutschland, wie zum Beispiel Gaia-X. Das Problem ist aber nur, dass beispielsweise auch eben durch viele Lobbyverbände das Thema digitale Souveränität immer wieder mit eben diesen Konzernen gedacht wird. Da haben wir jetzt eine Alternative aufgebaut, aber trotzdem am Ende stecken diese Konzerne eben dahinter. Und da müssen wir eben aufpassen, dass das Open Source bleibt, dass das öffentliche Rechenzentren sind, die unter demokratischer Kontrolle sind.

Marina:

[32:31] In ihrem Buch beschreibt Aya, wie Menschen wieder selbst bestimmen können, was zum Beispiel mit ihren Daten geschieht.

O-Töne:

[32:38] Und am Ende müssen wir uns auch die Frage stellen, diese Daten, die wir eigentlich tagtäglich abgeben, so wem gehören die und warum gehören sie diesen Menschen? Ein Beispiel davon war beispielsweise Barcelona, also die Stadt Marcos. Hat es getestet, was passieren würde, wenn jetzt wirklich Bürger bestimmen, welche Daten geteilt werden dürfen und wofür, wenn sie die Macht haben, zu sagen, wohin es geht. Und da würde ich gerne darüber sprechen, was es bedeutet in 10, 20 Jahren. Wo stehen wir da, wenn wir das zu Ende denken? Und wie viel Macht haben dann noch solche Tech-Konzerne, wenn wir beispielsweise unser Gesetz auch durchsetzen?

Marina:

[33:14] Wie viel Macht haben die Tech Bros wirklich, wenn wir von unserer demokratischen Macht Gebrauch machen und sie in ihre Schranken weisen? Das ist auch, was Dirk Walbrühl wissen will.

O-Töne:

[33:24] Man darf durchaus diese, das klingt jetzt direkt sozialistisch, vielleicht ist es das auch, aber niemand hat gesagt, dass wir diese Besitzverhältnisse nicht einfach auch hinterfragen können, dass wir sagen, okay, ist das noch mit unserem Verständnis, sind so tiefe potenzielle Eingriffe in unser Leben, die ein Unternehmen quasi einfach macht und dann Politik vor vollendete Tatsachen stellt, ist das eigentlich noch legitim? Sollten wir das einfach so durchwinken lassen. Und es gibt tatsächlich, dass die EU sehr weit vorne dran, es gibt zum Beispiel mit dem Digital Services Act, gibt es einige Gesetzgebungen, die die EU in den letzten Jahren erreicht hat, die tatsächlich darauf ausgelegt sind, da tatsächlich über große Online-Plattformen, da reden wir jetzt nicht explizit über AI, beim Digital Services Act, aber dass diese, die darauf ausgelegt sind, diese Marktmacht anzugehen, Die diese riesigen Unternehmen, die auch glauben, die EU nach ihrem Willen herumschubsen zu können und diktieren zu können. Was sie wollen, dass diese tatsächlich durch solche Gesetzgebungen, solche Gesetzgebungen auf einer europäischen Ebene in die Schranken gewiesen werden, dass die nicht nur mit Strafen belegt werden, sondern dass die auch nach unseren Spielregeln spielen müssen. Nach Spielregeln wie Datenschutz, nach Spielregeln wie Persönlichkeitsrechten. All diese Dinge, die wir uns als Gesellschaft selber gegeben haben. Diese Gesetze müssten nur angewendet werden. Das ist natürlich ein anderer Punkt.

Marina:

[34:48] Genau, aber hier müssen wir mal wieder ein bisschen Wasser in den Wein gießen, sorry.

O-Töne:

[34:53] Wir hatten ja beispielsweise jetzt letztens eine große Diskussion rund um Google, ob wir das aufspalten dürfen, ob sie ein Monopol sind oder nicht. Und zum allerersten Mal haben wir gesagt, Google hat in der Suchfunktionswelt auf jeden Fall ein Monopol. Und wir hatten sogar die juristischen Werkzeuge, um Google aufzuspalten. Das haben wir dann aber nicht gemacht. Und wir müssen uns anschauen, warum nicht? Welche Lobbyverbände waren dahinter? Welche Angst? Schwing damit, welche Alternativen hatten wir noch nicht gut genug aufgebaut? Das heißt, am Ende ist es auch wirklich eine Frage von Steuern und Auflagen für diese Big Player. Wie viel Steuern zahlen sie denn in Europa? In Europa zahlen sie kaum Steuern. Das müssen wir ja auch einmal festhalten. Es ist genau dieses Geld, was uns halt vorn und hinten fehlen wird, wenn wir digitale Gemeingüter aufbauen wollen.

Marina:

[35:41] Und gerade vergangene Woche hat die EU-Kommission mit ihrem digitalen Omnibus, unter anderem die KI-Verordnung, IT-Sicherheitsgesetze, den Data Act und die Datenschutz-Grundverordnung anpassen soll, gezeigt, dass sie bereit ist, zugunsten der KI-Unternehmen die digitalen Grundrechte ihrer BürgerInnen einzuschränken. Netzpolitik.org (Abre numa nova janela) schreibt dazu, unter anderem sollen KI-Unternehmen eine Art Freifahrtschein für das Training ihrer Systeme mit personenbezogenen Daten erhalten. Die Kommission will klarstellen, dass Menschen hierfür nicht gefragt werden müssen, sondern lediglich über eine Widerspruchsmöglichkeit verfügen. Die EU bräuchte mehr Mut. Das findet auch Dirk.

O-Töne:

[36:25] Vieles davon müsste nicht einfach so durchgewunken werden. Und ich weiß, dass Politikerinnen und Politiker natürlich sehr, und ich verstehe das auch, sehr daran interessiert sind, natürlich nicht Innovationen zu verschlafen, weil wir das als Land quasi schon getan haben. Bei der Solarenergie, da sind tatsächlich irgendwie die Innovationen dann in China passiert. Also wir waren da führend, Deutschland war da führend und dann ist die Technologie nach China gewandert und mittlerweile laufen wir da hinterher. Wir haben das erlebt und ich verstehe auch diese Idee sozusagen da nicht, also einfach alle Schranken aufzuheben und die Unternehmen machen zu lassen, was sie wollen, bloß nicht sozusagen irgendeine Form von Anschluss zu verlieren. Aber das funktioniert sowieso nicht. Die Idee, dass ein europäisches Unternehmen, ein deutsches Unternehmen vielleicht sogar, diesen Macht an sich gebundenen Riesenkonzernen wie OpenAI oder Google in irgendeiner Form ernste Konkurrenz werden kann, das sehe ich nicht. Und das sehen auch viele Experte und Experten nicht. Also da kämpft man quasi dann irgendwie um kleinere Krümel irgendwie des großen Kuchens. Stattdessen könnte man viel eher versuchen, diese großen Unternehmen in die Schranken zu weisen und sagen, nee, hier sind Regeln. Wir in Europa ticken nicht nach euren Regeln. Ihr haltet euch gefälligst an unsere und wenn nicht, dann werdet ihr bestraft. So funktionieren unsere Gesetze.

Marina:

[37:41] Und viele sagen ja heute schon, ich meide einfach bei allem, was ich tue, diese Tech-Giganten. Kein Microsoft, kein Google, Twitter oder X sowieso nicht und mit KI arbeite ich auch nicht. Aber...

O-Töne:

[37:53] Die Frage ist, wo diese Alternativen herkommen. Ich bin ein großer Freund davon, dass sich von diesen, gerade auch jetzt von diesen amerikanischen, sind ja am Ende kernamerikanische, amerikanischen Anbietern zu lösen und nach Alternativen zu suchen. Wir machen das auch. Und ich mache das auch privat, dass ich sage, es gibt einige andere Alternativen, die in Deutschland hergestellt werden oder zumindest irgendwie die Software läuft, die nach unseren Regeln spielen. Das kann man individuell machen. Und ich bin auch ein Freund von individuellen Lösungen. Und auch auf einer Unternehmensebene kann man das machen. Aber das, was wir nicht machen können, ist das, was die Politik eigentlich machen müsste. Nämlich irgendwie uns als Bürgerinnen und Bürger da auch in gewisser Art und Weise vorbeschützen. Und natürlich ist das ein schwieriger Fall, weil man erst einmal irgendwie mit der Sorge vor künstlicher Intelligenz natürlich irgendwie, da gewinnt man keinen Wahlkampf mit. Das ist mir auch klar. Aber es ist leider jetzt gerade wichtig und das gehört auch zum Job von Politiker und Politiker dazu, sich um die leider jetzt gerade wichtig Dinge zu kümmern, auch wenn sie unbequem sind. Ich weiß in Zeiten von Populismus viel verlangt, aber ich bin sicher, dass nicht alle Politiker und Politiker da draußen schon zynisch abgeschaltet haben, sondern sich wirklich um die Menschen in diesem Land kümmern möchten.

Marina:

[39:10] Was wir also mitnehmen können? Erstens, das Gerede von der übermenschlich schlauen KI, die alle unsere Jobs ersetzen wird, das ist vermutlich pures Silicon Valley Marketing. Es dient vor allem dazu, noch mehr Geld in das vor allem aus Kreislaufgeschäften bestehende KI-Geschäft zu pumpen. Das ist eine Blase, die sehr wahrscheinlich platzen wird. Aber wie nach der Dotcom-Blase hört KI danach nicht auf zu existieren, sondern die funktionierenden Modelle werden sich konsolidieren und werden unser Leben definitiv verändern. Die Gefahr für die Demokratie ist sehr, sehr real. Jetzt schon. Denn die Proligarchen nehmen nicht nur keine Rücksicht auf die Freiheitsrechte anderer Menschen, sie arbeiten aktiv daran, die Demokratie auszuhöhlen. Wir müssen diesen Leuten jetzt sofort Grenzen setzen, sie regulieren und am besten Alternativen entwickeln, um uns unabhängiger von ihren Produkten zu machen. Und ja, auch die Vergesellschaftlichung ihrer aktuell privaten Produkte müssen wir diskutieren. Die AGI ist trotzdem ein Worst-Case-Szenario, das wir irgendwie überdenken sollten. Es ist unklar, ob es sie jemals geben wird. Aber wenn es sie gibt, dann werden wir vielleicht nicht alle sterben. Aber wir hätten nicht unter Kontrolle, was dann passiert. Dazu noch einmal Kyle Chaker.

O-Töne:

[40:34] Ich glaube, ich glaube, eine Sache, die durchgebracht wurde, als ich Menschen für diesen Teil interviewte, war, dass, There's even less thought now about what we should do in the case of superhuman AI. I think AI doomers are thinking, if this happens at all, we're all dead, that book that just came out. And then the pro-AI people are like, yes, let's do it and society will be overturned. But that's just what happens. Like that's a more or less good thing. So I think all the rest of us need to think about what will happen if things go that way, if AI becomes superhuman. And to me, the only philosophical or political thinking is some kind of universal basic income or a subsidy for life that comes from the vast money being plowed into AI and the vast revenue that is already happening with these companies. Basically nationalizing AI, nationalizing the profits of AI and the disruption of AI.

Marina:

[41:39] Auch all die ExpertInnen, mit denen Kyle gesprochen hat, sagen, wir müssen KI unter demokratische Kontrolle bringen. Und glaubt mir, wir haben die Gäste nicht danach ausgesucht, ob sie uns alle drei das selber erzählen. Wir haben uns drei Leute ausgesucht, die sich damit auskennen. Dass sie alle drei zu denselben Schlüssen kommen würden, wussten wir nicht. Dass sie es tun, liegt einfach daran, dass sie sich auskennen. Und manchmal gibt es sinnvolle Einschätzungen.

Marina:

[42:11] Wir haben also als Gesellschaft eine Aufgabe. Wir müssen KI politisch gestalten. Eine einfache Sache, die wir heute konkret tun können, um die finanzielle Umverteilung zu stoppen, nicht KI statt Suchmaschine benutzen. Auf journalistische Angebote klicken oder sie unterstützen. Hinweis auf Link in den Shownotes, um diesen Podcast zu unterstützen.

Marina:

[42:37] Keine KI-Kunst unterstützen, liken, teilen. Nicht, solange KünstlerInnen nicht an der Wertschöpfung aus ihren Werken beteiligt werden. Egal, ob es eine Digitaldividende ist oder ein Grundeinkommen oder sonst ein Modell. Was wir mit unseren Daten, unserer Arbeit und mit öffentlicher Infrastruktur möglich machen, das muss uns auch vergütet werden. Es gibt Dinge, und zwar alle Formen kritischer Infrastruktur, die sollten nicht in den Händen von wenigen Oligarchen liegen, sondern uns allen gehören. Dazu gehören Strom, Straßen und Forschung, aber auch unsere Daten. Und wo immer private Unternehmen sehr viel Macht akkumulieren, muss die Politik regulierend eingreifen, Grenzen setzen und dafür sorgen, dass sie sich an Regeln halten. Darum geht es jetzt. Wenn wir das gut hinbekommen, dann müssen wir uns auch nicht vor einer Zukunft fürchten, in der eine superschlaue AGI alles auf den Kopf stellt.

Marina:

[43:42] Das war die sechste Folge von Wind und Wurzeln. Danke an alle, die diesen Podcast möglich gemacht haben. Ohne euch gäbe es uns nicht. Wenn ihr uns dabei helfen wollt, dann schaut mal in eure Show Notes. Da findet ihr alle Wege, wie ihr uns unterstützen könnt. Und dank Perspective Daily gibt es uns einmal im Monat. Alle Texte von Dirk Walbrühl, die wir euch in den Show Notes verlinken, könnt ihr bei Perspective Daily ohne Paywall lesen. Das Gute bei Perspective Daily gibt es 100% konstruktiven Journalismus. Wenn euch Wind und Wurzeln gefällt, dann teilt diese Folge oder den ganzen Podcast mit euren Freunden, Bekannten, Newslettern und auf den sozialen Medien und gebt uns eine positive Bewertung, wo auch immer ihr uns hört. Wind und Wurzeln ist eine Produktion von Haus 1 in Kooperation mit Perspective Daily. Redaktion Katrin Rönecke und Marina Weisband. Schnitt und Sounddesign Oliver Kraus. Am Mikrofon war Marina Weisband. Danke fürs Zuhören und bis zum nächsten Mal. Ich liebe euch.

hauseins:

[45:03] Eine Produktion von Haus 1 in Kooperation mit Perspective Daily.