Alles voller Slop, weil Plattformen mitspielen

Die großen Tech-Plattformen könnten uns stärker vor billig produzierten KI-Inhalten schützen – stattdessen begünstigen sie diese

Nach heftiger Kritik ist Meta zurückgerudert: Der Konzern wollte ja, dass standardmäßig Fotos und Videos auf Instagram, die Menschen mit öffentlichem Profil gepostet hatten, von anderen per KI weiterbearbeitet werden können. Kurz gesagt: Meta hätte es damit zur Normalität gemacht, dass man zum Beispiel Deepfakes über andere erstellen kann. Die Kritik daran war laut. Und Meta schaltete die Funktion wieder ab.

Dahinter steckt aber eine größere Geschichte: Wir leben im Zeitalter des AI Slops, also des billig produzierten KI-Fraß. Große Tech-Plattformen wie Instagram oder LinkedIn könnten uns vor diesen Inhalten schützen – aber stattdessen sind sie Teil eines Ökosystems, das AI Slop begünstigt.

Nehmen wir Instagram: Hier wollte Meta sein neues Bild-Generierungsmodell “Muse Image (Si apre in una nuova finestra)” populär machen – und es Menschen eben auch ermöglichen, die Fotos anderer (die ein öffentliches Profil haben) einfach weiterzubearbeiten. Das wäre vielfach AI Slop gewesen – und vor allem hätte es Bildbearbeitung ermöglicht, die eben nicht einvernehmlich ist.

LinkedIn wiederum hat ein eigenes "KI-gestütztes Schreib-Tool" entwickelt, bei dem man eine Idee zu einem Thema umreißt und die KI daraus einen Text bastelt. Das Feature ist nur auf Englisch und für Premium-Kund:innen verfügbar.

(Si apre in una nuova finestra)

Diversitätskompetenz

Das Zertifikatsprogramm vermittelt fundiertes Wissen zu Diversität, gesellschaftlicher Vielfalt und aktuellen Debatten. In einem praxisnahen, menschenrechtsorientierten Lernsetting stärken Teilnehmende ihre Sozial-, Arbeits- und Führungskompetenzen sowie ihr diskriminierungssensibles Handeln.

Jetzt anmelden! (Si apre in una nuova finestra)

Es gibt sogar die Schätzung, dass 41 Prozent (Si apre in una nuova finestra) der untersuchten, sehr langen Postings auf LinkedIn KI-generiert sind – diese Zahl stammt vom Analyse-Unternehmen Pangram, das einen KI-Detektor anbietet. Ich muss aber gleich anmerken: Ich bin bei solchen Schätzungen vorsichtig, unter anderem, weil keines dieser KI-Detektor-Tools perfekt ist bzw. man sich nicht blind darauf verlassen (Si apre in una nuova finestra) sollte.

Eine Anmerkung: Nicht jede Form von KI-Bearbeitung oder KI-Nutzung ist automatisch “Slop”, also minderwertig produzierter Inhalt. Aber auf Social Media sehen wir eben sehr viel Trash: Billig produzierte, hochemotionale oder abstruse Bilder. Oder elendslange Postings, die diese klassischen KI-Anzeichen aufweisen (geschliffene Formulierungen, aber viel heiße Luft).

Das Problem ist hier: Plattformen können durchaus Anreize haben, AI Slop zuzulassen: Weil es dazu führen kann, dass wieder mehr gepostet wird. Denn für die Social-Media-Dienste kann es eine Herausforderung darstellen, dass viele Menschen eine Social-Media-Ermüdung spüren. Meine Hypothese ist: Viele Menschen sind bereits zurückhaltender geworden, ob sie noch aktiv posten wollen, wie viel sie posten wollen, wie viel Zeit sie auf Social Media verbringen wollen. Für manche Menschen können solche KI-Funktionen die Hemmschwelle senken, etwas zu posten (man muss ja nicht einmal das Posting selbst genau formulieren). Auch stellen viele AI-Slop-Posts eine weitere Form von hochemotionalem Content (Si apre in una nuova finestra) dar, der Aufmerksamkeit auf sich zieht und mit dem manche Creators ordentlich Geld machen. In dieser allgemeinen Phase einer Social-Media-Ermüdung können KI-Inhalte kurzfristig den Eindruck erwecken, dass auf einer Plattform viel los ist.

Aber letztlich ist das Begünstigen von AI Slop inhaltlich für die Plattformen kontraproduktiv: Sie holen sich damit sehr viel Trash auf die eigene Plattform. Und jedes Posting, das AI Slop darstellt und im Feed auftaucht, zieht potenziell Aufmerksamkeit von Postings ab, die noch von Menschen erstellt worden sind – zumindest einen Teil des Publikums stößt das definitiv vor den Kopf.

Dazu passt meines Erachtens auch, dass LinkedIn im Mai dieses Jahres ankündigte (Si apre in una nuova finestra), nun mehr gegen AI Slop tun zu wollen. Sie sehen das, lose übersetzt, als “schnell gemachte, KI-generierte Inhalte, die oberflächlich betrachtet zwar geschliffen klingen mögen, denen es aber an jeglicher echter, einzigartiger Perspektive oder Substanz fehlt.” Dass LinkedIn einerseits KI-formulierte Postings mittels eigenem Tool ermöglicht und andererseits gegen KI-Einheitsbrei vorgehen will, zeigt in meinen Augen auch die Zerrissenheit manch einer Plattform. Denn einerseits ermöglichen KI-Tools eine größere Quantität und neues Engagement auf der Plattform, und andererseits gefährdet man, den Eindruck einer sinkenden Qualität bei den Postings zu liefern.

Und es gibt noch einen zweiten Grund, warum Tech-Plattformen so sehr KI-Funktionen und -Inhalte begünstigen: Sie versuchen, am KI-Wettrennen teilzunehmen. Weil sie wohl inhaltlich wirklich davon ausgehen, dass die Entwicklungen am Feld der KI einen Paradigmenwechsel darstellen – mit großen ökonomischen und gesellschaftlichen Folgen. Und weil sie wohl Aktionären und Aktionärinnen signalisieren wollen: Wir sind beim KI-Rennen voll dabei.

Das Kalkül in der Tech-Branche ist erfahrungsgemäß: Ein neuer Markt kommt auf, viel Geld wird in Unternehmen gepumpt, die Innovation und später dann Renditen versprechen. Nach einer Anfangsphase mit vielen unterschiedlichen konkurrierenden Unternehmen setzen sich einzelne, ganz wenige große Dienste durch (oder sogar nur ein Dienst wie etwa Google im Bereich der Suchmaschinen). Und wer am Ende diesen Markt anführt, streift enorme Gewinne ein.

Dass so viele Unternehmen derzeit KI forcieren, ist wohl auch eine Wette darauf, dass sich diese enorm hohen Investitionen in KI-Technologien irgendwann rentieren, sogar hohe Renditen abwerfen – und dass man zu jenen Profiteur:innen zählen möchte, die den Markt erfolgreich eingenommen haben.

Wir sehen hier einmal mehr: Die Interessen von Nutzer:innen und von Plattformen können weit auseinander gehen. Ein Extrembeispiel stellte neulich Instagram dar: Es wollte sogar Dritten erlauben, die Fotos anderer Nutzerinnen und Nutzer als Vorlage für neue KI-Kreationen zu verwenden. Das bedeutet in vielen Fällen wohl nicht nur AI Slop, sondern auch einen Eingriff in die digitale Selbstbestimmung von Menschen (weil diese Funktion standardmäßig eingeschaltet war). Wohlgemerkt: Natürlich können andere Nutzer:innen schon jetzt die Fotos von öffentlichen Profilen downloaden und dann über irgendwelche Dritt-Apps bearbeiten – aber eine KI-Funktion, die direkt in Instagram eingebaut ist und bei der man keine dezidierte Zustimmung der Betroffenen braucht, würde das natürlich enorm erleichtern. Kein Wunder, dass die Kritik an dieser Funktion sehr laut war.

Ich betone all das aus folgendem Grund:

Oft suggeriert die Tech-Branche, dass der Status quo des Internets eine logische Folge technologischer Entwicklung sei. Das glaube ich in vielerlei Hinsicht nicht. Viele Facetten der Digitalisierung werden nicht dadurch geprägt, welche Technologie neu aufkommt – sondern welche Geschäftsmodelle hierbei existieren, welche ökonomischen Interessen die führenden Tech-Unternehmen haben.

Wie stark sichtbar AI Slop ist, ist eben nicht nur eine technische Frage, sondern auch eine inhaltliche und eine ökonomische Frage.

—

Das war es für dieses Mal - bis in zwei Wochen!

Schönen Gruß

Ingrid Brodnig

Das Bild in der Web-Version wurde mit Canva erstellt