Bluesky, Zensur und länderspezifische Moderation (Gastbeitrag von Laurens Hof)

• Laurens Hof

• Analyse (Opens in a new window), Bluesk (Opens in a new window)y

Diese Analyse von Laurens Hof erschien zuerst am 17.4.2025 auf Fediversereport.com (Opens in a new window). Mit freundlicher Genehmigung des Autors habe ich seinen Artikel aus dem Englischen ins Deutsche übersetzt (mit Hilfe von DeepL und Google, anschließend von mir sprachlich überarbeitet). Der Niederländer Laurens Hof ist einer der bestinformierten Beobachter des Fediverse und der ATmosphere. Wenn Ihr Euch für Neuigkeiten rund um Bluesky und Mastodon interessiert, solltet Ihr seine wöchentlichen Newsletter abonnieren (Opens in a new window) (Englisch) und ihm auf Bluesky (Opens in a new window) oder Mastodon (Opens in a new window) folgen. Laurens war auch Mitveranstalter der Konferenz Ahoy.eu (Opens in a new window) am 24.April in Hamburg.

Yves Venedey

Am 19. März 2025 verhaftete die türkische Polizei den Bürgermeister von Istanbul, Ekrem İmamoğlu. İmamoğlu, Präsidentschaftskandidat der Republikanischen Volkspartei, der größten Oppositionspartei gegen die regierende AKP, wurde festgenommen. Die Verhaftung löste landesweite Proteste in der Türkei aus. Die türkische Regierung reagierte mit verschiedenen Maßnahmen, darunter der Zensur sozialer Medien. Wenige Tage später wies sie X an, den Zugang zu mehreren X-Benutzerkonten zu sperren, die mit den Protesten in Verbindung standen. X erklärte, es habe beim türkischen Verfassungsgericht einen Antrag eingereicht, um die Sperr-Anordnungen anzufechten. Laut dem unabhängigen Nachrichtenportal Bianet aus Istanbul hatte X die Sperrungen bis dahin nicht umgesetzt.

Um die Zensur zu umgehen, wechselten viele X-Nutzer zu Bluesky. Doch auch Bluesky geriet ins Visier der türkischen Behörden. Am 5. April berichtete Bianet, dass türkische Gerichte die Sperrung von 44 Bluesky-Konten angeordnet haben, (Opens in a new window)mit Verweis auf die nationale Sicherheit und die öffentliche Ordnung. Bianet stellte zudem fest, dass Bluesky PBC, das Unternehmen hinter dem Kurznachrichtendienst, die Konten bis zu diesem Zeitpunkt nicht blockiert hatte und sie weiterhin aus der Türkei erreichbar waren.

Letzte Woche berichtete ich (Opens in a new window), dass Bluesky PBC dabei war, einen türkischen Moderationslabeler einzurichten, der jedoch noch nicht aktiv war. Diese Moderationsebene ermöglicht es Bluesky, Moderationsentscheidungen zu treffen, die nur für Personen gelten, die sich in einem bestimmten Land aufhalten. Vor einigen Tagen wurde der türkische Moderationslabeler aktiviert und begann, Konten auszublenden, sodass sie für Menschen in der Türkei nicht mehr sichtbar waren. Zwischen dem 14. und 17. April machte Bluesky PBC 18 Konten und 2 Beiträge in der Türkei unsichtbar.

Die Entscheidung von Bluesky PBC, den Anordnungen türkischer Gerichte zu folgen und bestimmte Accounts in der Türkei zu zensieren, stieß auf Kritik – sowohl in der türkischen Online-Community als auch im Fediverse. Dabei ist besonders die Wortwahl bemerkenswert: Viele bezeichneten Blueskys Vorgehen als "Kontolöschung" (Takedown) oder "Sperre" (Ban). Doch das trifft den Kern nicht. Bluesky hat die Konten lediglich verborgen, sodass sie in der Türkei unsichtbar, außerhalb des Landes jedoch weiterhin sichtbar sind. Die Folgen bleiben dennoch ähnlich: Die meisten Menschen in der Türkei können die Konten nicht sehen, die Reichweite und Wirkung dieser Accounts ist erheblich eingeschränkt.

Bluesky und das AT-Protokoll (ATProto) bieten eine technische Lösung für eine zusammensetzbare Moderation, die flexibel an unterschiedliche Länder angepasst werden kann. Diese Technologie ist nicht nur faszinierend, sondern sie wirkt sich auf die staatliche Zensur erheblich aus: Nicht nur, dass sie ermöglicht die türkische Zensur noch leichter zu umgehen. Sie eröffnet auch neue Wege wie Inhalte, die Erdogans Regierung verbergen will, hervorgehoben und sichtbarer gemacht werden können. Um das besser zu verstehen, lohnt es sich genauer anzusehen, wie Moderation bei Bluesky funktioniert.

Wie Bluesky moderiert

Für alle, die eine kurze Auffrischung zur Funktionsweise von ATProto wünschen, hier eine vereinfachte Erklärung:

• Ein Personal Data Server (PDS) speichert alle Accountdaten in einer öffentlich zugänglichen Datenbank.

• Ein Relay sammelt alle Ereignisse (Beiträge, Likes usw.) von allen PDS im Netzwerk und liefert einen kontinuierlichen Strom dieser Ereignisse.

• Ein AppView verarbeitet die Daten vom Relay, erstellt etwa einen Discover-Feed, ordnet Beiträge und berechnet dieAnzahl der Likes.

• Labeler versehen Beiträge mit Labels, die festlegen, wie eine App mit dem Beitrag umgehen soll (anzeigen, ausblenden oder mit einem Warnlabel versehen).

• Ein Client oder eine App zeigt die verarbeiteten Daten aus der AppView und die Labels dem Nutzer an.

Zur Klärung der Begriffe:

• Bluesky PBC (Public Benefit Corporation) ist die Firma hinter dem Bluesky-Netzwerk und dem AT-Protokoll.

• Bluesky PBC betreibt die Bluesky AppView. Dabei handelt es sich um eine umfangreiche Software, die alle technischen Aufgaben übernimmt, damit etwa 35 Millionen Konten auf das Netz zugreifen können.

• Bluesky PBC betreibt drei Clients/Apps. Es gibt Bluesky im Web (bsky.app (Opens in a new window)) sowie die Apps für Android und iOS. Sowohl die AppView, die Clients als auch das gesamte Netzwerk können als "Bluesky" bezeichnet werden. Wenn ich in diesem Artikel von "Bluesky" spreche, beziehe ich mich auf das gesamte Netzwerk. Wenn ich den spezifischen AppView oder Client meine, wird dies klargestellt.

Bluesky PBC wendet drei Hauptformen¹ der Moderation an:

• Sie entfernen einen Beitrag oder ein Nutzerkonto, was bedeutet, dass der Inhalt/das Konto aus dem PDS gelöscht wird. Dies geschieht in der Regel bei erheblichen Regelverstößen mit großen Auswirkungen. Bluesky PBC kann dies nur tun, wenn sich der betreffende Account auf einem der PDS befindet, die Bluesky PBC gehören. In diesem Fall versieht der Bluesky-Moderationslabeler den Account oder den Beitrag ebenfalls mit einem “Takedown"-Label.

• Bluesky PBC verwendet seinen Moderations-Labeler, um den Beitrag oder das Konto mit einem Label zu versehen. Diese Moderationsebene gilt für alle, die Bluesky nutzen. Dies geschieht in drei Fällen:

  • Der Regelverstoß ist weniger schwerwiegend. Wenn sich zum Beispiel jemand unhöflich verhält, kann Bluesky PBC einen Beitrag mit dem Label 'rude' versehen. Benutzer:innen können ihre Einstellungen so anpassen, dass sie so gekennzeichnete Beiträge anzeigen, warnen oder ausblenden.

  • Der Beitrag oder das Konto erstellt Inhalte, die zwar erlaubt sind, aber je nach Präferenzen der User:innen ausgeblendet werden können. Dies gilt vor allem für sexuelle Inhalte. Sexuelle Inhalte und Nacktheit sind auf Bluesky erlaubt, aber Bluesky PBC versieht die Inhalte mit einem Label wie "Porno" oder "sexuell", damit die Nutzer:innen sie herausfiltern können, wenn sie möchten.

  • Das Konto, das gegen die Geschäftsbedingungen von Bluesky verstoßen hat, befindet sich nicht auf einem PDS, das Bluesky PBC gehört. Daher kann Bluesky den Beitrag oder das Konto nicht löschen. Die Moderator:in versieht den Beitrag mit einem "Takedown"-Label.²

• Bluesky PBC verwendet seine geografischen Moderations-Labeler, um Beiträge oder Konten mit einem 'Hide'-Label zu versehen. Dadurch wird der Inhalt für die Personen unsichtbar, die den Labeler abonniert haben. Für Konten, die den geografischen Moderationslabeler nicht abonniert haben, ist der Inhalt weiterhin sichtbar. Bluesky PBC verwendet diese geografischen Moderations-Labeler, um die lokalen Gesetze einzuhalten. Es wendet diese Labels nur an, wenn der Inhalt gegen lokale Gesetze verstößt, während er in anderen Ländern legal wäre. Ein Beispiel dafür ist das deutsche Netzwerkdurchsetzungsgesetz, das Plattformen verpflichtet, alle illegalen Inhalte innerhalb von 7 Tagen zu entfernen. Bluesky PBC hat 20 Beiträge in Deutschland im Jahr 2025 entfernt, davor keine.
  Bluesky PBC betreibt derzeit geografische Labeler für Deutschland, Brasilien, die Türkei und Russland. Es gibt auch Hinweise auf Labeler für verschiedene andere Regionen und Länder im Netz, aber sie sind derzeit nicht aktiv.

Durch die Nachricht über die Anordnung der türkischen Regierung, Blueskykonten zu sperren, werden die geografischen Moderationslabeler wichtiger . Im September 2024 wurden sie erstmals eingeführt. Aaron Rodericks, Leiter des Trust & Safety-Teams von Bluesky, erläutert ihre Funktion:

"In einigen Fällen können Inhalte oder Konten nach den Community-Richtlinien von Bluesky zulässig sein, aber in bestimmten Ländern gegen lokale Gesetze verstoßen. Um ein Gleichgewicht zwischen der Meinungsfreiheit und der Einhaltung von Gesetzen zu schaffen, führen wir geografische Labels ein. Wenn wir eine gültige rechtliche Aufforderung von einem Gericht oder einer Regierung erhalten, Inhalte zu entfernen, können wir den Zugang zu diesen Inhalten für Benutzer in diesem Gebiet beschränken. Dies ermöglicht es dem Bluesky-Moderationsdienst, die Flexibilität bei der Schaffung eines Raums für freie Meinungsäußerung zu bewahren und gleichzeitig die Einhaltung der gesetzlichen Bestimmungen zu gewährleisten, so dass Bluesky in diesen Regionen weiterhin als Dienst betrieben werden kann. Diese Funktion wird für jedes Land einzeln eingeführt, und wir werden uns bemühen, die Nutzer über die Quelle der rechtlichen Anfragen zu informieren, wann immer dies rechtlich möglich ist."

Was Rodericks schreibt, impliziert dass Bluesky PBC die Aufforderung eines Staates, Inhalte zu entfernen, nach ihrer Rechtsgültigkeit beurteilt und nicht nach ethischen, moralischen oder anderen Kriterien. Wenn die Aufforderung rechtsgültig ist, wird Bluesky PBC ihr nachkommen und den Zugang zu diesem Inhalt in der betreffenden Gerichtsbarkeit beschränken.

Moderationslabels sind (nicht) optional

In ATProto dienen Labels, die von einem Labeler vergeben werden, als Empfehlungen für die Behandlung von Inhalten durch Drittanbieter-Apps. Dies ist eine direkte Folge davon, dass alle Daten auf ATProto öffentlich und offen zugänglich sind. Von Clients und Apps wird erwartet, dass sie den Ergebnissen eines Labelers folgen (einen Beitrag vor den Nutzern verstecken, wenn diese den Labeler abonniert haben, der das "hide"-Label vergeben hat), jedoch können Drittanbieter-Apps potenziell davon abweichen, wenn sie dies möchten.

Die Bluesky-Apps von Bluesky PBC machen ihren eigenen Moderations-Labeler obligatorisch. Bei Verwendung der offiziellen Bluesky-Apps wird der Bluesky-Moderationslabeler automatisch angewendet, ohne dass es eine Möglichkeit gibt, dies abzulehnen. Benutzer der offiziellen Bluesky-App können sich also nicht von den Moderationsentscheidungen von Bluesky PBC abwenden.

Zusätzlich erzwingen die Bluesky-Apps einen Mechanismus, bei dem der Client die aktuelle IP-Adresse des Nutzers überprüft. Wenn sich die Nutzer:in in einer der Regionen mit einem geografischen Labeler befindet, werden diese Labeler automatisch und zwingend angewendet. Wenn jemand die Bluesky-App nutzt, während er sich an einer türkischen IP-Adresse befindet, wird er automatisch dem türkischen Moderations-Labeler unterstellt. Beiträge von Konten, deren Entfernung türkische Gerichte angeordnet haben, sind nicht sichtbar. Wenn sich dasselbe Konto von außerhalb der Türkei anmeldet, wird es nicht mehr für den türkischen Moderations-Labeler abonniert. Inhalte, die in der Türkei entfernt werden mussten, sind nun sichtbar.³

Andere Client-Apps können jedoch andere Entscheidungen über die Verwendung der Moderationslabeler treffen. Drittanbieter-Apps werden (fast) immer auch den Haupt-Moderationslabeler von Bluesky verwenden. Um eine Client-App in die Google und Apple App Stores zu bekommen, müssen Social-Media-Apps die Moderation in ihre Apps integriert haben. Kunden könnten zwar ihren eigenen Moderations-Labeler erstellen und diesen in ihrer App verwenden. Die Moderation für ein Netzwerk von 35 Millionen Accounts ist jedoch schwierig und teuer, während die Verwendung des Bluesky-Moderations-Labelers kostenlos ist. Infolgedessen verwenden fast alle Client-Apps von Drittanbietern den Bluesky-Moderations-Labeler.

Anders sieht es bei den geografischen Moderationslabelern aus. Dieser Schritt ist für Drittanbieterapps optional, die meisten Clients unterstützen die Geolokalisierung ihrer Benutzer und die Vorgaben der geografischen Moderationslabel nicht. Folglich ist die Verwendung eines anderen Clients eine einfache Möglichkeit, die geografischen Inhaltsbeschränkungen zu umgehen. Wenn Sie Bluesky mit einer türkischen IP-Adresse auf den meisten⁴ anderen Clients verwenden, werden Inhalte angezeigt, deren Entfernung vom türkischen Staat angeordnet wurde.

Die Auswirkungen

Die staatliche Zensur sozialer Medien lässt sich am besten als Mittel zur Minimierung von Reichweite und Viralität verstehen und nicht als 100-prozentig wirksame Methode, um zu verhindern, dass buchstäblich niemand die Inhalte sieht. Die Praxis, dass Staaten die Löschung von Inhalten in sozialen Netzwerken verlangen, ist nicht neu und wird auf den großen Tech-Plattformen schon seit einiger Zeit praktiziert. Die großen Tech-Plattformen verfolgen in der Regel einen ähnlichen Ansatz, indem sie den Zugang zu Beiträgen und Konten nur innerhalb der jeweiligen Gerichtsbarkeit beschränken. Das bedeutet, dass VPNs es den Menschen ermöglichen, diese Beschränkungen zu umgehen. Die Regierungen konnen damit weitgehend leben, da das Ziel der Zensur immer noch erreicht wird: Es gibt jetzt Barrieren, vor den besagten Inhalt und die große Mehrheit der Menschen wird ihn wahrscheinlich nicht sehen.

Was Bluesky und ATProto von anderen Social Media-Unternehmen unterscheidet, sind zwei Aspekte:

• Inhaltsbeschränkungen können über andere Clients umgangen werden. Es ist nicht einmal mehr ein VPN erforderlich, es reicht aus, einen anderen Client zu verwenden.

• Die Inhalte, die Staaten zensieren wollen, sind nun für den Rest der Welt leicht zugänglich. Der Output der geografischen Moderationslabeler ist leicht öffentlich zugänglich. Scanning-Dienste wie PDSls oder ein Tool wie der Query Labeler Service liefern eine vollständige und öffentlich zugängliche Liste aller Inhalte, die entsprechend der jeweiligen Rechtsprechung vom Netz genommen wurden. Das Tool Query Labeler Services zeigt zum Beispiel, dass das Konto moderation-tr.bsky.app (Opens in a new window) (das Handle für den türkischen Moderations-Labeler) zum Zeitpunkt der Erstellung dieses Artikels 18 Konten und 2 Beiträge versteckt hat.

Am interessantesten finde ich die neue Dynamik, die sich daraus ergeben kann, dass man sehen kann, welche Inhalte die Regierungen vor Ihren Bürger:innen verbergen wollen. "Die Regierung will nicht, dass Sie das sehen!!!” ist einer der erfolgreichsten Clickbait-Titel aller Zeiten; und das aus gutem Grund. Und jetzt sind wir in einer neuen Situation, in der dies nicht mehr unbedingt Clickbait ist. Es ist in der Tat nun öffentlich sichtbar, welche Konten und Beiträge eine Regierung verbergen will. Mehr noch: ATProto und Bluesky ermöglichen es anderen, auf der Grundlage dieser Informationen eigene Feeds und Listen zu erstellen. Es würde mich nicht überraschen, wenn wir bald einen benutzerdefinierten Feed speziell mit den Konten sehen werden, die die türkische Regierung zensiert hat. Wie das die Dynamik von Bluesky und dieser neuen Generation von sozialen Netzwerken verändert, bleibt abzuwarten.

Die Art und Weise, wie Bluesky und ATProto mit Moderation und staatlichen Aufforderungen zur Löschung von Inhalten umgehen und wie diese staatlichen Zensuraufforderungen umgangen werden können, wirft auch ein neues Licht auf das Konzept der Dezentralisierung. Dezentralisierung, im Sinne einer technischen Beschreibung eines Netzwerks, das aus mehreren verschiedenen interagierenden Softwareplattformen besteht, wird oft als Mittel zur Bekämpfung der Zensur gepriesen. Die Art und Weise, wie Bluesky und ATProto mit der Zensur umgehen und die Art und Weise, wie sie umgangen werden kann, zeigen jedoch, dass dies keine harte Anforderung ist. Um die Zensur zu umgehen und die Inhalte sehen zu können, die die Regierungen verbergen wollen, bedarf es nur offener Daten, eines zusammensetzbaren Moderationssystems und einer offenen Schnittstelle (API) für Client-Anwendungen von Dritten.

Wenn man sich jedoch darauf konzentriert, dass es technisch möglich ist, die zensierten Inhalte zu sehen, wird übersehen, dass die Zensur immer noch wirksam ist. Die große Mehrheit der Menschen wird diese Möglichkeit nicht nutzen, wenn sie sich ihrer überhaupt bewusst sind. Um ein Netzwerk aufzubauen, das keinen einzigen Chokepoint hat, an dem Regierungen Druck für Zensuranfragen ausüben können, müssen die Menschen auf verschiedene Dienste verteilt werden. Die Art und Weise, wie ATProto und Bluesky die Moderation handhaben, zeigt, dass diese Verteilung der Menschen auf verschiedene Dienste nicht unbedingt mehrere verschiedene Plattformen bedeuten muss, sondern dass eine sinnvolle Verteilung der Menschen auf verschiedene Clients in diesem speziellen Fall ebenfalls effektiv wäre. Es zeigt, dass der Wert eines dezentralen sozialen Netzes weniger von den technischen Möglichkeiten als vielmehr von der Verteilung der Menschen und der Macht abhängt. Es kommt weniger darauf an, was das Protokoll und die technischen Merkmale eines Netzwerks leisten können, sondern vielmehr darauf, inwieweit die Menschen in einer einzigen Gruppe zusammengefasst sind, sei es ein einzelner Dienst, eine Plattform oder ein Client.

Im Moment sieht es so aus, als hätten Bluesky PBC und die türkische Regierung eine Situation erreicht, mit der beide Seiten leben können. Das türkische Regime hat die Sichtbarkeit von Konten, die sie für unerwünscht hält, erheblich eingeschränkt. Die Umgehung dieser Beschränkungen bleibt eine Option, wobei es neue und einfachere Möglichkeiten gibt, dies zu tun. Aber wenn man bedenkt, wie leistungsfähig die Standard-Apps sind und wie wenig Menschen andere Apps nutzen, scheint dies für Erdogans Regime ein akzeptabler Kompromiss zu sein. Auch für Bluesky PBC scheint es ein akzeptables Ergebnis zu sein. Die Nichtbefolgung der gerichtlichen Anordnungen würde das Risiko mit sich bringen, dass die App im ganzen Land verboten wird. Durch die Verwendung von geografischen Moderationskennzeichen wird der Regierungsanordnung entsprochen, während gleichzeitig die Auswirkungen minimiert werden: Die fraglichen Konten sind außerhalb des Landes weiterhin sichtbar und die Menschen in der Türkei haben relativ leicht zugängliche Möglichkeiten, das Verbot zu umgehen.

2025 Copyright - Alle Rechte vorbehalten - Fe

1. Das ist nicht abschließend. Bluesky PBC kann auch PDSs von Drittanbietern vom genutzten Relais ausschließen, um Network Flooding, Spam undDDoS-Angriffe zu verhindern. Ob und wann Bluesky PBC diese Option genutzt hat, bleibt unklar. ↩

2. Zuwiderhandelnde Konten können in diesem Fall auch bereits auf der AppView-Ebene gesperrt werden. Mir ist nicht klar, welche Option Bluesky PBC hier üblicherweise verwendet - ich denke, es ist eigentlich beides. Aber vielleicht liege ich hier falsch. ↩

3. Die Nutzer:innen können sich auch freiwillig bei einem geografischen Labeler anmelden. ↩

4. Ich habe bisher noch kein Beispiel für einen Drittanbieter-Client gefunden, der die geografischen Moderationskennzeichen verwendet. ↩