Studie: KI-Fälschungen – ein Problem der digitalen Erinnerungskultur
KI-Fakes gefährden digitale Erinnerungskultur
Heute (31.07.2025), veröffentlichte AI Forensics eine 48-seitige Studie über KI-generierte Inhalte auf TikTok und Instagram. Die detaillierte Analyse zeigt ein alarmierendes Ausmaß: Jedes vierte Video auf TikTok enthält synthetische KI-Bilder.
Die Forschenden untersuchten systematisch 13 Hashtags in drei europäischen Ländern während des gesamten Juni 2025. Besonders problematisch: Unter dem Hashtag #History verbreiten sich manipulierte Bilder aus der NS‑Zeit ohne Kennzeichnung. Diese zeigen angeblich authentische Perspektiven von Opfern im Konzentrationslager Auschwitz.
Die Studie deckt das Phänomen der „Agentic AI Accounts“ auf. Diese spezialisierten Konten produzieren automatisiert KI‑Inhalte und verantworten über 80 Prozent aller synthetischen Bilder auf TikTok. Über 80 Prozent dieser Inhalte sind fotorealistisch und damit besonders täuschend.
Gravierend: Nur die Hälfte aller KI‑Inhalte auf TikTok trägt eine Kennzeichnung. Auf Instagram sind es sogar nur 23 Prozent. Vorhandene Kennzeichnungen verstecken sich oft in langen Hashtag-Listen oder sind für Desktop-Nutzer völlig unsichtbar.
Die Forschenden warnen vor „KI‑Müll“ und “KI-Schrott” in bisher unbekanntem Ausmaß. Plattformen verstoßen gegen ihre Verpflichtungen aus dem Digital Services Act. Die visuell plausiblen Inhalte „überlisten“ Algorithmen und gehen viral.
Der NaziCrimesAtlas und der Verein dieKunstBauStelle verfolgen einen anderen Ansatz. Mit unseren Apps, im Newsletter, auf Webseiten und in Podcasts wollen wir verlässliche, geprüfte Inhalte zur Geschichtsvermittlung und Erinnerungskultur schaffen.
Wir haben die Studie automatisiert ins Deutsche übersetzt. Aus urheberrechtlichen Gründen stellen wir sie jedoch nicht öffentlich bereit. Gerne senden wir Ihnen die deutschsprachige Version auf Anfrage zu.
Links
Die deutsche Version der Studie per E-Mail anfordern: info@dieKunstBauStelle.de
Förderung
Das Projekt wird in der Bildungsagenda NS-Unrecht von der Stiftung Erinnerung, Verantwortung und Zukunft (EVZ) und dem Bundesministerium der Finanzen (BMF) gefördert.
Empfehlen Sie uns weiter!
(S'ouvre dans une nouvelle fenêtre)
