KW 21 | 2026

EU AI Act: Was bleibt, was ist neu, was verschiebt sich?

Liebe Leserin, lieber Leser,

der EU-Trilog hat sich am 7. Mai 2026 zum AI Omnibus geeinigt. Es standen einige Verschiebungen von Fristen im Raum, aber kurz vor knapp wurde dann doch einiges entschieden – allerdings anders als geplant.

Welchte Punkte sind für Bildungsinstitutionen relevant?

Schauen wir auf Artikel 50 des EU AI Act (KI-Verordnung), der die Transparenzpflichten regelt. Hier bleibt der 02. August maßgeblicher Stichtag, obwohl zwischendurch über eine Verschiebung diskutiert wurde.

Art. 50 der KI-VO regelt u.a. die Transparenzpflichten bei der Interaktion mit KI-Systemen. Wer einen Chatbot einsetzt – etwa als Lernassistent oder im Kundenkontakt –, muss Nutzerinnen und Nutzern deutlich machen, dass sie mit KI interagieren. Die Kennzeichnung muss erfolgen, bevor die betreffende Person mit dem KI-System interagiert oder das KI-generierte Ergebnis wahrnimmt. Die Form des Hinweises sollte dabei klar und unmissverständlich sein.

Außerdem gibt es strenge Vorgaben zur Emotionserkennung und biometrischen Kategorisierung, wobei zu beachten ist, dass die Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen ohnehin verboten ist, sofern sie nicht medizinischen oder sicherheitsrelevanten Zwecken dient.

Bei der Kennzeichnungspflicht gelten zwei Arten: für Maschinen und für Menschen

Die maschinenlesbare Kennzeichnung ist eine Art digitales Wasserzeichen, das in jedem KI-Output steckt. Es ist für Menschen unsichtbar, aber Computer können es auslesen, etwa um automatisch zu erkennen, dass ein Bild von Midjourney stammt. Dafür sind nach Art. 50 Abs. 2 die KI-Anbieter zuständig, also OpenAI, Midjourney und Co. Als Betreiber müssen Sie hier nichts einbauen. Der AI Omnibus hat für Tools, die bereits vor dem 2. August 2026 auf dem Markt waren, eine Übergangsfrist bis zum 2. Dezember 2026 eingeräumt.

Die sichtbare Kennzeichnung ist der Hinweis, den Nutzer und Nutzerinnen tatsächlich erkennen können, wie etwa ein „KI-generiert" unter einem Bild. Diese Pflicht trifft Betreiber, also Unternehmen, die KI einsetzen und nutzen, allerdings aber nur in zwei Konstellationen: bei Deepfakes und bei KI-Texten zu öffentlichen Themen.

Eine pauschale Pflicht, jeden KI-Output sichtbar zu kennzeichnen, kennt der AI Act nicht. Unabhängig davon kann eine freiwillige Kennzeichnung aber sinnvoll sein, etwa aus Gründen der eigenen Glaubwürdigkeit oder wegen Plattformregeln. Praktikabel sind kurze Vermerke wie „Dieser Beitrag wurde mit Unterstützung von KI erstellt", „Bild: KI-generiert (Midjourney)" oder ein gut sichtbarer Hashtag wie #KIgeneriert.

Bei Deepfakes müssen Betreiber offenlegen, dass Bild-, Ton- oder Videoinhalte künstlich erzeugt oder manipuliert wurden. Ein „Deepfake" ist ein durch KI erzeugter oder manipulierter Bild-, Audio- oder Videoinhalt, der existierenden Personen, Objekten, Orten, Einrichtungen oder Ereignissen ähnelt und fälschlicherweise als authentisch erscheinen würde. Eine Täuschungsabsicht ist dabei nicht erforderlich.

Ist der Inhalt Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks oder Programms, gelten Ausnahmen.

Die Definition eines Deepfakes ist bewusst weit gefasst. Sie umfasst nicht nur die Darstellung realer Personen, sondern auch täuschend echt wirkende Bilder, Videos oder Audio-Aufnahmen von fiktiven Menschen, Geschehnissen und Orten, solange sie einer Person fälschlicherweise als echt erscheinen könnten. Der Gesetzgeber geht damit deutlich über den umgangssprachlichen Gebrauch des Begriffs hinaus, der eher vorsätzliche Verfälschungen meint.

Besonders bemerkenswert ist die Ausweitung auf Objekte, Orte und Ereignisse, die erst in der finalen Fassung des AI Act aufgenommen wurde. Damit erfasst die Regulierung gerade auch jene Fälle, in denen das Manipulationspotential KI-generierter Inhalte über die Darstellung von Personen hinausgeht. Ein illustratives Beispiel ist das KI-generierte Bild einer angeblichen Explosion in der Nähe des Pentagon (Abre numa nova janela), das im Mai 2023 kurzfristig zu Bewegungen an der New Yorker Börse führte.

Faustregel: Sieht etwas wie etwas Echtes aus, klingt der Inhalt wie etwas Echtes, dann ist er kennzeichnungspflichtig. Ein foto-realistisches Bild oder eine täuschend echte Stimme fallen darunter. Eine erkennbar künstliche Illustration, ein Cartoon-Avatar oder eine offensichtlich synthetische „Roboterstimme" dagegen nicht.

Die Kennzeichnungspflicht gilt auch für KI-generierten Text von öffentlichem Interesse

Muss ich jetzt jeden Text, den ich mit ChatGPT & Co. generiere, kennzeichnen?

Nein, diese Pflicht greift nur bei Texten, die der Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse dienen, also der Kommunikation nach außen.

Diese Pflicht entfällt allerdings, wenn die KI-generierten Inhalte einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und eine natürliche oder juristische Person die redaktionelle Verantwortung trägt. Interne Entwürfe oder Notizen sind ohnehin nicht betroffen. Auch unwesentliche KI-Unterstützung wie Rechtschreibkorrektur muss nicht gekennzeichnet werden.

Hochrisiko-KI: Verschiebung auf Dezember 2027

KI-Systeme, die ein hohes Risiko für Gesundheit, Sicherheit oder Grundrechte darstellen, unterliegen strengen Regeln. Diese sollten ursprünglich im August 2026 in Kraft treten und werden jetzt durch den AI Omnibus auf den 2. Dezember 2027 verschoben.

Für den Bildungsbereich besonders relevant: Als Hochrisiko gelten ggfs. KI-Systeme zur Bewertung von Lernergebnissen, zur Steuerung des Lernprozesses und zur Überwachung von Prüfungsbetrug. Auch im Bereich Personal (z. B. Analyse und Filterung von Bewerbungen) greifen die Hochrisiko-Regeln ebenfalls erst ab Dezember 2027.

Neue Verbote ab Dezember 2026

Ab dem 2. Dezember 26 wird der Umgang mit besonders missbräuchlichen KI-Anwendungen neu geregelt. Verboten werden KI-Systeme, die nicht-einvernehmliche intime Bilder erzeugen oder manipulieren, sowie KI-generiertes Kindesmissbrauchsmaterial.

Was ist jetzt zu tun?

Bis zum 2. August haben Sie noch Zeit, sorgfältig zu prüfen, welche Anforderungen der Transparenzpflicht nach dem EU AI Act für Ihre Einrichtung, Ihren Verband oder Ihre Organisation relevant sind. Vergessen Sie dabei nicht die KI-Agenten und Systeme, die Sie in den vergangenen Monaten oder Jahren gebaut und in Umlauf gebracht haben, und denken Sie auch an Freiberuflerinnen und Freiberufler, die in Ihrem Auftrag tätig sind: Auch sie müssen die relevanten Vorgaben im Blick haben.

Disclaimer: Wir haben den aktuellen Stand hier nach bestem Wissen zusammengefasst. Bitte beachten Sie jedoch, dass wir keine Rechtsberatung leisten und unsere Einschätzung eine juristische Prüfung nicht ersetzen kann. Für verbindliche Auskünfte verweisen wir auf die Veröffentlichungen der jeweils zuständigen nationalen Behörden, insbesondere die Bundesnetzagentur (Abre numa nova janela)in Deutschland sowie das entsprechende Pendant in Österreich, Digital Austria (Abre numa nova janela) oder auf den Originaltext zu Art. 50 KI-VO zu den Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme (Abre numa nova janela)

Sprechen Sie uns an. Wir begleiten Sie mit Workshops, Keynotes, Moderation und Beratung.

Christiane Carstensen, David Röthler und Sonya Dase
von Milenu (Abre numa nova janela)und Dase & Carstensen (Abre numa nova janela)

Empfehlen (Abre numa nova janela) Sie uns gerne weiter …

Außerdem im Infobrief:

• KI im Meeting – Geht das auch datenschutzkonform?

• HTML aus der KI – Warum wir nicht immer nur an PDF, Word und Excel denken sollten

• Voicepilling – Wenn die Stimme übernimmt

• 3 Tool-Tipps für Sprechen statt Tippen

• Data Poisoning mit Mottenfrisur

• Google stellt neue Gemini-Architektur vor

• Termine rund um KI und Erwachsenenbildung im DACH-Raum

(Abre numa nova janela)

KI im Meeting: Geht das auch datenschutzkonform?

KI verspricht, unseren Arbeitsalltag beispielsweise bei der Dokumentation von Meetings, Barcamps oder Workshops spürbar zu entlasten. In der Praxis scheitert genau dieser Anwendungsfall jedoch häufig an Datenschutzfragen.

Bisherige Lösungen von Branchenriesen wie Zoom, Microsoft Teams oder Webex verarbeiten die Audio- und Gesprächsdaten in der Regel auf externen Servern. Wo keine eindeutige, rechtssichere Grundlage für den Datenschutz vorliegt, bewegen sich Institutionen und Unternehmen schnell in einer rechtlichen Grauzone.

In einem aktuellen Video (Abre numa nova janela) stellt Tobias Albers-Heinemann, Referent für Digitale Bildung im Zentrum Bildung der Evangelischen Kirche in Hessen und Nassau, mit Hedy.AI (Abre numa nova janela) einen KI-Meeting-Assistenten vor, der komplett lokal auf dem eigenen Rechner betrieben werden kann. Das 13:08 Minuten lange Video führt Schritt für Schritt durch die einfache Einrichtung.

Aber denken Sie daran: Lokal allein reicht nicht. Eine saubere technische Grundlage ist das A und O, aber ebenso wichtig sind klare Prozesse, transparente Kommunikation, passende und rechtzeitig eingeholte Einwilligungen sowie eine sorgfältige Prüfung der konkreten Anwendung und der verarbeiteten Daten. Denn auch mit einer lokal gehosteten KI lassen sich Meeting-Auswertungen so umsetzen, dass sie arbeitsrechtlich und ethisch problematisch werden können.

HTML aus der KI: Warum wir nicht immer nur an PDF, Word und Excel denken sollten

Wenn wir mit KI arbeiten, fragen wir meistens nach Word, PDF oder Excel. Verständlich, denn das sind die Formate unseres Arbeitsalltags. Doch die aktuellen Modelle können auch sehr gut HTML. Und bevor Sie weiterklicken, weil Sie an Programmieren oder Webseiten denken: beides ist nicht gemeint.

Eine HTML-Datei ist erstmal nur eine Datei. Wie eine PDF. Sie liegt in Ihrem Ordner, auf Ihrem Laufwerk, in Ihrem Projektverzeichnis. Sie öffnen sie mit einem Doppelklick. Der Browser ist nur das Anzeigeprogramm, so wie der Acrobat Reader für PDFs. Mit „Internet" hat das nichts zu tun. Nichts wird hochgeladen, nichts veröffentlicht.

Viele unserer Inhalte in der Erwachsenenbildung sind nicht linear. Kursarchitekturen, Zielgruppen, Förderlogiken, Materialien, Zuständigkeiten lassen sich manchmal besser als HTML lesen als in einem Fließtext.

Mit Tabs, Filtern, ausklappbaren Bereichen, einer Suche, einer kleinen Navigation. Aus den 30 Seiten eines Konzepts wird z.B. eine Startseite mit Filterfunktionen oder ein Wiki oder ein Dashboard.

Sie müssen nichts technisch formulieren. Es reicht zu sagen, wofür Sie das Ergebnis brauchen:

„Mach mir aus diesem Konzept ein internes Dashboard für die Kursplanung."
„Bereite die Evaluationsergebnisse als HTML-Seite mit Filtern und Handlungsempfehlungen auf."
„Bau mir eine Startseite für diesen Projektordner mit Zuständigkeiten und offenen Aufgaben."
„Mach aus diesem Text eine kleine HTML-Seite mit FAQs als Akkordeon.

Die KI übersetzt das. Sie bekommen eine Datei. Sie öffnen sie. Fertig.

Geben Sie der KI Inhalte einfach als Text, Liste, Tabelle oder Stichpunkte. Lassen Sie sich das Ergebnis als HTML ausgeben, wenn Sie es übersichtlich, interaktiv oder visuell haben möchten.

KI kann dabei eine Vielzahl verschiedener Komponenten integrieren. Eine Auswahl sehen Sie in unserer kleinen “HTML-Stickprobe” (Abre numa nova janela).

Wer noch Handarbeitsunterricht hatte, kennt das Prinzip: ein Stück Stoff, auf dem verschiedene Stiche nebeneinander zu sehen sind. Nicht zum Gebrauchen, sondern zum Schauen, was man alles machen kann.

Viel Spaß beim Ausprobieren und Herumspielen. Man weiß oft nicht, was möglich ist, und fragt deshalb auch nicht danach.

Genau so ist unsere Datei gedacht. Karten, Register, Filter, Zeitleisten, kleine Diagramme, farbige Hinweise, ein Mini-Dashboard. Nicht, damit Sie das nachbauen. Sondern damit Sie wissen, was Sie alles bei der KI in Auftrag geben können.

(Abre numa nova janela)

Probieren Sie es beim nächsten Konzept einfach aus.

Sie werden überrascht sein, wie viel besser Informationen erfasst und nutzbar werden, wenn sie nicht auf Seite 17 einer PDF stehen.

Voicepilling – Wenn die Stimme übernimmt

In vielen Büros hört man immer weniger Tastaturklicken, dafür mehr Gemurmel vor dem Bildschirm. Auch wir sprechen immer öfter Prompts ein, statt sie zu tippen.

Manchmal ist es praktischer, wenn ein Gedanke noch unfertig ist, wenn man schneller erzählen als schreiben kann oder wenn man sich selbst beim Sprechen erst darüber klar wird, was man eigentlich wissen möchte.

Ein gesprochener Prompt kann aber auch abschweifen, ungenau werden oder mehr Nacharbeit machen als ein kurzer schriftlich formulierter Satz. Beim Schreiben sortiert man sich anders. Man streicht, ergänzt, überlegt kurz, bevor man abschickt.

Wer sich mit dem Schreiben generell schwertut, bekommt über die Mündlichkeit einen anderen und wertvollen Zugang.

Gerade Menschen mit Lese-Rechtschreib-Schwäche arbeiten dabei nicht nur mit dem Mikrofon in der jeweiligen KI-Anwendung selbst. Viele nutzen leistungsstarke Voice-to-Text-Tools direkt und übergreifend auf dem Computer auch außerhalb einzelner KI-Tools, um ihren Arbeitsprozess mündlich zu steuern: Mails formulieren, Notizen festhalten, Texte überarbeiten oder erste Gedanken sammeln.

Für den Umgang mit KI gibt es inzwischen sogar ein Wort: Voicepilling. (Abre numa nova janela)

Aus unseren Workshops kennen Sie diese Praxis schon längst. :-)

Aus der gestrigen re:publica (Abre numa nova janela)-Session von Manuela Lieber, Gründerin von Mindful Spaces (Abre numa nova janela), haben wir uns gestern den schönen Begriff “akustische Privatheit” mitgenommen. Denn auch das brauche ich, wenn ich bestimmte Prozesse mündlich steuere.

Am Ende wird es vermutlich kein Entweder-Oder. Manchmal ist die Stimme der bessere Weg, manchmal ist es die Tastatur.

3 Tool-Tipps für Sprechen statt Tippen

Wispr Flow (Abre numa nova janela) – das schnellste Setup für alle, die einfach loslegen wollen. Push-to-talk in jeder App auf Mac, Windows, iPhone und Android, automatische Edits räumen Füllwörter und Versprecher weg, ein persönliches Wörterbuch lernt eigene Namen und Fachbegriffe. Cloud-basiert.

Handy (Abre numa nova janela) – die Open-Source-Alternative für alle, denen Datenschutz wichtig ist. Lokal, kostenlos, plattformübergreifend. Shortcut drücken, sprechen, loslassen – Text landet im fokussierten Feld. Keine Cloud, keine Konten, der Sprachinhalt verlässt das Gerät nicht.

MacWhisper (Abre numa nova janela)– unser persönlicher Favorit auf dem Mac für längere Diktate und Transkriptionen ganzer Audiodateien. Whisper-basiert, lokal, mit Sprechererkennung. Wer den Cloud-Komfort von Flow nicht braucht, fährt mit Handy bzw. MacWhisper datensouverän und kostenlos.

Data Poisoning mit Mottenfrisur

Wie anschaulich kann Künstliche Intelligenz erklärt werden? Sehr anschaulich, wenn man sie am Beispiel einer Motte betrachtet, der man mittels Data Poisoning eine ikonische Frisur verpasst. Wie viele Impulse brauche ich, bis das Trainingsmaterial meine Version übernimmt? Im Workshop der Künstlerinnen Celine Nauer, Zoë van Doren und Nikki Böhler wurde digitale Grundbildung praktisch, klug und ausgesprochen unterhaltsam vermittelt.

Wann und wo konnten wir den Workshop erleben? Auf der re:publica, die gerade heute in Berlin zu Ende geht.

“Neopalpa donaldtrumpi” mit ikonischer Frisur

Im Mittelpunkt stand das Kunstprojekt „Poisoning Reality“ (Abre numa nova janela), das zeigt, wie leicht Wirklichkeit verzerrt werden kann, wenn KI-Systeme aus öffentlich verfügbaren, manipulierbaren Daten lernen. Die Künstlerinnen arbeiten dabei mit der eigens erschaffenen Motte Neopalpa donaldtrumpi um sichtbar zu machen, wie Trainingsdaten spätere KI-Ergebnisse beeinflussen können.

Besonders stark war der Gedanke des positiven Reframings. Data Poisoning muss nicht nur als Gefahr verstanden werden, sondern kann auch ein künstlerisches, kritisches und demokratisches Werkzeug sein.

Google stellt neue Gemini-Architektur vor

Google hat mit Gemini Omni Flash (Abre numa nova janela) den Start einer neuen KI-Modellreihe vorgestellt. Diese soll langfristig verschiedene Medienformen miteinander verbinden können: Text, Sprache, Bilder, Videos und Audio. Zum Start steht vor allem die Erstellung und Bearbeitung von Videos im Mittelpunkt. Künftig soll die KI besser verstehen, was in einer Szene passiert und was sinnvollerweise als Nächstes folgen könnte.

Google verspricht außerdem, dass sich Inhalte Schritt für Schritt weiterentwickeln lassen. Figuren, Orte und Szenen sollen also möglichst gleich bleiben, auch wenn ein Video mehrfach verändert wird. Geplant sind zudem Funktionen, mit denen reale Videos bearbeitet oder digitale Avatare erstellt werden können.

Außerdem hat Google das Modell Gemini Flash 3.5 (Abre numa nova janela) vorgestellt. Es soll Googles schnellstes und leichtgewichtigstes Basismodell der nächsten Generation werden, das für komplexe Aufgaben und Programmierung optimiert ist. Es soll besonders schnell arbeiten und Nutzerinnen und Nutzer künftig besser bei komplexeren Aufgaben unterstützen, etwa beim Recherchieren, Planen oder Programmieren.

Der eigentliche Hebel ist allerdings das neue Gemini Spark (Abre numa nova janela), mit dem sich Gemini stärker in Richtung KI-Agent entwickelt, also einer KI, die nicht nur Fragen im Chat beantwortet, sondern Aufgaben besser verstehen, planen und schrittweise ausführen soll.

Der entscheidende Wettbewerbsvorteil liegt dabei in Googles bestehender Produktwelt. Google verfügt bereits über große Datenbestände aus der Suche, Maps, YouTube, Shopping und weiteren Diensten. Dadurch muss ein solcher Agent viele Informationen nicht erst mühsam zusammensuchen, sondern kann auf vorhandene Strukturen zurückgreifen.

Für Nutzer könnte sich die Suche dadurch spürbar verändern. Statt nur eine Liste von Links oder eine reine Textantwort zu bekommen, könnten sie direkt eine aufbereitete Lösung erhalten, wie etwa einen Vergleich, eine Übersicht, eine Berechnung, eine Reiseplanung oder eine kleine interaktive Anwendung mit Tabellen, Diagrammen oder Visualisierungen.

Damit würde Google Informationen nicht nur finden, sondern direkt in eine nutzbare Form bringen. Genau das könnte Gemini Spark im Alltag mächtiger machen als viele eigenständige KI-Agenten der Konkurrenz, die erst auf externe Quellen zugreifen und Ergebnisse selbst zusammensetzen müssen.

Zum Start ist Spark zunächst nur für Google AI Ultra-Abonnenten in den USA verfügbar. Die Ankündigung zeigt dennoch klar, dass sich Google weg bewegt von der klassischen Linksuche, hin zu einer KI, die Aufgaben direkt auf der Google-Oberfläche erledigt. Für Websites bedeutet das zugleich, dass künftig noch mehr Suchanfragen bei Google selbst enden könnten.

Da Google die neue Gemini-Produktreihe ganz frisch gestern Nacht veröffentlicht hat , gibt es bislang noch keine eigenen Tests oder Beispiele aus der Praxis. Wie gut die neuen Modelle tatsächlich funktionieren, lässt sich daher erst beurteilen, wenn sie breiter verfügbar sind.

Terminübersicht KI und Erwachsenenbildung im DACH-Raum

Eine Terminübersicht zu Fortbildungen, Events und Tagungen in Deutschland, Österreich und der Schweiz rund um KI, Erwachsenenbildung und Bildungsmanagement finden Sie hier (Abre numa nova janela).

27./28.05.26
Nord 2026 (Abre numa nova janela)
kostenfrei
Rostock

09.06.26
Offene Werkstatt #2 (Abre numa nova janela)
David Röthler
10.00–12.00 Uhr, online
Kostenfrei (EU-finanziert)

11.o6.26
Wo stehen wir gerade? Bewerbungsverfahren in Zeiten von KI (Abre numa nova janela)
18.00–19.00 Uhr, online, kostenfrei
Dase & Carstensen GmbH

17.06.25
Stiftung Grundbildung Berlin
10. Berliner Fachtag: KI in der Grundbildung in Berlin (Abre numa nova janela)
Keynote Christiane Carstensen
9.00–16.00 Uhr, kostenfrei
Anmeldung bis 01.06.26
Berlin

25.06.26
Open Data Einführungs-Workshop (Abre numa nova janela)
9.00–12.00 Uhr online, kostenfrei
Correl Aid

07.07.26
Wo stehen wir gerade? – HTML Dateien & KI (Abre numa nova janela)
10.00 - 11.00 Uhr, online, kostenfrei
Dase & Carstensen GmbH

Newsletter an- und abmelden

Am Ende jedes Newsletters finden Sie einen Link, mit dem Sie den Newsletter über unseren Dienstleister Steady (Abre numa nova janela) abbestellen können.

Wir freuen uns, wenn Sie unseren Infobrief (Abre numa nova janela) weiterempfehlen.

Sie erreichen uns als Redaktion unter info@51GradNord.ai.
51° Nord ist eine Gemeinschaftsredaktion von Milenu (Abre numa nova janela) und Dase & Carstensen (Abre numa nova janela).