Liebe Leserin, lieber Leser,
Bots und KI-Assistenten sind eine großartige Ergänzung für Bildungseinrichtungen und Unternehmen. Sie beantworten Routinefragen, begleiten Lernende und entlasten Teams. Doch mit jedem neuen Einsatzfeld wächst auch die Verantwortung. Daher sollten Sie sich immer dann Profis dazuholen, wenn Systeme nach außen, d.h. mit Kundinnen und Kunden kommunizieren. Denn heute kommen Angriffe oder Fehlfunktionen nicht mehr über versteckte Hintertüren, sondern durch die ungeschützte Vordertür.
Nehmen wir einen Chatbot, den Sie für die Kundenkommunikation gebaut haben. Netter Kerl, gut trainiert, voller hilfreicher Infos zu Ihren Kursen und Angeboten. So ein digitaler Assistent ist schnell gebaut und oft erstaunlich kompetent. Aber was, wenn jemand ihn testet? Nicht auf Fakten, sondern auf Grenzen? Ein paar kreative Eingaben später könnte der Bot plötzlich anzüglich werden.
Es braucht keine Hackergruppe dafür, ein gelangweilter Azubi mit Humor auf Reddit reicht aus. Ein einziger Screenshot, der zeigt, wie der Chatbot Ihres Bildungswerks Studierende unangemessen anspricht, kann für einen veritablen Shitstorm genügen.
Was, wenn der Bot auf Inhalte zugreift, die eigentlich nicht für die Öffentlichkeit gedacht waren? Internes Know-how, exklusive Lernpfade, persönliche Didaktik? Mit ein bisschen sprachlichem Geschick lässt sich mit Prompt Injection so mancher KI-Assistent zu Aussagen verleiten (Öffnet in neuem Fenster), die er besser für sich behalten hätte.
Vielleicht haben Sie viel Zeit und Geld in Ihre digitale Lernplattform investiert, mit hochwertigen Kursen, sorgfältig erstellten Arbeitsblättern und einer Paywall, die Ihre Inhalte schützt. Nach außen scheint alles sicher: Zugänge sind beschränkt, Passwörter gut gewählt, die Technik solide. Doch agentische Browser agieren anders. Sie sind keine Hacker im klassischen Sinn. Sie agieren im Internet wie Menschen, öffnen Ihre Website, klicken auf Ihren „Kostenlosen Testzugang starten“, bestätigen brav: „Ich bin kein Roboter“, und loggen sich ein. Sobald der Zugang steht, beginnt der automatisierte Download: Kurs für Kurs, Arbeitsblatt für Arbeitsblatt. Der Angriff kommt also nicht über die Hintertür, sondern durch die offizielle Eingangstür und nutzt genau das aus, was Sie für Ihre Kundinnen und Kunden zugänglich machen wollten.
Ein aktueller Fall aus Österreich zeigt, wie trügerisch das Versprechen vermeintlich einfacher KI-Lösungen bzw. unbedarftes Vibe Coding in der Kundenkommunikation sein kann. Das Tiroler Startup Localmind (Öffnet in neuem Fenster)warb im Oktober 2025 damit, dass Unternehmen „ohne Programmierkenntnisse“ eigene KI-Anwendungen entwickeln, trainieren und in ihrer Infrastruktur betreiben könnten. Sprache statt Code war das Versprechen.
Im Fall von Localmind wurde genau das zur Falle: Einem Hacker gelang es mühelos, sich Zugang zur Dateninfrastruktur zu verschaffen. Zahlreiche Kunden waren betroffen, ihre sensibelsten Daten lagen möglicherweise monatelang offen. Der Angriff war kein Angriff im klassischen Sinn. Er nutzte nur, was das System selbst bereitwillig preisgab.
Und darin liegt die eigentliche Lehre: Je einfacher Technologie zugänglich wird, desto anspruchsvoller wird ihre Absicherung. Niedrigschwellige Schnittstellen schaffen nicht nur neue Möglichkeiten, sondern auch neue Angriffsflächen.
Unser Tipp: Bleiben Sie aufmerksam, wenn Sie mit Hilfe von Bots nach außen kommunizieren oder Daten von Kundinnen und Kunden verarbeiten. Bots in der Kundenkommunikation können großartig sein. Kann man alles super machen, aber man muss wissen, wie. Nichts, was man einfach mal so eben um 23 Uhr am Küchentisch machen sollte.
Weil wir wissen, wie komplex und herausfordernd das Thema ist, haben wir uns Gäste eingeladen, die genau das geschafft haben: Sie haben die Entwicklung eines Bots für ein ganzes Bundesland umgesetzt. Am 28.11. lassen sie uns von 11.30–13.00 Uhr einen Blick hinter die Kulissen werfen, erzählen, wie sie vorgegangen sind, was gut lief und was sie unterwegs gelernt haben. Wir freuen uns sehr, dass sie sich Zeit nehmen, um ihre Erfahrungen mit uns zu teilen. Hier erst einmal als kleines Save-the-Date, genauere Infos folgen.
Wir selbst sind keine Experten für Cybersicherheit. Unser Beitrag liegt darin, Entwicklungen einzuordnen, Chancen und Risiken sichtbar zu machen, Netzwerke zu knüpfen und Diskussionen anzustoßen. Dabei unterstützen wir Sie gern mit Workshops, Keynotes, Moderation und Coaching.
David Röthler, Christiane Carstensen und Sonya Dase
51° Nord ist eine Gemeinschaftsredaktion von Milenu (Öffnet in neuem Fenster) und Dase & Carstensen (Öffnet in neuem Fenster).
Empfehlen (Öffnet in neuem Fenster) Sie uns gerne weiter …
Was Sie im aktuellen Infobrief erwartet:
OpenAI stellt seinen Chat GPT-Browser Atlas vor
Chat GPT: Sex sells
Bestattungsunternehmer, Geschichtslehrer … Welche Jobs darf KI und welche nicht?
Veränderung des Arbeitsmarkts eher langsam, dafür stetig
Sascha Lobo: „Ohne Erwachsenenbildung, ohne Aus- und Weiterbildung wird die digitale Transformation scheitern.”
Google AI Mode jetzt auch in Deutschland eingeführt
Events, Tagungen, Workshops und mehr zu KI und Erwachsenenbildung
OpenAI stellt seinen Chat GPT-Browser Atlas vor
Gestern Abend wurde Chat GPT Atlas (Öffnet in neuem Fenster)vorgestellt, der neue Browser von OpenAI. Er verbindet klassisches WebSurfen mit der Chat GPT-Plattform. Nutzer können mehrere Tabs geöffnet haben und gleichzeitig über eine Seitenleiste mit Chat GPT interagieren. Die KI ist also dauerhaft im Surfkontext präsent und verarbeitet die Inhalte der aktuell geöffneten Seiten, um gezielt Unterstützung bei Recherche, Planung oder Arbeit zu bieten.
Ein besonderes Merkmal ist der sogenannte „Agentenmodus“, der im Rahmen von Atlas eingeführt wurde. In diesem Modus kann Chat GPT nicht nur Fragen beantworten, sondern auch aktiv im Browser handeln, etwa Inhalte durchsuchen, Tabs verwalten oder Aufgaben automatisieren.
Hinsichtlich Datenschutz und Sicherheit gibt OpenAI an, dass Nutzer die Kontrolle über die Datennutzung behalten: Der Browserverlauf lässt sich löschen, es gibt einen InkognitoModus, und „standardmäßig“ würden Inhalte nicht zum Training der Modelle verwendet. Gleichwohl legen unabhängige Analysen nahe, dass insbesondere die agentische Komponente von Chat GPT mit erhöhtem Risiko verbunden ist, etwa durch mögliche „Prompt Injection“-Angriffe, Zugriff auf Nutzerdaten oder ungeplante Aktionen im Browser. OpenAI selbst weist in dem Zusammenhang auf den Beta-Status des Agenten hin. d.h. es ist noch nicht alles ausgereift.
Mit Atlas wird Surfen und KI nahtlos kombiniert. Nichtsdestrotrotz sollte man sich mit den Sicherheits- und Datenschutzregularien beschäftigen (Öffnet in neuem Fenster).
Wir stellen den Browser und unsere Erfahrungen gerne live in der nächsten 51° Nord-KI-Sprechstunde vor (Termin folgt).
Chat GPT: Sex sells
OpenAI will den Zugang zu erotisch konnotierten Inhalten für Erwachsene öffnen. OpenAI-Chef Sam Altman kündigte die Neuerung auf der Plattform X ohne nähere Details für Dezember an. Nutzerinnen und Nutzer sollen ihr Alter verifizieren müssen, die Funktion werde nur auf Wunsch freigeschaltet. ZEIT (Öffnet in neuem Fenster)
Bestattungsunternehmer, Geschichtslehrer … Welche Jobs darf KI und welche nicht?
Eine aktuelle US-amerikanische Studie der Harvard Business School (Öffnet in neuem Fenster)befragte Menschen zu 940 verschiedenen Berufen, um zu verstehen, wie sie den Einsatz von KI im Arbeitskontext bewerten. Dabei unterscheidet die Studie erstmals zwischen leistungsbasierten und prinzipienbasierten Bewertungen.
Selbst wenn KI „perfekt“ wäre, wird der Einsatz in 12 Prozent der Tätigkeiten für moralisch verwerflich gehalten, insbesondere in Bereichen, die mit Pflege, emotionaler Arbeit oder moralischer Autorität verbunden sind. Dort wird KI als kategorisch unangebracht empfunden.
Die Forschenden zeigen damit ein zentrales Spannungsfeld zwischen dem, was Technologie leisten kann oder zukünftig könnte, und dem, was wir für ethisch vertretbar halten. Diese moralischen Grenzen sind kulturell geprägt und nicht statisch; sie könnten sich mit der Zeit möglicherweise verschieben oder verfestigen.
Dabei können wir gerade den Bildungsbereich nicht als einheitlichen Bereich betrachten. KI in der Grundschulpädagogik wird sicher anders beurteilt als im Kontext der Erwachsenenbildung. Und auch der Blickwinkel spielt eine Rolle: Schaue ich als Dozentin auf das Thema, als Lernende, oder als politischer Mittelgeber, der mit möglichen Einsparungen durch Automatisierung liebäugelt? Diese unterschiedlichen Perspektiven zeigen, wie stark moralische Bewertung und Nutzenorientierung auseinanderfallen können.
Die Studie konzentriert sich auf den US-Arbeitsmarkt und ist nicht ohne Weiteres auf Deutschland übertragbar, liefert aber einen spannenden Impuls für den Diskurs. Dieses Spannungsfeld zwischen dem, was eine Technologie leisten kann, und dem, wofür sie nach Meinung der Menschen eingesetzt werden sollte, stellt eine zentrale Herausforderung für das Verständnis der langfristigen Auswirkungen der KI dar.
Veränderung des Arbeitsmarkts eher langsam, dafür stetig
Eine aktuelle Yale-Studie (Öffnet in neuem Fenster) zeigt: Chat GPT & Co. verändern die Arbeitswelt langsamer als befürchtet, aber unaufhaltsam. Die Forschenden sehen die Umbrüche auf einem ähnlichen Niveau wie einst bei Computer und Internet.
Das bedeutet: Der Wandel kommt nicht als Schock, sondern Schritt für Schritt. Doch wer sich nicht rechtzeitig anpasst, riskiert, zurückzubleiben.
„Ohne Erwachsenenbildung, ohne Aus- und Weiterbildung wird die digitale Transformation scheitern.”
O-Ton gestern von Sascha Lobo auf dem HEX-Festival. Lobo hat die Erwachsenenbildung explizit als Rückgrat der Transformation bezeichnet. Und er hat recht.
Was er formuliert hat, ist im Kern unser Auftrag: Menschen in Veränderungsprozessen zu begleiten. Es geht nicht darum, uns in KI einzuarbeiten, um unsere Arbeitsblätter aufzuhübschen. In unserer Branche ist dieses Bewusstsein noch längst nicht in der Breite angekommen. Dabei geht es jetzt genau darum, Verantwortung zu übernehmen: mitzudenken, mitzugestalten, sichtbar zu werden.
Wir haben es schon im letzten Editorial thematisiert: Die Erwachsenenbildung muss sich selbst als aktiven Teil der Transformation begreifen.
Das ist kein Randthema, das ist unser Spielfeld. Das ist unser Job.
Gestalten wir diesen Wandel. Entwickeln wir eine eigene Haltung, eine eigene Erzählung. Und überlassen wir dieses Feld nicht anderen.
Google AI Mode jetzt auch in Deutschland eingeführt
Der neue Google AI Mode ist seit Kurzem auch in Deutschland verfügbar. Statt wie früher einfach eine Liste von Suchergebnissen zu zeigen, liefert die Suche explizit eine KI-generierte Antwort mit erklärendem Text und Quellenangabe.
Für Unternehmen und ihre Inhalte bedeutet das: „Nur sichtbar in den klassischen Suchergebnissen zu sein“ reicht nicht mehr. Weil die Nutzer direkt im Antwortfeld der KI bleiben können, sinkt potenziell die Zahl der Klicks auf Webseiten, was die digitale Sichtbarkeit und das Auffinden von Inhalten massiv beeinträchtigen kann.
Terminübersicht zu KI und Erwachsenenbildung
Die vollständige Terminübersicht zu Fortbildungen, Events und Tagungen rund um KI, Erwachsenenbildung und Bildungsmanagement finden Sie hier. (Öffnet in neuem Fenster)
Neu eingetragen:
30.10.2025
KI-Verordnung: Wege zur Umsetzung. Eine Dialogreihe der Bertelsmann Stiftung und des Weizenbaum-Instituts - Ausgabe 7/8: „Die KI-Verordnung und Standardisierung“ (Öffnet in neuem Fenster)
Online, kostenfrei, 14:00–15:30 Uhr
19.11.2025
Videokonferenzen mit KI „upgraden“ (Öffnet in neuem Fenster)
18:00–21:00 Uhr, online, kostenfrei
Medienanstalt Sachsen-Anhalt
Newsletter an- und abmelden
Am Ende jedes Newsletters finden Sie einen Link, mit dem Sie den Newsletter über unseren Dienstleister Steady (Öffnet in neuem Fenster) abbestellen können.
Wir freuen uns, wenn Sie unseren Infobrief (Öffnet in neuem Fenster) weiterempfehlen.
Sie erreichen uns als Redaktion unter info@51GradNord.ai.
51° Nord ist eine Gemeinschaftsredaktion von Milenu (Öffnet in neuem Fenster) und Dase & Carstensen (Öffnet in neuem Fenster).
Datum
22.10.2025
