Falsche KI-Antworten beim Googeln: Wie schlimm das ist

Die allermeisten von uns kommen permanent mit KI-Antworten in Kontakt: Weil sie seit längerem in der Google-Suche ganz oben eingebettet sind. Eine neue Auswertung zeigt, wie riskant das ist.

In 91 Prozent der Fälle gab die KI von Google richtige Antworten – zum Einsatz kam Gemini 3, ein hochwertiges LLM. Das ergab eine Auswertung im Auftrag der New York Times (Opens in a new window). Doch dies hat folgende Schattenseite: “Da Google (…) jährlich mehr als fünf Billionen Suchanfragen verarbeitet, bedeutet dies laut einer Untersuchung des KI-Startups Oumi, dass pro Stunde zig Millionen fehlerhafte Antworten generiert werden (beziehungsweise Hunderttausende Ungenauigkeiten pro Minute).”

Zum Beispiel passieren folgende Fehler: Die KI-Übersicht bietet ja eine Kurzfassung zur Suchanfrage – und listet dann Quellen auf, auf die sie sich bezieht.

Nur zeigt sich mitunter: Die genannte Quelle beinhaltet die Behauptung der KI gar nicht. Das Modell hat also halluziniert, etwas Falsches erfunden. Es kann auch sein, dass KI eine falsche Information wiedergibt: Denn häufig werden einfach Social-Media-Posts, Reddit-Einträge oder irgendwelche Webseiten als Grundlage für die Antwort herangezogen – und somit eine falsche Behauptung wiedergekäut. Letzteres führt übrigens auch zu Missbrauchsmöglichkeiten: Man kann zum Beispiel gezielt in einem Blogpost etwas Falsches behaupten und darauf spekulieren, dass die KI das als Datengrundlage heranziehen wird. Die New York Times berichtet etwa von folgendem Vorfall: Thomas Germain (Opens in a new window), Tech-Journalist bei der BBC, hat einen Blogpost mit dem Titel “The Best Tech Journalists at Eating Hot Dogs” angelegt und sich selbst darin gelistet. Einen Tag später googelte er nach den besten Hot-Dog-essenden Journalist:innen – und prompt wurde er mit aufgelistet.

Diese Recherche der New York Times ist bedenklich. Zwar ist wahrscheinlich vielen (gut informierten) Menschen schon bewusst, dass die KI-Übersicht oft falsche oder gar bizarre Antworten liefert. Nur sehe ich zwei gröbere Probleme:

Erstens muss man davon ausgehen, dass ein Teil des Publikums nicht einmal über rudimentäre KI-Kenntnisse verfügt. Also dass ihnen diverse Schattenseiten oder ethische Probleme heutiger künstlicher Intelligenz nicht genug bewusst sind – inklusive des Problems des Halluzinierens. In dieser Zielgruppe erscheint mir das Risiko falscher KI-Zusammenfassungen besonders groß.

Es gibt noch ein zweites Problem: Selbst besser Informierte werden nicht immer die KI hinterfragen – denn das ist unrealistisch. Zum Beispiel wissen viele von uns: Die KI kann falsch liegen. Oder sie wissen, dass es für Medien und Einrichtungen ein ernstes Problem ist, wenn es zunehmend zu “Zero Click Searches” kommt. Also dass Nutzerinnen und Nutzer einfach die Antwort der KI lesen, und nicht auf die Originalquelle klicken, die die Information zusammentrug. Aber in der Praxis werden wir oft nicht diese (zusätzlichen Sekunden) Zeit investieren: Denn vieles, das Menschen über den Tag googeln, erscheint auf den ersten Blick trivial. Wann starb eine berühmte Schauspielerin? Wie hoch ist eine Brücke? Wie nennt man das portugiesische Gericht mit der Zutat XYZ?

Ich bemerke zumindest bei mir selbst: Gerade, wenn ich eine Suchanfrage als eher trivial empfinde, wenn ich gerade ohnehin gehetzt bin, werde ich oft nur die KI-Übersicht scannen. Ist mir eine Recherche hingegen sehr wichtig, dann gehe ich in einen viel tieferen Suchmodus: Womöglich schenke ich den KI-Antworten nahezu gar keine Aufmerksamkeit, sondern durchforste die tatsächlichen Suchmaschinen-Treffer darunter (wobei ich oft mit der Qualität der Suchmaschinen-Ergebnisse auch unzufrieden bin!). Oder ich schaue mir tatsächlich näher an, auf welche Quellen sich die KI bezieht. Hier ist mir auch schon passiert, dass die KI eine Quelle zitiert, die Derartiges gar nicht behauptet. Das sind wichtige Momente bei der Recherche, wo man merkt, wie wichtig Wachsamkeit ist.

Zwei Sicherheitsmechanismen kann man leicht anwenden, um vor falschen KI-Antworten gefeit zu sein:

Erstens kann man ausschalten, dass eine KI-Übersicht eingeblendet wird. So lässt sich bei der Suchanfrage “-ai” anhängen – dann wird einem diese nicht angezeigt. Auch kann man den eigenen Browser standardmäßig so einstellen, dass er dies verbirgt (eine Anleitung gibt es hier (Opens in a new window)).

Zweitens: Es lohnt sich, im Zweifelsfall die Quellen der KI zu überprüfen – bestätigen sie wirklich, was die Übersicht mittels KI behauptet? Und ganz wichtig: Ist das eine seriöse Quelle?

Das absolute Mindestmaß sollte in meinen Augen sein: Wachsam zu sein bei besonders heiklen Suchanfragen – also wenn es um eine Suchanfrage mit schwerwiegenden Konsequenzen geht, etwa etwas Medizinisches oder steuerrechtliche Themen. Oder wenn man vorhat, die Information in einem wichtigen Dokument – wie einer Arbeitsunterlage – weiterzuverwenden.

Nur eines beschäftigt mich: Gerade, wenn uns etwas trivial erscheint, werden viele von uns (ich inklusive) nur schnell die KI-Übersicht scannen. Folgt man den Zahlen der New York Times, bedeutet das: In vielen Fällen kann es passieren, dass man unbemerkt teils falsche Infos über die KI aufschnappt. Und mir gibt das sehr zu denken, inwieweit die Bequemlichkeit, die KI bringt, zum Teil auch zu einer Informations-Verschlechterung führen kann.

—

Das war es für dieses Mal, danke an alle, die bis hierhin gelesen haben!

Hier ein paar aktuelle Termine, wo ich Vorträge halten oder diskutieren werde:

28.4., Thalia Wien-Mariahilfer Straße, ab 19 Uhr, Buchpräsentation

8.5., Journalismusfest Innsbruck, genaue Uhrzeit wird noch bekannt gegeben, Diskussion

13.5., Literaturhaus Graz, 19 Uhr, Buchpräsentation von “Feindbild Frau”

18-20.5., re:publica Berlin, Session zu “Gegenstrategien zum Frauenhass”, genauer Zeitpunkt wird noch bekanntgegeben

Wir hören uns in zwei Wochen!

Schönen Gruß

Ingrid Brodnig