Chatbots widerstanden Staatspropaganda besser als KI-Suchzusammenfassungen

Ein von NPR gemeinsam mit NewsGuard durchgeführtes Experiment hat ergeben, dass führende KI-Chatbots Falschbehauptungen aus Russland, China und Iran überwiegend zurückwiesen, während die KI-erzeugten Zusammenfassungen, die inzwischen über den Suchergebnissen stehen, schlechter abschnitten. Die Forschenden bildeten 30 Fragen aus Narrativen, die zwischen Dezember 2025 und Juli 2026 erstmals auftauchten, und legten sie Chatbots wie OpenAIs ChatGPT und Googles Gemini sowie den größten Suchmaschinen vor.

Ein genanntes Beispiel: Nachdem russischer Beschuss im Juni ein historisches ukrainisches Kloster beschädigt hatte, behaupteten kremlnahe Medien und Konten, die Ukraine habe die UNESCO-Stätte beschädigt.

Das Ergebnis widerspricht der Intuition, wonach eine in Live-Suche verankerte Antwort verlässlicher sein müsste, und der Grund lohnt das Verständnis. Ein Chatbot, der aus seinen gelernten Parametern antwortet und dessen Sicherheitsabstimmung bekannte Einflussoperationen berücksichtigt, schöpft aus einem Bestand, in dem die Widerlegung meist besser vertreten ist als die Behauptung. Eine Suchzusammenfassung muss dagegen jene Seiten verdichten, die das Ranking geliefert hat. Ist es einer koordinierten Kampagne gelungen, ihre Seiten für eine enge Anfrage nach oben zu bringen — und genau darauf zielt die Kampagne —, dann bewertet die Zusammenfassung diese Seiten nicht, sie komprimiert sie und reicht dem Publikum eine gewaschene Fassung, gesprochen mit der Stimme der Suchmaschine.

Der Abruf wird also zur Schwäche, sobald der abrufbare Bestand selbst angegriffen wird. Das kehrt die übliche Annahme um, Verankerung verringere Erfindungen — und zwar genau dort, wo Genauigkeit am meisten zählt: bei engen, jungen, umstrittenen Ereignissen, zu denen belastbare Berichterstattung dünn ist und Gegner Zeit hatten, die Lücke zu füllen.

Praktisch folgt daraus, dass beide Systeme verschiedene Abwehr brauchen. Ein Modell lässt sich vor der Veröffentlichung gegen bekannte Falschnarrative prüfen. Eine Abrufkette muss fortlaufend verteidigt werden, weil sich ihre Eingaben täglich ändern und ihre Gegner gegen sie optimieren — und eine flüssige Zusammenfassung ist ein schlechter Ort, das zu bemerken.