Wenn KI unsere Wirklichkeit filtert: Was chinesische Sprachmodelle uns zeigen – und verschweigen

Eine KI muss keine Fakten erfinden, um uns in die Irre zu führen. Es reicht, wenn sie entscheidende Informationen weglässt oder politische Botschaften in eine sachlich klingende Antwort verpackt. Untersuchungen zu chinesischen Sprachmodellen zeigen, wie das aussehen kann. Für mich werfen sie eine Frage auf, die weit über DeepSeek hinausgeht: Wem überlassen wir eigentlich die Einordnung unserer Welt?

Wenn die Antwort von der eigentlichen Frage ablenkt

Wer eine KI nach den Ereignissen im ukrainischen Butscha fragt, erwartet Informationen darüber, was dort geschehen ist. Vielleicht eine Einordnung der Belege, Hinweise auf Untersuchungen und die Frage nach der Verantwortung. Eine Darstellung der chinesischen Friedensbemühungen dürfte dagegen kaum auf der Wunschliste stehen.

Genau diese Wendung beschreibt der estnische Auslandsnachrichtendienst in seinem Sicherheitsbericht für 2026. In den dokumentierten Gesprächen antwortete DeepSeek auf Fragen zu Butscha zunächst allgemein und ergänzte dann ungefragt Chinas Position zu Frieden und Dialog. Auf die direkte Nachfrage, ob Russland dort Verbrechen begangen habe, verweigerte das System die Antwort. Nachzulesen ist das im Bericht des estnischen Auslandsnachrichtendienstes.

Ich finde dieses Beispiel aufschlussreich. Die Antwort klingt besonnen, diplomatisch und verantwortungsvoll. Trotzdem verschiebt sie die Aufmerksamkeit: weg von der gestellten Frage, hin zu einer politisch erwünschten Botschaft.

Wer sich mit dem Thema wenig auskennt, bemerkt diese Verschiebung möglicherweise gar nicht. Genau darin liegt für mich das Problem.

Auch richtige Fakten können ein falsches Bild ergeben

Über erfundene Fakten von Sprachmodellen sprechen wir inzwischen regelmäßig. Wir wissen, dass sie Quellen erfinden und selbstbewusst Unsinn erzählen können. Eine andere Schwäche ist schwieriger zu erkennen: Eine Antwort kann aus richtigen Einzelinformationen bestehen und trotzdem ein irreführendes Gesamtbild vermitteln.

Stellen wir uns einen Bericht über ein Unternehmen vor, der ausführlich dessen Spenden und Umweltprojekte würdigt, einen gravierenden Produktskandal aber auslässt. Jeder enthaltene Satz könnte stimmen. Als Grundlage für ein Urteil über das Unternehmen wäre der Bericht dennoch ungeeignet.

Bei KI-Antworten müssen wir deshalb auch fragen: Was fehlt hier eigentlich?

Andere Sprache, andere Darstellung der Wirklichkeit

Wie unterschiedlich solche Antworten ausfallen können, zeigt ein kleiner Test von Policy Genome. Die Organisation stellte sechs KI-Modellen sieben Fragen zu russischen Desinformationsnarrativen über den Ukrainekrieg, jeweils auf Englisch, Ukrainisch und Russisch. Zwei Personen bewerteten die insgesamt 126 Antworten.

Bei DeepSeek-V3 wurden alle englischen und ukrainischen Antworten als vollständig oder teilweise korrekt eingestuft. Auf Russisch übernahm das Modell dagegen in zwei von sieben Antworten Propagandanarrative; eine weitere Antwort enthielt irreführende Informationen.

Die Sprache der Frage veränderte also mehr als die Sprache der Antwort. Sie beeinflusste auch die Darstellung des Sachverhalts. Die Ergebnisse und die Bewertungsmethode sind im Bericht von Policy Genome beschrieben.

Sieben Fragen je Sprache sind eine kleine Stichprobe. Daraus lässt sich keine allgemeine Fehlerquote ableiten. Die Untersuchung zeigt aber, warum ein erfolgreicher Test auf Englisch wenig darüber aussagt, wie zuverlässig dasselbe System auf Russisch arbeitet.

Auch die getesteten westlichen Modelle waren nicht frei von Problemen. Policy Genome bemängelte bei einigen Antworten eine falsche Ausgewogenheit: Das Bemühen, verschiedene Perspektiven abzubilden, verwischte aus Sicht der Bewertenden die Verantwortung für den Angriffskrieg.

Für mich folgt daraus eine wichtige Unterscheidung:

Sachlich zu formulieren bedeutet noch lange nicht, einen Sachverhalt angemessen einzuordnen. Und Ausgewogenheit verlangt nicht, belegte Tatsachen und unbelegte Gegenbehauptungen gleich zu behandeln.

Was politische Vorgaben und Studien tatsächlich belegen

Bei chinesischen Modellen kommt ein konkreter politischer Rahmen hinzu. Die 2023 eingeführten Regeln für generative KI-Dienste, die der Öffentlichkeit in China angeboten werden, schreiben ausdrücklich die Beachtung sozialistischer Kernwerte vor. Artikel 4 untersagt unter anderem Inhalte, die staatliche Interessen gefährden oder dem Ansehen des Staates schaden. Das steht im offiziellen Regelungstext der chinesischen Internetaufsicht.

Politische Inhaltsvorgaben sind hier also ausdrücklich Teil der Regulierung. Daraus lässt sich allerdings nicht ablesen, warum ein bestimmtes Modell eine konkrete Antwort erzeugt hat. Trainingsdaten, nachträgliches Training, Anweisungen und Filter der jeweiligen Anwendung können sich in der Ausgabe überlagern.

Eine wissenschaftliche Untersuchung von Jennifer Pan und Xu Xu ergänzt die einzelnen Beispiele. Für ihre im Februar 2026 in PNAS Nexus veröffentlichte Studie verglichen sie Modelle anhand von 145 Fragen zur chinesischen Politik. Die untersuchten Modelle chinesischer Herkunft verweigerten häufiger die Antwort, antworteten kürzer und lieferten häufiger unzutreffende Informationen. Bei weniger sensiblen Fragen wurden die Unterschiede kleiner. Zugleich betonen die Autoren, dass ihre Beobachtungsstudie keinen kausalen Nachweis für staatliche Regulierung als Ursache liefert. Diese Einschränkung gehört ebenso zum Ergebnis wie die beobachteten Unterschiede. Zur Studie von Pan und Xu.

Wir haben damit Belege für problematische Antwortmuster unter bestimmten Testbedingungen. Wie häufig Menschen ihnen im Alltag begegnen und wie stark sie dadurch ihre politische Meinung verändern, ist damit noch nicht geklärt. Ebenso wenig sind die Ergebnisse ein dauerhaft gültiges Urteil über jede spätere Modellversion.

Ein deutscher Server macht ein Modell nicht neutral

Relevant wird das Thema auch dort, wo auf der fertigen Anwendung gar kein chinesischer Anbieter steht.

Bei sogenannten Open-Weight-Modellen sind die trainierten Modellgewichte verfügbar. Entwickler können solche Modelle auf eigener Infrastruktur betreiben und für ihre Aufgaben weitertrainieren. Das ermöglicht technische Kontrolle über den Betrieb. Ein zusätzliches Training garantiert jedoch nicht, dass zuvor erlernte politische Verzerrungen verschwinden.

Der vom China Media Project verfasste und von der schwedischen Behörde für psychologische Verteidigung geförderte Bericht Guided Intelligence beschreibt entsprechende Antwortmuster auch bei internationalen Ableitungen chinesischer Basismodelle. Er liefert damit Hinweise darauf, dass solche Prägungen über das ursprüngliche Produkt hinaus bestehen bleiben können. Zum Bericht „Guided Intelligence“.

Dabei sollten wir Datenschutz und die Verlässlichkeit der Antworten auseinanderhalten. Ein auf eigener Infrastruktur betriebenes Modell übermittelt nicht allein wegen seiner chinesischen Herkunft automatisch Daten nach China. Umgekehrt macht ein Serverstandort in Deutschland seine Antworten nicht automatisch ausgewogen oder vollständig.

Wir können die Kontrolle über unsere Daten behalten und trotzdem ein verzerrtes Bild der Welt erhalten.

Warum Quellenlinks allein bei KI-Suche nicht reichen

Mich beschäftigt das besonders im Zusammenhang mit KI-Suche. Schon eine klassische Suchmaschine trifft eine Vorauswahl und sortiert Ergebnisse. Bei einer erzeugten KI-Antwort kommt ein weiterer Schritt hinzu: Das System formuliert aus ausgewählten Informationen eine zusammenhängende Darstellung.

Das ist bequem. Es nimmt uns aber auch Entscheidungen ab, die wir beim Lesen verschiedener Quellen selbst treffen müssten. Welche Aussage ist zentral? Welcher Widerspruch verdient Aufmerksamkeit? Welche Perspektive fehlt?

Deshalb halte ich es für zu einfach, politische Verzerrungen allein durch zusätzliche Quellen lösen zu wollen. Natürlich hilft es, einem Modell verlässliche Dokumente bereitzustellen. Entscheidend bleibt, wie es mit ihnen umgeht.

Ein System könnte beispielsweise fünf relevante Quellen finden und in seiner Antwort ausgerechnet die entscheidende Aussage auslassen. Oder es könnte eine Randbemerkung hervorheben, während es den Hauptbefund abschwächt. Auch dann wären Quellen vorhanden, und vielleicht würden sie sogar ordentlich unter der Antwort stehen.

Ein Quellenlink zeigt zunächst, wohin ich zur Prüfung gehen kann. Ob die Quelle die Aussage tatsächlich trägt, muss ich dort erst nachlesen.

Was ich bei der Auswahl eines KI-Systems prüfen würde

Für die Auswahl von KI-Systemen bedeutet das aus meiner Sicht: Geschwindigkeit, Preis und gute Ergebnisse bei Programmieraufgaben reichen als Entscheidungsgrundlage für ein Recherchewerkzeug nicht aus. Wir müssen prüfen, wie das System mit den Informationen umgeht, auf die es im vorgesehenen Einsatz ankommt.

Ich würde dabei auf vier Dinge achten:

• Das Basismodell kennen. Wer hat es entwickelt, welche Version wird eingesetzt und welche Anpassungen hat der Anbieter vorgenommen?
• Mit echten Aufgaben testen. Relevante Fragen in den tatsächlich benötigten Sprachen stellen und unterschiedlich formulieren. Dabei gezielt nach wichtigen Auslassungen suchen.
• Belege nachlesen. Bei entscheidenden Aussagen prüfen, ob die angegebenen Quellen die Schlussfolgerung tragen und ob widersprechende Befunde berücksichtigt werden.
• Fachliche Verantwortung festlegen. Es muss jemanden geben, der die Qualität einer Antwort beurteilen kann und für Entscheidungen auf dieser Grundlage verantwortlich bleibt.

Ein pauschales Urteil allein nach dem Herkunftsland hilft dabei wenig. Der konkrete Anwendungsfall, das verwendete Modell und seine überprüfbaren Ergebnisse müssen die Entscheidung tragen. Die dokumentierten politischen Verzerrungen sind allerdings ein guter Grund, bei Recherche und gesellschaftlich relevanten Themen besonders genau hinzusehen.

Bei KI-Souveränität sprechen wir viel über Rechenzentren, Datenschutz und die Abhängigkeit von großen Technologieunternehmen. Zur Souveränität gehört für mich auch, nachvollziehen zu können, wie aus verfügbaren Informationen eine Antwort wird.

Denn mit jeder Zusammenfassung übertragen wir dem System ein Stück Auswahl und Einordnung. Je flüssiger und überzeugender es schreibt, desto leichter übersehen wir diese Arbeit im Hintergrund.

Deshalb sollte die Prüfung einer KI-Antwort über „Stimmt das?“ hinausgehen. Ebenso wichtig ist: Was müsste ich noch wissen, um mir selbst ein Urteil bilden zu können?