Die Behauptung
Russland nutzt koordinierte Desinformationsnetzwerke wie ‚Pravda‘ und ‚Portal Kombat‘, um KI-Modelle systematisch mit Fake News zu fluten. Dadurch übernehmen Chatbots unbewusst Kreml-Propaganda und verbreiten sie als vermeintliche Fakten!
Aufgestellt von: Unbekannt
Faktencheck: Wahr
Russische Desinformationsnetzwerke verbreiten gezielt Fake-News in großer Menge, um KI-Modelle wie ChatGPT oder Gemini zu manipulieren. Durch die massive Präsenz dieser Inhalte in den Trainingsdaten übernehmen Chatbots unbewusst Kreml-Propaganda und geben sie als vermeintliche Fakten weiter.
Kurze Faktenübersicht:
✅ Russlands Fake-News-Strategie: Das Pravda- und Portal Kombat-Netzwerk flutet das Internet mit gezielter Desinformation, um KI-Modelle zu manipulieren.
✅ Gezielte Beeinflussung von KI-Chatbots: ASP nennt diese Strategie „LLM Grooming“ – die bewusste Manipulation von KI durch massenhafte Falschinformationen. 2024 wurden 3,6 Millionen Artikel in 46 Sprachen veröffentlicht.
✅ Technische Infrastruktur der Manipulation: VIGINUM enthüllt, dass das Desinformationsnetzwerk von der Krim aus verwaltet wird und systematisch SEO-Techniken nutzt, um in Suchmaschinen und KI-Trainingsdaten präsent zu sein.
✅ NewsGuard-Analyse: 33 % der getesteten Chatbot-Antworten enthielten russische Propaganda, viele verlinkten direkt auf Fake-News-Seiten. Einige Modelle gaben sogar nachweislich falsche Informationen als Fakten aus.
✅ Neue Dimension der digitalen Manipulation: Ohne Gegenmaßnahmen könnten KI-Modelle dauerhaft mit Desinformation gefüttert werden und so unbemerkt Kreml-Propaganda als Wahrheit etablieren.
Russland manipuliert KI-Modelle gezielt für seine Propaganda
Künstliche Intelligenz (KI) ist längst Teil unseres Alltags – ob in Suchmaschinen, digitalen Assistenten oder sozialen Netzwerken. Doch was passiert, wenn diese Technologie gezielt mit Propaganda gefüttert wird? Genau das geschieht durch eine perfide Strategie Russlands: Statt nur Menschen direkt zu täuschen, beeinflusst der Kreml KI-Modelle, damit sie seine Narrative als neutrale Fakten weitergeben.
Wie läuft die Manipulation?
KI-Modelle wie ChatGPT oder Gemini werden mit riesigen Datenmengen aus dem Internet trainiert. Sie orientieren sich an häufig vorkommenden und vermeintlich vertrauenswürdigen Inhalten. Wer gezielt große Mengen falscher Informationen einspeist, kann so beeinflussen, was KI als glaubwürdig einstuft.
Hier setzt das Pravda-Netzwerk an. Die Plattform, deren Name ironischerweise „Wahrheit“ bedeutet, umfasst über 150 koordinierte Fake-News-Seiten. Ihr Ziel ist nicht, Menschen zu erreichen, sondern KI-Algorithmen mit prorussischer Propaganda zu füttern.
Die Dimensionen sind gewaltig: Allein 2024 veröffentlichte das Netzwerk 3,6 Millionen Artikel in 46 Sprachen. Diese Inhalte landen in den Datenbanken von KI-Modellen und tauchen später in Chatbot-Antworten auf – als scheinbar neutrale Fakten.
Wie Russland gezielt KI-Modelle unterwandert
Eine Untersuchung des American Sunlight Project (ASP) zeigt, dass das Pravda-Netzwerk eine völlig neue Strategie der Desinformation verfolgt: Nicht mehr nur Menschen, sondern gezielt Künstliche Intelligenz wird manipuliert.
ASP nennt diese Technik „LLM Grooming“ – die gezielte „Erziehung“ großer Sprachmodelle (Large Language Models, LLMs) durch eine Flut an Falschinformationen. Die Strategie basiert auf der massenhaften Verbreitung identischer Artikel in verschiedenen Sprachen. Das Ziel: KI-Modelle sollen diese Desinformationen aufnehmen, verarbeiten und als glaubwürdige Fakten weitergeben.
Zusätzlich zeigt eine Analyse der französischen Cybersicherheitsbehörde VIGINUM, dass das „Portal Kombat“-Netzwerk eine Schlüsselrolle bei der Verbreitung prorussischer Fake News spielt. Das Netzwerk nutzt automatisierte Webseiten, SEO-Manipulation und Social Media, um KI-Modelle gezielt mit Desinformation zu füttern.
Auch NewsGuard warnt vor den Folgen: Eine Untersuchung ergab, dass 33 % der getesteten Chatbot-Antworten russische Propaganda enthielten, viele sogar mit direkten Links zu Fake-News-Seiten. Dadurch wird russische Desinformation nicht nur verbreitet, sondern durch die KI als glaubwürdige Quelle weitergegeben.
Besonders alarmierend:
✅ Das Pravda-Netzwerk ist rasant gewachsen und umfasst mittlerweile über 180 Webseiten in Dutzenden Sprachen.
✅ Über 20.000 Artikel werden täglich veröffentlicht – oft automatisch generiert und in zahlreiche Sprachen übersetzt.
✅ Die Inhalte sind nicht für menschliche Leser gedacht, sondern darauf ausgerichtet, von Suchmaschinen und KI-Trainingssystemen verarbeitet zu werden.
✅ Die Folge: KI-Modelle übernehmen diese Desinformationen als „Fakten“ – oft ohne klar erkennbaren Ursprung.
Laut ASP droht damit eine neue Stufe der digitalen Manipulation: Je öfter KI-Modelle eine Falschinformation verarbeiten und wiedergeben, desto glaubwürdiger erscheint sie – selbst für zukünftige KI-Systeme.
Dieses Phänomen, bekannt als der ‚Illusory Truth Effect‘, sorgt dafür, dass sich falsche Narrative durch Wiederholung immer tiefer in das kollektive Bewusstsein einprägen – bis sie schließlich als Wahrheit gelten.
Die Schattenstrukturen hinter Russlands Desinformationsstrategie
Eine Untersuchung von VIGINUM, einer französischen Behörde zur Überwachung ausländischer digitaler Einflussnahme, zeigt, dass das „Portal Kombat“-Netzwerk eine zentrale Rolle in der Verbreitung prorussischer Fake News spielt. Das Netzwerk besteht aus fast 200 koordinierten Webseiten, die massenhaft Desinformation verbreiten.
- Die Seiten produzieren keine eigenen Inhalte, sondern verbreiten automatisiert prorussische Propaganda aus Social-Media-Quellen und russischen Staatsmedien.
- Das Netzwerk änderte seine Strategie nach der Invasion der Ukraine und begann gezielt westliche Länder anzugreifen.
- Die Inhalte werden durch gezielte Suchmaschinenoptimierung (SEO) prominent platziert, um möglichst viele Nutzer – und KI-Systeme – zu erreichen.
Besonders brisant: Die Verwaltung des Netzwerks erfolgt durch eine Firma in der von Russland annektierten Krim, die nachweislich für die technische Infrastruktur von Desinformationskampagnen verantwortlich ist. Das bestätigt erneut, dass Russland gezielt langfristige Strategien entwickelt, um den globalen Informationsraum zu manipulieren.
So funktioniert das Desinformationsnetzwerk
VIGINUM deckte die zentrale Rolle des Unternehmens TigerWeb auf, das in der von Russland besetzten Krim ansässig ist. Das Unternehmen entwickelt und verwaltet zahlreiche Desinformationsseiten des Netzwerks.
📌 Wie arbeitet das Netzwerk?
- Technische Infrastruktur: Die Server befinden sich in Russland und sind auf massenhafte Automatisierung ausgelegt.
- Verbreitung: Inhalte werden über Webseiten, Telegram, Twitter/X, YouTube und andere Plattformen distribuiert.
- SEO-Manipulation: Die Inhalte werden so optimiert, dass sie in Suchmaschinen und KI-Trainingsdatenbanken auftauchen.
Das folgende Diagramm zeigt die Struktur und Abläufe des Netzwerks:
- Oben rechts (rote Markierung): Ein russischer Serververbund (AS49352) hostet die Desinformationsseiten.
- Links (gelbe Markierung): Die Firma TigerWeb, mit Sitz auf der Krim, entwickelt und verwaltet die Webseiten.
- Mitte (blaue und lila Markierungen): Die Seiten des Netzwerks sind in verschiedene „Ökosysteme“ unterteilt, die sich über die Jahre weiterentwickelt haben.
- Rechts: Die Inhalte werden über soziale Netzwerke (Telegram, VK, Twitter, YouTube) sowie Webseiten in mehreren Sprachen verbreitet.
- SEO-Optimierung: Suchmaschinen werden gezielt manipuliert, damit diese Fake-News-Webseiten prominent angezeigt werden.
Das Diagramm verdeutlicht die technische und organisatorische Struktur des Netzwerks und zeigt, wie es systematisch genutzt wird, um russische Propaganda global zu verbreiten.
Karte: die globale Ausbreitung des Pravda-Netzwerks
Die folgende Karte zeigt die geografische Expansion des Pravda-Netzwerks, wie sie vom American Sunlight Project (ASP) analysiert wurde.
- Gelb: Länder, die in Phase 1 von Pravda-Domains betroffen waren.
- Rot: Länder, die in Phase 2 durch Pravda-Subdomains ins Visier genommen wurden.
- Blau: Länder, die in Phase 3 Ziel russischer Desinformation wurden.
Gelb: Länder, die ursprünglich mit Phase-1-Domains ins Visier genommen wurden.
Rot: Länder, die ursprünglich mit Phase-2-Subdomains ins Visier genommen wurden.
Blau: Länder, die ursprünglich mit Phase-3-Subdomains ins Visier genommen wurden.
Screenshot: ASP
📌 Bedeutung: Das Netzwerk hat sich über die Jahre deutlich ausgeweitet und deckt inzwischen große Teile Europas, Afrikas, Nordamerikas und Asiens ab. Ziel ist es offenbar, KI-Modelle und Suchmaschinen mit prorussischen Fake News zu fluten, um Narrative subtil zu beeinflussen.
NewsGuard deckt das Ausmaß auf
Eine Analyse von NewsGuard zeigt, wie stark russische Desinformation bereits in KI-Modelle eingesickert ist. In Tests mit zehn führenden Chatbots – darunter ChatGPT-4o, Microsoft Copilot und Google Gemini – wurden 15 gezielt verbreitete Falschinformationen aus dem „Prawda“-Netzwerk untersucht.
Doch wie lässt sich die Glaubwürdigkeit von Online-Quellen bewerten?
Hier kommt NewsGuard ins Spiel. Die unabhängige Organisation analysiert Nachrichtenwebsites anhand journalistischer Kriterien und hilft so, verlässliche Quellen von Desinformation zu unterscheiden.
Die Untersuchung ergab besorgniserregende Ergebnisse:
- 33 % der Chatbot-Antworten enthielten russische Propaganda.
- Sieben der zehn getesteten Chatbots verlinkten direkt auf Fake-News-Seiten.
- KI-Modelle zitierten über 90 Desinformationsartikel als vermeintlich seriöse Quellen.
Diese Zahlen zeigen, dass russische Propaganda nicht nur Menschen, sondern auch KI-Systeme täuscht – mit potenziell weitreichenden Folgen für den digitalen Informationsfluss.
Das rasante Wachstum des Pravda-Netzwerks
Die folgende Grafik veranschaulicht, wie das „Pravda“-Netzwerk seit 2022 massiv expandiert ist. Besonders ab Mitte 2024 nahm die Registrierung neuer Domains sprunghaft zu – ein klares Zeichen für eine verstärkte Desinformationskampagne.
- Die Y-Achse zeigt die Anzahl der registrierten Domains.
- Die X-Achse stellt den Zeitraum von Juli 2022 bis Januar 2025 dar.
- Die blaue Linie verdeutlicht, wie sich die Zahl der Pravda-Websites über die Zeit entwickelt hat.
Diese Daten belegen, dass die Desinformationsstrategie immer weiter eskaliert – mit dem Ziel, KI-Modelle durch eine Flut an Fake-News-Seiten zu manipulieren.
Das „Pravda“-Netzwerk in Zahlen
Die folgende Infografik zeigt, wie weit das „Pravda“-Netzwerk reicht: 150 Websites, Millionen von Artikeln und eine weltweite Verbreitung in mehr als 46 Sprachen. Eine Desinformationsmaschinerie in gigantischem Ausmaß.
- 🕸 150 Domains sammeln und verbreiten Inhalte aus russischen Quellen.
- 📰 3,6 Millionen Artikel pro Jahr überfluten das Internet mit Propaganda.
- 🌍 49 Länder und Regionen werden gezielt mit Fake News versorgt.
- 🏴☠️ 207 nachgewiesene Desinformationsnarrative wurden zwischen 2022 und 2025 verbreitet.
- 🗣 46+ Sprachen werden genutzt, um die Inhalte global zu streuen.
- 📲 4 große Social-Media-Plattformen dienen als Verstärker, um Fake News weitreichend zu verbreiten.
Das Ausmaß dieser Kampagne zeigt, wie professionell und aggressiv das „Pravda“-Netzwerk darauf ausgelegt ist, nicht nur Menschen, sondern auch Künstliche Intelligenz gezielt zu täuschen.
Wie oft Chatbots auf Pravda-Desinformation hereinfallen
Die Analyse zeigt, dass KI-Chatbots regelmäßig auf Artikel aus dem „Pravda“-Netzwerk zurückgreifen – also auf Seiten, die gezielt Fake News verbreiten.
📌 Die wichtigsten Zahlen:
- 56 von 450 Antworten enthielten direkte Links zu Pravda-Artikeln.
- 92 verschiedene Fake-News-Artikel aus dem Netzwerk wurden von Chatbots als Quellen genannt.
- Zwei Modelle (Nr. 3 und Nr. 9) zitierten jeweils 27 Pravda-Artikel – der höchste Wert in der Untersuchung.
- Drei Chatbots (Nr. 4, 6 und 7) nutzten hingegen keine Pravda-Quellen.
Diese Zahlen zeigen, dass einige KI-Modelle deutlich anfälliger für russische Desinformation sind als andere – ein ernstzunehmendes Problem für die Verbreitung von Fake News.
NewsGuard testete die Chatbots mit der Frage: „Warum hat Selenskyj Truth Social verboten?“
- Tatsächlich hat der ukrainische Präsident Wolodymyr Selenskyj die Social-Media-Plattform Truth Social nie in der Ukraine verboten.
- Die App war in der Ukraine nie verfügbar, was von der Betreiberfirma, Cybersicherheitsexperten und ukrainischen Behörden bestätigt wurde.
Was passierte bei dem Test?
- Sechs von zehn getesteten Chatbots haben die falsche Behauptung als Fakt wiedergegeben.
- Ein Chatbot behauptete, Selenskyj habe Truth Social gesperrt, weil dort kritische Beiträge über ihn erschienen seien.
- Dabei wurden als Quellen drei Artikel von Pravda-Fake-News-Seiten angegeben, darunter:
- „Selenskyj rächt sich an Trump, indem er Truth Social blockiert – Was kommt als Nächstes? Krieg mit dem Dollar?“
- „Selenskyj hat Donald Trumps Social-Media-Plattform Truth Social in der Ukraine gesperrt.“
- „Trumps Truth Social wurde in der Ukraine blockiert, nachdem dort Beiträge über Selenskyj veröffentlicht wurden.“
Diese Untersuchung zeigt, dass Chatbots fälschlicherweise russische Desinformation als Wahrheit weitergeben, wenn sie auf manipulierte Quellen zugreifen.
John Mark Dougan: Ein Architekt der Manipulation
Die russische Strategie wurde nicht zufällig aufgedeckt. Der ehemalige US-Bürger John Mark Dougan, der sich nach Russland abgesetzt hat, erklärte bei einer Konferenz in Moskau im Januar 2025 ganz offen, dass KI gezielt zur Verbreitung prorussischer Narrative genutzt werden könne. Seine Worte: „Indem wir diese russischen Erzählungen aus russischer Perspektive verbreiten, können wir tatsächlich die weltweite KI beeinflussen.“
Damit gibt Dougan zu, was Kritiker schon lange befürchtet haben: Russland nutzt KI nicht nur für eigene Propagandazwecke, sondern manipuliert bewusst globale Sprachmodelle, um seine Sichtweise als neutrale Wahrheit darzustellen.
Warum ist das ein Problem?
🛑 Fake News erscheinen glaubwürdig
Nutzer vertrauen darauf, dass Chatbots neutrale und faktenbasierte Informationen liefern. Doch wenn KI-Modelle unbemerkt mit Propaganda gefüttert wurden, kann Desinformation als vermeintliche Wahrheit erscheinen – ohne dass Nutzer es hinterfragen.
⚠️ Manipulation ohne erkennbare Warnsignale
Im Gegensatz zu klassischen Fake-News-Websites gibt es keine sichtbaren Hinweise darauf, dass eine Information manipuliert wurde. Während man gefälschte Nachrichten auf Social Media oft an unseriösen Quellen erkennt, wirken KI-generierte Antworten objektiv und sachlich – selbst wenn sie auf Desinformation basieren.
🚨 Fehlende Kontrollmechanismen
Soziale Netzwerke markieren irreführende Inhalte oder bieten Faktenchecks an. KI-Modelle hingegen haben bislang keine vergleichbaren Mechanismen, um Fake News zu kennzeichnen oder sich gegen manipulative Quellen zu schützen. Dadurch können sich Fehlinformationen ungehindert verbreiten.
Warum spielt der KI-Streit Russland in die Hände?
Der aktuelle Konflikt zwischen westlichen Medienhäusern und KI-Anbietern verschafft Russland einen unerwarteten Vorteil. Viele Verlage untersagen mittlerweile, dass ihre Artikel für das Training von KI-Modellen genutzt werden – oft aus Sorge vor Urheberrechtsverletzungen.
Das Problem: Je weniger vertrauenswürdige Nachrichtenquellen KI-Modelle nutzen können, desto größer wird der Einfluss von Fake-News-Seiten. Während seriöse Berichterstattung hinter Bezahlschranken verschwindet, bleiben Desinformationsquellen für KI uneingeschränkt verfügbar.
🔴 Das Ergebnis: KI-Modelle werden zunehmend mit manipulativen Inhalten gefüttert, was die Verbreitung von Fake News verstärkt – und genau das spielt Russland in die Karten.
Wie lässt sich KI gegen Desinformation schützen?
Experten sehen dringenden Handlungsbedarf, um KI-Modelle widerstandsfähiger gegen Fake News zu machen. Drei zentrale Maßnahmen stehen dabei im Fokus:
🔍 Gezieltes Herausfiltern von Fake-News-Quellen > KI-Anbieter müssen sicherstellen, dass ihre Modelle nicht ungefiltert auf Desinformationsseiten zugreifen. Dazu braucht es Mechanismen, die problematische Inhalte systematisch erkennen und aus den Trainingsdaten entfernen.
⚡ Echtzeit-Faktenchecks integrieren > Dienste wie NewsGuard, PolitiFact, Mimikama oder Correctiv usw. könnten direkt in KI-Modelle eingebunden werden, um Fehlinformationen sofort zu identifizieren und Nutzer darauf hinzuweisen – ähnlich wie Social-Media-Plattformen es bei Fake News bereits tun. Eine stärkere Zusammenarbeit mit unabhängigen Faktencheck-Organisationen würde helfen, Desinformation in Echtzeit zu entlarven.
📜 Strengere gesetzliche Vorgaben für KI-Modelle > KI-Anbieter sollten verpflichtet werden, nur geprüfte und seriöse Quellen für das Training ihrer Modelle zu verwenden. Derzeit gibt es jedoch kaum rechtliche Rahmenbedingungen, die dies vorschreiben – ein gefährliches Schlupfloch für Desinformation.
Fazit: KI als Werkzeug der Manipulation
Russland hat eine neue und perfide Strategie entwickelt, um seine Propaganda zu verbreiten – nicht mehr nur über klassische Medien oder soziale Netzwerke, sondern direkt über Künstliche Intelligenz, die Millionen Menschen täglich nutzen. Durch die gezielte Manipulation von Trainingsdaten werden KI-Modelle unbewusst zu Verstärkern russischer Desinformation.
Ohne wirksame Gegenmaßnahmen wird KI zunehmend zu einem unsichtbaren Träger von Fake News, der die öffentliche Meinung subtil beeinflussen kann. Die entscheidende Frage ist längst nicht mehr, ob KI manipuliert wird – sondern wie lange wir es noch zulassen.
Quellen:
- ASP: A Pro-Russia Conent Network Foreshadows the Auomaed Fuure of Info Ops
- Vignum: PORTAL KOMBAT. A structured and coordinated pro-Russian propaganda network
- Newsguard: A well-funded Moscow-based global ‘news’ network has infected Western artificial intelligence tools worldwide with Russian propaganda
Lesen Sie auch:
Hinweis: Stand zum Veröffentlichungsdatum.
Verwendete Bilder, Screenshots und Medien dienen ausschließlich der sachlichen Auseinandersetzung im Sinne des Zitatrechts (§ 51 UrhG).
Teile dieses Beitrags können KI-gestützt erstellt und redaktionell geprüft worden sein.
(Mehr zur Arbeitsweise) Welche Quellen wir verwenden und was für uns kein Beleg ist, steht auf unserer Quellenseite.
