Warum KI-Profile auf Facebook gezielt unser Vertrauen erschleichen, und was dahinter steckt
Ein Teller Pasta, ein freundliches Zitat über Achtsamkeit, und dazwischen politische Botschaften, die immer gleich klingen. Was auf Facebook wie harmloser Alltag aussieht, ist oft strategisch kalkuliert: Künstlich erstellte Profile nutzen psychologische Nähe, um Einfluss zu nehmen, subtil, systematisch und zunehmend professionell.
Harmlos anfangen, gezielt manipulieren
In mehreren nachprüfbaren Fällen posten Facebook-Profile identische Inhalte: das gleiche Essen, dieselben Sprüche, gleichartige Emojis. Sie wirken wie persönliche Beiträge, doch auffällige Muster legen nahe, dass es sich nicht um reale Nutzer:innen handelt. Statt individueller Spuren zeigen diese Konten häufig KI-generierte Bilder, austauschbare Namen und fehlende Hinweise auf echte Lebensrealitäten.
In unserem begleitenden Faktencheck beleuchten wir die Methoden, Muster und Erkennungsmerkmale solcher Profile im Detail.
Besonders auffällig: Zwischen harmlosen Inhalten streuen diese Profile wiederholt politische Statements, mit klarer Stoßrichtung. In den untersuchten Fällen zeigen sich häufig Anti-Trump-Haltungen, Ablehnung gegenüber der AfD und Solidarität mit der Ukraine. Die Sprache springt dabei teils zwischen Deutsch und Englisch, obwohl die Profile scheinbar aus dem deutschsprachigen Raum stammen.
Vertrauen schaffen, bevor Meinung gemacht wird
Der Aufbau folgt einem wiederkehrenden Prinzip: Zunächst sorgen emotionale Inhalte für Nähe und Authentizität. Wer regelmäßig Rezepte oder Katzenbilder postet, wirkt unpolitisch, und schafft Vertrauen. Dieses Vertrauen wird dann genutzt, um gezielt Botschaften zu platzieren. Nutzer:innen nehmen sie oft nicht als Meinungsmache wahr, weil sie eingebettet sind in eine freundliche, alltagsnahe Timeline.
Das Stanford Internet Observatory, das EU DisinfoLab und wir von Mimikama beobachten solche Taktiken seit Jahren. Sie sprechen von „Koordinationsnetzwerken“, die gezielt Desinformation oder Beeinflussung betreiben, etwa durch künstliche Engagement-Strategien oder den Aufbau von Scheinverbindungen zwischen Fake-Profilen.
Ein digitales Echo aus künstlichen Stimmen
Zahlreiche der verdächtigen Profile agieren nicht allein. Sie kommentieren, liken und teilen sich gegenseitig, was sie im Facebook-Algorithmus relevanter erscheinen lässt. Für Nutzer:innen wirkt es, als seien viele verschiedene Menschen derselben Meinung. Tatsächlich handelt es sich oft um synchronisierte Accounts, die Teil eines übergeordneten Systems sind.
Der wirtschaftliche Aspekt spielt ebenfalls eine Rolle: Durch sogenanntes „Engagement Farming“ kann hohe Reichweite monetarisiert werden. Wer viele Klicks erzeugt, kann Werbelinks platzieren oder Traffic gezielt weiterleiten. Doch in vielen Fällen ist die kommerzielle Absicht nur Tarnung für politische Einflussnahme.
Globale Muster, lokale Wirkung
Fälle wie das chinesische Netzwerk „Spamouflage Dragon“ oder russische Kampagnen unter dem Namen „Secondary Infektion“ zeigen, dass es sich um kein neues Phänomen handelt. Auch Facebook-Mutterkonzern Meta bestätigt regelmäßig die Löschung von Netzwerken mit gefälschten Profilen, die auf psychologische Manipulation setzen. Die Muster sind bekannt: zunächst unpolitische Inhalte, dann gezielte Meinungsmache.
Doch was diese Profile heute so gefährlich macht, ist ihre Perfektionierung. Sie imitieren echte Menschen so glaubhaft, dass selbst erfahrene Nutzer:innen kaum noch Unterschiede erkennen.
Wachsamkeit statt Panik
Die gute Nachricht: Solche Strategien lassen sich erkennen, und melden. Wer wiederkehrende Bilder, gleichlautende Posts oder seltsam austauschbare Profile entdeckt, kann einfache Werkzeuge wie die Rückwärtssuche für Bilder nutzen. Plattformen wie Mimikama bieten zudem Hilfestellung bei der Analyse verdächtiger Accounts.
Am wichtigsten aber bleibt: Aufmerksamkeit. Manipulation beginnt nicht mit aggressiver Meinungsmache, sondern mit Vertrautheit. Und wer erkennt, wie sie funktioniert, kann sich dagegen wehren.
Und was ist wirklich belegt? Wer steckt hinter den Fake-Profilen? Wie erkennt man sie, und was sagt die Forschung dazu?
👉 Jetzt den vollständigen Faktencheck lesen, mit Bewertung, Screenshots. Beweisen und Antworten auf die wichtigsten Fragen.
Hinweis: Stand zum Veröffentlichungsdatum.
Verwendete Bilder, Screenshots und Medien dienen ausschließlich der sachlichen Auseinandersetzung im Sinne des Zitatrechts (§ 51 UrhG).
Teile dieses Beitrags können KI-gestützt erstellt und redaktionell geprüft worden sein.
(Mehr zur Arbeitsweise)
