Wenn Facebook die Warnung vor Phishing für Phishing hält

Facebook entfernt derzeit Beiträge, in denen unser Warnartikel vor einer angeblichen „PDF-Verifizierungsdatei“ geteilt wurde. Die Begründung der Plattform: Der Inhalt versuche möglicherweise, sensible Informationen von anderen zu sammeln. Der Artikel macht das Gegenteil – er erklärt, wie diese Masche Facebook-Konten übernimmt, und warnt davor.

Dass ein automatisches System eine Warnung mit genau jenem Betrug verwechselt, vor dem sie warnt, ist ärgerlich, aber erklärbar. Der größere Schaden entsteht danach: Menschen ziehen daraus den Schluss, Warnungen sicherheitshalber gar nicht mehr zu teilen. Davon profitieren ausgerechnet jene, vor denen gewarnt wird.

Was in unserem Artikel steht – und was eine Maschine darin sehen könnte

Der Warnartikel vom 5. August 2026 zeigt eine gefälschte Messenger-Nachricht im Namen von Facebook. Darin wird behauptet, das Konto werde wegen „ungewöhnlicher Aktivitäten“ eingeschränkt – man solle es über eine angehängte „Verifizierungsdatei“ bestätigen. Im zweiten Teil zeigt der Artikel, was nach dem Klick passiert: eine falsche „Meta Business Support“-Seite, eine nachgebaute Facebook-Anmeldeseite und schließlich ein Feld, in das man einen Code eingeben soll. Wer dort seine Daten eingibt, schickt sie direkt an die Täter. Genau davor warnt der Artikel. Er fordert niemanden auf, irgendetwas einzugeben, und er sammelt keine Daten.

Für einen Menschen, der den Artikel liest, ist das sofort klar. Ein automatisches System sieht womöglich andere Dinge: Screenshots eines Anmeldefensters, Formulierungen wie „Verifizieren Sie Ihr Konto“, die wortgleich aus der Betrugsnachricht stammen, oder die Adresse der gefälschten Anmeldeseite, die wir zur Dokumentation nennen. Welches Signal den Ausschlag gab, wissen wir nicht – Facebook sagt es nicht. Weil in den entfernten Beiträgen nur der Link steht, spricht aber einiges dafür, dass nicht ein Begleittext das Problem ist, sondern die verlinkte Seite beziehungsweise deren automatische Bewertung.

Dieses Problem begleitet uns bei Mimikama seit Jahren. Ein Faktencheck muss eine betrügerische Nachricht zeigen, um erklären zu können, warum sie betrügerisch ist. Ein Artikel über einen Fake-Shop nennt dessen Namen. Eine Warnung vor einer Phishingseite – also einer gefälschten Seite, die Zugangsdaten abgreifen soll – enthält zwangsläufig Bilder und Sätze dieser Seite.

Meta selbst unterscheidet zwischen Betrug und Aufklärung darüber

Dass Facebook gegen Phishing vorgeht, ist richtig und notwendig. Metas Regeln zur Cybersicherheit verbieten es, sich durch Täuschung Zugangsdaten oder andere sensible Informationen zu erschleichen, etwa mit nachgebauten Websites, die vertrauenswürdig aussehen sollen.

Gleichzeitig hält Meta in seinen Regeln zu Betrug ausdrücklich fest: Inhalte, die Betrug verurteilen, darüber aufklären oder andere davor warnen, sind erlaubt – solange sie selbst keine sensiblen Daten preisgeben und die Masche nicht bewerben. Die Entfernung unserer Links wurde zwar mit den Regeln zur Cybersicherheit begründet, nicht mit jenen zu Betrug. Am Grundgedanken ändert das nichts. Meta kennt den Unterschied zwischen einem Angriff und einem Artikel über einen Angriff. Das automatische System hat ihn in diesem Fall nicht gemacht.

Fehler passieren. Wer täglich Milliarden Beiträge, Links und Bilder verarbeitet, wird nie eine fehlerfreie Erkennung bauen. Damit könnte man die Sache abhaken – wenn es bei einem gelöschten Beitrag bliebe.

Der eigentliche Schaden entsteht danach

Inzwischen hören wir eine Reaktion, die wesentlich unangenehmer ist als der gelöschte Beitrag selbst: „Bevor ich etwas von Mimikama teile und dadurch vielleicht Probleme mit meinem Facebook-Konto bekomme, teile ich lieber nichts mehr.“

Das kann ich niemandem übelnehmen. Für viele Menschen ist ihr Facebook-Konto seit Jahren Teil des Alltags. Dort sind Kontakte, Gruppen und Erinnerungen, vielleicht wird eine Vereinsseite betreut oder ein kleines Unternehmen. Wer einmal erlebt hat, wie mühsam es sein kann, eine falsche Sperre wieder loszuwerden, überlegt sich beim nächsten Mal sehr genau, welches Risiko er eingeht.

Eine Warnung vor Betrug lebt aber davon, dass Menschen sie weitergeben. Jemand liest über eine Masche, erkennt darin die Nachricht wieder, die gerade die eigene Mutter bekommen hat, und schickt ihr den Artikel. Jemand anderer teilt ihn in einer Gruppe. So erreicht eine Warnung Menschen, bevor sie selbst auf einen betrügerischen Link klicken. Wenn genau diese Menschen nun weniger teilen, dann nicht, weil sie die Warnung für falsch halten – sondern weil sie der Moderation der Plattform nicht mehr trauen.

„Warum ist das noch online, aber eure Warnung wird gelöscht?“

Besonders bitter ist das, weil wir täglich Hinweise auf echte Betrugsversuche bekommen, die über soziale Netzwerke laufen: gefälschte Gewinnspiele, Phishinglinks, gekaperte Konten, betrügerische Investmentwerbung, Seiten, die bekannte Marken oder Personen nachahmen. Plattformen gehen dagegen vor, und niemand sollte daraus schließen, Facebook dulde Betrug grundsätzlich.

Aus Sicht der Nutzerinnen und Nutzer entsteht trotzdem ein schwer vermittelbares Bild, wenn sie einerseits immer wieder auf echte Betrugsinhalte stoßen und andererseits erleben, dass ausgerechnet die Warnung davor bestraft wird. Die Frage in der Überschrift ist dann naheliegend. Der Hinweis auf automatische Moderation erklärt den Fehler vielleicht. Für die Person, deren Beitrag gelöscht wurde, ist es am Ende aber ziemlich egal, warum die Maschine danebenlag.

Reichweite, die uns nicht gehört

Für uns steckt darin noch eine zweite Lehre. Mimikama erreicht viele Menschen über Facebook, und wir werden Facebook deshalb auch nicht verlassen. Soziale Netzwerke sind wichtige Wege für unsere Arbeit. Wir dürfen uns nur nicht einbilden, dass wir diese Reichweite besitzen. Wir entscheiden nicht, wem Facebook einen Beitrag zeigt. Und wir können offenbar auch nicht verhindern, dass ein Warnartikel so eingeordnet wird, als wäre er Teil jener Masche, vor der er warnt.

Deshalb bauen wir seit Längerem eigene Kanäle aus: unsere Newsletter und den Mimikama Club, unser kleines eigenes soziales Netzwerk. Dort hängt die Verbindung zwischen uns und unseren Leserinnen und Lesern nicht davon ab, ob ein fremdes Moderationssystem einen Link richtig verstanden hat. Den Club öffnen wir in Kürze auch für Menschen, die bisher keine Mitglieder sind. Das war ohnehin geplant – Fälle wie dieser zeigen aber ziemlich deutlich, warum uns solche direkten Wege wichtig sind.

Ein korrigierter Fehler ist nicht folgenlos

Wir lassen die betroffenen Fälle bei Facebook überprüfen und dokumentieren weiter, ob noch mehr Beiträge entfernt werden. Vielleicht wird die Einstufung rasch korrigiert. Das wäre die beste Lösung.

Erledigt ist die Sache damit trotzdem nicht. Ein Beitrag lässt sich wiederherstellen, verlorenes Vertrauen nicht per Klick. Wenn Menschen nach so einer Erfahrung sagen, sie teilen sicherheitshalber keine Warnungen mehr, ist bereits etwas passiert. Eine Plattform, die ihre Nutzer vor Phishing schützen will, sollte ein Interesse daran haben, dass seriöse Warnungen vor Phishing möglichst viele Menschen erreichen. Sonst gewinnt im schlechtesten Fall genau der, vor dem ursprünglich gewarnt wurde: der Betrüger.