Viele Nutzer:innen staunten in den vergangenen Stunden nicht schlecht: Nachdem sie einen Beitrag von uns geteilt hatten, der vor einer gefälschten „Meta“-E-Mail warnte, wurde dieser Beitrag gelöscht – in zahlreichen Fällen folgten sogar Kontoeinschränkungen.
Der Vorwurf der Plattform: Verstoß gegen die Gemeinschaftsstandards.
Das Absurde daran: Der geteilte Inhalt war kein Betrug, sondern eine journalistische Warnung vor genau einer solchen Phishing-Mail.
Worum es konkret ging
Wir hatten über eine aktuell verbreitete E-Mail berichtet, die vorgibt, von „Meta for Business“ zu stammen. Darin wird mit einer angeblich drohenden Sperre von Facebook-Seiten gedroht, um Empfänger:innen auf einen externen Link zu locken und dort Zugangsdaten oder andere sensible Informationen abzugreifen.
Solche Maschen sind seit Jahren bekannt und gehören zu den häufigsten Formen von Onlinebetrug.
Unser Beitrag zeigte ein Sharepic mit der abgebildeten Fake-Mail, deutlich als „FAKE“ gekennzeichnet, ergänzt durch eine redaktionelle Einordnung und einen ausführlichen Faktencheck.
Warum Facebook trotzdem sperrt
Nach allem, was wir derzeit beobachten können, liegt die Ursache nicht bei einer menschlichen Moderation, sondern bei automatisierten Filtersystemen.
Facebook analysiert Bilder mithilfe sogenannter OCR-Verfahren (Texterkennung). Dabei wird der im Bild enthaltene Text ausgelesen. In diesem Fall unter anderem Formulierungen wie:
„Your account will be disabled“
„Restriction applied“
Solche Textbausteine sind typische Merkmale von Phishing-Mails. Das System erkennt diese Muster – berücksichtigt jedoch häufig weder den Kontext noch Kennzeichnungen wie „FAKE“ oder die journalistische Einordnung.
Das Ergebnis:
Der Betrugstext wird erkannt.
Die Warnung davor nicht.
Oder zugespitzt formuliert: Eine Warnung vor einem „Meta“-Betrug wird als verdächtiger eingestuft als der Betrug selbst.
Die Ironie des Systems
Besonders pikant ist dabei, dass es sich um eine Warnung vor einer gefälschten Meta-Mail handelte – also vor einem Betrug, der sich als Meta ausgibt.
Gesperrt wurden jedoch nicht die Betrüger, sondern Menschen, die andere vor genau dieser Masche schützen wollten.
Viele Betroffene berichten von gelöschten Beiträgen, temporären Einschränkungen ihrer Konten und automatischen Hinweisen auf angebliche Regelverstöße.
Was Betroffene tun können
Wer wegen des Teilens einer solchen Warnung eingeschränkt wurde, sollte:
– die Überprüfung über Facebook beantragen
– als Begründung „journalistische Aufklärung / Warnung vor Phishing“ angeben
– auf den Kontext des Beitrags verweisen (Faktencheck, Warnhinweis, Mimikama)
In vielen Fällen werden Einschränkungen nach manueller Prüfung wieder aufgehoben – allerdings oft erst nach mehreren Tagen.
Ein strukturelles Problem
Der Vorfall zeigt erneut ein grundsätzliches Problem großer Plattformen:
Automatisierte Moderation ist schnell.
Kontext versteht sie kaum.
Während echte Betrugsinhalte weiterhin millionenfach verbreitet werden, geraten ausgerechnet Warnungen und Aufklärung regelmäßig unter die Räder der Filtersysteme.
Das ist nicht nur ärgerlich, sondern untergräbt langfristig genau das, was Plattformen angeblich erreichen wollen: den Schutz ihrer Nutzer:innen vor Betrug.
Fazit
Nicht, weil der Beitrag falsch war.
Nicht, weil er gefährlich war.
Sondern weil ein System entschieden hat, dass eine Warnung vor einem „Meta“-Betrug verdächtiger ist als ein Betrug im Namen von Meta.
Aufklärung wird bestraft.
Abzocke wird geduldet.
Das ist kein Schutz. Das ist ein Skandal.
Hinweis: Stand zum Veröffentlichungsdatum.
Verwendete Bilder, Screenshots und Medien dienen ausschließlich der sachlichen Auseinandersetzung im Sinne des Zitatrechts (§ 51 UrhG).
Teile dieses Beitrags können KI-gestützt erstellt und redaktionell geprüft worden sein.
(Mehr zur Arbeitsweise)
