Meta kassiert mit: Promi-Deepfakes auf Facebook ungestört möglich

Deepfake-Scams mit Prominenten nehmen dramatisch zu

Der Einsatz von Künstlicher Intelligenz für gefälschte Werbeanzeigen hat in den letzten Jahren massiv zugenommen. Besonders betroffen: Facebook und Instagram, beides Plattformen von Meta. Der Oversight Board, ein unabhängiges Kontrollgremium von Meta, hat nun in einer aktuellen Entscheidung festgestellt, dass das Unternehmen nicht genug gegen diese Betrugsmasche unternimmt.

Ein besonders krasses Beispiel: Eine Anzeige für das Online-Glücksspiel „Plinko“ nutzte ein KI-manipuliertes Video von Fußballlegende Ronaldo Nazário. Trotz offensichtlicher Fälschung und über 50 gemeldeten Beschwerden blieb die Anzeige monatelang online und erreichte mehr als 600.000 Aufrufe. Erst nachdem der Oversight Board einschritt, wurde das Video entfernt, nicht jedoch der zugrunde liegende Facebook-Post.

Diese Vorgehensweise ist laut Oversight Board kein Einzelfall. Die Plattform lässt offensichtlich bewusst viele dieser Inhalte online, um keine echten Werbeinhalte versehentlich zu blockieren. Das Risiko: Massiver Vertrauensverlust und reale finanzielle Schäden für Nutzerinnen und Nutzer.

Weitere Fälle gefälschter Promi-Werbung sind belegt: KI-generierte Anzeigen mit Elon Musk, Jamie Lee Curtis oder Fox-News-Stars versprachen Wunderheilungen und vermeintlich offizielle Produktempfehlungen. Die Masche ist stets gleich: Vertraute Gesichter, überzeugende Videos, dahinter jedoch betrügerische Absichten.

Intransparente Richtlinien und lückenhafte Moderation bei Meta

Laut dem Oversight Board liegt das Problem tiefer. Meta erklärte intern, dass Inhalte nur bei Eskalation genauer überprüft werden. Das heißt konkret: Erst wenn eine prominente Person nachweislich nicht hinter einer Empfehlung steht, wird eine Anzeige entfernt. Diese Praxis ist nicht nur intransparent, sondern auch inkonsequent.

Die Inhalte-Moderatoren sind laut Oversight Board nicht ausreichend geschult und verfügen über zu wenig Befugnisse. Sie sollen zwar betrügerische Inhalte erkennen, doch gleichzeitig fehlen klare Richtlinien, was als „gefälschte Persona“ zu gelten hat. Die Folge: Unterschiedliche Entscheidungen in verschiedenen Ländern und zahlreiche Lücken im System.

Das Gremium kritisiert, dass Meta aus Angst vor Überregulierung lieber tatenlos zusieht. Dabei zeigen die Fakten, dass dieses Zögern Betrugsnetzwerken in die Hände spielt. In der Meta-eigenen Werbebibliothek fanden sich tausende betrügerische Videoanzeigen für das Spiel Plinko, viele davon mit KI-generierten Stars wie Cristiano Ronaldo oder gar Meta-Chef Mark Zuckerberg selbst.

Die KI-Waffen der Betrüger werden immer effektiver

Deepfake-Technologie wird nicht nur besser, sondern auch leichter zugänglich. Was früher noch aufwendige Technik erforderte, kann heute mit wenigen Klicks und kostenloser Software erzeugt werden. Für Betrüger ist das ein Paradies.

Ein Blick in aktuelle Fallbeispiele zeigt das Ausmaß: Im Frühjahr 2025 berichteten Tech-Journalisten von Dutzenden Facebook-Seiten, die mit gefälschten Musk-Videos angebliche Diabetes-Heilmittel bewarben. Jede Seite schaltete Hunderte Variationen der Anzeigen, mit kaum nennenswerter Reaktion von Meta. Erst nach öffentlicher Berichterstattung wurden einige Seiten entfernt, doch das Grundproblem bleibt bestehen.

Auch Jamie Lee Curtis machte öffentlich Druck, nachdem ein Deepfake-Video mit ihrer Person für betrügerische Inhalte auf Facebook verwendet wurde. Meta entfernte das Video erst, nachdem die Schauspielerin sich direkt über soziale Medien an Mark Zuckerberg wandte.

Diese Vorfälle zeigen: Ohne öffentlichen Druck bewegt sich bei Meta kaum etwas. Dabei handelt es sich nicht um Einzelfälle, sondern um ein systemisches Problem, das das Vertrauen in digitale Werbung massiv erschüttert.

Experten fordern Konsequenzen für Meta

Der Oversight Board belässt es nicht bei Kritik, sondern fordert klare Maßnahmen. Insbesondere sollen:

• Inhalte-Moderatoren bessere Schulungen erhalten,
• neue interne Leitlinien zum Erkennen von Deepfakes eingeführt werden,
• der Erkennungsprozess für betrügerische KI-Inhalte verbessert werden.

Meta selbst reagierte abweisend: Man wolle die Vorschläge prüfen, bezeichnete einige Aussagen des Boards jedoch als „falsch“. Statt konkreter Zusagen verweist das Unternehmen auf einen Testlauf mit Gesichtserkennungssoftware zur Erkennung sogenannter „Celeb-Bait„-Scams. Details dazu bleiben jedoch vage.

Dabei wäre genau hier ein transparenter Ansatz notwendig. Verbraucherschutzexperten schlagen vor, betrügerische Werbekunden dauerhaft zu sperren, die Ad-Freigabeprozesse zu verschärfen und nutzerfreundliche Meldefunktionen auszubauen.

Für Meta wäre das ein Schritt zu mehr Glaubwürdigkeit, doch bisher fehlt die Bereitschaft zur Selbstregulierung. Selbst renommierte Medien wie das „Wall Street Journal“ berichten über massive Betrugsprobleme auf Meta-Plattformen: Bei JPMorgan Chase sollen fast 50 % aller Zelle-Betrugsfälle zwischen 2023 und 2024 von Facebook und Instagram ausgegangen sein.

Fazit zum Thema

Meta hat ein wachsendes Deepfake-Problem und geht viel zu zögerlich dagegen vor. Der Schutz von Nutzerinnen und Nutzern scheint oft hinter Werbeeinnahmen zurückzustehen. Der Oversight Board zeigt mit seinem Bericht deutlich: Ohne strukturelle Änderungen bleibt die Plattform ein sicherer Hafen für KI-Betrugsnetzwerke. Es ist an der Zeit, Verantwortung zu übernehmen, und das nicht nur auf Druck von außen.

Quellen: engadget; wsj ; Oversight Board

Lesen Sie auch: KI: Hype, Spielerei oder echte Gefahr?