Auf Facebook spricht eine schottische Lokalpolitikerin scheinbar über Flüchtlinge und sexualisierte Gewalt. Ein anderes Video zeigt eine muslimische Gesundheitsaktivistin als angebliche Regierungsvertreterin. Am 17. September ordnete das Oversight Board die Entfernung beider mit KI manipulierter Videos an.
Das erste Video legte der Politikerin eine erfundene Aussage in den Mund. Das Oversight Board, das strittige Inhaltsentscheidungen von Meta prüft, wertete den Beitrag mehrheitlich als Hassrede gegen Flüchtlinge. Das zweite Video verspottete Gewicht und Hidschab der Aktivistin. Das Board sah darin Mobbing und einen Teil massenhafter Belästigung.
Meldungen oder Einsprüche waren automatisiert geschlossen worden. Meta hielt beide Beiträge zunächst für regelkonform und versah sie nicht mit einem KI-Hinweis. Für die automatische Kennzeichnung fehlten Herkunftsdaten in den Dateien, während die auffällige Kennzeichnung „High Risk AI“ nur nach einer seltenen internen Weiterleitung vergeben wird.
Metas interne Auslegung unerwünschter manipulierter Bilder erfasste Veränderungen am Aussehen, aber nicht zwingend erfundene Handlungen oder Aussagen. Im Fall der Aktivistin hätte sie grundsätzlich selbst melden müssen. Vier beleidigende Kommentare entfernte Meta erst nach Rückfragen des Boards.
Beide Beiträge erreichten jeweils mehr als 5.000 Aufrufe. Das Board fand zudem mehr als 1.000 ähnliche Posts zur Aktivistin; verwandte Manipulationen kamen plattformübergreifend auf zig Millionen Aufrufe. Die Entfernung der zwei geprüften Beiträge ist verbindlich, Empfehlungen zu Warnhinweisen, geringerer Reichweite und Wiederholungstätern sind es nicht.
Ein KI-Video verschwindet bei Meta nicht automatisch, nur weil es erfunden ist. Entscheidend waren hier Hassrede und gezieltes Mobbing. Das gilt auch außerhalb von Wahlkämpfen: Politische Täuschung kann wirken, lange bevor ein konkreter Wahltermin unmittelbar bevorsteht.
Quellen
- Oversight Board: Deepfake einer britischen Lokalpolitikerin, 17.09.2026
- Oversight Board: KI-Video gegen eine muslimische Aktivistin, 17.09.2026
- The Guardian: Zusammenfassung der beiden Entscheidungen zu Metas Deepfake-Regeln, 17.09.2026
Hinweis: Stand zum Veröffentlichungsdatum.
Verwendete Bilder, Screenshots und Medien dienen ausschließlich der sachlichen Auseinandersetzung im Sinne des Zitatrechts (§ 51 UrhG).
Teile dieses Beitrags können KI-gestützt erstellt und redaktionell geprüft worden sein.
(Mehr zur Arbeitsweise)
