Das Oversight Board entschied, ein manipuliertes Facebook‑Video zu entfernen, das eine junge muslimische Aktivistin verspottete. Meta hatte die Meldung automatisiert abgeschlossen und das Video zunächst ohne KI‑Kennzeichnung online gelassen.
Was passiert ist: Eine Aktivistin hatte sich in einem TV‑Interview für Aufklärung zu Menstruationsgesundheit eingesetzt. Danach tauchten zahlreiche manipulierte Videos und Bilder auf, die ihre Worte und Handlungen verfälschten und sie wegen ihres Gewichts und ihres Kopftuchs verspotteten. Das untersuchte Facebook‑Video stellte sie fälschlich als staatliche „Gesundheitsbotschafterin“ dar und zeigte erfundene Übungen und Essensszenen.
Reaktion von Meta und Oversight Board: Meta schloss die Meldung und den Einspruch automatisiert, ließ den Beitrag ohne KI‑Hinweis online und entfernte erst nach Nachfrage des Boards vier beleidigende Kommentare. Das Oversight Board verlangte die Entfernung des Videos wegen Mobbings und Belästigung und forderte, Metas enge Definition für ‚unerwünschte manipulierte Bilder‘ zu erweitern – geschützt werden sollen nicht nur veränderte Aufnahmen, sondern auch Personen, denen per Deepfake falsche Worte oder Handlungen zugeschrieben werden.
Weitere Empfehlungen: Identische oder nahezu identische Verstöße sollen in Metas Abgleichdatenbank aufgenommen werden, und Hinweise auf KI‑Manipulation sollen die Priorisierung von Meldungen erhöhen. Das Board stellte fest, dass die Serie plattformübergreifend mehrere zehn Millionen Aufrufe erzielte und im untersuchten Zeitraum über 1.000 Beiträge mit der falschen Behauptung auftauchten.
Konsequenzen für Betroffene: Betroffene müssen derzeit oft jeden Beitrag einzeln finden und melden – bei koordinierten Serien praktisch unmöglich. Das Board empfiehlt Sammelmechanismen und bessere Priorisierung, damit nicht allein die Betroffenen die gesamte Meldearbeit leisten müssen.
Quellen
- Oversight Board: AI-Generated Video of Female Campaigner, 17.09.2026
Hinweis: Stand zum Veröffentlichungsdatum.
Verwendete Bilder, Screenshots und Medien dienen ausschließlich der sachlichen Auseinandersetzung im Sinne des Zitatrechts (§ 51 UrhG).
Teile dieses Beitrags können KI-gestützt erstellt und redaktionell geprüft worden sein.
(Mehr zur Arbeitsweise)
