Die Behauptung
Instagram-Nutzer wurden durch einen Programmierfehler mit verstörenden und expliziten Gewaltvideos in ihren Reels konfrontiert. Auch, wenn sie Filter für sensible Inhalte aktiviert hatten.
Wahr
Wahr. Meta spricht von einem vorübergehenden Fehler, der verstörende Inhalte durchrutschen ließ. Doch die zunehmende Lockerung der Inhaltskontrollen, gepaart mit der Abschaffung professioneller Faktenchecks, wirft Zweifel auf, ob es sich wirklich nur um ein Versehen handelte.
Kurze Faktenübersicht:
- Gewaltvideos in Feeds: Nutzer sahen ohne gezielte Suche blutige und brutale Inhalte.
- Meta nennt es einen Fehler: Das Unternehmen entschuldigte sich und versprach eine schnelle Behebung.
- Moderation zunehmend lasch: Durch den Wegfall von Faktenchecks und schwammige Richtlinien wird fragwürdiger Content häufiger verbreitet.
Blutige Videos ohne gezielte Suche und trotz Filter auf Instagram
Am 26. Februar bemerkten zahlreiche Instagram-Nutzer eine drastische Veränderung in ihren Reels-Feeds: Statt harmloser Unterhaltungsvideos tauchten verstörende Inhalte auf – von blutigen Unfällen über tödliche Kämpfe bis hin zu Erschießungen auf offener Straße. Besonders brisant: Auch Nutzer, die ihre Filter für sensible Inhalte auf die höchste Stufe gesetzt hatten, waren betroffen.
Ein Warnhinweis war zwar vorhanden, doch wer einmal klickte, wurde immer weiter mit ähnlichen Inhalten versorgt.
Die Reaktionen reichten von Entsetzen bis Belustigung.
Viele User teilten ihre Erlebnisse in den sozialen Medien, was die Verbreitung der Inhalte noch weiter befeuerte.
Meta: „Es war nur ein Fehler“
Meta reagierte schnell und räumte einen „Fehler“ ein. Laut einem Sprecher sei es zu einer Panne gekommen, die dazu führte, dass Inhalte angezeigt wurden, die eigentlich gefiltert hätten werden sollen. Man habe das Problem mittlerweile behoben.
„Wir haben einen Fehler behoben, der dazu führte, dass einige Benutzer in ihrem Instagram Reels-Feed Inhalte sahen, die nicht hätten empfohlen werden sollen. Wir entschuldigen uns für den Fehler.“
Meta-Sprecher in einer mit CNBC geteilten Erklärung
Doch reicht diese Erklärung aus? Meta stellt seine Plattform als sichere Umgebung dar, in der explizite oder gewalttätige Inhalte nur mit Vorwarnung oder gar nicht angezeigt werden sollen. Trotzdem funktionierte die Moderation über Stunden oder sogar Tage hinweg nicht – ein beunruhigender Einblick in die Funktionsweise der automatisierten Inhaltskontrolle.
Lockerere Moderation: Zufall oder Konsequenz?
Dieser Vorfall passiert nur wenige Wochen, nachdem Meta eine umfassende Änderung seiner Moderationsstrategie angekündigt hat. Im Januar teilte das Unternehmen mit, dass künftig weniger strenge Maßnahmen bei problematischen Inhalten ergriffen werden. Ziel sei es, „Fehlentscheidungen“ bei der Moderation zu reduzieren und Meinungsfreiheit stärker zu gewähren.
Doch Kritiker warnen, dass die Änderungen es extremen oder gefährlichen Inhalten erleichtern könnten, sich ungehindert zu verbreiten. Besonders bedenklich: Meta hat kürzlich sein Faktencheck-Programm in den USA eingestellt und setzt stattdessen auf ein Modell, das der umstrittenen „Community Notes“-Funktion von Elon Musks Plattform X ähnelt.
Inhaltskontrolle durch Künstliche Intelligenz: Ein Systemversagen?
Meta betont, dass KI-Algorithmen den Großteil der Moderation übernehmen:
„Unsere Technologie erkennt und entfernt proaktiv die überwiegende Mehrheit der verletzenden Inhalte, bevor sie jemand meldet.“
Doch der jüngste Vorfall zeigt, dass diese KI-Modelle offenbar erhebliche Schwächen aufweisen. Während einzelne Fehleinschätzungen unvermeidlich sind, stellt sich die Frage, wie es passieren konnte, dass Instagram innerhalb kurzer Zeit mit brutalen Videos geflutet wurde.
Besonders pikant: Laut Metas eigenen Richtlinien sollten bestimmte Inhalte – etwa „sichtbare Eingeweide oder verkohlte Leichen“ – vollständig entfernt werden. Offenbar versagte diese Regelung in der Praxis völlig.
Fazit: Ein beunruhigendes Signal für die Zukunft
Ob technischer Fehler oder strukturelles Problem – der Fall zeigt, wie fragil Metas Inhaltsmoderation ist. Die zunehmende Abhängigkeit von KI und die gleichzeitige Reduzierung menschlicher Moderation führen zu schwerwiegenden Pannen.
Die Frage bleibt: War dies ein einmaliger Fehler oder das erste Anzeichen dafür, dass Metas neue Moderationsstrategie gefährliche Inhalte künftig noch häufiger durchrutschen lässt?
Quelle: CCN, CNBC, DerStandard
Lesen Sie auch: iPhone: Skurriler Bug ersetzte „Rassist“ mit „Trump“
Hinweis: Stand zum Veröffentlichungsdatum.
Verwendete Bilder, Screenshots und Medien dienen ausschließlich der sachlichen Auseinandersetzung im Sinne des Zitatrechts (§ 51 UrhG).
Teile dieses Beitrags können KI-gestützt erstellt und redaktionell geprüft worden sein.
(Mehr zur Arbeitsweise) Welche Quellen wir verwenden und was für uns kein Beleg ist, steht auf unserer Quellenseite.
