Rassismus und Antisemitismus auf TikTok: Wenn KI Vorurteile verstärkt

Eine aktuelle Studie des Forschungsprojekts „Agentic AI Accounts“ (2025) untersucht TikTok als Bühne für synthetische Desinformation. Sie zeigt, wie KI-generierte Videos rassistische und antisemitische Stereotype reproduzieren und damit Rassismus normalisieren – oft unbemerkt von Nutzerinnen und Nutzern.

Künstliche Intelligenz soll eigentlich kreativ sein und Menschen unterhalten. Doch auf TikTok wird sie zunehmend zum Werkzeug alter Feindbilder: Vorurteile werden nicht abgebaut, sondern digital neu verpackt und viral verbreitet.

Wenn Algorithmen Hassgeschichte neu bebildern

Viele KI-Modelle lernen aus Daten, die bereits voller Verzerrungen stecken. Die Folge: Schwarze Menschen werden überproportional als bedrohlich oder kriminell dargestellt, jüdische Menschen als „mächtig im Verborgenen“ – mit Bildmotiven, die aus historischer Propaganda stammen.

Diese Clips erscheinen als Unterhaltung. Doch ihre Wirkung ist ernst: Jahrhundertealte Feindbilder werden in neuer, glatter Form massenhaft verbreitet.

Antisemitische KI-Clips ohne Eingriff der Plattform

Die Studie zeigt antisemitische Inhalte, die jüdische Personen in künstlich dramatisierten Szenen inszenieren: dunkel ausgeleuchtete Straßen, bedrohliche Körpersprache, suggestive Bildtitel. Die Stereotype sind alt, die Ästhetik ist neu.

TikTok reagiert darauf kaum. Kaum ein Clip ist als synthetisch gekennzeichnet. Nutzerinnen und Nutzer sehen Inhalte, die wie journalistische Berichte wirken – aber ohne jede Realität im Hintergrund.

KI als Verstärker rassistischer Anti-Immigrationsnarrative

Ebenso dokumentiert die Studie KI-generierte Videos, die Migration als Bedrohung darstellen: erfundene Grenzszenen, künstlich erzeugte Bootsanlandungen, fiktionale Ankünfte in europäischen Städten.

Diese Erzählmuster schüren Angst und stellen Menschen allein aufgrund ihrer Herkunft unter Generalverdacht. Die Clips zirkulieren millionenfach, als wären sie echt.

Der Algorithmus entscheidet, was groß wird

TikTok belohnt Inhalte, die provozieren. Der Empfehlungsalgorithmus zeigt solche Videos vor allem jenen, die ohnehin wenig journalistisch geprüfte Quellen konsumieren.

Das verstärkt Vorurteile, statt sie zu korrigieren. Aus einem einzelnen Clip wird ein Muster.
Aus einem Muster wird eine gefühlte Realität.

Ideologie ohne Absender – unantastbar im Feed

Hinter vielen problematischen Accounts stehen keine echten Personen. Die Identitäten sind künstlich, die Verbreitung automatisiert. Verantwortung bleibt im Nebel:
Kein Täter. Kein Impressum. Keine Konsequenzen.

Hass wirkt offline, nicht nur im Smartphone

Rassistische und antisemitische Narrative bleiben nicht digital. Studien zeigen: Je öfter Menschen abwertende Darstellungen online sehen, desto wahrscheinlicher übernehmen sie diese subtil in ihr Weltbild.

Digitale Stereotype werden zu politischen Einstellungen. Einstellungen werden zu Entscheidungen. Entscheidungen werden zu Diskriminierung – und im schlimmsten Fall zu Gewalt.

KI ändert die Dimension des Problems

Früher brauchte es Überzeugungstäter, um Propaganda zu verbreiten. Heute plant KI keine Inhalte – sie produziert sie automatisch.

Vorurteile liegen im System. Diskriminierung wird industriell skaliert. Hass braucht keinen Überzeugten mehr – nur einen Algorithmus.

TikTok braucht klare Grenzen

Bei Rassismus und Antisemitismus gibt es keine Grauzone. Doch während harmloser Content in Moderationsschleifen hängt, bleiben gefährliche KI-Clips weitgehend unangetastet. Regeln, die nicht durchgesetzt werden, sind keine Regeln. Sie sind Einladung.

Was jetzt zwingend passieren muss

TikTok ist für viele Jugendliche eine Nachrichtenplattform. Daraus folgt Verantwortung:

TikTok muss KI-Stereotype früh erkennen und stoppen, Moderationsteams stärken und Kennzeichnungspflichten durchsetzen, bevor Inhalte viral werden.
Betroffene Communities sollten an Entscheidungen beteiligt sein.

Antisemitismus und Rassismus verschwinden nicht durch Wegscrollen.
Sie verstärken sich im Schweigen.

Fazit

KI kann Bilder erschaffen. Sie kann aber auch Feindbilder verschärfen.
Was heute als „lustiger“ Clip erscheint, kann morgen Grundlage echten Hasses sein.

Digitale Räume brauchen klare Haltung:
Kein Platz für Ideologien, die Menschen gefährden.

Quelle: How Agentic AI Accounts Flood TikTok With Harmful Content (PDF) | AI Forensics

Passend dazu:
KI als Fake-News-Fabrik: Wie synthetische Falschmeldungen TikTok überschwemmen
KI-generierte, minderjährig wirkende Frauenbilder gehen auf TikTok viral