Profit trotz Desinformation: Die Ökonomie des KI-Slop auf TikTok

Desinformation ist nicht nur ein gesellschaftliches Problem. Sie ist ein Geschäftsmodell. Und Künstliche Intelligenz macht es so billig wie nie zuvor. Eine neue Studie zeigt, wie TikTok-Accounts mit massenhaft produzierten KI-Videos Geld verdienen, während die Plattform zusieht. Das Ergebnis ist ein Markt für synthetischen Müll – und Millionen Nutzerinnen und Nutzer zahlen mit ihrer Aufmerksamkeit.

Content ohne Menschen: KI ersetzt Kreativität

Viele der untersuchten Accounts bestehen praktisch nur aus generierten Clips. Ein Skript, ein Bildgenerator, ein Stimmeffekt – fertig ist das vermeintliche Video. Keine Recherche. Keine Urheber. Keine Verantwortung. Hauptsache: Output.

Die Forscher identifizieren Accounts, die täglich Dutzende Videos veröffentlichen. Dabei ist es egal, ob die Inhalte wahr sind. Es reicht, wenn sie Aufmerksamkeit erzeugen. KI ist nicht klug. Aber sie ist schnell. Und genau das belohnt TikTok.

Engagement ist die Währung – egal womit

Auf der Plattform zählt, was Klicks bringt. Und synthetische Inhalte haben ein leichtes Spiel: perfekte Gesichter, perfekte Dramatik, perfekte Emotionalisierung. Zu schön, um wahr zu sein? Genau das ist das Erfolgsprinzip.

Je lauter und extremer, desto besser. Je absurder der Clip, desto mehr Kommentare.
Je größer die Aufregung, desto höher die Auszahlung. Die Plattformmechanik kennt keine Qualität. Nur Quantität.

Wenn Falschinformationen Rendite bringen

Das Geschäftsmodell hinter KI-Slop ist simpel. Minimaler Aufwand, maximaler Profit.

TikTok Rewards zahlen für Views. Affiliate-Links und Werbung tun ihr Übriges. Ein virales Video reicht, und der Account ist im Plus. Aus Desinformation wird Einnahmequelle.
Aus Aufmerksamkeit wird Anreiz zur Manipulation. Solange niemand eingreift, ist Lüge ein lohnendes Investment.

Skaliert bis ins Unendliche

Das eigentlich Gefährliche: KI-Slop hat kein Produktionslimit.
Menschen müssen schlafen. KI nicht.

Wo früher ein Team nötig war, reicht heute ein einzelner Creator – oder ein Bot-Netz. Das sorgt für eine ständige Überflutung der Plattform. Der Feed wird zugemüllt, bis echte Inhalte keine Chance mehr haben, überhaupt noch sichtbar zu werden.

TikTok verwandelt sich in ein Labor synthetischer Massenproduktion.

Verantwortung? Niemand zuständig

Wenn Falsches viral geht, bleibt die wichtige Frage offen:
Wer haftet dafür?

Der Account? Anonym.
Die Plattform? Schweigt.
Die KI? „Nur ein Tool.“

Was bleibt, ist ein Vakuum der Verantwortung.
Niemand trägt Folgen – außer den Nutzerinnen und Nutzern, die manipuliert werden.

Verlust von Vertrauen als Marktschaden, aber nicht für TikTok

Während Medien, Politik und Gesellschaft mit dem Vertrauensverlust kämpfen, macht die Plattform weiter Gewinn. KI-Slop verstärkt Verschwörungsdenken, bringt Hate-Trends in Umlauf und verteilt synthetische Fake-News als Entertainment – ohne Kosten für TikTok selbst.

Die Schäden sind öffentlich. Die Gewinne privat.

Was passieren muss

Wenn Plattformen Profit über Integrität stellen, ist Regulierung kein böser Eingriff – sondern notwendige Vorsorge. Wir brauchen Regeln, die einfordern:

– klare Kennzeichnung von KI-Content
– Anti-Spam-Mechanismen gegen automatisierte Produktion
– echte Sanktionen bei kommerzieller Desinformation
– Transparenz über Monetarisierung von Fake-Accounts
– Schutz für Informationsräume, die noch glaubwürdig sein sollen

Solange Geschäftsmodelle auf Lüge aufbauen dürfen, bleibt die Wahrheit chancenlos.

Fazit

Die Ökonomie des KI-Slop ist effizient, skrupellos und hochprofitabel.
Sie produziert keine Information – nur Aufmerksamkeit.

Und wer lange genug synthetischen Müll konsumiert, verliert irgendwann das Gefühl dafür, was Realität ist.

Wir müssen diese Systeme stoppen, bevor sie unsere Vorstellung von Wahrheit ersetzen.

Quelle: How Agentic AI Accounts Flood TikTok With Harmful Content (PDF) | AI Forensics

Schon gelesen? KI-generierte, minderjährig wirkende Frauenbilder gehen auf TikTok viral