Auf der TikTok-Startseite wirken sie wie echte Profile: junge Frauen, makellos, mit glatten Gesichtern und übergroßen Augen, posierend in U-Bahn-Wagen, Schlafzimmern oder vor Spiegeln. Manche wirken erwachsen, viele wirken jünger. Zu jung. Und sie sind nicht echt.
Eine Untersuchung des Forschungsinstituts AI Forensics zeigt erstmals das ganze Ausmaß eines Problems, das TikTok bisher kaum öffentlich einräumt. Automatisierte KI-Konten produzieren massenhaft sexualisierte Bilder und Videos weiblicher Figuren. Darunter finden sich Darstellungen mit eindeutig kindlichen Merkmalen. Das Material erreicht Millionen Nutzerinnen und Nutzer, oft ohne Kennzeichnung.
Automatisiert, anonym, hochvirulent
Die Forscher nennen diese Profile „Agentic AI Accounts“. Es handelt sich um halb- oder vollautomatisierte Accounts, die fast ohne menschliche Beteiligung KI-Bilder erzeugen, hochladen und mit einfachen Variationen experimentieren, bis der Algorithmus anspringt.
Insgesamt untersuchte AI Forensics 354 solcher Accounts über einen Zeitraum von 31 Tagen. Die Analyse ergab 43.798 KI-Videos, die zusammen mehr als 4,5 Milliarden Aufrufe erzielten. Viele dieser Inhalte wurden innerhalb weniger Sekunden erzeugt, leicht verändert und erneut hochgeladen.
„Diese Konten testen systematisch, was der Algorithmus belohnt“, schreiben die Forschenden. „Ihr Ziel ist nicht Kreativität, sondern virale Reichweite.“
Ein Drittel der Accounts sexualisiert minderjährig wirkende Figuren
Die Studie beschreibt ein deutliches Muster.
„Almost one third of all analyzed AAAs and half of the top ten showed content sexualizing female bodies, including young girls with childlike features.“
Das bedeutet: Zahlreiche KI-Konten veröffentlichen sexualisierte Darstellungen weiblicher Figuren, die optisch deutlich jünger wirken, als sie sollten. Viele dieser synthetischen Charaktere weisen kindliche Gesichtszüge und extrem dünne Körperproportionen auf, die eine problematische Ästhetik normalisieren.
So sehen diese Figuren in der Studie aus:
Mehrere der untersuchten Accounts spezialisieren sich ausschließlich auf solche Darstellungen. Ein weiterer dokumentierter Trend zeigt KI-generierte Szenen, die erwachsene Frauen in enger körperlicher Nähe zu minderjährig wirkenden Jungen inszenieren. Diese „Mutter-Sohn“-Darstellungen wirken auf den ersten Blick harmlos, sind jedoch erkennbar mit sexualisierten Untertönen versehen.
Die Studie dokumentiert diesen Trend sehr deutlich:
Darüber hinaus findet AI Forensics eine große Zahl KI-generierter Szenen in öffentlichen Räumen, insbesondere in U-Bahn-Wagen. Dort posieren extrem junge, hyperrealistische Frauenfiguren in sexualisierten Posen zwischen älteren Männern. Dieses Muster wird in zahlreichen Accounts systematisch wiederholt.
Auch dazu zeigt die Untersuchung konkrete Beispiele:
TikToks Richtlinien untersagen eigentlich realistische KI-Darstellungen Minderjähriger. Dennoch bleiben viele dieser Videos über Wochen online und erzielen Millionenreichweiten.
TikTok kennzeichnet kaum etwas
Ein besonders brisanter Befund betrifft die Transparenz:
- 55 Prozent aller KI-Videos sind unmarkiert.
- TikTok selbst vergibt das Label „Contains AI-generated media“ nur in 1,38 Prozent der Fälle.
- Viele der Accounts laden Inhalte im Sekundentakt hoch, schneller als Moderation überhaupt reagieren kann.
„TikToks Fähigkeit, KI-Inhalte zu erkennen, ist begrenzt“, heißt es im Report.
Die Plattform verlässt sich bislang weitgehend auf freiwillige Markierungen durch die Ersteller. Doch gerade automatisierte Accounts haben kein Interesse daran, ihre Herkunft offenzulegen.
Mit künstlicher Intelligenz zur künstlichen Intimität
Die Bilder sind künstlich, aber optisch kaum noch von echten Aufnahmen zu unterscheiden. Die Forschenden sprechen von einer „neuen Ästhetik der Hyperrealität“, die immer schwerer einzuordnen ist.
Moderne Bildgeneratoren bevorzugen Gesichter mit großen Augen, glatter Haut, weichen Proportionen und kindlich wirkenden Zügen. Was ästhetisch gefällig erscheint, wird algorithmisch verstärkt. Dadurch wirken viele synthetische Figuren jünger, als sie eigentlich aussehen sollten.
Folgen für Jugend- und Missbrauchsschutz
Die Studie beschreibt mehrere Risiken:
- Normalisierung sexualisierter Darstellungen kindlicher Körper
- Missbrauchspotenzial durch „minor coded“ KI-Figuren
- Verzerrte Schönheitsnormen durch extrem dünne Körper
- Rechtsunsicherheit, weil die Figuren nicht real sind, aber real wirken
- Grenzverschiebungen, weil Tätergruppen KI gezielt zur Erzeugung heikler Inhalte nutzen könnten
Besonders problematisch: Unmarkierte KI-Bilder lassen sich oft nur schwer moderieren. Wenn keine reale Person abgebildet ist, greifen viele Schutzmechanismen nicht.
Warum die Entwicklung kaum aufzuhalten ist
AI Forensics beschreibt hinter den KI-Accounts ein ganzes Ökosystem, das ihre schnelle Verbreitung begünstigt. Dazu gehören Webseiten, die innerhalb von Sekunden „virale KI-Videos“ generieren, vorgefertigte Prompts und direkte Upload-Schnittstellen. Hinzu kommen Kurse und Tutorials für Influencerinnen und Influencer, die statt realer Models lieber synthetische Figuren einsetzen möchten.
Zudem existieren Tools, die automatisch hunderte Video-Varianten produzieren, bis eine davon vom Algorithmus bevorzugt wird. Selbst gelöschte Accounts verschwinden nicht dauerhaft. In vielen Fällen tauchen nahezu identische Profile nur wenige Stunden später unter neuem Namen wieder auf.
Ein strukturelles Problem, keine technische Störung
Die Studie kommt zu einem eindeutigen Schluss. TikTok ist nicht vorbereitet auf die automatisierte Überflutung der Plattform durch KI-Bilder.
Zwar existieren Richtlinien, doch kaum wirksame Maßnahmen. Accounts werden selten früh erkannt und Videos nur in Ausnahmefällen korrekt markiert.
TikTok betont regelmäßig, an besseren Erkennungssystemen zu arbeiten. Der neue Report zeigt jedoch, dass dies bisher nicht ausreicht.
Fazit
Die Analyse von AI Forensics zeigt, wie ungebremst automatisierte KI-Konten TikTok mit synthetischen, sexualisierten und teilweise minderjährig wirkenden Darstellungen überfluten. Milliarden Aufrufe stehen moderativen Eingriffen gegenüber, die kaum Wirkung entfalten.
Die Plattform droht die Kontrolle über ihre visuelle Dynamik zu verlieren. Und damit über das, was sie ihren jüngsten Nutzerinnen und Nutzern täglich präsentiert.
Quelle: How Agentic AI Accounts Flood TikTok With Harmful Content (PDF) | AI Forensics
Schon gelesen?
Von „Amen“ zu AI-Slop: Wie künstliche Empathie unsere Moral vergiftet
Rassismus und Antisemitismus auf TikTok: Wenn KI Vorurteile verstärkt
Hinweis: Stand zum Veröffentlichungsdatum.
Verwendete Bilder, Screenshots und Medien dienen ausschließlich der sachlichen Auseinandersetzung im Sinne des Zitatrechts (§ 51 UrhG).
Teile dieses Beitrags können KI-gestützt erstellt und redaktionell geprüft worden sein.
(Mehr zur Arbeitsweise)
