KI-Videos auf TikTok: Diese Massenproteste hat es nie gegeben

Untersucht hat die Videos Euronews, ein europäischer Nachrichtensender mit eigenem Faktencheck-Team. Die Clips geben vor, aus Deutschland, Frankreich, Italien, Irland, Portugal und Großbritannien zu stammen. KI heißt künstliche Intelligenz: Computerprogramme, die auf Befehl Bilder und Videos herstellen.

Die Videos sind in den letzten vier Monaten erschienen. Manche wurden mehr als 300.000-mal angeschaut. Viele Menschen halten sie für echt und diskutieren in den Kommentaren darüber.

Woran erkennt man so ein Video?

Die Videos kommen aus verschiedenen Ländern. Gebaut sind sie aber fast immer gleich.

Der Sender weiß von nichts

Ein Beispiel aus Portugal zeigt, wie das funktioniert. Die Reporterin hält ein Mikrofon mit dem Logo von RTP. Das ist das öffentliche Fernsehen in Portugal, so etwas wie bei uns der ORF. Euronews hat bei RTP nachgefragt. Die Antwort: Diese Frau arbeitet nicht bei RTP, und der Sender hat mit dem Video nichts zu tun.

Auch der Ort stimmt nicht. Im Video steht ein Gebäude an einer Stelle, wo in Wirklichkeit ein Fluss ist, der Tejo. Das KI-Programm macht Bilder, die echt aussehen. Ob es den Ort so wirklich gibt, weiß es nicht. So ein Fehler fällt aber nur auf, wenn man den Ort kennt.

Und was hat die AfD damit zu tun?

In mehreren deutschen Videos stehen laut Euronews Sätze, die die AfD unterstützen. In anderen Ländern tauchen Namen anderer Parteien auf. In den Kommentaren fordern Leute solche Parteien auf, „einzugreifen“, zum Beispiel beim Thema Migration.

Wer die Videos macht, weiß man nicht. Euronews nennt keine Belege dafür, dass eine Partei dahintersteckt. Offen ist auch, wie viele Konten es gibt und ob alle Videos von denselben Leuten kommen.

Warum wirken die Videos trotzdem?

Die Videos greifen Themen auf, über die sich viele Menschen ohnehin aufregen, etwa Migration. Das sagt Bruna Martins dos Santos von WITNESS, einer Organisation, die sich mit KI-Fälschungen beschäftigt. Wer so viele Menschen mit Fahnen sieht, reagiert zuerst mit dem Bauch. Nachdenken kommt später – oder gar nicht.

Dazu kommt TikTok selbst. Die App zeigt aufregende Videos vor allem jenen Menschen, die darauf reagieren. Jeder Kommentar zählt dabei als Interesse, auch ein wütender. So erreichen die Videos immer mehr Leute. Und mit KI kostet so ein Video fast nichts. Wer solche Bilder oft sieht, glaubt leicht: Das denken ja alle. Doch ein erfundenes Video zeigt keine Mehrheit.

Da steht doch „KI“ drauf?

Stimmt. TikTok blendet bei diesen Videos einen Hinweis ein, dass sie mit KI gemacht sind. Das hilft aber nur zur Hälfte.

TikTok verbietet nach eigenen Regeln KI-Videos, die bei wichtigen öffentlichen Themen in die Irre führen – auch wenn ein Hinweis dransteht. Ob diese Videos darunter fallen, müsste TikTok beantworten. Auch ein EU-Gesetz verlangt von großen Plattformen, gegen Inhalte vorzugehen, die Debatten und Wahlen schaden können. Es heißt Gesetz über digitale Dienste, kurz DSA. Euronews hat TikTok gefragt, warum die Videos noch online sind. Eine Antwort gab es zunächst nicht.

Wie prüft man eine Großdemo?

Schwierig wird es, weil es auch echte Proteste gibt. Laut Euronews sind in den letzten Wochen in mehreren Ländern Europas tatsächlich viele Menschen auf die Straße gegangen. Am Handy sehen echt und erfunden fast gleich aus.