TikToks „Andere suchten nach“-Funktion verbreitet Fehlinformationen und gefährdet Wahlen

TikTok, das weltweit beliebte soziale Netzwerk, behauptet, eine unterhaltsame und politisch vielfältige Plattform zu sein. Doch eine tiefgehende Untersuchung von unabhängigen Forschern des TikTok Audit Teams bei interface und der zivilgesellschaftlichen Organisation AI Forensics zeigt ein düsteres Bild. Statt neutraler Information verbreitet TikTok über seine „Andere suchten nach“-Funktion politisch fragwürdige Suchvorschläge, die die öffentliche Meinung verzerren und Fehlinformationen befeuern können – besonders im Kontext von Wahlen.

TikToks Ziel: Unterhaltung oder Manipulation?

TikTok hat sich das Ziel gesetzt, ein unterhaltsames und gleichzeitig politisch diverses Umfeld zu schaffen. Die Plattform ist bekannt für ihren Empfehlungsalgorithmus, der massiv beeinflusst, welche Inhalte die Nutzer sehen und mit welchen sie interagieren. Dieser Algorithmus steht unter Verdacht, vor allem sensationelle und irreführende Inhalte zu bevorzugen, was zur Verbreitung von Fehlinformationen und zur gesellschaftlichen und politischen Polarisierung beiträgt.

In Zusammenarbeit mit der zivilgesellschaftlichen Organisation AI Forensics hat das TikTok Audit Team von interface eine Untersuchung der „Andere suchten nach“-Funktion durchgeführt, um zu verstehen, ob diese ähnliche Tendenzen aufweist. Wie bereits in Berichten von der SPIEGEL erwähnt, bietet TikTok hochgradig fragwürdige Suchvorschläge, die über falsche Promi-Todesmeldungen hinausgehen und teilweise irreführende politische Informationen verbreiten können. Besonders im Zusammenhang mit Wahlprozessen ist das Risiko erhöht, wenn die „Andere suchten nach“-Vorschläge politische Gerüchte, Fehlinformationen oder sogar verschleierte Hinweise auf verschwörungstheoretische Inhalte liefern.

2024: Ein Jahr der Wahlen – Ein Jahr der Manipulation?

Das Jahr 2024 ist ein entscheidendes Jahr für die Weltpolitik, mit wichtigen Wahlen in der Europäischen Union, den Vereinigten Staaten, Indien und vielen weiteren Ländern. Aus diesem Grund untersuchten interface und AI Forensics, inwieweit TikToks „Andere suchten nach“-Funktion schädliche oder falsche Narrative in einem politischen Kontext fördert. Diese Untersuchung ist Teil einer Reihe detaillierter Prüfungen, die sich den Erkenntnissen aus den Szenariotests von TikTok widmen. Die Studien basieren auf einem risikobasierten Prüfungsprozess, dem sogenannten „Risk-Scenario-Based Audit Process“ (RSBA). In einem spezifischen Szenario wurde untersucht, wie junge TikTok-Nutzer in Deutschland im Alter zwischen 18 und 25 Jahren durch angezeigte Suchvorschläge eine verzerrte Realität erleben könnten, was den öffentlichen Diskurs negativ beeinflusst.

Verzerrte Realität: Wie Suchvorschläge das Weltbild junger Wähler prägen

In dieser Untersuchung wurde analysiert, wie Suchvorschläge eine verzerrte Sicht auf die Realität schaffen könnten, die potenziell den politischen Diskurs in der Öffentlichkeit negativ beeinflusst. Besonders betroffen sind junge Nutzer, die zunehmend auf die Suchfunktion von TikTok angewiesen sind. Die Untersuchung beleuchtet die Auswirkungen auf die Altersgruppe der 18- bis 25-Jährigen in Deutschland und zeigt das potenzielle Risiko der Verbreitung von Fehlinformationen und politisch polarisierenden Inhalten auf. Dies ist besonders kritisch während eines entscheidenden Wahljahres, in dem viele junge Menschen erstmals wählen.

Wie stark beeinflussen Suchvorschläge das Nutzerverhalten?

Im Dezember 2023 wurden 1.643 junge Erwachsene (18-25 Jahre alt, von denen 59 % TikTok nutzen) in Deutschland befragt. Auf die Frage nach ihrer Nutzung verschiedener Plattform-Funktionen gaben 67 % an, die Suchfunktion „häufig“ oder „gelegentlich“ zu nutzen, während nur 3 % angaben, sie nie zu nutzen oder nicht zu kennen. Diese Daten bestätigen Berichte, dass die Suchfunktion von TikTok für jüngere Nutzer immer relevanter wird. In der jüngsten Altersgruppe (18-19 Jahre) lag die regelmäßige oder häufige Nutzung der Suchfunktion mit 74 % deutlich höher als bei der ältesten Altersgruppe (24-25 Jahre) mit 62 %. Bemerkenswert ist, dass es keine messbaren Geschlechterunterschiede gab.

In einem weiteren Schritt wurden den Teilnehmern eine Liste von Suchvorschlägen gezeigt, die manuell aus den auf der Plattform gesehenen Vorschlägen zusammengestellt wurden. Alle Teilnehmer sahen dieselben zehn Vorschläge in zufälliger Reihenfolge, ohne jegliche Personalisierung. Drei Viertel der Teilnehmer konnten sich vorstellen, auf einen der Suchvorschläge zu klicken, wobei dieselbe Anzahl an der suggestiven Schlagzeile „Olaf Scholz in Club erwischt“ interessiert war. Obwohl dieser Vorschlag während der gesamten Studie regelmäßig gesehen wurde, fanden die Forscher keinen Zusammenhang mit einem tatsächlichen Vorfall und auch keine Videos auf der Plattform, die etwas Vergleichbares erwähnten.

Später in der Umfrage kehrten die Forscher zu den Suchvorschlägen zurück, die die Nutzer zuvor gesehen hatten, und fragten die Teilnehmer, an welche spezifischen Vorschläge sie sich erinnern konnten. Ihnen wurden auch einige zusätzliche Vorschläge gezeigt, die nicht in die ersten Schritte der Umfrage aufgenommen worden waren.

Die Ergebnisse zeigten, dass die Teilnehmer die zuvor gesehenen Suchvorschläge überwiegend korrekt identifizieren konnten, und das sogar mit einer Genauigkeit auf der Ebene der genauen Wortwahl, obwohl sie nicht geplant hatten, auf diese zu klicken.

Suchvorschläge: Ein fester Bestandteil von TikToks Nutzererlebnis

In den letzten Jahren hat TikTok seine Suchvorschlagsfunktion auf verschiedene Elemente der mobilen App ausgeweitet. Es wurden vier Bereiche der Benutzeroberfläche identifiziert, in denen diese Vorschläge integriert sind:

1. Suchvorschläge erscheinen unter der Suchleiste, wenn Nutzer auf das Suchsymbol oben rechts auf der For You Page (FYP) klicken. Diese Suchvorschläge sind eine Mischung aus trendenden Themen und personalisierten Einträgen basierend auf den zuletzt angesehenen Videos und langfristigen Interessen des Nutzers.
2. Gelegentlich wird eine ähnliche Liste von Vorschlägen als separater Slide in die FYP eingebettet, die Nutzer zwischen den Videos sehen. Ähnlich wie bei den Vorschlägen in der Suchleiste kombinieren sie personalisierte und trendende Vorschläge.
3. Videospezifische Suchbegriffe werden manchmal am unteren Bildschirmrand unterhalb des Videos oder über den Kommentaren im Kommentarbereich vorgeschlagen. Frühere Nachrichtenberichte haben hervorgehoben, wie suggestive Suchbegriffe in den Videos die Ersteller dieser Videos negativ beeinflussen können.
4. Suchvorschläge sind auch in der Anzeige von Suchergebnissen eingebettet.

Fallstudie zu Suchvorschlägen vor den EU-Wahlen

Um die „Andere suchten nach“-Vorschläge von TikTok zu sammeln, erstellten die Forscher eine Liste von Suchanfragen zu deutschen politischen Parteien und Politikern, die bei den Wahlen zum Europäischen Parlament 2024 aktiv kandidierten. Diese Abfrageliste besteht aus 9 Parteien und 51 Politikern, die gleichmäßig auf die Parteien verteilt sind. Wo zutreffend, fügten sie sowohl den vollständigen Namen der Parteien als auch deren gebräuchliche Abkürzungen hinzu.

Basierend auf diesen Abfragen wurden die Daten der „Andere suchten nach“-Vorschläge zwei Mal täglich über einen Monat vor den Parlamentswahlen im Juni 2024 gesammelt, unter Verwendung eines Servers mit einer deutschen IP-Adresse. Diese Studie konzentrierte sich auf die 20 häufigsten Vorschläge pro Partei oder Kandidat, um den Umfang auf relevante Suchvorschläge zu begrenzen. Insgesamt sammelten die Forscher 89.780 Suchvorschläge, von denen 3.740 einzigartig waren.

Sie entwickelten ein Kategorienschema, um speziell die Frage zu beantworten, wie die „Andere suchten nach“-Vorschläge aussehen und inwieweit sie falsche oder potenziell schädliche Narrative im politischen Kontext verbreiten. Im Kontext wahlbezogener Suchen identifizierten sie acht Hauptkategorien von Vorschlagstypen:

1. Keine Vorschläge: Keine Suchvorschläge für die initiale Abfrage.
2. Unrelated: Suchvorschläge, die nichts mit der ursprünglichen Abfrage zu tun haben und keine potenziell schädlichen Implikationen tragen.
3. Diversion: Suchvorschläge, die die Aufmerksamkeit von der ursprünglichen Abfrage ablenken und stattdessen auf eine andere Partei oder einen anderen Politiker verweisen.
4. Insights: Suchvorschläge, die harmlose, faktenbasierte Informationen über die angefragte Partei oder den Politiker bieten.
5. Clickbait: Sensationelle Schlagzeilen, die Gerüchte, Klatsch oder potenzielle Fehlinformationen verbreiten, die unbestätigte (oder falsche) Behauptungen über die Partei oder den Politiker reflektieren.
6. Suspicious: Suchvorschläge, die möglicherweise politisch motivierte, sexuelle, nationalistische oder verleumderische Implikationen enthalten.
7. Dog Whistle: Suchvorschläge, die Desinformation, Verleumdung oder unbegründete verschwörungstheoretische Anspielungen beinhalten, die geheime und schädliche Aktivitäten oder Einstellungen suggerieren.
8. Other: Suchvorschläge, die in keine der oben genannten Kategorien fallen.

Blockierte Abfragen und deren Implikationen

Die Untersuchung stellte fest, dass bestimmte Suchanfragen keine Suchvorschläge zurückgaben, was darauf hindeutet, dass TikTok bestimmte Abfragen blockiert hat. Diese Blockierungen waren jedoch inkonsistent, was Fragen über die Moderation und die Gründe für das Blockieren bestimmter Begriffe aufwirft.

Beispiele für blockierte Suchanfragen:

• AfD: Partei
• Maximilian Krah: Politiker (AfD)
• Petr Bystron: Politiker (AfD)
• Christlich-Soziale Union: Partei (CSU)
• Andrea Wechsler: Politikerin (CDU)
• Terry Reintke: Politikerin (Die Grünen)

Unausgewogene Darstellung politischer Parteien

Ein entscheidendes Ergebnis war, dass bestimmte Parteien, insbesondere die AfD, in den Suchvorschlägen anderer Parteien unverhältnismäßig oft erwähnt wurden, was zu einer unausgewogenen Darstellung des politischen Spektrums führte. Dies deutet darauf hin, dass TikTok Engagement und Viralität über die Qualität und Proportionalität der politischen Darstellung stellt.

Ein interaktiver Graph zeigte die Ablenkungen von Suchvorschlägen, bei denen eine Partei abgefragt wurde, und die Suchvorschläge auf eine andere Partei verwiesen.

Es wurde festgestellt, dass die AfD, eine weit rechtsstehende Partei in Deutschland, überproportional oft in den Suchvorschlägen anderer Parteien erwähnt wurde.

---

Mimikama-Hinweis: Wenn Sie bei Suchanfragen auf TikTok wie „AfD“ oder spezifische Kandidaten wie „Maximilian Krah“ und „Petr Bystron“ Suchergebnisse erhalten, könnte dies darauf hinweisen, dass die im Artikel beschriebenen Ergebnisse entweder veraltet sind oder unter bestimmten Bedingungen beobachtet wurden, die sich seitdem geändert haben.

Mögliche Erklärungen:

1. Die ursprüngliche Analyse könnte zu einem früheren Zeitpunkt durchgeführt worden sein, als TikTok bestimmte Suchanfragen blockierte. Seither könnten Änderungen in der Moderationspraxis oder den Suchalgorithmen vorgenommen worden sein.
2. TikTok könnte die Suchergebnisse je nach Benutzerprofil, Region oder anderen Faktoren variieren, sodass verschiedene Nutzer unterschiedliche Ergebnisse sehen.
3. Nach der Analyse könnten technische Updates oder Änderungen in der Suchfunktion von TikTok implementiert worden sein, die dazu führen, dass die zuvor blockierten Suchbegriffe wieder Ergebnisse liefern.

Es ist daher möglich, dass sich die Situation seit der ursprünglichen Untersuchung geändert hat. Wir empfehlen, dies bei der Bewertung der im Artikel dargestellten Ergebnisse zu berücksichtigen.

---

Fazit: Eine systemische Gefahr für den öffentlichen Diskurs

Diese Ergebnisse zeigen, dass TikToks Suchvorschläge ein systemisches Risiko für den öffentlichen Diskurs darstellen. Junge Erwachsene, die sich auf die Suchfunktion von TikTok verlassen, um Informationen zu erhalten, könnten ein verzerrtes Bild der Realität erhalten, das die politische Landschaft einseitig darstellt und Fehlinformationen verbreitet. Um die Integrität des öffentlichen Diskurses und der Wahlen zu schützen, ist es entscheidend, dass Plattformen wie TikTok ihre Suchalgorithmen transparenter gestalten und schädliche Inhalte konsequent moderieren.

---

Hinweis: Die Forschung des Teams beweist keine aktive Zusammenarbeit zwischen rechtsextremen Parteien wie der AfD und TikTok. Sie spiegelt nicht die Absichten der Plattform wider, die AfD zu unterstützen. Es ist jedoch wichtig zu betonen, dass TikToks eingebaute Funktionen wie die „Andere suchten nach“-Vorschläge einen schlecht moderierten Raum bieten, in dem insbesondere die AfD von der Verbreitung ihrer Inhalte profitieren kann.

Quelle: auditing TikTok

---

Haftungsausschluss: Dieser Artikel basiert auf den Ergebnissen und Analysen unabhängiger Forscher und Experten, insbesondere des TikTok Audit Teams bei interface und der zivilgesellschaftlichen Organisation AI Forensics. Die in diesem Artikel geäußerten Ansichten und Schlussfolgerungen spiegeln die Meinung der Autoren wider und sind keine rechtlich bindenden Aussagen. Wir bemühen uns, genaue und aktuelle Informationen bereitzustellen, übernehmen jedoch keine Gewähr für die Vollständigkeit oder Richtigkeit der Inhalte. Leser sollten eigene Nachforschungen anstellen und rechtlichen Rat einholen, bevor sie auf der Grundlage der in diesem Artikel enthaltenen Informationen Entscheidungen treffen.

---

Lesen Sie auch:

• TikTok verbreitet Fake News über Verhütung
• TikTok setzt umstrittenes Prämienprogramm aus
• Maßnahmen gegen antisemitische Inhalte auf TikTok
• TikTok bevorzugte AfD-Inhalte zur Europawahl