Online-Extremismus: Wie harmlose Gruppen radikal werden

Wenn der Algorithmus zum Brandbeschleuniger wird

→Wie beeinflussen Narrative die öffentliche Meinung? Antworten finden Sie im Leitfaden Narrative & Meinungsmache.

Die Verwandlung einer Yoga-Gruppe

Tipps zur Rückendehnung, Atemtechniken gegen Stress, vegane Rezepte, ein paar Affirmationen. Nichts an der Facebook-Gruppe „Ganzheitlich leben, natürlich heilen“ ließ vermuten, dass sie zwei Jahre später Verschwörungstheorien über „die große Pharma-Lüge“ und „geheime Weltregierungen“ verbreiten würde. Und doch war es genau das, was geschah. Wer heute den Feed dieser Community durchscrollt, findet kaum noch Harmonie, stattdessen ein toxisches Gemisch aus Misstrauen, Angst und Wut. Was ist passiert?

Der stille Marsch zur Radikalisierung

Die Geschichte dieser und vieler ähnlicher Gruppen folgt einem beunruhigend bekannten Muster. In scheinbar harmlosen Gemeinschaften rund um Gesundheit, Elternschaft, Ernährung oder Spiritualität schleicht sich nach und nach eine neue Rhetorik ein: erst als Zweifel an etablierten Institutionen, dann als aggressive Ablehnung von Wissenschaft, Medien, Demokratie.

Online-Radikalisierung findet längst nicht mehr nur in einschlägigen Foren wie 4chan oder Telegram-Gruppen statt, sondern mitten in Mainstream-Plattformen wie Facebook, YouTube oder TikTok. Besonders betroffen: Communities, die ursprünglich gar nichts mit Politik zu tun hatten.

Plattform-Logik als Motor

Der wahre Urheber dieser Entwicklung ist kein Verschwörer, sondern ein Algorithmus. Soziale Netzwerke sind darauf programmiert, Inhalte zu verstärken, die Engagement erzeugen. Und kaum etwas bindet Nutzer:innen länger als Emotionen wie Angst, Empörung oder Empathie mit einer bedrohten Gruppe.

Nutzer, die beispielsweise auf YouTube mit leicht kritischen Videos beginnen, landen durch algorithmisch empfohlene Inhalte oft bei verschwörungstheoretischen oder extremistischen Inhalten. Auch Facebooks interne Studien, offengelegt durch Whistleblowerin Frances Haugen, zeigen, dass der Konzern längst wusste, wie sehr Gruppenfunktion und Empfehlungsmechanismen Radikalisierung begünstigen.

Der schmale Grat zwischen Meinung und Manipulation

Was hier geschieht, ist mehr als ein digitales Phänomen. Es verändert das soziale Gefüge. Aus Informationsblasen werden Echokammern, aus Austausch wird Abschottung. Die Grenze zwischen legitimer Kritik und extremistischer Ablehnung demokratischer Grundwerte verschwimmt.

Besonders perfide: Die Plattformen profitieren finanziell von der Eskalation. Jeder Klick auf ein empörendes Video, jeder wütende Kommentar unter einem polarisierenden Post bedeutet Daten, Aufmerksamkeit und Werbeeinnahmen.

Dazu kommt, dass viele Nutzer:innen nicht auf Anhieb erkennen, wenn sie in extremistische Diskurse abrutschen. Die Radikalisierung geschieht nicht über Nacht. Sie kommt in kleinen, plausiblen Schritten, wie das langsame Erhitzen eines Froschs im Wasser.

Prävention statt Panikmache

Der Weg zurück ist möglich, aber er erfordert Aufklärung, Verantwortung und neue Regeln. Plattformen müssen transparenter machen, wie ihre Algorithmen funktionieren, und radikalisierende Inhalte entschiedener drosseln. Initiativen wie „Reset.Tech“ oder „AlgorithmWatch“ fordern genau das: algorithmische Verantwortung statt reinem Profitdenken.

Doch auch Medienkompetenz muss in Schulen, in der Erwachsenenbildung, durch öffentliche Kampagnen gestärkt werden. Denn wer erkennt, wie Manipulation funktioniert, ist weniger anfällig für sie. Nicht zuletzt braucht es digitale Zivilcourage. Menschen, die in Gruppen widersprechen, die nicht wegsehen, wenn sich der Ton verändert. Die sagen: Bis hierhin, und nicht weiter.

Fazit: Das Netz vergisst nicht, aber wir können umlernen

Online-Radikalisierung ist kein Randphänomen. Sie ist das Ergebnis einer technischen Logik, die Emotionalisierung über Vernunft stellt, gepaart mit einem gesellschaftlichen Vakuum. Doch wir sind dieser Entwicklung nicht ausgeliefert. Wer versteht, wie Plattformen funktionieren, kann gegensteuern. Es braucht Wissen, Mut und Haltung, damit aus einem Yogaforum nicht der nächste Nährboden für Hass wird.

Teste dich selbst im Mimikama-Quiz:
Erkennst du, wenn harmlose Online-Gruppen politisch oder radikal werden?

Schon gelesen? China zerstört Moscheen? Nein, Video zeigt Freizeitpark-Abriss in Indonesien


Hinweis: Stand zum Veröffentlichungsdatum.
Verwendete Bilder, Screenshots und Medien dienen ausschließlich der sachlichen Auseinandersetzung im Sinne des Zitatrechts (§ 51 UrhG).
Teile dieses Beitrags können KI-gestützt erstellt und redaktionell geprüft worden sein.
(Mehr zur Arbeitsweise)