Vor allem Social-Media-Plattformen wie Telegram werden von terroristischen Gruppen wie dem Islamischen Staat (IS) immer stärker für ihre Zwecke missbraucht. Abdullah Alrhmoun und sein Team von der Central European University in Wien haben in einer kürzlich veröffentlichten Studie gezeigt, wie der IS Telegram-Bots zur Stärkung seines Netzwerks und zur Verbreitung von Propaganda einsetzt.

Die Rolle von Bots in der Verbreitung von Propaganda

Als Bots oder genauer Social Bots werden Programme bezeichnet, die menschliches Verhalten imitieren und autonom agieren. Sie bieten ein enormes Missbrauchs- und Manipulationspotenzial, da sie für die Nutzer der Plattformen kaum als solche erkennbar sind. „Mit dem Einsatz von Bots findet eine Verschiebung von menschengenerierter zu automatisierter Information statt – mit der Folge, dass mehr Inhalte veröffentlicht werden können“, sagt Alrhmoun. Diese Bots werden vom IS systematisch eingesetzt, um das Netzwerk zu stärken und zu sichern, indem immer wieder Inhalte veröffentlicht werden und auf diese Weise immer mehr Menschen erreicht werden können.

Das Risiko der Weiterentwicklung von Bots

Ein Blick in die Zukunft zeigt, dass das Potenzial von Bots noch lange nicht ausgeschöpft ist. Alrhmoun weist darauf hin, dass Large Language Models (LLMs), wie z.B. ChatGPT, Bots in Zukunft noch gefährlicher machen könnten, indem sie ihnen eine Art Kreativität, also die Möglichkeit zur Erstellung eigener Inhalte, verleihen. Dadurch werde eine „nahezu unbegrenzte Verbreitung“ terroristischer und manipulativer Informationen ermöglicht.

Forderung nach stärkerer Regulierung

Angesichts dieser alarmierenden Erkenntnisse fordert Alrhmoun, den Einsatz von Bots strenger zu regulieren. Sowohl die staatlichen Sicherheitsbehörden als auch die Social-Media-Plattformen sollten sich Gedanken darüber machen, wie der Einsatz von Bots als Werkzeug des IS und anderer terroristischer Gruppen eingeschränkt werden kann. Denn obwohl es bereits Kanäle wie „ISIS Watch“ gibt, die über verbotene terroristische Inhalte aufklären und informieren, reicht dies bei weitem nicht aus. Es müssen Wege gefunden werden, terroristische Bots zu identifizieren und ihre Aktivitäten zu unterbinden.

Lesen Sie auch >   Warnung: EM-Bälle für 1,99 Euro auf Facebook führen in Abo-Falle

Funktionen von Bots innerhalb des IS-Netzwerks

Bisher haben Alrhmouns Forschungen gezeigt, dass Bots innerhalb der IS-Telegram-Community vor allem drei Hauptfunktionen erfüllen:

  1. Veröffentlichung und Bewerbung von IS-Inhalten
  2. Moderation von Diskussionen
  3. Verwaltung von Gruppen

Diese Aktivitäten tragen dazu bei, das Netzwerk des IS nachhaltig zu stärken und auszubauen. Das Team analysierte über 1,2 Millionen öffentliche Telegram-Posts und konnte 106 Bots identifizieren, die in insgesamt 98 verschiedenen Gruppen und 37 verschiedenen Kanälen aktiv waren oder dort erwähnt wurden.

Fazit

Die Studie von Alrhmoun und seinem Team beleuchtet einen beunruhigenden Aspekt der modernen Technologie: Wie terroristische Gruppen wie der IS Social-Media-Plattformen und Bots nutzen, um ihre Ziele zu erreichen. Angesichts der potenziellen Gefahren, die von diesen Technologien ausgehen, ist es von entscheidender Bedeutung, dass sowohl Regierungen als auch Social-Media-Plattformen aktiv werden und Strategien zur Verhinderung und Bekämpfung des Missbrauchs von Bots entwickeln. Nur so kann es gelingen, die „dunkle Seite“ dieser Technologie zu zähmen und sicherzustellen, dass sie nur so eingesetzt wird, wie es der Gesellschaft nützt.

Quelle:

Studie „Automating Terror: The Role and Impact of Telegram Bots in the Islamic State’s Online Ecosystem“

Das könnte auch interessieren:
Soziale Unruhen: EU-Digitalkommissar droht Social Media mit Sperre
Künstliche Intelligenz, die die Menschheit in den Schatten stellt
Populismus: In Streitgesprächen verstrickt und Lösungsansätze blockierend

Hinweise: 1) Dieser Inhalt gibt den Stand der Dinge wieder, der zum Zeitpunkt der Veröffentlichung aktuell war. Die Wiedergabe einzelner Bilder, Screenshots, Einbettungen oder Videosequenzen dient zur Auseinandersetzung der Sache mit dem Thema.
2) Einzelne Beiträge entstanden durch den Einsatz von maschineller Hilfe und wurde vor der Publikation gewissenhaft von der Mimikama-Redaktion kontrolliert. (Begründung)