Hass auf Twitter erkennen: Ein Filter für „offensive Sprache“

Autor: Andre Wolf

Ein Filter für Hass auf Twitter
Ein Filter für Hass auf Twitter

Beleidigende Kommentare, Hass oder auch Hetze auf Social Media: Offensive Sprache ist seit ein paar Jahren auf der Tagesordnung. Die Computerlinguistin Prof. Dr. Melanie Siegel vom Fachbereich Media der Hochschule Darmstadt möchte dies jedoch ändern!

Zusammen mit mehreren Kolleginnen und Kollegen arbeitet Melanie Siegel auf nationaler und auch internationaler Ebene daran Algorithmen zu programmieren, die offensive Sprache im Internet identifizieren und auch aus Texten herausfiltern. Dabei wurden speziell Tweets auf Twitter ausgewertet.

Um an die Schlüsselworte zu gelangen, arbeitet die Gruppe mit verschiedenen Methoden des sog. Text Minings. Dabei werden Tweets analysiert und zunächst per Hand bewertet. Diese Tweets werden, je nach Beschaffenheit, dann in verschiedene Kategorien geordnet.

[mk_ad]

Darunter fallen entsprechend Beleidigungen einzelner Personen, aber auch einfache Äußerungen mit Schimpfwörtern. Am Ende steht die Hetze. Von Hetze sprechen Siegel und ihre Kolleginnen und Kollegen, wenn Gruppen von Menschen abgewertet und angegriffen werden oder wenn zu Gewalt gegen sie aufgerufen wird.

„Es ist zynisch und menschenverachtend, wenn jemand auf Twitter schreibt „Flüchtlingsboote torpedieren, dann lernen die Sozialschmarotzer schwimmen“ – Melanie Siegel gegenüber campus_d Nr. 23, Sommer 2019

Die Analyse der Tweets bezieht sich jedoch nicht auf die gesamten Inhalte auf Twitter, sondern hier wird nach relevanten Schlagworten, bzw. bestimmten Themen geschaut, die ein gewisses Framing erzeugen und somit entsprechend offensive Sprache nach sich ziehen.

In einem Gespräch uns gegenüber merkte Melanie Siegel an, dass diese gerade zu spezifischen Themen und Schlagworten wie „Flüchtling“ und „Asylant“ signifikant hoch wäre. Desweiteren konnte die Gruppe um Siegel beobachten, dass deutlich mehr Hatespeech aus dem rechtsradikalen Umfeld stammt als aus dem linksradikalen Bereich.

Hier noch eine kleine Anmerkung: Melanie Siegel wird in verschiedenen Medien in der Berichterstattung zu diesem Thema mit den Worten „Ein Drittel der Twitter-Mitteilungen ist Hetze“ wiedergegeben. Siegel merkte uns gegenüber an, dass diese Aussage so nicht stimme und dass sie hier wohl falsch verstanden wurde.

Es handelt sich bei dieser Drittel-Angabe um eine Stichprobe zu einem der oben angeführten Schlagworte, bei dem offensive Sprache zu erwarten war und somit analysiert wurde. Diese Mengenangabe bezieht sich somit nicht (wie fälschlicherweise in Medien genannt) auf die Gesamtzahl der Tweets auf Twitter.

[mk_ad]

Vorgetäuschte Mehrheitsverhältnisse

Daneben bestätigt Siegel eine weitere Beobachtung, die schon länger existiert: Es sind eher wenige Accounts, die jedoch einen hohen Output an Interaktionen haben. Diese wenigen Accounts erscheinen durch ihre  zahlenmässig vielen Interaktionen als eine virtuelle Scheinmehrheit, die ein falsches demoskopisches Bild entstehen lässt.

Das ist durchaus auch so gewollt: Diese Scheinmehrheiten führen beispielsweise dazu, dass bestimmte Themen bewusst gepusht werden, so dass sie auf Twitter trenden und entsprechend eine Scheinrelevanz bekommen. Diese Scheinrelevanz führt dazu, dass Themen, die im Grunde lediglich eine geringe Social-Media-Gesprächsrelevanz haben, auf einmal Einzug in Medienberichterstattungen bekommen und somit auch Menschen außerhalb von Social Media erreichen.

Daneben erzeugen virtuelle Scheinmehrheiten das Bild einer demokratischen Mehrheit, die jedoch real nicht existent ist.

Die Grenzen des Filters

Wie bei jedem Filter liegen auch hier Grauzonen und Grenzen vor, die ein automatischer Filter am Ende schwer bewerten oder erkennen kann, bzw. wo so ein Filter fehleranfällig ist. Diese Grenzen liegen laut Siegel bei Inhalten mit Ironie, Sarkasmus oder kulturellem Kontextwissen.

Weiterführende Inhalte:

Unterstützen 🤍

FAKE NEWS BEKÄMPFEN

Unterstützen Sie Mimikama, um gemeinsam gegen Fake News vorzugehen und die Demokratie zu stärken. Helfen Sie mit, Fake News zu stoppen!

Mit Deiner Unterstützung via PayPal, Banküberweisung, Steady oder Patreon ermöglichst Du es uns, Falschmeldungen zu entlarven und klare Fakten zu präsentieren. Jeder Beitrag, groß oder klein, macht einen Unterschied. Vielen Dank für Deine Hilfe! ❤️

Mimikama-Webshop

Unser Ziel bei Mimikama ist einfach: Wir kämpfen mit Humor und Scharfsinn gegen Desinformation und Verschwörungstheorien.

Abonniere unseren WhatsApp-Kanal per Link- oder QR-Scan! Aktiviere die kleine 🔔 und erhalte eine aktuelle News-Übersicht sowie spannende Faktenchecks.

Link: Mimikamas WhatsApp-Kanal

Mimikama WhatsApp-Kanal

Hinweise: 1) Dieser Inhalt gibt den Stand der Dinge wieder, der zum Zeitpunkt der Veröffentlichung aktuell
war. Die Wiedergabe einzelner Bilder, Screenshots, Einbettungen oder Videosequenzen dient zur
Auseinandersetzung der Sache mit dem Thema.


2) Einzelne Beiträge (keine Faktenchecks) entstanden durch den Einsatz von maschineller Hilfe und
wurde vor der Publikation gewissenhaft von der Mimikama-Redaktion kontrolliert. (Begründung)


Mit deiner Hilfe unterstützt du eine der wichtigsten unabhängigen Informationsquellen zum Thema Fake News und Verbraucherschutz im deutschsprachigen Raum

INSERT_STEADY_CHECKOUT_HERE

Kämpfe mit uns für ein echtes, faktenbasiertes Internet! Besorgt über Falschmeldungen? Unterstütze Mimikama und hilf uns, Qualität und Vertrauen im digitalen Raum zu fördern. Dein Beitrag, egal in welcher Höhe, hilft uns, weiterhin für eine wahrheitsgetreue Online-Welt zu arbeiten. Unterstütze jetzt und mach einen echten Unterschied! Werde auch Du ein jetzt ein Botschafter von Mimikama

Mehr von Mimikama

Mimikama Workshops & Vorträge: Stark gegen Fake News!

Mit unseren Workshops erleben Sie ein Feuerwerk an Impulsen mit echtem Mehrwert in Medienkompetenz, lernen Fake News und deren Manipulation zu erkennen, schützen sich vor Falschmeldungen und deren Auswirkungen und fördern dabei einen informierten, kritischen und transparenten Umgang mit Informationen.