„Manipulation durch die Hintertür“: Dieser DebunkBot dürfte Querulanten ärgern!

Seit der massentauglichen Nutzung generativer Künstlicher Intelligenz (im folgenden Text der Einfachheit halber KI genannt) warnen Forscher davor, dass Chatbots die Verbreitung von Desinformation und Verschwörungstheorien erleichtern könnten. Doch nun zeigt eine neue Studie, dass diese Technologie nicht nur Teil des Problems, sondern auch eine Lösung sein könnte. Der DebunkBot! Das ist ein von Forschern entwickelter KI-Chatbot, der sich in Tests als effektiv darin erwies, Menschen von falschen Überzeugungen abzubringen. Die Studie, veröffentlicht in der Fachzeitschrift Science, deutet darauf hin, dass der Chatbot nachhaltige Erfolge bei der Bekämpfung von Verschwörungstheorien erzielen kann.

Verschwörungstheorien sind weit verbreitet und betreffen laut der Studie bis zu die Hälfte der amerikanischen Bevölkerung. Auch in Deutschland und Österreich hat der Anteil der Verschwörungstheorien auf Social Media stark zugenommen. Sie können ernsthafte Folgen haben, etwa wenn sie Menschen von Impfungen abhalten oder Diskriminierung schüren. Bisher galt die Annahme, dass Fakten und Logik allein nicht ausreichen, um Menschen von solchen Überzeugungen abzubringen. Die Forscher hinter dem DebunkBot stellen diese Annahme nun infrage.

Was ist der DebunkBot

Der DebunkBot basiert auf der Technologie, die auch hinter ChatGPT steckt, und nutzt eine maßgeschneiderte, faktenbasierte Argumentation, um gegen individuelle Verschwörungstheorien vorzugehen. In der Studie wurden mehr als 2.000 Teilnehmer gebeten, eine Verschwörungstheorie zu erläutern, an die sie glauben, und diese auf einer Skala von 0 bis 100 zu bewerten. Beispiele für solche Theorien waren, dass die Mondlandung gefälscht sei oder dass das 9/11-Attentat von der US-Regierung inszeniert wurde.

Einige der Teilnehmer hatten anschließend ein kurzes Gespräch mit dem DebunkBot. Dabei wussten sie zwar, dass sie mit einer KI interagierten, kannten aber nicht das genaue Ziel des Dialogs. Die Teilnehmer konnten dem Chatbot ihre vermeintlichen Beweise präsentieren, woraufhin dieser präzise und faktenbasiert antwortete. So widerlegte der Chatbot beispielsweise die Behauptung, dass das Feuer beim 9/11-Attentat nicht heiß genug gewesen sei, um die Stahlträger des World Trade Centers zu schmelzen. Er erklärte, dass Stahl bei viel niedrigeren Temperaturen seine Festigkeit verliert und dadurch die Gebäude einstürzten.

Nach diesen kurzen Gesprächen, die im Durchschnitt acht Minuten dauerten, bewerteten die Teilnehmer erneut ihre Überzeugungen. Das Ergebnis: Die Zustimmung zu den Verschwörungstheorien sank im Schnitt um 20 Prozent, und ein Viertel der Teilnehmer gab an, die falschen Überzeugungen komplett aufgegeben zu haben. Interessanterweise wirkte sich die Aufklärung auch auf andere, nicht diskutierte Verschwörungstheorien aus: Die Teilnehmer zeigten insgesamt weniger Neigung, an schlecht gestützte Theorien zu glauben.

DebunkBot glänzt mit Fakten

Ethan Porter, ein Forscher für Desinformation, der nicht an der Studie beteiligt war, hob gegenüber der New York Times hervor, wie effektiv die Wirkung des DebunkBot war. Selbst zwei Monate nach dem Experiment blieb die Korrektur der falschen Überzeugungen bestehen – ein Effekt, der in vielen anderen Ansätzen zur Bekämpfung von Desinformation selten so langanhaltend ist. Ein Effekt, den wir uns bei Mimikama nur wünschen können!

Auch andere Forscher, so wie Gordon Pennycook, Professor für Psychologie an der Cornell University, und David Rand vom Massachusetts Institute of Technology versuchen nun herauszufinden, warum der DebunkBot so effektiv ist. Erste Analysen deuten darauf hin, dass es die Fakten selbst und nicht die Freundlichkeit oder Interaktionsweise des Chatbots sind, die den Unterschied machen. Eine Follow-up-Studie, bei der der Chatbot weniger höflich auftrat, zeigte ähnliche Ergebnisse. „Es sind die Fakten und Beweise, die hier die Arbeit leisten“, so Rand. Das wiederum ist interessant zu beobachten, denn in der bisherigen Arbei mit Fakten spielten diese häufig eine Untergeordnete Rolle, wenn Menschen diese vermittelten.

INFOBOX „Begriff Verschwörungstheorie“

In den letzten Jahren sind Worte wie „Verschwörungsmythos“ oder „Verschwörungserzählung“ immer häufiger aufgetaucht, da der Begriff „Verschwörungstheorie“ in die Kritik geraten ist. Der Hauptvorwurf besteht darin, dass das Wort „Theorie“ wissenschaftliche Legitimität suggeriert und den Eindruck erweckt, dass diese Theorien belegbar oder fundiert sein könnten. Kritiker befürchten, dass dies Verschwörungserzählungen aufwertet.

Wir bei Mimikama nutzen diese Begriffe jedoch nicht und beziehen uns auf eine Erklärung von Prof. Claus Oberhauser. Oberhauser argumentiert, dass „Verschwörungstheorie“ kein aufwertender Begriff ist, sondern klar negativ konnotiert bleibt. Um eine einheitliche und klare Sprache im Umgang mit diesem Phänomen zu fördern, empfiehlt er, den bekannten Begriff „Verschwörungstheorie“ zu verwenden, da er das Phänomen präzise und allgemein verständlich beschreibt.

Aktuell überlegen die Forscher, wie sie den DebunkBot in der Praxis einsetzen können. Eine Option wäre, den Chatbot in Online-Foren oder durch gezielte Werbung einzubinden, wenn Nutzer nach Verschwörungstheorien suchen. Besonders nützlich könnte der Bot auch in Arztpraxen sein, um Missverständnisse über Impfungen aufzuklären.

Allerdings gibt es Bedenken, dass das Vertrauen in KI-basierte Aufklärung langfristig sinken könnte. Brendan Nyhan, ein Forscher an der Dartmouth College, äußerte die Sorge, dass KI-Informationen in Zukunft ähnlich skeptisch gesehen werden könnten wie die Berichterstattung in etablierten Medien. „Es könnte eine Zeit kommen, in der Menschen der KI ebenso wenig trauen wie dem Mainstream“, sagte Nyhan.

Der DebunkBot, zeigt, dass KI an sich weder positiv, noch negativ ist. Sondern lediglich das, was man mit ihr macht. KI muss also nicht nur ein Verstärker von Desinformation sein, sondern kann auch ein Werkzeug im Kampf gegen Verschwörungstheorien sein.