Auch Experten tappen in Fake-News-Falle

Wissenschaftliche Tests im Security- und Medizin-Bereich zeigen Gefahr von Falschinformationen!

In der wissenschaftlichen und technischen Community, die sich mit hochkomplexen Themen wie Medizin oder Cyber-Security auseinandersetzt, bleiben Experten nicht von Fake News verschont, die mittels Künstlicher Intelligenz (KI) erstellt wurden. Wie leicht es ist, diese in die Irre zu führen, zeigt ein Experiment von Forschern der University of Maryland, Baltimore (UMBC) http://umaryland.edu, die mehr Wachsamkeit beim Informationskonsum einfordern.

„Leben stehen auf dem Spiel“

„Wenn man sich auf Social-Media-Seiten bewegt, sieht man hin und wieder Warnschilder, die auf Falschinformationen hinweisen. Stellen Sie sich vor, was solche Falschinformationen in wichtigen Bereichen wie der Medizin oder der Cyber-Sicherheit anrichten können“, erklären Priyanka Ranade, Anupam Joshi und Tim Fini von der UMBC. Bei den Wissenschaftlern und ihren Kollegen gebe es mittlerweile eine „zunehmende Sorge über die Verbreitung von falschen Informationen in diesen kritischen Feldern“.

Während Fake News im Allgemeinen oft dazu eingesetzt würden, die öffentliche Reputation von Unternehmen oder bekannten Persönlichkeiten zu zerstören, könnten die Auswirkungen von Fake News, die in Expertenkreisen zirkulieren, verheerend sein. „Das hat das Potenzial für sehr beängstigende Ergebnisse. Zum Beispiel könnten Experten dann falsche medizinische Ratschläge an Ärzte oder Patienten erteilen. Hier stehen Leben auf dem Spiel“, betonen die Forscher.

Experten hinters Licht geführt

Um die Gefahr, die von Fake News im Wissenschafts- und Security-Bereich ausgeht, genauer unter die Lupe zu nehmen, haben Ranade, Joshi und Fini auf spezielle KI-Software zurückgegriffen, die normalerweise dazu verwendet wird, um automatisch Texte und Sprache zu erfassen oder zu produzieren. Für die aktuelle Studie wurden diese Tools so adaptiert, dass sie Falschinformationen zu Themen wie den Nebeneffekten der COVID-19-Impfung oder den neuesten Bedrohungen im Cyber-Security-Bereich erstellten.

Die auf diese Weise produzierten Nachrichten wurden anschließend einer Reihe von Experten aus den entsprechenden Fachbereichen vorgelegt. Das Resultat hat sogar die Studienleiter selbst überrascht: „Die Beispiele an Falschinformationen, die generiert wurden, waren in der Lage, die Experten hinters Licht zu führen. Sowohl die Mediziner als auch die Sicherheitsexperten haben die falschen Informationen übernommen“, schildern die Wissenschaftler: „Letztendlich müssen wir aber alle wachsamer sein, wenn es darum geht, herauszufinden, welchen Informationen wir trauen können.“

Quelle: pte
Artikelbild: gguy / Shutterstock.com