Der Einsatz des generativen Chatbots ChatGPT von OpenAI bringt Vor- und Nachteile in Bezug auf die Verständlichkeit, aber auch Glaubwürdigkeit von Informationen. Laut einer neuen Studie der Universität Zürich sind mit Künstlicher Intelligenz (KI) generierte, korrekte Tweets leichter verständlich als jene, die von Menschen verfasst worden sind. Und: KI-Tweets mit Fake News sind wiederum schwerer als Falschinformation zu erkennen.

Überzeugende Fake News

Die Forscher wollten wissen, ob Personen zwischen Desinformation und korrekten Informationen in Form von Tweets unterscheiden können. Auch sollte ermittelt werden, ob die 697 Probanden erkennen, ob ein Tweet von einem realen Twitter-Nutzer verfasst oder von GPT-3 generiert wurde. Es ging um den Klimawandel, die Sicherheit von Impfstoffen, die Corona-Pandemie, die Theorie, die Erde sei eine Scheibe, und homöopathische Krebstherapien.

Einerseits konnte GPT-3 genaue und im Vergleich zu Tweets von realen Twitter-Nutzern leichter verständliche Informationen generieren. Die Experten konnten dem Tool aber auch ein beängstigendes Talent für die Erstellung äußerst überzeugender Fake News nachweisen. Beunruhigend sei, dass die Teilnehmer nicht in der Lage waren festzustellen, ob Tweets von GPT-3 erstellt wurden oder von realen Twitter-Nutzern geschrieben wurden.

Hohes Missbrauchspotenzial

„Die Studie zeigt, dass KI-gestützte Systeme für groß angelegte Desinformationskampagnen zu jedem erdenklichen Thema missbraucht werden könnten, was nicht nur die öffentliche Gesundheit, sondern auch die Integrität von Informationsökosystemen gefährden würde, die für funktionierende Demokratien unerlässlich sind“, warnen die Züricher Kommunikationswissenschaftler eindringlich in ihrer Untersuchung.

Die Forscher empfehlen strenge, evidenzbasierte und ethisch fundierte Vorschriften, um der potenziellen Bedrohung durch diese disruptiven Technologien zu begegnen. „Eine proaktive Regulierung ist entscheidend, um potenzielle Schäden durch KI-gesteuerte Desinformationskampagnen abzuwenden“, so Studienleiterin Nikola Biller-Andorno abschließend.

Lesen Sie auch >   WhatsApp testet neue Funktion zur Transkription von Sprachnachrichten

Lesen Sie auch: 100.000 ChatGPT-Konten gehackt: Deshalb sollten Sie keine sensiblen Daten in ChatGPT eingeben

Quelle:

Pressetext

Hinweise: 1) Dieser Inhalt gibt den Stand der Dinge wieder, der zum Zeitpunkt der Veröffentlichung aktuell war. Die Wiedergabe einzelner Bilder, Screenshots, Einbettungen oder Videosequenzen dient zur Auseinandersetzung der Sache mit dem Thema.
2) Einzelne Beiträge entstanden durch den Einsatz von maschineller Hilfe und wurde vor der Publikation gewissenhaft von der Mimikama-Redaktion kontrolliert. (Begründung)