„Deepfake“-Gesichter vertrauenswürdiger als echte

Untersuchung der Lancaster University untermauert große Gefahr durch KI-generierte Konterfeis

Viele Menschen fallen im wahrsten Sinne des Wortes auf Gesichter herein, die mittels Künstlicher Intelligenz (KI) erstellt wurden. Nicht nur können sie die KI-Kreationen, wie sie in sogenannten „Deepfakes“ zum Einsatz kommen, kaum von echten Gesichtern unterscheiden. Menschen finden diese auch vertrauenswürdiger. „Wir sollten uns Sorgen machen, da diese synthetischen Gesichter unglaublich effektiv für bösartige Zwecke sind, für Dinge wie Rachepornos und Betrug beispielsweise“, warnt Erstautorin Sophie Nightingale von der Lancaster University gegenüber dem „New Scientist“.

Tests mit Deepfakes

Mithilfe von KI lassen sich beliebige Gesichter in Bilder oder Videos einfügen, etwa auch das von Ex-Lovern in sogenannten Rachepornos. Nightingale und Hany Farid, Informatikprofessor an der University of California, Berkeley http://berkeley.edu , haben sich in ihrer Studie damit befasst, wie gut Menschen synthetische von echten Gesichtern unterscheiden können. „Wir haben festgestellt, dass synthetische Gesichter nicht nur sehr realistisch sind, sie werden als vertrauenswürdiger als echte Gesichter eingestuft“, erklärt Farid gegenüber „Scientific American“.
Das Team hat für die Untersuchung 400 KI-generierte Gesichter und 400 echte Fotos genutzt. Zunächst sollten 315 Probanden ohne und 219 mit Training im Erkennen von Fakes für je128 Bilder beurteilen, welche echt sind. Die Untrainierten kamen dabei auf knapp 50 Prozent Trefferquote, jene mit Training auf nur unwesentlich mehr (59 Prozent). Eine dritte Gruppe von 223 Studienteilnehmern durfte dann die Vertrauenswürdigkeit von Gesichtern auf einer siebenteiligen Skala bewerten. Mit einer durchschnittlichen Bewertung von 4,82 Punkten schnitten die KI-generierten Gesichter dabei um rund acht Prozent besser ab.

Täuschender Durchschnitt

Die Tatsache, dass die synthetischen Gesichter besser abschnitten, könnte Nightingale zufolge damit zusammenhängen, dass diese letztlich „durchschnittlicher“ aussehen. Denn die Menschen vertrauen alltäglicheren Gesichtern im Allgemeinen mehr. Zwischen Gesichtern verschiedener Abstammung gab es beim Test kaum Unterschiede, einzig Schwarze schnitten besser ab als Südasiaten. Insgesamt waren die drei vertrauenswürdigsten Gesichter Fakes, während die vier am schlechtesten bewerteten echt waren. Angesichts der Risiken und der Effektivität synthetischer Gesichter stellen die Autoren jedenfalls infrage, ob der potenzielle Nutzen dieser Technologie die möglichen Risiken aufwiegt. Möglicherweise gehöre die Entwicklung auf Eis gelegt.

Zur Studie „AI-synthesized faces are indistinguishable from real faces and more trustworthy“: http://pnas.org/content/119/8/e2120481119

Passend zum Thema: Erkennst du die Fälschung? (Deepfake-Videos)

Quelle: pte