Künstliche Intelligenz: Wenn aus Deepfakes News werden

Werden manipulierte Bilder für Fake News verwendet, kann dies enorme Folgen haben.

Die Erstellung von Fake-Videos und Fake-Bildern mit KI wird immer einfacher

Deepfakes sind mithilfe von Künstlicher Intelligenz (KI) erstellte, realistisch wirkende Medieninhalte – das können Bilder, Videos oder Tonaufnahmen sein.

Während eine KI noch vor wenigen Jahren viele Bilddateien einer Person benötigte, um gute Deepfakes zu erstellen, reicht heute ein einziges Foto aus einem öffentlich zugänglichen Social-Media-Account aus, um täuschend echt aussehende Fälschungen zu erstellen. Durch kostenlose Face-Apps und frei verfügbare Browser-Anwendungen wird es immer einfacher, solche Fakes zu erstellen und anschließend zu verbreiten.

Face-Apps nutzen eine Technik namens Face-Swapping, bei der das eigene Gesicht oder das Gesicht einer anderen Person in Videoclips und Filmszenen eingefügt wird. Solche Clips können in Sekundenschnelle in erstaunlich guter Qualität erstellt und verbreitet werden. Browserbasierte KI-Anwendungen, sogenannte Bildsynthesizer, erzeugen (fotorealistische) Bilder auf der Grundlage von Textbeschreibungen, sogenannten Prompts, und bieten ein breites Spektrum an Bildstilen. So kann beispielsweise auf Bilder prominenter Personen, bekannter Gebäude oder Landschaften zurückgegriffen werden. Diese technischen Möglichkeiten heben die Bildmanipulation auf eine neue Ebene.

In jüngster Zeit haben verschiedene Journalisten in den sozialen Medien für einige Verwirrung gesorgt. So kursierten KI-generierte Bilder vom Papst als Influencer oder von der vermeintlichen Verhaftung des ehemaligen US-Präsidenten Donald Trump, die von vielen Nutzern offenbar nicht als Fake erkannt wurden – und so „viral“ gingen, obwohl sie als solche gekennzeichnet waren.

Wozu werden Deepfakes verwendet?

Deepfakes können für verschiedene Zwecke eingesetzt werden. Die Einsatzmöglichkeiten reichen von Satire und Unterhaltung über bewusste Desinformation und Propaganda bis hin zur gezielten Diskreditierung einzelner Personen. Wie die obigen Beispiele zeigen, können Deepfakes besonders im Zusammenhang mit Fake News gefährlich werden, da sie diese noch realistischer machen können.

Deepfakes werden auch für Cybermobbing eingesetzt, indem beispielsweise die Köpfe von Betroffenen in Pornovideos montiert und über Messenger verbreitet werden.

Auch Betrug mit Deepfakes ist möglich

Es ist auch denkbar, dass KI in betrügerischer Absicht eingesetzt wird. Love-Scammer könnten diese Technik beispielsweise in Dating-Apps einsetzen oder in Online-Partnerbörsen versuchen, andere Personen dazu zu bringen, erotisches Material mit ihnen zu teilen, um sie damit zu erpressen. Dabei geben sich die Täter als attraktive Männer oder Frauen aus und nutzen Deepfake-Videochats, um das Vertrauen potenzieller Opfer zu gewinnen. Dieses Vorgehen wird als Sextortion bezeichnet.

Für die Gesellschaft bedeutet dies, dass es für Betrüger immer einfacher wird, Bilder, Stimmen oder auch Texte zu verfremden und in ihrem Sinne zu verändern. Damit wird es schwieriger, Echtes von Gefälschtem zu unterscheiden. Bei der Prävention muss dies in Zukunft stärker berücksichtigt und vermehrt darauf hingewiesen werden. KI wird aber nicht nur von Kriminellen genutzt, auch Polizei und Strafverfolgungsbehörden setzen bei Ermittlungen zunehmend auf KI-basierte Analysetools.

Können Deepfakes erkannt werden?

Mittlerweile gibt es Programme, die ebenfalls auf Basis künstlicher Intelligenz versuchen, die Echtheit von Videos, Bildern und Audioinhalten zu überprüfen und Fälschungen zu identifizieren.

Allerdings ist die Unterscheidung von Fakes und echten Inhalten teilweise sehr schwierig. Derzeit gibt es noch Bereiche, in denen KI-Bildgeneratoren Schwierigkeiten haben, z.B. bei der Darstellung von Ohren und Händen oder von Gegenständen, die in der Hand gehalten werden. Auch Licht und Schatten sowie Perspektiven oder inkonsistente Bewegungen können Hinweise auf Fakes sein.

• Achten Sie auf Artefakte: Hände haben oft zu wenige oder zu viele Finger, Arme fehlen oder sind abgeschnitten, Ohren haben eine schlecht differenzierte Form, ein „leerer“ Blick.
• Bei Videos können inkonsistente oder zu statische Bewegungsabläufe ein Hinweis sein (z.B. verzerrte Gesichter/Mimik oder zu rhythmisches Blinzeln).
• Überprüfen Sie die Perspektive: Passen Lichteinfall und Schattenwurf zusammen? Gibt es Verzerrungen?
• Überprüfen Sie die Ausgangs bzw. Qualität des Bildes: Hat z.B. das Gesicht die gleiche Auflösung wie der Körper oder der Hintergrund des Bildes? Ist der Inhalt des Bildes oder Videos plausibel?
• Plausibilität: Überprüfen Sie andere Quellen. Kann der dargestellte Inhalt von unabhängiger Seite auf seinen Wahrheitsgehalt überprüft werden?

Seriöse Nachrichtenseiten, Faktencheck-Portale und die Bilderrückwärtssuche von Suchmaschinen können bei der Prüfung hilfreich sein.

Wenn Sie Ihr Konterfei in einem Fake entdecken

Deepfakes verletzen – rechtlich gesehen – ohne entsprechende Einwilligung der Betroffenen Persönlichkeitsrechte oder können eine Beleidigung darstellen.

Wenn Sie Ihr Bild in einem künstlich erzeugten Bild oder Video entdecken, das ohne Ihre Zustimmung erstellt und verbreitet wurde, können Sie den Inhalt der Plattform melden, auf der er veröffentlicht wurde (in der Regel über einen „Melden“-Button oder eine entsprechende Funktion).

Darüber hinaus können Sie Anzeige bei der Polizei erstatten oder rechtliche Hilfe in Anspruch nehmen. Notieren Sie sich dazu die URL der Fundstelle sowie das Datum und die Uhrzeit der Veröffentlichung.

Bitte beachten Sie, dass es je nach Inhalt des Fakes strafbar sein kann, sich in den Besitz dieses Inhalts zu bringen. Erstellen Sie daher keine Screenshots. Wenn Sie unsicher sind, wie Sie am besten Beweise sichern können, wenden Sie sich an Ihre örtliche Polizeidienststelle.

Weitere Informationen

Weitere Informationen finden Sie auf den folgenden Seiten:

Quelle:

Polizeiliche Kriminalprävention der Länder und des Bundes

Schon gelesen? Wetter und Klima sind zwei Begriffe, die oft verwechselt oder synonym verwendet werden. Tatsächlich beschreiben sie jedoch unterschiedliche Phänomene. Mimikama erklärt den Unterschied: Wetter und Klima: die Unterschiede entschlüsseln und die Wechselwirkungen zwischen den beiden Naturphänomenen verstehen