DFDC, das ist die Abkürzung für „Deepfake Detection Challenge“ und soll in Zukunft helfen, manipulierte von echten Videos und Bildern zu unterscheiden.
Facebook und Microsoft haben den so genannten „Deepfakes“ den Kampf angesagt.
Inzwischen gibt es zahlreiche Programme und sogar YouTube-Tutorials, die das Erstellen dieser Deepfakes einfach machen. Dazu werden z.B. Videos von Politikern oder Prominenten manipuliert.
Die Personen in diesen Deepfakes geben dann unter Umständen Statements ab, die sie so in Wirklichkeit nie gesagt haben. Durch diese Art der Manipulation konnte zuletzt ein Betrüger 220.000 Euro erbeuten.
Die Enttarnung dieser manipulierten Bilder und Videos ist nicht so einfach. Das menschliche Auge ist dazu kaum in der Lage. So kooperieren Facebook und Microsoft nun mit verschiedenen renommierten US-Universitäten um ein Erkennungstool zu entwickeln.
Dazu werden realistische Deepfakes produziert, um ein Datenset zu generieren. Erstellt werden diese Deepfakes mit Hilfe professioneller Schauspieler. Facebook betont, dass keine Nutzerdaten verwendet werden.
Hintergrund der Bemühungen sind die anstehenden Präsidentschaftswahlen in den USA im November 2020.
Bislang sind in den USA noch keine Deepfake-Videos mit wesentlichen politischen Inhalten aufgetaucht. Bei der rasanten Entwicklung dieser Technologie ist das allerdings nur eine Frage der Zeit.
So sorgte bereits das manipulierte Video der Demokratin Nancy Pelosi für Aufregung. Ihre Rede wurde manuell bearbeitet, so dass sie sehr undeutlich wurde. Nancy Pelosi wirkt nahezu betrunken. Der Fernsehsender CBS verdeutlicht die Unterschiede zwischen real und Fake:
Sie sehen gerade einen Platzhalterinhalt von YouTube. Um auf den eigentlichen Inhalt zuzugreifen, klicken Sie auf die Schaltfläche unten. Bitte beachten Sie, dass dabei Daten an Drittanbieter weitergegeben werden.
Damit Social Media-Nutzer zukünftig besser vor Manipulationen und Meinungsmache geschützt werden können, nehmen Facebook und Microsoft ca. 10 Millionen Dollar für die Forschung in die Hand.
Quellen: Futurezone, Facebook AI
Artikelbild: Shutterstock / Von meyer_solutions
Autorin: Ingrid Brockhaus
Hinweis: Stand zum Veröffentlichungsdatum.
Verwendete Bilder, Screenshots und Medien dienen ausschließlich der sachlichen Auseinandersetzung im Sinne des Zitatrechts (§ 51 UrhG).
Teile dieses Beitrags können KI-gestützt erstellt und redaktionell geprüft worden sein.
(Mehr zur Arbeitsweise)
