Schützen, erkennen, markieren: So entlarvt DeepMind täuschend echte KI-generierte Fälschungen

Nie mehr getäuscht: SynthID erkennt und markiert KI-Bilder mit unsichtbarem Wasserzeichen

In einer Zeit, in der uns künstliche Intelligenz täuschend echte Bilder liefert, steht die Wahrheit auf dem Spiel. Doch Google hat mit seinem Tochterunternehmen DeepMind einen Trumpf im Ärmel: SynthID, ein bahnbrechendes Werkzeug, das die Welt der digitalen Bilder revolutionieren wird.

Die Herausforderung: Echte vs. KI-generierte Bilder

KI-Programme wie Midjourney sind in der Lage, Bilder zu erzeugen, die von der Realität nicht zu unterscheiden sind. Dies öffnet die Tür für potenziellen Missbrauch und die Verbreitung falscher Informationen. Google geht gegen diese Gefahr vor und hat SynthID entwickelt.

SynthID: Der KI-Scanner und Wasserzeichengenerator

Die Funktionsweise von SynthID ist faszinierend. Es basiert auf zwei fortgeschrittenen KI-Modellen. Das erste Modell ist für die Identifizierung der erzeugten Bilder zuständig. Dabei werden insbesondere die Metadaten als Identifikationsmerkmal verwendet. Das zweite Modell befasst sich mit der Erstellung von Wasserzeichen und ist in der Lage, computergenerierte Bilder auch dann zu erkennen, wenn sie mit Farbfiltern versehen oder in der Größe verändert wurden.

Drei Vertrauensstufen für maximale Sicherheit

SynthID bewertet Bilder in drei verschiedenen Vertrauensstufen:

  1. Das Bild wurde KI-generiert: Hier wird ein unsichtbares Wasserzeichen hinzugefügt, das selbst nach Bearbeitung schwer zu entfernen ist.
  2. Das Bild wurde möglicherweise generiert und sollte mit Vorsicht benutzt werden: Eine Warnung für alle, die auf Nummer sicher gehen wollen.
  3. Das Bild wurde nicht von einer KI-generiert: Absolute Gewissheit über die Echtheit des Bildes.

SynthID: Noch in der Beta-Phase

DeepMind betont, dass sich SynthID noch in der Beta-Phase befindet und derzeit nur mit dem eigenen KI-Programm „Imagen“ kompatibel ist. Die Zukunft ist jedoch vielversprechend, da Feedback von Nutzern gesammelt wird, um das Tool kontinuierlich zu verbessern. Eine Erweiterung auf andere KI-Programme wie Midjourney oder OpenAIs DALL-E 2 ist ebenfalls angedacht.

Fazit

Die Einführung von SynthID ist ein wichtiger Schritt im Kampf gegen die Verbreitung von Falschinformationen und den Missbrauch von Bilddateien. Google setzt auf Transparenz und Sicherheit, um die digitale Welt vor Manipulationen zu schützen.

Bleiben Sie informiert!
Möchten Sie stets über die neuesten Entwicklungen in der digitalen Welt auf dem Laufenden bleiben? Melden Sie sich für den Mimikama-Newsletter an und nutzen Sie unser Medienbildungsangebot, um Ihre digitale Kompetenz zu stärken. Die Wahrheit liegt in Ihren Händen, lassen Sie sich nicht täuschen!

Quelle:

Deepmind

Das könnte auch interessieren:
Hummer-Sensation oder Schwindel?
Datenschutz: Meta ermöglicht Nutzern die Kontrolle über KI-Modelltraining
Die wahre Bedrohung der KI: Nicht die Technologie, sondern wer sie kontrolliert.


Wenn dir dieser Beitrag gefallen hat und du die Bedeutung fundierter Informationen schätzt, werde Teil des exklusiven Mimikama Clubs! Unterstütze unsere Arbeit und hilf uns, Aufklärung zu fördern und Falschinformationen zu bekämpfen. Als Club-Mitglied erhältst du:

📬 Wöchentlichen Sonder-Newsletter: Erhalte exklusive Inhalte direkt in dein Postfach.
🎥 Exklusives Video* „Faktenchecker-Grundkurs“: Lerne von Andre Wolf, wie du Falschinformationen erkennst und bekämpfst.
📅 Frühzeitiger Zugriff auf tiefgehende Artikel und Faktenchecks: Sei immer einen Schritt voraus.
📄 Bonus-Artikel, nur für dich: Entdecke Inhalte, die du sonst nirgendwo findest.
📝 Teilnahme an Webinaren und Workshops: Sei live dabei oder sieh dir die Aufzeichnungen an.
✔️ Qualitativer Austausch: Diskutiere sicher in unserer Kommentarfunktion ohne Trolle und Bots.

Mach mit und werde Teil einer Community, die für Wahrheit und Klarheit steht. Gemeinsam können wir die Welt ein bisschen besser machen!

* In diesem besonderen Kurs vermittelt dir Andre Wolf, wie du Falschinformationen erkennst und effektiv bekämpfst. Nach Abschluss des Videos hast du die Möglichkeit, dich unserem Rechercheteam anzuschließen und aktiv an der Aufklärung mitzuwirken – eine Chance, die ausschließlich unseren Club-Mitgliedern vorbehalten ist!


Hinweise: 1) Dieser Inhalt gibt den Stand der Dinge wieder, der zum Zeitpunkt der Veröffentlichung aktuell war. Die Wiedergabe einzelner Bilder, Screenshots, Einbettungen oder Videosequenzen dient zur Auseinandersetzung der Sache mit dem Thema.
2) Einzelne Beiträge entstanden durch den Einsatz von maschineller Hilfe und wurde vor der Publikation gewissenhaft von der Mimikama-Redaktion kontrolliert. (Begründung)