Googles geheime Waffe gegen KI-generierte Fotos

Schützen, erkennen, markieren: So entlarvt DeepMind täuschend echte KI-generierte Fälschungen

Nie mehr getäuscht: SynthID erkennt und markiert KI-Bilder mit unsichtbarem Wasserzeichen

In einer Zeit, in der uns künstliche Intelligenz täuschend echte Bilder liefert, steht die Wahrheit auf dem Spiel. Doch Google hat mit seinem Tochterunternehmen DeepMind einen Trumpf im Ärmel: SynthID, ein bahnbrechendes Werkzeug, das die Welt der digitalen Bilder revolutionieren wird.

Die Herausforderung: Echte vs. KI-generierte Bilder

KI-Programme wie Midjourney sind in der Lage, Bilder zu erzeugen, die von der Realität nicht zu unterscheiden sind. Dies öffnet die Tür für potenziellen Missbrauch und die Verbreitung falscher Informationen. Google geht gegen diese Gefahr vor und hat SynthID entwickelt.

SynthID: Der KI-Scanner und Wasserzeichengenerator

Die Funktionsweise von SynthID ist faszinierend. Es basiert auf zwei fortgeschrittenen KI-Modellen. Das erste Modell ist für die Identifizierung der erzeugten Bilder zuständig. Dabei werden insbesondere die Metadaten als Identifikationsmerkmal verwendet. Das zweite Modell befasst sich mit der Erstellung von Wasserzeichen und ist in der Lage, computergenerierte Bilder auch dann zu erkennen, wenn sie mit Farbfiltern versehen oder in der Größe verändert wurden.

Drei Vertrauensstufen für maximale Sicherheit

SynthID bewertet Bilder in drei verschiedenen Vertrauensstufen:

1. Das Bild wurde KI-generiert: Hier wird ein unsichtbares Wasserzeichen hinzugefügt, das selbst nach Bearbeitung schwer zu entfernen ist.
2. Das Bild wurde möglicherweise generiert und sollte mit Vorsicht benutzt werden: Eine Warnung für alle, die auf Nummer sicher gehen wollen.
3. Das Bild wurde nicht von einer KI-generiert: Absolute Gewissheit über die Echtheit des Bildes.

SynthID: Noch in der Beta-Phase

DeepMind betont, dass sich SynthID noch in der Beta-Phase befindet und derzeit nur mit dem eigenen KI-Programm „Imagen“ kompatibel ist. Die Zukunft ist jedoch vielversprechend, da Feedback von Nutzern gesammelt wird, um das Tool kontinuierlich zu verbessern. Eine Erweiterung auf andere KI-Programme wie Midjourney oder OpenAIs DALL-E 2 ist ebenfalls angedacht.

Fazit

Die Einführung von SynthID ist ein wichtiger Schritt im Kampf gegen die Verbreitung von Falschinformationen und den Missbrauch von Bilddateien. Google setzt auf Transparenz und Sicherheit, um die digitale Welt vor Manipulationen zu schützen.

Bleiben Sie informiert!
Möchten Sie stets über die neuesten Entwicklungen in der digitalen Welt auf dem Laufenden bleiben? Melden Sie sich für den Mimikama-Newsletter an und nutzen Sie unser Medienbildungsangebot, um Ihre digitale Kompetenz zu stärken. Die Wahrheit liegt in Ihren Händen, lassen Sie sich nicht täuschen!

Quelle:

Deepmind

Das könnte auch interessieren:
Hummer-Sensation oder Schwindel?
Datenschutz: Meta ermöglicht Nutzern die Kontrolle über KI-Modelltraining
Die wahre Bedrohung der KI: Nicht die Technologie, sondern wer sie kontrolliert.