Schützen, erkennen, markieren: So entlarvt DeepMind täuschend echte KI-generierte Fälschungen
Nie mehr getäuscht: SynthID erkennt und markiert KI-Bilder mit unsichtbarem Wasserzeichen
In einer Zeit, in der uns künstliche Intelligenz täuschend echte Bilder liefert, steht die Wahrheit auf dem Spiel. Doch Google hat mit seinem Tochterunternehmen DeepMind einen Trumpf im Ärmel: SynthID, ein bahnbrechendes Werkzeug, das die Welt der digitalen Bilder revolutionieren wird.
Die Herausforderung: Echte vs. KI-generierte Bilder
KI-Programme wie Midjourney sind in der Lage, Bilder zu erzeugen, die von der Realität nicht zu unterscheiden sind. Dies öffnet die Tür für potenziellen Missbrauch und die Verbreitung falscher Informationen. Google geht gegen diese Gefahr vor und hat SynthID entwickelt.
SynthID: Der KI-Scanner und Wasserzeichengenerator
Die Funktionsweise von SynthID ist faszinierend. Es basiert auf zwei fortgeschrittenen KI-Modellen. Das erste Modell ist für die Identifizierung der erzeugten Bilder zuständig. Dabei werden insbesondere die Metadaten als Identifikationsmerkmal verwendet. Das zweite Modell befasst sich mit der Erstellung von Wasserzeichen und ist in der Lage, computergenerierte Bilder auch dann zu erkennen, wenn sie mit Farbfiltern versehen oder in der Größe verändert wurden.
Drei Vertrauensstufen für maximale Sicherheit
SynthID bewertet Bilder in drei verschiedenen Vertrauensstufen:
- Das Bild wurde KI-generiert: Hier wird ein unsichtbares Wasserzeichen hinzugefügt, das selbst nach Bearbeitung schwer zu entfernen ist.
- Das Bild wurde möglicherweise generiert und sollte mit Vorsicht benutzt werden: Eine Warnung für alle, die auf Nummer sicher gehen wollen.
- Das Bild wurde nicht von einer KI-generiert: Absolute Gewissheit über die Echtheit des Bildes.
SynthID: Noch in der Beta-Phase
DeepMind betont, dass sich SynthID noch in der Beta-Phase befindet und derzeit nur mit dem eigenen KI-Programm „Imagen“ kompatibel ist. Die Zukunft ist jedoch vielversprechend, da Feedback von Nutzern gesammelt wird, um das Tool kontinuierlich zu verbessern. Eine Erweiterung auf andere KI-Programme wie Midjourney oder OpenAIs DALL-E 2 ist ebenfalls angedacht.
Mit dem Laden des Videos akzeptieren Sie die Datenschutzerklärung von YouTube.
Mehr erfahren
Fazit
Die Einführung von SynthID ist ein wichtiger Schritt im Kampf gegen die Verbreitung von Falschinformationen und den Missbrauch von Bilddateien. Google setzt auf Transparenz und Sicherheit, um die digitale Welt vor Manipulationen zu schützen.
Bleiben Sie informiert!
Möchten Sie stets über die neuesten Entwicklungen in der digitalen Welt auf dem Laufenden bleiben? Melden Sie sich für den Mimikama-Newsletter an und nutzen Sie unser Medienbildungsangebot, um Ihre digitale Kompetenz zu stärken. Die Wahrheit liegt in Ihren Händen, lassen Sie sich nicht täuschen!
Quelle:
Deepmind
Das könnte auch interessieren:
Hummer-Sensation oder Schwindel?
Datenschutz: Meta ermöglicht Nutzern die Kontrolle über KI-Modelltraining
Die wahre Bedrohung der KI: Nicht die Technologie, sondern wer sie kontrolliert.
Unsere virtuelle Faktencheck-Bewertungsskala: Bei der Überprüfung von Fakten, in der Kategorie der „Faktenchecks„, nutzen wir eine klare Bewertungsskala, um die Zuverlässigkeit der Informationen zu klassifizieren. Hier eine kurze Erläuterung unserer Kategorien:
- Rot (Falsch/Irreführend): Markiert Informationen, die definitiv falsch oder irreführend sind.
- Gelb (Vorsicht/Unbewiesen/Fehlender Kontext/Satire): Für Inhalte, deren Wahrheitsgehalt unklar ist, die mehr Kontext benötigen oder satirisch sind.
- Grün (Wahr): Zeigt an, dass Informationen sorgfältig geprüft und als wahr bestätigt wurden.
Unterstütze jetzt Mimikama – Für Wahrheit und Demokratie! Gründlicher Recherchen und das Bekämpfen von Falschinformationen sind heute wichtiger für unsere Demokratie als jemals zuvor. Unsere Inhalte sind frei zugänglich, weil jeder das Recht auf verlässliche Informationen hat. Unterstützen Sie Mimikama
Mehr von Mimikama
Hinweise: 1) Dieser Inhalt gibt den Stand der Dinge wieder, der zum Zeitpunkt der Veröffentlichung aktuell war. Die Wiedergabe einzelner Bilder, Screenshots, Einbettungen oder Videosequenzen dient zur Auseinandersetzung der Sache mit dem Thema.
2) Einzelne Beiträge entstanden durch den Einsatz von maschineller Hilfe und wurde vor der Publikation gewissenhaft von der Mimikama-Redaktion kontrolliert. (Begründung)