Google stoppt Earth-KI nach Warnungen vor Falschbildern

Aktuell berichten mehrere Medien über den vorläufigen Stopp einer neuen KI-Funktion in Google Earth. Anlass ist ein Bericht von BBC Verify, der zeigte, wie sich mit dem neuen Werkzeug täuschend echte, aber frei erfundene Satellitenansichten erstellen ließen.

Google bestätigte selbst, die Funktion vorerst auszusetzen, während zusätzliche Schutzmaßnahmen entwickelt werden.

Die Funktion verband echte Karten mit KI-Inhalten

Die neue Funktion kombinierte echte Satelliten- und Luftbilder aus Google Earth mit dem KI-Bildgenerator „Nano Banana 2“. Nutzer konnten per Texteingabe Objekte oder Ereignisse in reale Landschaften einfügen und die fertigen Bilder anschließend exportieren.

BBC Verify testete das System unter anderem mit frei erfundenen Szenarien wie:

• einem eingestürzten Eiffelturm,
• einem gewaltigen Krater an der Cheops-Pyramide,
• russischen Panzern in Kiew.

Diese Bilder waren vollständig künstlich erzeugt, wirkten durch den Bezug auf reale Kartenkoordinaten jedoch besonders glaubwürdig.

Die Schutzmaßnahmen ließen sich teilweise umgehen

Google erklärte zunächst, problematische Inhalte würden durch eingebaute Sicherheitsregeln blockiert. Laut BBC Verify konnten diese Einschränkungen jedoch teilweise durch leicht veränderte Eingaben umgangen werden.

Außerdem stellte BBC Verify fest, dass:

• Wasserzeichen und KI-Kennzeichnungen nicht immer zuverlässig erkannt wurden,
• Googles eigener Gemini-Chatbot manipulierte Bilder in einzelnen Tests fälschlich als echt einstufte,
• externe KI-Erkennungssysteme nicht alle erzeugten Bilder identifizieren konnten.

Diese Ergebnisse zeigen, dass technische Kennzeichnungen allein derzeit keinen vollständigen Schutz vor Missbrauch bieten.

Warum Experten die Entwicklung kritisch sehen

Fachleute für Desinformation und Geodaten sehen vor allem ein Vertrauensproblem.

Satellitenbilder gelten seit Jahren als besonders glaubwürdige Informationsquelle. Werden künstlich erzeugte Inhalte direkt mit echten geografischen Koordinaten verbunden, können sie deutlich überzeugender wirken als frei erfundene Einzelbilder.

Gerade bei Kriegen, Naturkatastrophen oder politischen Krisen könnten solche Bilder falsche Informationen verbreiten, bevor sie überprüft werden können.

Google reagierte innerhalb weniger Tage

Nach dem BBC-Verify-Bericht erklärte Google, man habe Beispiele gesehen, die offenbar gegen die eigenen Richtlinien verstießen. Deshalb werde die Funktion pausiert, bis stärkere Schutzmaßnahmen umgesetzt seien.

Das Unternehmen betonte zugleich, dass Nutzer Google Earth als verlässliche Darstellung der realen Welt wahrnehmen und dieses Vertrauen geschützt werden müsse.

Bewertung: Richtig. Google hat die neue KI-Funktion für Google Earth nach kurzer Zeit vorübergehend zurückgezogen, nachdem erhebliche Risiken für Desinformation und die Umgehung von Schutzmechanismen bekannt wurden.

FAQ