Google schützt vor betrügerischen Anrufen – neue Angst vor Überwachung

Betrügerische Telefonanrufe stellen nach wie vor eine große Bedrohung dar, insbesondere für technisch weniger versierte Menschen. Die Global Anti-Scam Alliance (GASA) berichtet, dass im Jahr 2023 weltweit fast eine Billion Euro durch solche Betrügereien verloren gegangen sind. In diesem Zusammenhang kündigte Google kürzlich eine neue Funktion an, die mithilfe einer lokalen KI betrügerische Muster in Telefongesprächen erkennen und die Nutzer warnen soll. Trotz der potenziellen Vorteile sorgt diese Funktion für heftige Diskussionen und Bedenken hinsichtlich Überwachung und Datenschutz.

Mithören: So funktioniert die neue Funktion von Google

Um betrügerische Anrufe erkennen zu können, muss Googles neue Funktion die Gespräche mithören und mit bekannten Betrugsmustern vergleichen. Diese Analyse erfolgt lokal auf dem Gerät mit Hilfe des Sprachmodells Gemini Nano. Google versichert, dass dabei keine Daten nach außen gelangen. Die Analyse erfolgt über den „Private Compute Core“, der strikt vom restlichen System getrennt ist und keinen Zugang zum Internet hat.

Kritik und Warnungen: Signal-Chefin Meredith Whittaker hat Bedenken

Obwohl das System lokal arbeitet, warnt Signal-Chefin Meredith Whittaker vor den möglichen Gefahren dieser Technologie. Sie nennt sie „unglaublich gefährlich“ und einen Schritt in Richtung „Client Side Scanning“, das von Geheimdiensten und Polizeibehörden genutzt werden könnte. Einmal implementiert, könnte das System leicht für andere Zwecke missbraucht werden, wie z.B. das Aufspüren von Gesprächen über sensible Themen.

Grundsätzliche Fragen zur Nutzung lokaler KI

Diese Bedenken werfen grundsätzliche Fragen zur Nutzung lokaler KI auf. Viele Geräte nutzen bereits KI, um betrügerische Nachrichten zu erkennen oder Fotos zu analysieren. Diese Technologien könnten theoretisch für Spionagezwecke missbraucht werden. Es bleibt eine Frage des Vertrauens in die Hersteller der Systeme, da jedes Betriebssystem theoretisch durch ein Update kompromittiert werden könnte.

Die Zukunft der lokalen KI: Chancen und Risiken

Lokale KI bietet sowohl Chancen als auch Risiken. Einerseits könnte sie Aufgaben, die bisher in der Cloud ausgeführt wurden, direkt auf dem Gerät erledigen, was aus Sicht des Datenschutzes vorteilhaft ist. Andererseits könnte die zunehmende Macht der lokalen KI auch neue Möglichkeiten für Spionage schaffen.

Google betont, dass die neue Anti-Scam-Funktion standardmäßig deaktiviert ist und nur bei Bedarf aktiviert werden muss.

Fragen und Antworten

1. Wie funktioniert die neue Anti-Scam-Funktion von Google?
   Das Anti-Scam-Feature von Google nutzt eine lokal laufende künstliche Intelligenz, um Muster in Telefongesprächen zu erkennen, die auf Betrugsversuche hindeuten. Diese Analyse erfolgt über den „Private Compute Core“, der vom restlichen System getrennt ist und keinen Zugang zum Internet hat. Bei Verdacht auf einen Betrugsversuch wird der Nutzer gewarnt, ohne dass Daten nach außen gelangen.
2. Warum gibt es Bedenken hinsichtlich der Überwachung durch diese Funktion?
   Die Hauptsorge besteht darin, dass die Technologie zur Erkennung betrügerischer Anrufe auch für andere Zwecke missbraucht werden könnte, z.B. zur Überwachung sensibler Gespräche. Obwohl die Analyse lokal auf dem Gerät stattfindet, könnte ein einfaches Update das System in ein Überwachungsinstrument verwandeln. Kritiker warnen vor möglichen Missbrauchsmöglichkeiten durch staatliche oder andere Akteure.
3. Welche Sicherheitsvorkehrungen hat Google getroffen, um den Datenschutz zu gewährleisten?
   Google hat den „Private Compute Core“ entwickelt, um sicherzustellen, dass die Analyse der Gespräche strikt lokal und getrennt vom Rest des Systems erfolgt. Dieser Bereich hat keinen Zugang zum Internet und liefert nur das Ergebnis der Analyse an das Betriebssystem. Diese Architektur soll sicherstellen, dass keine privaten Daten gesammelt oder weitergegeben werden.
4. Wie unterscheidet sich lokale KI von Cloud-basierter KI im Hinblick auf den Datenschutz?
   Lokale KI führt Aufgaben direkt auf dem Gerät aus, ohne dass Daten an externe Server gesendet werden. Dies kann den Datenschutz verbessern, da sensible Informationen das Gerät nicht verlassen. Im Gegensatz dazu verarbeitet Cloud-basierte KI Daten auf externen Servern, was potenziell zu Datenschutzrisiken führen kann, da die Daten während der Übertragung oder auf den Servern abgefangen oder missbraucht werden könnten.
5. Welche zukünftigen Entwicklungen sind im Bereich der lokalen KI zu erwarten?
   Große Hersteller arbeiten an der Vision eines digitalen KI-Assistenten, der lokal auf den Geräten der Nutzerinnen und Nutzer läuft und auf deren Datenbasis hilfreiche Funktionen anbietet. Diese Entwicklung könnte die Nutzung von Cloud-Diensten reduzieren und gleichzeitig die Privatsphäre stärken. Allerdings müssen strenge Sicherheits- und Datenschutzmaßnahmen eingehalten werden, um Missbrauch zu verhindern.

Fazit

Googles neue Anti-Scam-Funktion zeigt, wie mächtig und hilfreich lokale KI sein kann, birgt aber auch erhebliche Risiken für die Privatsphäre. Die Balance zwischen dem Schutz vor Betrug und dem Schutz der Privatsphäre ist eine komplexe Herausforderung, die sorgfältig abgewogen werden muss. Die Diskussion um dieses Feature zeigt, dass technologischer Fortschritt immer auch ethische und gesellschaftliche Fragen aufwirft, die nicht ignoriert werden dürfen.

Bleiben Sie informiert und schützen Sie sich vor digitalen Bedrohungen, indem Sie den Mimikama-Newsletter unter https://www.mimikama.org/mimikama-newsletter/ abonnieren. Nutzen Sie auch die Online-Vorträge und Workshops auf https://www.mimikama.education/online-vortrag-von-mimikama/.

Quelle: derstandard