Wie in letzter Zeit von einigen Prominenten, so wurde auch die Stimme von Emma Watson für Deepfakes missbraucht. Die britische Schauspielerin, die ansonsten viel Engagement für Menschenrechte und Klimaschutz zeigt, soll in einer Aufnahme aus Hitlers Pamphlet „Mein Kampf“ vorgetragen haben.

Die Aufnahme repräsentiert allerdings nicht ihre echte Stimme sondern eine von einer künstlichen Intelligenz erzeugte Reproduktion. Diese KI liest alles das vor, was ihr aufgetragen wird. Diesen und anderen Missbrauch seines Stimmengenerators hat die Techfirma Eleven Labs entdeckt.

Wie „Vice“ berichtet, wurde dieses Tool schon während einer nur kurz andauernden Testphase äußerts beliebt bei Internet-Trollen.

Zahlreiche Experimente dieser Natur entdeckte man dort im berühmt-berüchtigten Imageboard 4chan. Eleven Labs, das von ehemaligen Mitarbeitern von Google und der Überwachungsfirma Palantir gegründet wurde, hatte sein neues Werkzeug „Voice Labs“ vor dem Wochenende zum Ausprobieren freigegeben, offenbar mit zahlreichen Missbräuchen.

Gewaltaufrufe durch prominente Stimmen

Geklont wurden neben den Stimmen von Emma Watson auch viele andere Stimmen recht hoher Persönlichkeiten, darunter unter anderen Joe Rogan und der konservative Kommentator Ben Shapiro. Durch die Reproduktion ihrer Stimmen wurden ihnen teilweise rassistische und transphobe Aussagen sowie vielerlei Gewaltaufrufe virtuell in den Mund gelegt.

So distanziert sich Shapiro angeblich abwertend von der demokratischen Abgeordneten Alexandria Ocasio-Cortez. Auch fiktive Charaktere wie Rick Sanchez aus „Rick und Morty“ findet man dabei wieder, seine „verdammte Frau zu Tode“ zu prügeln. Jeweilige Verlinkungen im Netz weisen darauf hin, dass die Deepfakes mit der Betaversion des Eleven-Labs-Tools erstellt wurden.

Tool ab jetzt nur noch mit Bezahlung nutzbar

Im Zuge der Veröffentlichungen der geklonten Stimmen im Internet, berichtet Eleven-Labs auf Twitter von einer „steigenden Zahl missbräuchlicher Verwendungen“ des Stimmduplizierers. Man betone aber, dass die Software überwiegend für „positive Zwecke“ eingesetzt wurde.

Auch wenn man nach eigenen Angaben jedes produzierte Stimmfake zum jeweiligen Nutzer-Account zurückverfolgen könne, möchte man den Generator in Zukunft besser absichern und hat sich nach etwas Bedenkzeit nun für mehrere Schritte entschieden.

Die Nutzung des Tools „Voice Labs“ wird in Zukunft nur noch bezahlten Accounts möglich sein. Das Unternehmen berichtet nämlich, dass der Großteil der erstellten Deepfakes von Nutzern mit kostenlosem Zugang, welcher anonym angelegt werden kann, erstellt worden war. Des Weiteren soll nur noch eine begrenzte Auswahl vorgefertigter Stimmen nutzbar sein.

Prüftool soll bald erscheinen

In der kommenden Woche will man außerdem eine Software zur Verfügung stellen, mit der überprüft werden kann, ob eine Stimmaufnahme mit Voice Labs erstellt wurde. Der Missbrauch soll mit dieser Software ebenfalls gemeldet werden können. So sollen dann Konten die „schädliche Inhalte“ erstellen, permanent gesperrt werden.

Ferner soll ein neues Abo für fünf Dollar im Monat auf den Markt kommen, welches einen Testzugang zu allen Angeboten mitbringt – allerdings mit niedrigerem Zeichenlimit und Identitätsfeststellung über eine Kreditkarte. Damit erhofft sich das Unternehmen eine abschreckende Wirkung des Missbrauchs, da die Anonymität durch die hinterlegte Kreditkarte deutlich eingeschränkt wird. Zuvor hatte man lediglich erwogen, Nutzer zur Verifikation eigene Stimmproben hochladen zu lassen oder eine Verifikation mittels Ausweises zu implementieren.

Insgesamt hat Eleven Labs angekündigt, die Entwicklung weiter zu beobachten und wenn nötig weitere Schritte einzuleiten – auch wenn dafür Features entfernt werden müssten. In diesem Fall würden betroffene Nutzer allerdings eine volle Rückerstattung ihrer Abo-Gebühren enthalten.

Quelle:

Der Standard

Lesen Sie auch unsere Faktenchecks:
US-Regierung gab nicht zu, dass 5G COVID-19 verursacht!
Auf Selenskyjs ukrainischer Flagge sind keine „SS“-Runen!
Insekten: Tatsächlich bereits in bekannten Lebensmitteln enthalten?

Hinweise: 1) Dieser Inhalt gibt den Stand der Dinge wieder, der zum Zeitpunkt der Veröffentlichung aktuell war. Die Wiedergabe einzelner Bilder, Screenshots, Einbettungen oder Videosequenzen dient zur Auseinandersetzung der Sache mit dem Thema.
2) Einzelne Beiträge entstanden durch den Einsatz von maschineller Hilfe und wurde vor der Publikation gewissenhaft von der Mimikama-Redaktion kontrolliert. (Begründung)