Deepfake-Tool nach Missbrauch nur noch gegen Bezahlung verfügbar

User des Forums 4chan haben prominente Stimmen für Gewaltaufrufe und Rassismus gefälscht. So soll Emma Watson Hitlers „Mein Kampf“ vorgetragen haben. Der Hersteller von „Voice-Labs“ kündigte Sicherheitsmaßnahmen an.

Autor: Nick L.

Wie in letzter Zeit von einigen Prominenten, so wurde auch die Stimme von Emma Watson für Deepfakes missbraucht. Die britische Schauspielerin, die ansonsten viel Engagement für Menschenrechte und Klimaschutz zeigt, soll in einer Aufnahme aus Hitlers Pamphlet „Mein Kampf“ vorgetragen haben.

Die Aufnahme repräsentiert allerdings nicht ihre echte Stimme sondern eine von einer künstlichen Intelligenz erzeugte Reproduktion. Diese KI liest alles das vor, was ihr aufgetragen wird. Diesen und anderen Missbrauch seines Stimmengenerators hat die Techfirma Eleven Labs entdeckt.

Wie „Vice“ berichtet, wurde dieses Tool schon während einer nur kurz andauernden Testphase äußerts beliebt bei Internet-Trollen.

Zahlreiche Experimente dieser Natur entdeckte man dort im berühmt-berüchtigten Imageboard 4chan. Eleven Labs, das von ehemaligen Mitarbeitern von Google und der Überwachungsfirma Palantir gegründet wurde, hatte sein neues Werkzeug „Voice Labs“ vor dem Wochenende zum Ausprobieren freigegeben, offenbar mit zahlreichen Missbräuchen.

Gewaltaufrufe durch prominente Stimmen

Geklont wurden neben den Stimmen von Emma Watson auch viele andere Stimmen recht hoher Persönlichkeiten, darunter unter anderen Joe Rogan und der konservative Kommentator Ben Shapiro. Durch die Reproduktion ihrer Stimmen wurden ihnen teilweise rassistische und transphobe Aussagen sowie vielerlei Gewaltaufrufe virtuell in den Mund gelegt.

So distanziert sich Shapiro angeblich abwertend von der demokratischen Abgeordneten Alexandria Ocasio-Cortez. Auch fiktive Charaktere wie Rick Sanchez aus „Rick und Morty“ findet man dabei wieder, seine „verdammte Frau zu Tode“ zu prügeln. Jeweilige Verlinkungen im Netz weisen darauf hin, dass die Deepfakes mit der Betaversion des Eleven-Labs-Tools erstellt wurden.

Tool ab jetzt nur noch mit Bezahlung nutzbar

Im Zuge der Veröffentlichungen der geklonten Stimmen im Internet, berichtet Eleven-Labs auf Twitter von einer „steigenden Zahl missbräuchlicher Verwendungen“ des Stimmduplizierers. Man betone aber, dass die Software überwiegend für „positive Zwecke“ eingesetzt wurde.

Auch wenn man nach eigenen Angaben jedes produzierte Stimmfake zum jeweiligen Nutzer-Account zurückverfolgen könne, möchte man den Generator in Zukunft besser absichern und hat sich nach etwas Bedenkzeit nun für mehrere Schritte entschieden.

Die Nutzung des Tools „Voice Labs“ wird in Zukunft nur noch bezahlten Accounts möglich sein. Das Unternehmen berichtet nämlich, dass der Großteil der erstellten Deepfakes von Nutzern mit kostenlosem Zugang, welcher anonym angelegt werden kann, erstellt worden war. Des Weiteren soll nur noch eine begrenzte Auswahl vorgefertigter Stimmen nutzbar sein.

Prüftool soll bald erscheinen

In der kommenden Woche will man außerdem eine Software zur Verfügung stellen, mit der überprüft werden kann, ob eine Stimmaufnahme mit Voice Labs erstellt wurde. Der Missbrauch soll mit dieser Software ebenfalls gemeldet werden können. So sollen dann Konten die „schädliche Inhalte“ erstellen, permanent gesperrt werden.

Ferner soll ein neues Abo für fünf Dollar im Monat auf den Markt kommen, welches einen Testzugang zu allen Angeboten mitbringt – allerdings mit niedrigerem Zeichenlimit und Identitätsfeststellung über eine Kreditkarte. Damit erhofft sich das Unternehmen eine abschreckende Wirkung des Missbrauchs, da die Anonymität durch die hinterlegte Kreditkarte deutlich eingeschränkt wird. Zuvor hatte man lediglich erwogen, Nutzer zur Verifikation eigene Stimmproben hochladen zu lassen oder eine Verifikation mittels Ausweises zu implementieren.

Insgesamt hat Eleven Labs angekündigt, die Entwicklung weiter zu beobachten und wenn nötig weitere Schritte einzuleiten – auch wenn dafür Features entfernt werden müssten. In diesem Fall würden betroffene Nutzer allerdings eine volle Rückerstattung ihrer Abo-Gebühren enthalten.

Quelle:

Der Standard

Lesen Sie auch unsere Faktenchecks:
US-Regierung gab nicht zu, dass 5G COVID-19 verursacht!
Auf Selenskyjs ukrainischer Flagge sind keine „SS“-Runen!
Insekten: Tatsächlich bereits in bekannten Lebensmitteln enthalten?
Unterstützen 🤍

FAKE NEWS BEKÄMPFEN

Unterstützen Sie Mimikama, um gemeinsam gegen Fake News vorzugehen und die Demokratie zu stärken. Helfen Sie mit, Fake News zu stoppen!

Mit Deiner Unterstützung via PayPal, Banküberweisung, Steady oder Patreon ermöglichst Du es uns, Falschmeldungen zu entlarven und klare Fakten zu präsentieren. Jeder Beitrag, groß oder klein, macht einen Unterschied. Vielen Dank für Deine Hilfe! ❤️

Mimikama-Webshop

Unser Ziel bei Mimikama ist einfach: Wir kämpfen mit Humor und Scharfsinn gegen Desinformation und Verschwörungstheorien.

Abonniere unseren WhatsApp-Kanal per Link- oder QR-Scan! Aktiviere die kleine 🔔 und erhalte eine aktuelle News-Übersicht sowie spannende Faktenchecks.

Link: Mimikamas WhatsApp-Kanal

Mimikama WhatsApp-Kanal

Hinweise: 1) Dieser Inhalt gibt den Stand der Dinge wieder, der zum Zeitpunkt der Veröffentlichung aktuell
war. Die Wiedergabe einzelner Bilder, Screenshots, Einbettungen oder Videosequenzen dient zur
Auseinandersetzung der Sache mit dem Thema.


2) Einzelne Beiträge (keine Faktenchecks) entstanden durch den Einsatz von maschineller Hilfe und
wurde vor der Publikation gewissenhaft von der Mimikama-Redaktion kontrolliert. (Begründung)


Mit deiner Hilfe unterstützt du eine der wichtigsten unabhängigen Informationsquellen zum Thema Fake News und Verbraucherschutz im deutschsprachigen Raum

INSERT_STEADY_CHECKOUT_HERE

Kämpfe mit uns für ein echtes, faktenbasiertes Internet! Besorgt über Falschmeldungen? Unterstütze Mimikama und hilf uns, Qualität und Vertrauen im digitalen Raum zu fördern. Dein Beitrag, egal in welcher Höhe, hilft uns, weiterhin für eine wahrheitsgetreue Online-Welt zu arbeiten. Unterstütze jetzt und mach einen echten Unterschied! Werde auch Du ein jetzt ein Botschafter von Mimikama

Mehr von Mimikama

Mimikama Workshops & Vorträge: Stark gegen Fake News!

Mit unseren Workshops erleben Sie ein Feuerwerk an Impulsen mit echtem Mehrwert in Medienkompetenz, lernen Fake News und deren Manipulation zu erkennen, schützen sich vor Falschmeldungen und deren Auswirkungen und fördern dabei einen informierten, kritischen und transparenten Umgang mit Informationen.