Ein beunruhigender Bericht von Human Rights Watch enthüllt, dass private Fotos brasilianischer Kinder ohne deren Wissen für die Entwicklung leistungsfähiger KI-Systeme missbraucht wurden. Die Bilder, die aus verschiedenen Teilen des Internets stammen, sind Teil eines in Deutschland verwalteten Datensatzes namens Laion-5B. Dieser Datensatz wird von großen Unternehmen genutzt, um ihre KI-Systeme zu trainieren. Noch beunruhigender ist die Tatsache, dass dieselben Programme auch von Personen mit böswilligen Absichten verwendet werden könnten, um beispielsweise Deepfakes zu erstellen.

Umfang und Inhalt des Datensatzes

Human Rights Watch fand in seiner Untersuchung 170 Fotos von Kindern aus zehn brasilianischen Bundesstaaten. Diese Fotos umfassten die gesamte Kindheit der abgebildeten Personen und zeigten intime Momente wie Geburten und private Feiern. Trotz der geringen Anzahl der untersuchten Bilder – nur 0,0001 Prozent der insgesamt 5,85 Milliarden Datensätze – wurde deutlich, dass neben den Fotos auch Bildunterschriften vorhanden waren, die häufig die Identität der Kinder preisgaben. Namen, Aufnahmedaten und -orte waren leicht zu ermitteln.

Gefahren und Missbrauchspotenzial

Hye Jung Han, Forscherin für Kinderrechte und Technologie bei Human Rights Watch, weist auf die doppelte Gefahr hin: Zum einen wird die Privatsphäre der Kinder verletzt, wenn ihre Fotos in solche Datensätze aufgenommen werden. Zum anderen könnten diese Daten missbraucht werden, um realistische, manipulierte Bilder von Kindern zu erstellen. Diese könnten sie Dinge sagen oder tun lassen, die sie nie gesagt oder getan haben. Besonders beunruhigend ist die Möglichkeit, dass auch sexuelles Bildmaterial erzeugt werden könnte.

Reale Missbrauchsfälle

Die Untersuchung der Stanford University ergab, dass der Laion 5B Datensatz auch 3226 Fälle von sexuellem Missbrauch enthielt. In Brasilien berichteten 85 Mädchen, dass sie von Klassenkameraden belästigt wurden, die sexuelle Deepfakes auf der Grundlage von Social-Media-Fotos erstellt und verbreitet hatten. Auch andere sensible Informationen wie medizinische Daten wurden entdeckt. Eine amerikanische Künstlerin entdeckte, dass ein Bild von ihr in der Laion-Datenbank aus ihrer privaten Krankenakte stammte.

Lesen Sie auch >   Tecom Zahlungsaufforderungen für angebliche Erotikdienste: Nicht darauf hereinfallen

Wer trägt die Verantwortung?

Laut Human Rights Watch dürfen nur Fotos in KI-Systeme eingespeist werden, die bereits online gestellt wurden. Erziehungsberechtigte tragen die Verantwortung für den Schutz der Privatsphäre ihrer Kinder. Die deutsche Organisation Laion betont, dass das Entfernen privater Kinderfotos aus dem Internet der effektivste Schutz vor Missbrauch sei. Doch was ist mit den Fotos, die bereits online sind?

Maßnahmen zum Schutz von Kindern

Hye Jung Han wies darauf hin, dass die Verantwortung nicht allein bei den Eltern liege. Sie fordert Regierung und Regulierungsbehörden auf, umfassende Maßnahmen zum Schutz von Kindern zu ergreifen. Entsprechende Initiativen werden bereits in Brasilien und anderen Ländern diskutiert. Ein Sprecher von Laion-5B versicherte, dass alle zugänglichen Versionen des Datensatzes vom Netz genommen worden seien, bis alle illegalen Inhalte entfernt seien.

Fragen und Antworten

Wie können Eltern die Privatsphäre ihrer Kinder im Internet schützen?
Eltern sollten darauf achten, welche Fotos sie online stellen und dass die Datenschutzeinstellungen ihrer Social-Media-Konten restriktiv sind. Es ist ratsam, Fotos nur mit vertrauenswürdigen Personen zu teilen und sich regelmäßig über die Datenschutzrichtlinien der genutzten Plattformen zu informieren. Darüber hinaus sollten Eltern ihre Kinder über die Gefahren des Internets aufklären und ihnen beibringen, wie sie ihre Privatsphäre schützen können.

Welche rechtlichen Maßnahmen gibt es zum Schutz von Kinderbildern im Internet?
In vielen Ländern gibt es Datenschutzgesetze, die den Schutz personenbezogener Daten, einschließlich Fotos, gewährleisten sollen. Diese Gesetze sollten regelmäßig überprüft und an die neuesten technologischen Entwicklungen angepasst werden. Eltern können sich auch an die Datenschutzbehörden wenden, um die Löschung unerlaubt veröffentlichter Fotos zu verlangen.

Lesen Sie auch >   Sicher buchen, sicher reisen: Hotelbetrug erkennen und vermeiden

Was können Einzelpersonen tun, wenn sie feststellen, dass ihre Fotos missbräuchlich verwendet werden?
Einzelpersonen sollten sich umgehend an die Plattform wenden, auf der die Fotos veröffentlicht wurden, und die Entfernung der Inhalte verlangen. Sie können auch rechtliche Schritte einleiten und sich an Organisationen wenden, die sich mit Datenschutz und Online-Missbrauch befassen, um Unterstützung zu erhalten. Es ist wichtig, Beweise zu sammeln und den Missbrauch zu dokumentieren.

Welche Rolle spielen Unternehmen beim Einsatz von KI und beim Datenschutz?
Unternehmen, die KI-Systeme entwickeln und trainieren, tragen eine große Verantwortung für den Schutz der von ihnen verwendeten Daten. Sie sollten sicherstellen, dass alle Daten legal und ethisch korrekt beschafft werden. Darüber hinaus sollten sie Transparenz über die Herkunft der Daten schaffen und Mechanismen zur Entfernung missbräuchlicher Inhalte implementieren.

Welche langfristigen Folgen könnte der Missbrauch von Kinderbildern durch KI haben?
Der Missbrauch von Kinderbildern durch KI kann schwerwiegende langfristige Folgen haben. Kinder könnten in ihrer Entwicklung beeinträchtigt werden und psychologische Schäden davontragen. Zudem könnte das Vertrauen in digitale Technologien und Plattformen erheblich erschüttert werden. Deshalb ist es wichtig, umfassende Schutzmaßnahmen zu ergreifen und die Öffentlichkeit über die Gefahren aufzuklären.

Fazit

Der Missbrauch von Kinderbildern für die Entwicklung von KI-Systemen ist ein ernstes Problem, das dringend angegangen werden muss. Der Schutz der Privatsphäre von Kindern sollte oberste Priorität haben. Regierungen, Regulierungsbehörden und Unternehmen müssen gemeinsam Maßnahmen ergreifen, um die Rechte und die Sicherheit von Kindern im digitalen Zeitalter zu gewährleisten.

Für weitere Informationen und Unterstützung können sich Eltern für den Mimikama-Newsletter anmelden und sich zu unseren Online-Vorträgen und Workshops anmelden.

Lesen Sie auch >   Warnung: EM-Bälle für 1,99 Euro auf Facebook führen in Abo-Falle

Quelle: derStandard

Hinweise: 1) Dieser Inhalt gibt den Stand der Dinge wieder, der zum Zeitpunkt der Veröffentlichung aktuell war. Die Wiedergabe einzelner Bilder, Screenshots, Einbettungen oder Videosequenzen dient zur Auseinandersetzung der Sache mit dem Thema.
2) Einzelne Beiträge entstanden durch den Einsatz von maschineller Hilfe und wurde vor der Publikation gewissenhaft von der Mimikama-Redaktion kontrolliert. (Begründung)