Künstliche Intelligenz: EU muss mit AI Act Verbraucher:innen vor Täuschung und Falschinformationen schützen

Bei den Verhandlungen zum AI Act in Brüssel zeichnet sich eine Einigung ab, die auch generative KI-Systeme wie ChatGPT berücksichtigt. Angebote wie ChatGPT machen eine verbraucherfreundliche Regulierung besonders dringlich. Der Verbraucherzentrale Bundesverband hat klare Forderungen zum Verbraucherschutz.

AI Act muss Künstliche Intelligenz mit starken Verbraucherrechten regeln

Der vzbv fordert: Der AI Act muss Verbraucher:innen mit starken Rechten gegenüber den Betreibern ausstatten. „Wir brauchen Transparenz sowie ein Recht auf Korrektur und Löschung, damit sich Betroffene zum Beispiel gegen KI-generierte Falschmeldungen oder Manipulationen wehren können“, sagt Ramona Pop, Vorstand des Verbraucherzentrale Bundesverbands (vzbv).

„Wir brauchen Transparenz sowie ein Recht auf Korrektur und Löschung, damit sich Betroffene zum Beispiel gegen KI-generierte Falschmeldungen oder Manipulationen wehren können“.

Ramona Pop, Vorstand des Verbraucherzentrale Bundesverbands (vzbv)

Verbraucherentscheidungen werden in Zukunft zunehmend durch KI-basierte Empfehlungssysteme wie ChatGPT beeinflusst. Um Risiken von generativer KI für Verbraucher:innen auszuschließen, muss der geplante europäische AI Act für starke Verbraucherrechte und die Möglichkeit einer unabhängigen Risikobewertung sorgen.

Künstliche Intelligenz mit Risiken für Verbraucher:innen

„Das Risiko, dass KI-Systeme zu falschen oder manipulativen Kaufempfehlungen, Bewertungen und Verbraucherinformationen führen, ist hoch. Künstliche Intelligenz ist nicht immer so intelligent, wie ihr Name verspricht“, so Pop. Die Folgen für Verbraucher:innen können gravierend sein. „Es muss sichergestellt werden, dass Verbraucher:innen angemessen vor Manipulation, Irreführung und Täuschung geschützt werden, etwa durch KI-gesteuerte Empfehlungssysteme. Unabhängige Wissenschaftlerinnen und Wissenschaftler müssen Zugang zu den Systemen erhalten, um deren Risiken und Funktionsweise bewerten zu können.“

„Künstliche Intelligenz ist nicht immer so intelligent, wie ihr Name verspricht.“

Ramona Pop, Vorstand des Verbraucherzentrale Bundesverbands (vzbv)

Verbraucherrechte gegenüber KI-Betreibern stärken

Verbraucher:innen müssen sich gegen KI-generierte Falschmeldungen zur Wehr setzen können. „Wir brauchen durchsetzbare individuelle Betroffenenrechte gegenüber den Betreibern von KI. Menschen müssen einen Anspruch auf Korrektur und Löschung erhalten, etwa wenn durch Systeme wie ChatGPT Rufschädigungen entstehen.“

Der vzbv fordert: Der AI Act muss sicherstellen, dass Künstliche Intelligenz-Anwendungen europäisches Recht einhalten und europäischen Werten entsprechen.

Hintergrund

Neue generative Künstliche Intelligenz (KI) wie ChatGPT ist bisher nicht speziell reguliert und wird ohne angemessene Folgenabschätzung durch unabhängige Dritte und ohne öffentliche Kontrolle oder besondere Aufsicht auf den Markt gebracht.

Seit April 2021 wird in Brüssel über einen Rechtsrahmen für KI, den Artificial Intelligence Act (AI Act), verhandelt. Dieser soll Regeln und Qualitätsstandards für Anbieter von KI-Systemen festlegen. Die breite Diskussion um ChatGPT hat auch die Debatte um die Regulierung von KI auf europäischer Ebene in den Fokus gerückt. ChatGPT zeigt, welche Risiken KI für Verbraucher:innen birgt.

Der Rat der Europäischen Union hat sich bereits am 6. Dezember 2022 auf eine Position geeinigt. Nun muss der Rat seine Position rund um grundlegende KI-Modelle wie ChatGPT anpassen. Das Europäische Parlament will sich bis Anfang Juni auf eine Position einigen. Danach beginnen die Trilogverhandlungen zwischen Rat, Parlament und Kommission über den AI Act.

Quelle:

vzbv

Schon gelesen? Soziale Medien verwirren uns, bis wir zum Kauf verleitet werden – eine Studie beleuchtet Versuchsreihen. Soziale Medien als Verwirrungswerkzeug: Die Manipulation zum Kauf