Der Rechtsrahmen für Künstliche Intelligenz (KI), den Artificial Intelligence Act (AI Act), der derzeit in Brüssel festgelegt werde, müsse Verbraucher besonders schützen und ihnen starke Rechte sichern, fordert der Verbraucherzentrale Bundesverband (vzbv).
Der vzbv fordert deshalb, dass Verbraucher brauchen ein Recht auf Auskunft und Erklärung gegenüber Betreibern von Hochrisiko-KI-Systemen bekommen. Nur, wenn Betroffene wissen, welche Daten verwendet würden und wie die Entscheidung zustande gekommen sei, könnten sie sich wehren und ihre Rechte wahrnehmen, sagte vzbv-Vorständin Ramona Pop. Wichtig sei auch ein Recht auf Beschwerde bei den Aufsichtsbehörden.
Der AI Act verbiete zwar den Einsatz von KI zur subtilen Manipulation sowie zum Ausnutzen von Schwächen von älteren Menschen, Minderjährigen und Menschen mit Behinderungen. Der vorgesehene Schutz sei aber lückenhaft, bemängelt der vzbv.
Da Betroffene oft weder die Ressourcen noch die Fähigkeiten hätten, ihre Rechte gegenüber Betreibern von KI-Systemen vor Gericht durchzusetzen, müsse der AI Act in den Anhang der europäischen Verbandsklagen-Richtlinie aufgenommen werden, fordert der vzbv. „Institutionen wie der vzbv müssen die Möglichkeit haben, Klagen gegen bestimmte KI-Betreiber im Namen geschädigter Verbraucher:innen zu führen und Entschädigungen einzufordern“, sagte Pop.
“Nur, wenn Betroffene wissen, welche Daten verwendet würden und wie die Entscheidung zustande gekommen sei”. Ersteres mag noch möglich sein, wobei eine Liste von zehntausenden Quellen des Trainingsmaterials nicht hilfreich sein wird. Letzteres ist technisch unmöglich. KI ist nicht deterministisch und niemand kann das debuggen.