© elnur / 123RF.com

Halluzinationen bei großen Sprachmodellen wie ChatGPT stellen laut Datenschützern einen DSGVO-Verstoß dar. Lösungen dagegen sind schwierig.

Der Umgang von KI-Programmen wie ChatGPT mit personenbezogenen Daten kann in mehrfacher Hinsicht gegen europäische Vorgaben verstoßen. Zu dieser Einschätzung kommt der Bericht [1] einer ChatGPT-Task Force, den der Europäische Datenschutzausschuss (EDSA) veröffentlicht hat.

Demnach kann nicht nur das Datensammeln in öffentlichen Quellen ein Problem bedeuten. Ebenso müssen personenbezogene Daten nach Artikel 5 der EU-Datenschutz-Grundverordnung (DSGVO) “sachlich richtig und erforderlichenfalls auf dem neuesten Stand sein”. Dem Bericht zufolge führt der probabilistische Charakter des Systems aber zu einem Modell, “das auch verzerrte oder erfundene Ergebnisse liefern kann”.

Task Force des EDSA

Der Hintergrund für das Einrichten der Task Force (ChatGPT TF) war, dass OpenAI bis zum 15 Februar 2024 keine Niederlassung in der Europäischen Union vorweisen konnte. Das habe ein Vorgehen zur Durchsetzung der DSGVO erschwert, teilte die EDSA mit. Die Datenschützer der EU beschlossen deshalb bereits im April 2023, die Zusammenarbeit und den Informationsaustausch im Zusammenhang mit ChatGPT auf nationaler Ebene mit der Task Force zu koordinieren. Das Mandat der ChatGPT TF präzisierte die Plenarsitzung des Europäischen Datenschutzausschuss (European Data Protection Board, EDPB) Anfang 2024 und forderte gleichzeitig einen Bericht, in dem die Task Force ihre Zwischenergebnisse präsentieren soll.

Im nun vorliegenden Bericht heißt es, dass die von den jeweiligen nationalen Datenschützern angestoßenen Untersuchungen noch im Gange seien und es deshalb nicht möglich sei, über vollständige Ergebnisse zu berichten.

Datengenauigkeit

Über grundlegende Anforderungen herrscht jedoch Einigkeit, etwa darüber, dass die von ChatGPT gelieferten Ergebnisse von den Nutzern vermutlich als sachlich richtig angesehen würden, einschließlich der Informationen über Personen, unabhängig von ihrer tatsächlichen Richtigkeit. “In jedem Fall muss der Grundsatz der Datenrichtigkeit beachtet werden”, so die ChatGPT TF. OpenAI müsse daher “angemessene Informationen über die Mechanismen zur Erstellung probabilistischer Ergebnisse und deren begrenzte Zuverlässigkeit bereitstellen”.

Zwar trügen die von ChatGPT ergriffenen Maßnahmen dazu bei, eine Fehlinterpretation der Ergebnisse zu vermeiden, doch “reichen sie nicht aus, um den Grundsatz der Datenrichtigkeit einzuhalten”.

Falschaussagen

Wegen der Verbreitung falscher Aussagen über Personen reichte die österreichische Datenschutzorganisation Noyb (Abbildung 1) im April 2024 Beschwerde [2] gegen OpenAI bei der Österreichischen Datenschutzbehörde (DSB) ein. Konkret wirft die Organisation OpenAI vor, ein falsches Geburtsdatum zu verbreiten. OpenAI habe Noyb zudem nicht mitgeteilt, welche Trainingsdaten dem ausgegebenen Geburtsdatum zugrunde lägen. Das Unternehmen gab an, es habe keine Möglichkeit, zu verhindern, dass seine Systeme ein falsches Geburtsdatum anzeigten.

Abbildung 1: Die Datenschutzorganisation Nyob des Aktivisten Max Schrems hat sich beschwert. Quelle: Georg Molterer

In der Beschwerde von Noyb heißt es weiter, dass OpenAI keine Möglichkeit zu besitzen scheint, falsche Informationen tatsächlich zu korrigieren. Das Unternehmen könne sie lediglich in der letzten Phase der Verarbeitung ausblenden. “Selbst wenn alle Daten gesperrt wären, wären die falschen Informationen immer noch im System vorhanden – sie würden den Nutzern nur nicht angezeigt”, kritisiert Noyb. Das Fazit von Noyb lautet: “ChatGPT kann Informationen nicht korrigieren, kann Informationen nicht selektiv sperren und jede betroffene Person muss einfach mit dieser Situation leben(…).” Und weiter, “ChatGPT scheint der Ansicht zu sein, dass es einfach falsche Informationen verbreiten könne und dafür (anders als ein Medienunternehmen oder ein anderer Verantwortlicher) nicht haftbar wäre.”

Maartje de Graaf, Datenschutzjuristin bei Noyb kommentierte: “Die Verpflichtung, einem Auskunftsersuchen nachzukommen, gilt für alle Unternehmen. Es ist selbstverständlich möglich, die verwendeten Trainingsdaten zu protokollieren, um zumindest eine Vorstellung von den Informationsquellen zu erhalten. Es scheint, dass mit jeder Innovation eine andere Gruppe von Unternehmen meint, dass ihre Produkte nicht mit dem Gesetz übereinstimmen müssen.”

Nicht alle Daten nutzbar

Mit Blick auf Sammlung und Verarbeitung der Trainingsdaten sieht der EDSA weitere rechtliche Probleme. OpenAI berufe sich bei der Verarbeitung auf den Grundsatz des “berechtigten Interesses” nach Artikel 6 der DSGVO [3]. Dadurch braucht es keine Einwilligung der Nutzer. Die Frage nach der Rechtmäßigkeit der Verarbeitung sei allerdings noch Gegenstand laufender Untersuchungen.

Eine Ausnahmeregel für das sogenannte Scrapen von Internetinhalten liefert unter Umständen Artikel 9 der DSGVO [4]. Demnach ist es erlaubt, spezielle Kategorien personenbezogener Daten zu verarbeiten, wenn sich das auf Daten bezieht, “die die betroffene Person offensichtlich öffentlich gemacht hat”.

Die EDSA-Arbeitsgruppe weist jedoch darauf hin, dass nicht alle öffentlichen Daten zu Personen diese Personen selbst zugänglich machten. Um sich auf diese Ausnahme berufen zu können, “muss geprüft werden, ob die betroffene Person ausdrücklich und durch eine eindeutige Handlung beabsichtigt hat, die betreffenden personenbezogenen Daten der Öffentlichkeit zugänglich zu machen”. Eine Einzelfallprüfung sei beim Scraping allerdings “kaum möglich”.

Sensible Daten filtern

Der Bericht schlägt daher vor, dass solche Daten, aus denen laut Artikel 9 “die rassische und ethnische Herkunft, politische Meinungen, religiöse oder weltanschauliche Überzeugungen oder die Gewerkschaftszugehörigkeit hervorgehen”, beim Scraping oder der anschließenden Verarbeitung herauszufiltern und zu löschen seien.

Wenn Nutzer selbst solche Daten beim Verwenden von ChatGPT eingeben, sollten sie “in jedem Fall eindeutig und nachweislich darüber informiert werden, dass diese ‘Inhalte’ zu Trainingszwecken verwendet werden können”. Darüber hinaus dürfe OpenAI die Verantwortung für die Einhaltung der Datenschutzvorgaben nicht auf die Nutzer abwälzen, beispielsweise durch einen entsprechenden Passus in den Nutzungsbedingungen.

Die EU-Datenschützer fordern OpenAI zudem dazu auf, für eine bessere Durchsetzung der Nutzerrechte zu sorgen. Derzeit biete das Unternehmen lediglich an, falsche Angaben zu löschen, statt sie zu korrigieren, “wenn eine Berichtigung aufgrund der technischen Komplexität von ChatGPT nicht möglich ist”.

Auch Noyb bleibt skeptisch und wartet auf weitere Ergebnisse der Task Force bei der Koordination der nationalen Bemühungen: “Es bleibt abzuwarten, wohin dies führen wird. Im Moment scheint OpenAI nicht einmal so zu tun, als könne es die DSGVO einhalten”, kritisiert Noyb. (uba)