Digitalisierung und Medien

Datenschutz-Grundverordnung bietet zu wenig Kontrolle für Algorithmen

Visualisierung von Datenströmen und Netzwerken
Bild: rawpixel.com

Algorithmen bewerten Menschen und entscheiden über sie – etwa in Bewerbungsverfahren oder bei der Kreditvergabe. Bislang läuft dies noch fast unkontrolliert ab, was zu falschen Bewertungen oder gar Diskriminierungen führen kann. Die ab Mai wirksame Datenschutz-Grundverordnung (DSGVO) wird daran nur wenig ändern. Dies zeigt eine Analyse im Auftrag der Bertelsmann Stiftung.

Kreditvergabe, Bewerbervorauswahl, Polizeiarbeit – der Einsatz von Algorithmen ist weit verbreitet, findet aber bislang fast ohne gesellschaftliche Kontrolle  statt. So ist nicht bekannt, welche algorithmischen Entscheidungssysteme wofür und mit welchen Auswirkungen eingesetzt werden. Einen Teil dieser Regelungslücke wird die ab 25. Mai 2018 wirksame europäische Datenschutz-Grundverordnung schließen, doch wird sie nur für wenige der bereits heute eingesetzten ADM-Systeme (= algorithmic decision making) gelten. Zudem können Bürger mithilfe der DSGVO zwar individuelle Auskünfte einholen, systematische Mängel oder Diskriminierungen ganzer Personengruppen lassen sich so jedoch nicht aufdecken. Das zeigt eine Analyse, die die Rechtswissenschaftler Wolfgang Schulz und Stephan Dreyer vom Hans-Bredow-Institut für Medienforschung an der Universität Hamburg im Auftrag der Bertelsmann Stiftung verfasst haben.

Europäische Datenschutz-Grundverordnung (DSGVO) ab 25. Mai wirksam

Die Datenschutz-Grundverordnung wird demzufolge nur für vollautomatisierte ADM-Systeme gelten, bei denen keine Menschen an der Entscheidungsfindung beteiligt sind. Ein Beispiel hierfür ist die Vorauswahl bei Job-Bewerbungen: Bei einigen Unternehmen sichten Softwareprogramme die Lebensläufe und sortieren viele Bewerber aus, ohne dass sich ein Personaler überhaupt deren Unterlagen angesehen hätte. Die DSGVO stellt hier sicher, dass ein erfolgloser Bewerber erfahren kann, welche seiner Daten ausschlaggebend für die negative Entscheidung waren. Bei den meisten ADM-Systemen sind jedoch Menschen in den Entscheidungsprozess einbezogen – und dann greifen die ADM-spezifischen Informations- und Erläuterungspflichten der DSGVO nicht.

DSGVO ist ein wichtiger, aber kein ausreichender Schritt zur ADM-Regulierung

Trotz dieses großen Mankos ist die DSGVO mit Blick auf den Einsatz von Algorithmen laut der Analyse eine Verbesserung, da automatisierte Entscheidungsvorgänge so für den Einzelnen besser nachzuvollziehen sind. Zudem führen die strengeren Vorgaben zur Dokumentation dazu, dass Akteure, die Daten verarbeiten, ein höheres Bewusstsein für Datenschutzfragen entwickeln. Der Digitalisierungsexperte der Bertelsmann Stiftung Ralph Müller-Eiselt bewertet die Einführung der DSGVO entsprechend zwiespältig: „Die Datenschutz-Grundverordnung ist ein wichtiger Schritt für europaweite Datenschutzstandards und Auskunftsrechte der Bürger, aber sie greift bei neuen Technologien wie Algorithmen und künstlicher Intelligenz eindeutig zu kurz.“

Der Grund: Zum einen sei die DSGVO bei vielen automatisierten Entscheidungen nicht anwendbar. Zum anderen schütze sie nicht vor gesellschaftlich relevanten Risiken, die weit über das Datenschutzinteresse des Einzelnen hinausgehen. Dies liegt auch daran, dass bei der DSGVO vorrangig der Schutz Einzelner geregelt wird.

„Für die fehlerhafte Bewertung oder systematische Diskriminierung ganzer Gruppen durch automatisierte Entscheidungen ist die neue Regulierung blind“, ergänzt Studienautor Wolfgang Schulz. Am Beispiel der Job-Bewerbungen: Es ist zwar gut, wenn Einzelne nachvollziehen können, wie die Entscheidung über ihre Absage zustande gekommen ist. Doch es bleibt ungeklärt, ob bestimmte Eigenschaften – etwa Geschlecht oder der Wohnort – dazu führen, dass ganze Gruppen ungerechterweise geringere Chancen haben.

Eine Grafik zeigt, dass die Datenschutzgrundverordnung für den Einzelnen Vorteile bietet. Damit dies auch für die Gesellschaft insgesamt gilt, listet die Grafik einige ergänzende Ansätze auf.

Damit die Datenschutz-Grundverordnung nicht nur für den Einzelnen, sondern auch für die gesamte Gesellschaft Vorteile bringt, sind Ergänzungen an und außerhalb der DSGVO notwendig.

ADM als Zukunftsthema für deutsche Daten- und Verbraucherschützer

Um gesellschaftliche Teilhabechancen für alle zu sichern, sollte das Thema automatisierter Entscheidungsfindung stärker in den öffentlichen Diskurs rücken, so Müller-Eiselt. Er sieht die Datenschutzbeauftragten von Bund und Ländern in der Pflicht, sich der negativen gesellschaftlichen Konsequenzen von ADM stärker anzunehmen. Es gelte, die Bürger stärker zu sensibilisieren und auf Risiken hinzuweisen. Aus der Perspektive des Verbraucherschutzes und für eine wirksame Kontrolle durch unabhängige Dritte sei zudem ein Sammelklagerecht sinnvoll. So würden auch jene zivilgesellschaftlichen Akteure gestärkt, die die Wirkweise bereits eingesetzter ADM-Systeme bislang kaum überprüfen können. Zudem appelliert Müller-Eiselt an die Entwickler von ADM-Systemen, von Beginn der Programmierung an zu berücksichtigen, dass ihre Arbeit das Leben anderer Menschen beeinflusst. Neben aller Regulierung und zivilgesellschaftlicher Kontrolle brauche es also Gütekriterien und eine Berufsethik für Programmierer.

Download

Das Arbeitspapier "Was bringt die Datenschutzgrundverordnung für automatisierte Entscheidungssysteme?" (PDF, 1.1 MB) steht zum Download zur Verfügung. Außerdem, für alle, die das Arbeitspapier weiterverwenden möchten, steht eine komplett CC-lizensierte Version (PDF, 1,1 MB) ohne Cover bereit.

Hintergrundinformationen

Die Analyse von Wolfgang Schulz und Stephan Dreyer ist Teil des Projekts "Ethik der Algorithmen", das sich näher mit den gesellschaftlichen Auswirkungen algorithmischer Entscheidungssysteme beschäftigt. Bislang sind in der Reihe "Impulse Algorithmenethik" eine Sammlung internationaler Fallbeispiele, eine Untersuchung des Wirkungspotenzials algorithmischer Entscheidungsfindung auf Teilhabe, eine Analyse des Einflusses algorithmischer Prozesse auf den gesellschaftlichen Diskurs sowie eine Analyse zu Fehlerquellen und Verantwortlichkeiten in Prozessen algorithmischer Entscheidungsfindung erschienen. Ein Blog und ein wöchentlicher Newsletter informieren regelmäßig über aktuelle Fachdebatten sowie die Ergebnisse der Projektarbeit.

Quelle: Bertelsmann Stiftung vom 13.04.2018

Info-Pool