Dürfen Maschinen ungeprüft wichtige Entscheidungen über mich treffen?
Das Recht auf Schutz vor ausschließlich automatisierten Entscheidungen nach Art. 22 DS-GVO
Dürfen Maschinen ungeprüft wichtig Entscheidungen über mich treffen?
Die Antwort ist nein!
Algorithmen wurden trainiert und funktionieren auf der Grundlage von bestimmten Grundannahmen. Sie haben ein vordefiniertes Ziel. Algorithmen liegen daher nicht automatisch richtig. Sie sind auch nicht objektiv. Ganz im Gegenteil: Ein Algorithmus kann aus den vorliegenden Daten falsche, unfaire, manipulative oder diskriminierende Schlüsse ziehen.
Deswegen hast Du gemäß Art. 22 DS-GVO das Recht, dass wichtige Entscheidungen über Dich nicht nur von einem Algorithmus getroffen werden. Das gilt z.B. in Bewerbungsverfahren für einen Job, bei der Vergabe von Krediten oder beim Abschluss von Versicherungen. Bei der Analyse und Bewertung von Daten wie auch bei Vorhersagen für solche Zwecke muss immer auch ein Mensch beteiligt sein.
Automatisierte Entscheidungen ohne die Beteiligung eines Menschen sind also in vielen Fällen verboten.
Woher weiß ich denn, wie entschieden wird?
Gemäß Art. 13 Abs. 2 lit. f) DS-GVO bzw. Art. 14 Abs. 2 lit. g) DS-GVO musst Du über automatisierte Entscheidungen informiert werden.
Du kannst auch Auskunft darüber verlangen, wie der Entscheidungsprozess abläuft und nach welchen Maßstäben die Entscheidung zustande kommt, Art. 15 Abs. 1 lit. h DS-GVO. Wie Du Auskunft verlangst, erklären wir hier.
Was passiert, wenn doch ohne menschliche Prüfung entschieden wird?
Bei einem Verstoß gegen das Verbot von rein automatisierten Entscheidungen droht ein Bußgeld in Höhe von bis zu 20 Millionen Euro, Art. 83 Abs. 5 lit. b) DS-GVO. Das Bußgeld steht aber nicht Dir zu, sondern geht an den Staat.
Du selbst kannst vor Gericht durchsetzen, dass bei einer wichtigen Entscheidung, die Dich betrifft, ein Mensch beteiligt ist. Dazu musst Du vor einem Zivilgericht klagen. Hast Du durch die rein automatisierte Entscheidung einen Schaden erlitten, kannst Du auch Schadensersatz verlangen, Art. 82 DS-GVO.
Ausnahmen bestätigen die Regel…
…so auch bei dem Verbot rein automatisierter Entscheidungen. Zum Beispiel bei Geschäften, für die eine Kreditwürdigkeitsüberprüfung notwendig ist, oder zur Prävention von Betrug kann eine rein automatisierte Entscheidung zulässig sein.
Außerdem ist eine rein automatisierte Entscheidung natürlich auch dann zulässig, wenn Du ausdrücklich eingewilligt hast. Voraussetzung ist, dass Du weißt, dass die Entscheidung ohne menschliche Prüfung getroffen wird und Dir die zugrundeliegende Logik, Tragweite und Auswirkungen bekannt sind.
