Inhalt
Mensch-Maschine-Schnittstelle: Wer trifft die Entscheidungen? Kann man noch von einer "Black Box" sprechen? Woopen stellt die These auf, dass Bürger*innen sich verunsichert fühlen, wenn die Entscheidungen in einer "Black Box" gefällt werden, es also keine konkreten menschlichen Ansprechpartner für Bedenken und Probleme und keine verantwortliche, adressierbare Stelle für das Scoring gibt. Ein rein binär anhand vorgegebener Kriterien entscheidender Prozess, der nicht informiert ist durch menschliche Werte und Sensibilitäten, wird als problematisch gesehen. Konsensuale kollektive Werte (Menschenwürde, Freiheit, Gleichbehandlung, Gerechtigkeit/Solidarität, Sicherheit/Stabilität, Daten-/Privatsphärenschutz, Nachhaltigkeit …) müssen grundlegend für alle Systeme sein.
Der Begriff der Black Box wurde jedoch in Frage gestellt: Das Treffen von Entscheidungen setzt Werte voraus, die dem System von Menschen vorgegeben werden, was die Entscheidungen prädeterminiert – und die Auswirkungen der Entscheidungen (zum Beispiel über Mittelvergaben im Sozialwesen) sind dieselben, ob nun ein Mensch oder ein Algorithmus sie trifft.
Unter welchen Bedingungen kann Scoring erlaubt werden? Gibt es eine goldene Regel, ein Prinzip, einen Standard? Ein rein binär anhand vorgegebener Kriterien entscheidender Prozess, der nicht informiert ist durch menschliche Werte und Sensibilitäten, wird als problematisch gesehen. Konsensuale kollektive Werte (Menschenwürde, Freiheit, Gleichbehandlung, Gerechtigkeit/Solidarität, Sicherheit/Stabilität, Daten-/Privatsphärenschutz, Nachhaltigkeit …) müssen grundlegend für alle Systeme sein. Entscheidungen sollten flexibel sein, ohne dabei die Regeln zu umgehen, Ausnahmen sollten möglich sein (Vergleich Klosterleben). Scoring sollte immer nur einen einzelnen Bereich des Lebens betreffen. Es muss einen konkreten, nachvollziehbaren Grund geben, aus dem Scoring in diesem bestimmten Bereich relevant ist. Zudem muss der Zweck ethisch vertretbar sein.
Mehr Informationen
Produktion: 11.10.2019
Spieldauer: 20 Min.
hrsg. von: Bundeszentrale für politische Bildung/bpb
Lizenzhinweise
Dieser Text und Medieninhalt sind unter der Creative Commons Lizenz "CC BY-NC-ND 4.0 - Namensnennung - Nicht kommerziell - Keine Bearbeitungen 4.0 International" veröffentlicht. Autor/-in: Christiane Woopen (CERES; University of Cologne) für bpb.de
Sie dürfen den Text unter Nennung der Lizenz CC BY-NC-ND 4.0 und des/der Autors/-in teilen.
Sie wollen einen Inhalt von bpb.de nutzen?
