Inhalt
Je komplexer das Scoring-System ist, desto schwerer ist es zu verstehen. Können die Initiatoren ihre Vorgehensweisen und Entscheidungen selbst noch überblicken? Es ist nicht notwendig, die einzelnen Algorithmen verstehen und nachvollziehen zu können; eine Bewertung eines Systems ist auch anhand seiner Funktion und Ergebnisse möglich. Diese müssen kontinuierlich überprüft und transparent gemacht werden (ggf. gesetzlich geregelt). Provokativ wurde angemerkt, dass die Undurchsichtigkeit des Systems durchaus von interessierten Kreisen erwünscht und herbeigeführt sein könne. Diskriminierung einzelner Bevölkerungsgruppen im Rahmen des SCS ist eine Gefahr, die sich aus den durch das System gemachten Vorgaben ergibt: Nutzt man diskriminierende Kategorisierungen, erhält man diskriminierende Ergebnisse. Auch die Verwendung alter Daten kann zu Diskriminierung führen. Problematisch ist auch eine politische Haltung, die die technologische Analyse von potentiellen Risiken und das Profiling über eine fundierte Ursachen- und Motivforschung zur Kriminalprävention stellt.
Mehr Informationen
Produktion: 11.10.2019
Spieldauer: 11 Min.
hrsg. von: Bundeszentrale für politische Bildung/bpb
Lizenzhinweise
Dieser Text und Medieninhalt sind unter der Creative Commons Lizenz "CC BY-NC-ND 4.0 - Namensnennung - Nicht kommerziell - Keine Bearbeitungen 4.0 International" veröffentlicht. Autor/-in: Lorena Jaume-Palasí (The Ethical Tech Society) für bpb.de
Sie dürfen den Text unter Nennung der Lizenz CC BY-NC-ND 4.0 und des/der Autors/-in teilen.
Sie wollen einen Inhalt von bpb.de nutzen?
