Rechtliche Fairnessanforderungen an KI-Systeme und ihre technische Evaluation – Eine Analyse anhand ausgewählter Kreditscoring-Systeme unter besonderer Berücksichtigung der zukünftigen europäischen KI-Verordnung
Im vorliegenden Beitrag werden rechtliche Fairness-Anforderungen an KI-Systeme anhand ausgewählter Kreditscoring-Systeme beleuchtet. Einerseits wird das geltende Recht in den Blick genommen und insbesondere die Frage einer mittelbaren Drittwirkung des Art. 3 GG im Kontext des Kreditscorings erörtert. Andererseits wird auch ein Fokus auf die zukünftige europäische KI-Verordnung (KI-VO) gelegt. Mittels einer juristisch-informatischen Analyse werden Ansätze zur Interpretation und Operationalisierung der fairnessbezogenen Anforderungen an die verwendeten Daten gem. Art. 10 KI-VO nach dem Stand der Technik diskutiert. Diese werden sodann exemplarisch anhand eines konkreten Kreditscoring-Beispiels evaluiert. Der Beitrag schließt mit Empfehlungen hinsichtlich ausgewählter rechtlicher Rahmenbedingungen für einen “fairen” KI-Einsatz.
- Published in:
Zeitschrift für Digitalisierung und Recht - Type:
Article - Authors:
Feldkamp, Jakob; Kappler, Quirin; Poretschkin, Maximilian; Schmitz, Anna; Weiss, Erik - Year:
2024
Citation information
Feldkamp, Jakob; Kappler, Quirin; Poretschkin, Maximilian; Schmitz, Anna; Weiss, Erik: Rechtliche Fairnessanforderungen an KI-Systeme und ihre technische Evaluation – Eine Analyse anhand ausgewählter Kreditscoring-Systeme unter besonderer Berücksichtigung der zukünftigen europäischen KI-Verordnung, Zeitschrift für Digitalisierung und Recht, 2024, 1, https://beck-online.beck.de/Dokument?vpath=bibdata/zeits/zfdr/2024/cont/zfdr.2024.60.1.htm&anchor=Y-300-Z-ZFDR-B-2024-S-60-N-1, Feldkamp.etal.2024a,
@Article{Feldkamp.etal.2024a,
author={Feldkamp, Jakob; Kappler, Quirin; Poretschkin, Maximilian; Schmitz, Anna; Weiss, Erik},
title={Rechtliche Fairnessanforderungen an KI-Systeme und ihre technische Evaluation – Eine Analyse anhand ausgewählter Kreditscoring-Systeme unter besonderer Berücksichtigung der zukünftigen europäischen KI-Verordnung},
journal={Zeitschrift für Digitalisierung und Recht},
volume={1},
url={https://beck-online.beck.de/Dokument?vpath=bibdata/zeits/zfdr/2024/cont/zfdr.2024.60.1.htm&anchor=Y-300-Z-ZFDR-B-2024-S-60-N-1},
year={2024},
abstract={Im vorliegenden Beitrag werden rechtliche Fairness-Anforderungen an KI-Systeme anhand ausgewählter Kreditscoring-Systeme beleuchtet. Einerseits wird das geltende Recht in den Blick genommen und insbesondere die Frage einer mittelbaren Drittwirkung des Art. 3 GG im Kontext des Kreditscorings erörtert. Andererseits wird auch ein Fokus auf die zukünftige europäische KI-Verordnung (KI-VO) gelegt....}}
