{"id":12910,"date":"2024-07-03T08:16:16","date_gmt":"2024-07-03T08:16:16","guid":{"rendered":"https:\/\/lamarr-institute.org\/?post_type=blog&p=12910"},"modified":"2025-11-12T14:51:11","modified_gmt":"2025-11-12T14:51:11","slug":"ki-trainingsdaten-bias","status":"publish","type":"blog","link":"https:\/\/lamarr-institute.org\/de\/blog\/ki-trainingsdaten-bias\/","title":{"rendered":"Ethischer Umgang mit Trainingsdaten: F\u00fcr Fairness und Datenschutz in KI-Systemen"},"content":{"rendered":"\n

Die rasanten Entwicklungen im Bereich der K\u00fcnstlichen Intelligenz (KI) seit Anfang der 2010er Jahre haben in der Welt ihre Spuren hinterlassen. Unz\u00e4hlige neue Anwendungen sind entstanden, deren H\u00f6hepunkt in der Ver\u00f6ffentlichung von ChatGPT m\u00fcndete. Die Auswirkungen auf die Gesellschaft sind immens: Modelle des Maschinellen Lernens helfen bei kritischen Prozessen wie der Krebsdiagnose<\/a>, Betrugserkennung<\/a> oder Vorhersage von Proteinstrukturen<\/a>.<\/p>\n\n\n\n

Die Modelle, die den KI-Anwendungen zugrunde liegen, werden verwendet, um in realen Situationen Entscheidungen zu treffen und Empfehlungen zu geben. In dem Bem\u00fchen, diese Situationen so genau wie m\u00f6glich abzubilden, werden die Modelle mit riesigen Datenmengen trainiert, die in der realen Welt gesammelt wurden. Die Menge der Daten h\u00e4ngt von vielen Faktoren ab und variiert stark je nach Anwendungsfall. Ein prominentes Beispiel ist das LLM LLama3 von Meta, das auf 15 Billionen Token trainiert wurde und derzeit eines der besten Open-Source-LLMs ist.<\/p>\n\n\n\n

Obwohl dieser Ansatz zur L\u00f6sung vieler Probleme gut geeignet ist, ist er mit mehreren ethischen Bedenken verbunden.<\/p>\n\n\n\n

Ein Mangel an sorgf\u00e4ltiger Datenaufbereitung kann zu unerw\u00fcnschten Ergebnissen f\u00fchren. Bias in Datens\u00e4tzen f\u00fchrt zu Fairness-Problemen, zur Aufrechterhaltung gesellschaftlicher Ungleichheiten und zur Diskriminierung von Minderheiten. Schlimmer noch, es besteht die Gefahr, dass private und vertrauliche Informationen durch Modellausgaben offengelegt werden und in die falschen H\u00e4nde geraten. Dar\u00fcber hinaus ist es aufgrund der Komplexit\u00e4t und Undurchsichtigkeit von Deep Learning Modellen oft schwierig, die Ursachen dieser Probleme zu ermitteln. All diese Probleme erfordern Ma\u00dfnahmen von politischen Entscheidungstr\u00e4ger*innen und Entwickler*innen, um die ethische Nutzung von Daten zu gew\u00e4hrleisten.<\/p>\n\n\n\n

In den folgenden Abschnitten beleuchten wir die oben genannten Probleme und zeigen auf, wie sie \u00fcberwunden werden k\u00f6nnen. Au\u00dferdem gehen wir auf den rechtlichen Rahmen ein, der einen fairen und transparenten Handlungsspielraum f\u00fcr alle Beteiligten schaffen soll.<\/p>\n\n\n\n

Bias und Fairness in KI-Trainingsdaten: Ethische Herausforderungen bew\u00e4ltigen<\/h2>\n\n\n\n

KI-Modelle st\u00fctzen sich bei ihren Entscheidungen auf Daten aus der realen Welt. Diese Daten spiegeln jedoch h\u00e4ufig gesellschaftliche Vorurteile wider, was zu impliziten und expliziten Vorurteilen in Datens\u00e4tzen f\u00fchrt. Diese Voreingenommenheit kann bestimmte Gruppen benachteiligen und zu unfairen Modellergebnissen f\u00fchren, wenn bei der Datenauswahl und -bereinigung nicht auf die Vermeidung von Bias geachtet wird. Folglich k\u00f6nnen solche verzerrten Modelle f\u00fcr eine ethische Verwendung ungeeignet sein. Im Folgenden werden einige Beispiele f\u00fcr verschiedene Formen von Bias erl\u00e4utert.<\/p>\n\n\n\n

Was ist Bias in Trainingsdaten?<\/h3>\n\n\n\n

Bias in Trainingsdaten bezieht sich auf die systematische Bevorzugung bestimmter Entit\u00e4ten oder Gruppen, w\u00e4hrend andere benachteiligt werden. Beim Maschinellen Lernen kann Bias durch verschiedene Faktoren entstehen, steht aber in der Regel in Zusammenhang mit Trainingsdaten. Es gibt mehrere Quellen von Verzerrungen (Bias):<\/p>\n\n\n\n

    \n
  1. Systemischer Bias:<\/strong> Entsteht durch gesellschaftliche Bedingungen, in denen bestimmte Vorurteile in den Daten inh\u00e4rent sind.<\/li>\n\n\n\n
  2. Datenerfassung und -annotation:<\/strong> Bias kann w\u00e4hrend des Prozesses der Datenerfassung oder -Annotation entstehen.<\/li>\n\n\n\n
  3. Algorithmus- oder Systemdesign:<\/strong> Manchmal entsteht Bias durch die Wahl des Algorithmus oder des Systemdesigns.<\/li>\n<\/ol>\n\n\n\n

    Das folgende Video bietet eine kurze Einf\u00fchrung in Bias und einige Faktoren, die dazu beitragen:<\/p>\n\n\n\n

    \n
    <\/div>
    <\/div>

    Sie sehen gerade einen Platzhalterinhalt von YouTube<\/strong>. Um auf den eigentlichen Inhalt zuzugreifen, klicken Sie auf die Schaltfl\u00e4che unten. Bitte beachten Sie, dass dabei Daten an Drittanbieter weitergegeben werden.<\/p> Mehr Informationen<\/a> <\/div>

    Inhalt entsperren<\/a> Erforderlichen Service akzeptieren und Inhalte entsperren<\/a> <\/div> <\/div> <\/div><\/div>\n<\/div><\/figure>\n\n\n\n

    In der Vergangenheit gab es mehrere F\u00e4lle von Bias in KI-Anwendungen, die zu ethischen Problemen f\u00fchrten. Die n\u00e4chsten Abschnitte zeigen zwei Beispiele, um verschiedene Arten von Bias zu veranschaulichen.<\/p>\n\n\n\n

    COMPAS-Algorithmus und rassistischer Bias<\/h3>\n\n\n\n

    Einer der am h\u00e4ufigsten zitierten F\u00e4lle von Bias in der KI ist der COMPAS-Algorithmus, der verwendet wird, um die R\u00fcckfallwahrscheinlichkeit unter straff\u00e4lligen Angeklagten in den Vereinigten Staaten zu messen. Der Algorithmus stuft schwarze Angeklagte im Vergleich zu wei\u00dfen Angeklagten als \u00fcberproportional r\u00fcckfallgef\u00e4hrdet ein.<\/p>\n\n\n\n

    Das folgende Video enth\u00e4lt eine umfassende Kritik am COMPAS-Algorithmus, die dessen rassistische Ausrichtung hervorhebt und auf die urspr\u00fcngliche ProPublica-Studie<\/a> verweist.<\/p>\n\n\n\n

    \n
    <\/div>
    <\/div>

    Sie sehen gerade einen Platzhalterinhalt von YouTube<\/strong>. Um auf den eigentlichen Inhalt zuzugreifen, klicken Sie auf die Schaltfl\u00e4che unten. Bitte beachten Sie, dass dabei Daten an Drittanbieter weitergegeben werden.<\/p> Mehr Informationen<\/a> <\/div>

    Inhalt entsperren<\/a> Erforderlichen Service akzeptieren und Inhalte entsperren<\/a> <\/div> <\/div> <\/div><\/div>\n<\/div><\/figure>\n\n\n\n

    Der COMPAS-Fall ist besonders bemerkenswert, weil die Datenerhebung in einem kontrollierten Rahmen erfolgte. Wie in dem Video erw\u00e4hnt, basieren die Vorhersagen auf einer Reihe von Fragen, die die Angeklagten beantworten m\u00fcssen. Obwohl diese Fragen nicht offen diskriminierend zu sein scheinen, werden implizit Eigenschaften abgefragt und verurteilt, die eher mit schwarzen Personen in Verbindung gebracht werden. Dieser Designfehler des Algorithmus und des Fragebogens f\u00fchrte zu erheblichen algorithmischen<\/strong> und messtechnischen<\/strong> Verzerrungen (Bias)<\/strong>. Zwar sollte das KI-Tool die Wahrscheinlichkeit einer Wiederholungstat vorhersagen, jedoch wurden die Fragen durch die Zuordnung zu einer ethnischen Gruppe verzerrt, anstatt das beabsichtigte Ph\u00e4nomen genau zu messen.<\/p>\n\n\n\n

    COMPAS ist nur eines von vielen KI-Tools, bei denen rassistischer Bias festgestellt wurde. Andere Beispiele sind ein Facebook-Bilderkennungstool<\/a>, das schwarze M\u00e4nner f\u00e4lschlicherweise als „Primaten“ einstufte, und ein Optum-System<\/a>, das die Gesundheitsbed\u00fcrfnisse schwarzer Patienten aufgrund systematischer Ungleichheiten beim Zugang zu Pflege und Behandlung untersch\u00e4tzte.<\/p>\n\n\n\n

    Amazon-Rekrutierungstool und Gender-Bias<\/h3>\n\n\n\n

    Amazons Einsatz eines KI-Rekrutierungstools zur Unterst\u00fctzung interner Einstellungsentscheidungen ist ein weiteres auff\u00e4lliges Beispiel f\u00fcr Bias in der Technologie. Das Modell wurde mit Lebensl\u00e4ufen aus dem vergangenen Jahrzehnt trainiert, die \u00fcberwiegend von m\u00e4nnlichen Bewerbern verfasst wurden. Folglich stufte das KI-Modell Lebensl\u00e4ufe herab, die das Wort „Frauen“ enthielten oder reine Frauenhochschulen erw\u00e4hnten.<\/p>\n\n\n\n

    Das folgende Video bietet einen Bericht \u00fcber das Amazon-Tool:<\/p>\n\n\n\n

    \n
    <\/div>
    <\/div>

    Sie sehen gerade einen Platzhalterinhalt von YouTube<\/strong>. Um auf den eigentlichen Inhalt zuzugreifen, klicken Sie auf die Schaltfl\u00e4che unten. Bitte beachten Sie, dass dabei Daten an Drittanbieter weitergegeben werden.<\/p> Mehr Informationen<\/a> <\/div>

    Inhalt entsperren<\/a> Erforderlichen Service akzeptieren und Inhalte entsperren<\/a> <\/div> <\/div> <\/div><\/div>\n<\/div><\/figure>\n\n\n\n

    Dieser Fall zeigt systemischen Bias<\/strong>, der aus der historischen Dominanz von M\u00e4nnern in der Technologiebranche resultiert. Er demonstriert auch, dass eine schlechte Kuratierung der Trainingsdaten zu Selektionsverzerrungen<\/strong> (Selection Bias)<\/strong> f\u00fchrt. Dies bedeutet, dass die Trainingsdaten aufgrund der Unterrepr\u00e4sentation einer bestimmten Gruppe nicht repr\u00e4sentativ f\u00fcr die gesamte Bev\u00f6lkerung sind. In extremen F\u00e4llen kann sich dies als Ausschlussverzerrung (Exclusion Bias)<\/strong> manifestieren, was bedeutet, dass eine Gruppe vollst\u00e4ndig ausgelassen wird.<\/p>\n\n\n\n

    Um solche Verzerrungen zu vermeiden, m\u00fcssen Entwickler*innen bei der Datenerfassung auf ein ausgewogenes Geschlechterverh\u00e4ltnis achten. Dieser Ansatz k\u00f6nnte jedoch eine weitere Herausforderung darstellen: Die Ausgewogenheit der Lebensl\u00e4ufe beider Geschlechter h\u00e4tte die Gesamtzahl der f\u00fcr das Training verf\u00fcgbaren Lebensl\u00e4ufe (Daten) verringern k\u00f6nnen, was die Zuverl\u00e4ssigkeit des Modells beeintr\u00e4chtigen k\u00f6nnte. Dieses Szenario veranschaulicht die Schwierigkeit, Verzerrungen aufgrund von Ressourcenbeschr\u00e4nkungen vollst\u00e4ndig zu eliminieren. <\/p>\n\n\n\n

    Der Artikel \u201cAmazon ditched AI recruitment software because it was biased against women<\/a>\u201d im MIT Technology Review bietet weitere Einblicke.<\/p>\n\n\n\n

    Erkennung und Reduktion von Bias<\/h3>\n\n\n\n

    Bias in Modellen des Maschinellen Lernens kann in verschiedenen Formen auftreten und bleibt oft unbemerkt, bis die Modelle eingesetzt werden. Um solche Biases zu verhindern und unvoreingenommene Modelle zu trainieren, sind sorgf\u00e4ltige \u00dcberlegungen und systematische Ans\u00e4tze erforderlich. Nachfolgend die wichtigsten Schritte, um diese Aufgabe zu bew\u00e4ltigen:<\/p>\n\n\n\n

    \u00dcberlegungen vor dem Training:<\/h3>\n\n\n\n
      \n
    1. Bewertung der Auswirkungen:<\/strong> Pr\u00fcfen Sie, wie stark Ihr System das Leben der davon Betroffenen beeinflussen wird.<\/li>\n\n\n\n
    2. Ethische Implikationen:<\/strong> Bestimmen Sie, ob es ethisch vertretbar ist, ein KI-System f\u00fcr die jeweilige Aufgabe Entscheidungen treffen zu lassen.<\/li>\n\n\n\n
    3. Eignung der Daten:<\/strong> Stellen Sie sicher, dass Sie gen\u00fcgend und repr\u00e4sentative Daten f\u00fcr alle betroffenen Gruppen haben.<\/li>\n<\/ol>\n\n\n\n

      Best Practices zur Erkennung und Vermeidung von Bias in KI-Systemen:<\/h3>\n\n\n\n