{"id":4894,"date":"2023-11-08T08:00:49","date_gmt":"2023-11-08T08:00:49","guid":{"rendered":"https:\/\/lamarr-institute.org\/blog\/ki-verbraucher-aufklaerung\/"},"modified":"2025-11-12T14:51:13","modified_gmt":"2025-11-12T14:51:13","slug":"ki-verbraucher-aufklaerung","status":"publish","type":"blog","link":"https:\/\/lamarr-institute.org\/de\/blog\/ki-verbraucher-aufklaerung\/","title":{"rendered":"Erkl\u00e4rung gut, alles gut? Wie Verbraucher*innen \u00fcber Einsatz und Funktionsweise von KI-Systemen aufgekl\u00e4rt werden k\u00f6nnen"},"content":{"rendered":"\n

Mithilfe von Methoden der erkl\u00e4rbaren K\u00fcnstlichen Intelligenz (XAI, Explainable AI) k\u00f6nnen Entwickler*innen die Ergebnisse von KI-Anwendungen besser nachvollziehbar machen. Auch wenn sich XAI-Methoden bislang in erster Linie an Fachexpert*innen richten, hat eine Fach-AG des <\/strong>ZVKI<\/a> festgestellt: Erkl\u00e4rbare KI kann \u2013 in Verbindung mit weiteren Ma\u00dfnahmen \u2013 auch f\u00fcr die Aufkl\u00e4rung von Verbraucher*innen einen Mehrwert haben.
<\/strong><\/p>\n\n\n\n

Verbraucher*innen nutzen t\u00e4glich Anwendungen, die auf KI-Methoden basieren \u2013 ob Social Media-Plattformen, KI-gest\u00fctzte Chatbots, die Gesichtserkennung auf ihrem Smartphone oder Navigationssysteme. Auch wenn B\u00fcrger*innen und Verbraucher*innen KI-Systeme nicht selbst anwenden, k\u00f6nnen sie von deren Ergebnissen betroffen sein: Beispielsweise, wenn gro\u00dfe Unternehmen KI-Tools zur Filterung von Bewerbungsunterlagen einsetzen oder Versicherungen mithilfe von KI-Systemen das Risiko einer bestimmten Erkrankung berechnen.<\/p>\n\n\n\n

Wenn der Einsatz eines KI-Tools Einfluss auf das Leben von Verbraucher*innen nimmt, sollten Unternehmen und \u00f6ffentliche Stellen diese \u00fcber den KI-Einsatz informieren. Dar\u00fcber hinaus sollten B\u00fcrger*innen auch dar\u00fcber aufgekl\u00e4rt werden, wie die jeweiligen Ergebnisse einer KI-Anwendung zustande gekommen sind. Nur so haben B\u00fcrger*innen die M\u00f6glichkeit, eine \u201eungerechtfertigte Benachteiligung\u201c, wie eine KI-vermittelte Diskriminierung, zu erkennen und gegen diese vorzugehen (Baeva, Binder, 2023)<\/a>. Zudem sollten auch Verbraucherschutzzentralen und weitere zivilgesellschaftliche Organisationen Informationen zur Nachvollziehbarkeit von KI-Anwendungen erhalten, da insbesondere KI-vermittelte Diskriminierung anhand von Einzelf\u00e4llen schwierig festzustellen ist (Baeva, Binder, 2023)<\/a>.<\/p>\n\n\n\n

Erkl\u00e4rbare KI zur besseren Nachvollziehbarkeit von KI-Ergebnissen<\/h2>\n\n\n\n

KI-Systeme sind jedoch h\u00e4ufig so komplex, dass Entwickler*innen und Nutzer*innen deren Ergebnisse und Vorgehensweisen nicht nachvollziehen k\u00f6nnen. Daher werden diese KI-Anwendungen auch als Black-Box-Modelle bezeichnet. Im Forschungsbereich der erkl\u00e4rbaren KI forschen Wissenschaftler*innen an Erkl\u00e4rmethoden, die zeigen, welche Daten oder Annahmen zu einem bestimmten Ergebnis einer KI-Anwendung gef\u00fchrt haben. Dies l\u00e4sst sich gut anhand einer Counterfactual Explanation verdeutlichen: Eine Counterfactual Explanation beschreibt die Umst\u00e4nde, unter denen das Ergebnis einer KI-Anwendung anders ausgefallen w\u00e4re.<\/p>\n\n\n\n

Hierzu ein Beispiel: Ein Unternehmen nutzt ein KI-System, um eingehende Bewerbungen hinsichtlich ihrer Eignung f\u00fcr eine Stelle zu sortieren. Die Bewerbung einer Person wird durch die KI-Anwendung als ungeeignet eingestuft. Eine Counterfactual Explanation analysiert, welche Faktoren sich \u00e4ndern m\u00fcssten, damit das KI-System ein positives Ergebnis f\u00fcr diese*n Bewerber*in ausgibt. Das kann zum Beispiel die Berufserfahrung sein: H\u00e4tte die Person zehn statt neun Jahre Berufserfahrung vorweisen k\u00f6nnen, h\u00e4tte die KI-Anwendung den*die Bewerber*in als passend eingestuft.<\/p>\n\n\n\n

Erkl\u00e4rmethoden und die Nachvollziehbarkeit von KI-Ergebnissen k\u00f6nnen zu einer gr\u00f6\u00dferen Transparenz von KI-Anwendungen beitragen. Welcher Grad an Transparenz f\u00fcr bestimmte KI-Systeme \u00fcberhaupt notwendig ist, ist laut Deutschem Ethikrat (2023)<\/a> abh\u00e4ngig vom jeweiligen Anwendungsbereich. F\u00fcr manche Kontexte sollte ein H\u00f6chstma\u00df an Erkl\u00e4rbarkeit durch Explainable AI sichergestellt werden, in anderen Bereichen k\u00f6nnte hingegen eine menschliche \u201ePlausibilit\u00e4tspr\u00fcfung\u201c der KI-Ergebnisse ausreichen. Eine vollumf\u00e4ngliche Transparenz sogenannter Black-Box-Modelle ist aktuell jedoch \u201eweder f\u00fcr Lai*innen noch f\u00fcr Expert*innen\u201c herstellbar (Baeva, Binder, 2023)<\/a>. Ist eine solche Transparenz f\u00fcr einen bestimmten Anwendungsbereich erforderlich, m\u00fcsste in diesem Fall daher ganz auf den Einsatz eines komplexen KI-Systems verzichtet werden.<\/p>\n\n\n\n

Dennoch k\u00f6nnen Methoden der erkl\u00e4rbaren KI die Nachvollziehbarkeit von KI-Ergebnissen ma\u00dfgeblich erh\u00f6hen. Aktuell richten sich diese Methoden vor allem an Entwickler*innen und Fach-Expert*innen. Unter bestimmten Bedingungen eignen sich XAI-Methoden jedoch auch, um die Ergebnisse von Systemen f\u00fcr Verbraucher*innen nachvollziehbarer zu machen \u2013 zu diesem Schluss kam eine Facharbeitsgruppe des Zentrums f\u00fcr vertrauensw\u00fcrdige K\u00fcnstliche Intelligenz (ZVKI)<\/em> (Busse, 2022).<\/a><\/p>\n\n\n\n

Unter welchen Bedingungen hat erkl\u00e4rbare KI einen Mehrwert f\u00fcr die Aufkl\u00e4rung von Verbraucher*innen?<\/h2>\n\n\n\n

Erkla\u0308rmethoden k\u00f6nnen Verbraucher*innen helfen, die Ergebnisse von KI-Anwendungen besser nachzuvollziehen. Werden KI-Anwendungen beispielsweise zur Unterstu\u0308tzung bei der Kreditvergabe eingesetzt, ko\u0308nnen Counterfactual Explanations den konkreten Einfluss bestimmter Faktoren auf das Ergebnis eines KI-Systems darstellen. Betroffene ko\u0308nnen so unter anderem nachvollziehen, ob zum Beispiel ihr Gehalt, Wohnort oder Alter zu einer Kreditabsage gefu\u0308hrt haben.<\/p>\n\n\n\n

Niedrigschwellige Darstellung<\/h3>\n\n\n\n

Damit der Einsatz von XAI-Methoden zur Aufkl\u00e4rung von Verbraucher*innen beitr\u00e4gt, m\u00fcssen diese niedrigschwellig aufbereitet sein. Ein Beispiel w\u00e4re ein interaktives, digitales Eingabeformular, in dem die Nutzer*innen die Eingabedaten wie Alter, Wohnort oder Gehalt beliebig \u00e4ndern k\u00f6nnen. Auf diese Weise k\u00f6nnen sie nachvollziehen, welche Faktoren Einfluss auf das Ergebnis der KI-Anwendung und damit auf die Chancen zur Gew\u00e4hrung eines Kredits haben \u2013 auch wenn sie nicht \u00fcber Fachwissen zur Funktionsweise der KI-Anwendungen verf\u00fcgen. Um einen Mehrwert der Erkl\u00e4rungen f\u00fcr Verbraucher*innen sicherzustellen, m\u00fcssen die Erkl\u00e4rungen mit und von Nutzer*innen evaluiert werden.<\/p>\n\n\n\n

Erkl\u00e4rbarkeit ben\u00f6tigt Korrigierbarkeit<\/h3>\n\n\n\n

Zudem sollten Verbraucher*innen die Eingaben und\/ oder Ergebnisse von KI-Anwendungen korrigieren k\u00f6nnen. Die Korrigierbarkeit betrifft drei verschiedene Ebenen:<\/p>\n\n\n\n

    \n
  1. Eingabedaten:<\/strong> Verbraucher*innen k\u00f6nnen falsche Eingaben richtigstellen. Das betrifft zum Beispiel die Eintragung eines falschen Alters bei einem KI-System, das Bankangestellte als Unterst\u00fctzung bei der Kreditw\u00fcrdigkeitspr\u00fcfung einsetzen. Erkl\u00e4rungen durch XAI-Methoden sollten solche falschen Eingabedaten offenlegen und eine Korrektur erm\u00f6glichen.<\/li>\n\n\n\n
  2. Personalsierung<\/strong>: Nutzer*innen k\u00f6nnen die Ergebnisse einer KI-Anwendung personalisieren, beispielsweise beim News Feed einer Social-Media-Anwendung. Eine m\u00f6gliche Personalisierung erh\u00f6ht die Benutzer*innen-Freundlichkeit solcher Anwendungen.<\/li>\n\n\n\n
  3. Kontrollfunktion: <\/strong>Verbraucher*innen ist es m\u00f6glich, sich \u00fcber die Ergebnisse eines KI-Systems bei unabh\u00e4ngigen Stellen zu beschweren, beispielsweise bei einem Verdacht auf Diskriminierung durch eine Gesichtserkennungssoftware oder bei einer Entscheidung zur Kreditvergabe. Zudem erhalten auch Forschungsinstitute, Antidiskriminierungsstellen oder Nichtregierungsorganisationen Zugang zu den Datengrundlagen von KI-Systemen und Erkl\u00e4rungen durch XAI-Methoden. Nur so k\u00f6nnen zivilgesellschaftliche Organisationen ihre gesellschaftliche Kontrollfunktion wahrnehmen und KI-vermittelte Diskriminierungen aufdecken, die Einzelpersonen nicht identifizieren k\u00f6nnen.<\/li>\n<\/ol>\n\n\n\n

    Erkl\u00e4rungen sollten um Handlungsempfehlungen erg\u00e4nzt werden<\/h3>\n\n\n\n

    Erkl\u00e4rungen auf der Grundlage von XAI-Methoden an sich geben Verbraucher*innen keine ausreichenden Handlungsoptionen. Daher sollten Anbieter*innen von KI-Systemen Verbraucher*innen erg\u00e4nzend zu einer Erkl\u00e4rung dar\u00fcber informieren, was sie selbst \u00e4ndern k\u00f6nnen, damit das KI-System ein anderes Ergebnis ausgibt. Entscheidend ist dabei, dass die Handlungsempfehlung realisierbar ist. Im Fall der Kreditvergabe kann es f\u00fcr Bewerber*innen beispielsweise hilfreich sein, zu wissen, ob bereits eine geringf\u00fcgige Gehaltssteigerung ausreicht, damit ihnen ein Kredit gew\u00e4hrt wird. Die Empfehlung, das eigene Alter zu \u00e4ndern, ergibt dagegen wenig Sinn. Die Umsetzung von Handlungsempfehlungen ist nicht allen Menschen im gleichen Ma\u00df m\u00f6glich, sondern h\u00e4ngt von gesamtgesellschaftlichen Faktoren und Machtstrukturen ab: So ist es je nach Beruf und Anstellungsverh\u00e4ltnis beispielsweise nur manchen Menschen m\u00f6glich, ein h\u00f6heres Gehalt auszuhandeln. Auch solche Faktoren sollten bei der Formulierung von Handlungsempfehlungen ber\u00fccksichtigt werden.<\/p>\n\n\n\n

    XAI-Methoden und Erkla\u0308rformate mu\u0308ssen sich je nach Anwendung und Kontext unterscheiden<\/h3>\n\n\n\n

    Je nach Anwendungsfall kann eine Kombination von mehreren XAI-Methoden und Darstellungen hilfreich sein, um KI-Ergebnisse nachvollziehbarer zu machen. Entscheidend ist, dass sich die Erkl\u00e4rungen nicht widersprechen. Manche Informationsbedarfe von Verbraucher*innen werden au\u00dferdem besser durch andere Formate als durch Darstellungen von XAI-Methoden abgedeckt: Unternehmen k\u00f6nnten Informationen zu den gespeicherten Daten der Nutzer*innen einer Gesundheits-App beispielsweise als grafisch aufbereitete \u00dcbersicht bereitstellen. Das kann bereits dabei helfen, Fehler oder falsche Angaben in den gesammelten Informationen zu erkennen und gegebenenfalls zu beanstanden. F\u00fcr eine solche Darstellung sind keine XAI-Methoden notwendig.<\/p>\n\n\n\n

    Erkl\u00e4rung gut, alles gut?<\/h2>\n\n\n\n

    Erkl\u00e4rungen zum Einsatz und zu den Ergebnissen von KI-Systemen erm\u00f6glichen Verbraucher*innen, KI-Anwendungen selbstbestimmer und souver\u00e4ner zu nutzen. Zudem k\u00f6nnen sie so besser gegen nachteilige oder falsche Entscheidungen vorgehen, die beispielsweise Arbeitgeber*innen, Mediziner*innen oder \u00f6ffentliche Stellen auf der Grundlage von KI-Ergebnissen getroffen haben.<\/p>\n\n\n\n

    Entsprechend den Empfehlungen der ZVKI<\/em>-Fach-AG \u201eVerbraucher*innen-Information\u201c <\/a>(Busse, 2023) sind Unternehmen \u2013 als KI-Anbieter*innen \u2013 f\u00fcr die Umsetzung und Nachvollziehbarkeit von Erkl\u00e4rma\u00dfnahmen hauptverantwortlich. Wissenschaftler*innen sollten weiterhin an zuverl\u00e4ssigen XAI-Methoden forschen und in Forschungsvorhaben einen interdisziplin\u00e4ren Ansatz verfolgen, um nicht rein technische, sondern am Menschen orientierte Erkl\u00e4rungsans\u00e4tze zu erarbeiten. Politische Entscheidungstr\u00e4ger*innen sind in der Pflicht, ausreichend Ressourcen f\u00fcr die Entwicklung und Verbesserung solcher Methoden bereitzustellen. Damit Erkl\u00e4rungen tats\u00e4chlich bei Verbraucher*innen ankommen, nehmen zudem vermittelnde Organisationen, wie beispielsweise Verbraucherschutzzentralen, eine wichtige Rolle ein (M\u00fcller-Brehm, 2022)<\/a>.<\/p>\n\n\n\n

    Dennoch darf die Verantwortung f\u00fcr einen ethischen Einsatz und Umgang mit KI-Anwendungen nicht an Verbraucher*innen ausgelagert werden. Stattdessen sind weitere Ma\u00dfnahmen zum Schutz von Verbraucher*innen notwendig. Das umfasst beispielsweise, dass in der KI-Verordnung, die aktuell auf europ\u00e4ischer Ebene verhandelt wird, zivilgesellschaftliche Perspektiven und die Interessen von Verbraucher*innen ausreichend ber\u00fccksichtigt werden. Entsprechend sollten alle B\u00fcrger*innen und Verbraucher*innen die M\u00f6glichkeit haben, sich \u00fcber den Einsatz und die Funktionsweise von KI-Anwendungen zu informieren \u2013 sie sind aber nicht in der Pflicht, dies zu tun.<\/p>\n\n\n\n

    Der Blogbeitrag basiert auf dem Thesenpapier <\/em>\u201ePotenziale von erkl\u00e4rbarer KI zur Aufkl\u00e4rung von Verbraucher*innen\u201c.<\/a> Das Thesenpapier ist das Ergebnis der <\/em>Fach-Arbeitsgruppe Verbraucher*innen-Information<\/a> des Zentrums f\u00fcr vertrauensw\u00fcrdige K\u00fcnstliche Intelligenz (ZVKI).<\/em><\/p>\n\n\n\n

    \u00dcber das ZVKI<\/h2>\n\n\n\n

    Als nationale und \u00fcberparteiliche Schnittstelle zwischen Wissenschaft, Wirtschaft, Politik und Zivilgesellschaft informiert das Zentrum f\u00fcr vertrauensw\u00fcrdige K\u00fcnstliche Intelligenz \u00fcber viele verbraucher*innenrelevanten Aspekte, erm\u00f6glicht \u00f6ffentliche Diskussionen und entwickelt Instrumente zur Bewertung und Zertifizierung von vertrauensw\u00fcrdiger KI.<\/p>\n\n\n\n

    Weiterf\u00fchrende Informationen des ZVKI zum Themenkomplex Transparenz von KI-Systemen:<\/p>\n\n\n\n