{"id":22926,"date":"2025-06-11T08:11:53","date_gmt":"2025-06-11T08:11:53","guid":{"rendered":"https:\/\/lamarr-institute.org\/?post_type=blog&p=22926"},"modified":"2025-11-12T14:54:19","modified_gmt":"2025-11-12T14:54:19","slug":"fries-score-vertrauenswuerdige-ki","status":"publish","type":"blog","link":"https:\/\/lamarr-institute.org\/de\/blog\/fries-score-vertrauenswuerdige-ki\/","title":{"rendered":"Der FRIES Trust Score: Wie die Vertrauensw\u00fcrdigkeit von KI quantifiziert werden kann"},"content":{"rendered":"\n

K\u00fcnstliche Intelligenz ist keine abstrakte, immaterielle Vision der Zukunft mehr \u2013 sie ist mittlerweile Teil unseres Alltags und hilft bei medizinischen Diagnosen, Aktienmarktprognosen, l\u00f6st Aufgaben der Computer Vision, schreibt ausgefeilte Textpassagen und generiert faszinierende Bilder. Hierf\u00fcr werden riesige Datenmengen und geeignete Modelle ben\u00f6tigt. Doch nicht alle Datens\u00e4tze und Modelle sind gleichwertig: Was passiert, wenn Entscheidungen auf unsicheren Grundlagen basieren? Was passiert, wenn die Modelle voreingenommen, instabil oder nicht nachvollziehbar sind? Was geschieht, wenn die betreffenden Daten auf unrechtm\u00e4\u00dfige Weise gesammelt wurden? In einer Welt, in der KI-Algorithmen zunehmend in zentrale Bereiche unseres Lebens eindringen, wird ein Begriff immer bedeutender: Vertrauen.<\/strong><\/p>\n\n\n\n


Die Frage, die sich somit stellt, ist: Wie kann die Vertrauensw\u00fcrdigkeit von KI-Modellen so objektiv, ganzheitlich und systematisch wie m\u00f6glich gemessen werden? Auch wenn KI jetzt allgegenw\u00e4rtig zu sein scheint, haben Forschende diese entscheidende Frage noch nicht beantwortet. Ohne eine Antwort auf diese Frage ist jedoch kein Vergleich zwischen unterschiedlichen Modellen und Datens\u00e4tzen m\u00f6glich. Vergleichbarkeit und ein gemeinsames Verst\u00e4ndnis solcher Schl\u00fcsselbegriffe sollten von gr\u00f6\u00dftem Interesse f\u00fcr jede*n KI-Wissenschaftler sein.<\/p>\n\n\n\n


Genau hier kommt der FRIES Trust Score ins Spiel. Der Fokus dieses Scores liegt nicht nur auf einer technischen Metrik, sondern auf einem strukturierten Weg zu mehr Transparenz und Vergleichbarkeit in Modellen und Datens\u00e4tzen. Bevor wir den Score selbst ansprechen k\u00f6nnen, m\u00fcssen wir einige Schl\u00fcsselbegriffe diskutieren.<\/p>\n\n\n\n

Was bedeutet „Vertrauen“ im Kontext K\u00fcnstlicher Intelligenz?<\/h2>\n\n\n\n

Vertrauen ist ein Begriff, der oft in der Alltagssprache verwendet wird \u2013 aber in der (KI)-Forschung muss er pr\u00e4zise definiert werden, um eine gemeinsame Grundlage des Verst\u00e4ndnisses zu schaffen. Da bisher keine formale Definition festgelegt wurde, leiten aus relevanter Literatur ab, dass vertrauensw\u00fcrdige KI-Modelle und -Datens\u00e4tze eine Vielzahl ethischer, technischer und sozialer Anforderungen erf\u00fcllen m\u00fcssen und schlagen anschlie\u00dfend eine eigene Definition vor.<\/p>\n\n\n\n

Die f\u00fcnf S\u00e4ulen des Vertrauens<\/h3>\n\n\n\n
    \n
  1. Fairness<\/strong>: Modelle und Datens\u00e4tze d\u00fcrfen einzelne Gruppen nicht systematisch benachteiligen. Voreingenommene Trainingsdaten oder diskriminierende Entscheidungslogik gef\u00e4hrden die Fairness.<\/li>\n\n\n\n
  2. Robustheit<\/strong>: Modelle und Datens\u00e4tze m\u00fcssen auch unter widrigen Bedingungen wie rauschenden Eingabedaten oder gezielten Manipulationsversuchen (z.B. adversarial attacks) zuverl\u00e4ssig funktionieren.<\/li>\n\n\n\n
  3. Integrit\u00e4t<\/strong>: Modelle und Datens\u00e4tze d\u00fcrfen nicht unwissentlich manipuliert werden k\u00f6nnen. \u00c4nderungen m\u00fcssen nachverfolgbar und \u00fcberpr\u00fcfbar sein.<\/li>\n\n\n\n
  4. Erkl\u00e4rbarkeit<\/strong>: Modelle m\u00fcssen Entscheidungen f\u00fcr Entwickler*innen, Anwender*innen und Regulierungsbeh\u00f6rden so transparent wie m\u00f6glich machen. Ein vollst\u00e4ndiger Einblick in die zur Ausbildung eines Modells verwendeten Daten ist ebenso wichtig.<\/li>\n\n\n\n
  5. Sicherheit<\/strong>: Der Schutz sensibler Daten sowie der Zugang zu Modellen muss gew\u00e4hrleistet sein. Datenverletzungen sind um jeden Preis zu vermeiden.<\/li>\n<\/ol>\n\n\n\n

    Diese f\u00fcnf Aspekte bilden das Fundament der Konzeptualisierung von Vertrauensw\u00fcrdigkeit und dienen als Bewertungsdimensionen f\u00fcr den FRIES Trust Score. Vor diesem Hintergrund definieren wir den Begriff „Vertrauen“ im Kontext des Maschinellen Lernens wie folgt:<\/p>\n\n\n\n


    Das Konzept von Vertrauen im Maschinellen Lernen umfasst den fairen Umgang mit Daten, robuste Leistungen beim Umgang mit anomalen Daten sowie die Gew\u00e4hrleistung von Daten- und Modellintegrit\u00e4t; dazu geh\u00f6rt auch die Bereitstellung erkl\u00e4rbarer Entscheidungen sowie die sichere Nutzung vertraulicher Informationen.<\/em><\/p>\n\n\n\n

    Jetzt da diese f\u00fcnf S\u00e4ulen des Vertrauens sowie deren Definition erl\u00e4utert wurden, k\u00f6nnen wir den FRIES Trust Score selbst besprechen.<\/p>\n\n\n\n

    Von der Qualit\u00e4tssicherung zur Vertrauensbewertung<\/h2>\n\n\n\n

    Die Konzepte Qualit\u00e4t und Vertrauensw\u00fcrdigkeit haben viel gemeinsam. In beiden F\u00e4llen verl\u00e4sst sich eine Person konzeptionell auf z.B. ein Produkt, einen Dienst oder eine Vorhersage. Wenn man beispielsweise an die Qualit\u00e4t eines Produkts glaubt, wird es bevorzugt genutzt; es wird kein Gedanke an potenzielle Ausf\u00e4lle oder M\u00e4ngel verschwendet (z.B. bei dem Einsatz eines Autos eines Herstellers, der als zuverl\u00e4ssig gilt). Dieses Gef\u00fchl \u2013 man k\u00f6nnte es als Gef\u00fchl des Vertrauens bezeichnen \u2013 kann h\u00f6chst subjektiv sein; Methoden zur Qualit\u00e4tssicherung existieren jedoch selbstverst\u00e4ndlich bereits. Solche Methoden umfassen Six Sigma<\/a> oder Fehlerm\u00f6glichkeits- und Einflussanalyse<\/a> (FMEA). Angesichts der Gemeinsamkeiten zwischen Qualit\u00e4t und Vertrauensw\u00fcrdigkeit scheint es logisch zu sein, dass Methoden zur Qualit\u00e4tssicherung als Konsequenz aus dem Fehlen von Methoden zur Vertrauensbewertung eingesetzt werden.<\/p>\n\n\n\n


    Da sich FMEA (Fehlerm\u00f6glichkeits- und Einflussanalyse) als bew\u00e4hrte Methode zur Risikoidentifikation- und Bewertung im Ingenieurwesen etabliert hat \u2013 insbesondere im Qualit\u00e4tsmanagement \u2013, macht es Sinn, diesen Ansatz an den Kontext Vertrauensw\u00fcrdigkeit anzupassen. Unsicherheiten sowie Fehlerquellen m\u00fcssen ebenfalls in diesem Kontext bewertet werden. Dabei sind jedoch Anpassungen erforderlich.<\/p>\n\n\n\n


    Die klassische FMEA bewertet Qualit\u00e4tsrisiken anhand dreier Faktoren auf einer Skala von 1 bis 10:<\/p>\n\n\n\n