Erklärbarkeit | LAMARR

Erklärbarkeitsmethoden für Punktwolken II

14. Juni 2023

Hanxiao

Tan

Wir sehen uns zwei verschiedene Ansätze zur Interpretierbarkeit von Punktwolken an, die die Eigenschaften des Modells aus globaler bzw. modellinterner Sicht erläutern. Alle Toolkits sind jetzt auf GitHub verfügbar.

Punktewolke in einer Flugzeugkonstellation|Quantitative evaluation of existing explainability methods for point clouds

Eine Erklärbarkeitsmethode für Punktwolken

4. Mai 2022

Hanxiao

Tan

Ein modellbasierter Erklärbarkeitsansatz für Punktwolken-Klassifikatoren wird zusammen mit zwei verschiedenen Bewertungsmaßstäben (lokale Treue und Plausibilität), die die Plausibilität des Ansatzes validieren, vorgeschlagen. Das Toolkit ist jetzt online verfügbar.

Das war ich nicht! – Wer ist verantwortlich für KI-gestützte Entscheidungen?

8. Dezember 2021

Eva

Schmidt

Der Einsatz künstlicher intelligenter Systeme erschwert es uns, Personen für Fehlentscheidungen verantwortlich zu machen. Die Einbindung menschlicher Akteure und erklärbarer KI-Systeme ermöglicht eine Verantwortungszuschreibung bei KI-gestützten Entscheidungsprozessen.

|Erklärbares Maschinelles Lernen|Erklärbares Maschinelles Lernen Teil 1||||Schematische Darstellung des maschinellen Lernprozesses|Erklärbarkeit eines Modells durch Vorwissen verbessern|Erklärbarkeitsmethoden verbessern durch Vorwissen|Erklärbarkeitsmethode hilft

Erklärbares Maschinelles Lernen durch zusätzliches Wissen verbessern

21. Juli 2021

Sebastian

Müller

Nachvollziehbarkeit algorithmischer Entscheidungen ist längst auch über die Forschung hinaus relevant. Wir analysieren, wie Erklärbarkeitsmethoden und externes Wissen zusammenwirken können, um Maschinelles Lernen an gesellschaftliche Anforderungen anzupassen und zu verbessern.

DEDICOM Matrix-Faktorisierung|Matrix-Fakotrisierung|Absteigend sortierte Wortvektoren per Dimension|Matrix-Faktorisierung DEDICOM|word2vec Wort-Embeddings|Absteigend sortierte Wortvektoren per Dimension

Interpretierbare Wort-Repräsentationen und Themenanalyse mittels Matrix-Faktorisierung

14. April 2021

Lars Patrick

Hillebrand

David

Biesner

Word-Embeddings bilden den Grundbaustein für die algorithmische Analyse und Verarbeitung von Texten, wie Textklassifizierung, Übersetzung und Textgenerierung. Interpretierbare Vektorrepräsentation von Wörtern kodieren semantische Zusammenhänge verständlich und ermöglichen Analyse von wort-übergreifenden Themen.

KI-Absicherung Blogbeitrag|KI-Absicherung im autonomen Fahren

Der Weg zur abgesicherten KI: Ein Überblick über praktische Methoden

24. März 2021

Michael

Mock

Sebastian

Houben

Sicherheitskritische Systeme, wie beispielsweise selbstfahrende Autos, stellen neue, hohe Anforderungen an KI-Modelle. Vielerorts wird hierzu an Lösungsansätzen geforscht, ein umfassender Überblick wurde jetzt durch ein Übersichtspapier des Konsortiums „KI-Absicherung“ geschaffen.

Erklärbarkeit der Künstlichen Intelligenz

Warum KI erklärbar sein muss

13. Januar 2021

Matthias

Jakobs

Viele Entscheidungen können heutzutage effizient, genau und automatisiert mittels maschineller Lernverfahren getroffen werden. Ebenso wichtig ist allerdings, dass transparent dargestellt und erklärt wird, warum und wie diese Entscheidungen zustande kommen.