![\"Schematische](\"https:\/\/lamarr-institute.org\/wp-content\/uploads\/\/1_Rolle_VA_Kommunikation_Mensch_Computer-1-1024x591.jpg\" "\\"\\"")
Informed ML<\/em> bedeutet die Einbeziehung von Vorwissen in den Prozess der Ableitung von Modellen aus Daten. Dabei wird in der Regel davon ausgegangen, dass das Wissen explizit in einer maschinell verarbeitbaren Form vorliegt. VA kann den Wissenserwerb von menschlichen Expert*innen unterst\u00fctzen, einschlie\u00dflich ihres Vorwissens und neuen Wissens, das die Expert*innen durch interaktive visuelle Datenanalyse gewonnen haben. Basierend auf den Paradigmen der interaktiven ML und der informierten ML werden Modelle in enger Interaktion zwischen ML-Algorithmen und Menschen entwickelt, so dass menschliches Wissen und von Menschen definierte Konzepte auf die Algorithmen \u00fcbertragen und bei der Erstellung von Computermodellen verwendet werden. Dieser Prozess wird durch interaktive visuelle Schnittstellen unterst\u00fctzt, die von VA bereitgestellt werden. Das von den menschlichen Expert*innen erworbene Wissen und die Konzepte werden nicht nur in die Modellbildung, sondern auch in die Erstellung von Erkl\u00e4rungen der Modelle f\u00fcr die Benutzer*innen einbezogen. Die hierf\u00fcr noch zu entwickelnden Methoden k\u00f6nnen in Analogie zu Informed ML als \u201eInformed XAI\u201c bezeichnet werden.<\/p>\n\n\n\n Ein ML-Modell, das \u201etransparent by design\u201c ist, oder ein transparentes mimisches Modell, das eine Blackbox erkl\u00e4ren soll, kann aus einer gro\u00dfen Anzahl von Komponenten bestehen, zum Beispiel aus Regeln oder Knoten eines Entscheidungsbaums. W\u00e4hrend jede Komponente f\u00fcr sich genommen von einem Menschen leicht verstanden werden kann, kann das Gesamtkonstrukt die menschlichen F\u00e4higkeiten, es zu verstehen, bei weitem \u00fcbersteigen. Daher muss die Modelllogik dem Menschen auf einer geeigneten Abstraktionsebene pr\u00e4sentiert werden, die ihm einen Gesamt\u00fcberblick erm\u00f6glicht, w\u00e4hrend alle Details bei Bedarf zug\u00e4nglich sein sollten. Unsere Idee der informierten XAI ist, dass eine XAI-Komponente von einem menschlichen Experten lernt, wie Modellkomponenten auf geeigneten Abstraktionsebenen in sinnvolle Informationsgranulate organisiert werden k\u00f6nnen.<\/p>\n\n\n\n Als einen Schritt in Richtung dieses langfristigen Ziels haben wir M\u00f6glichkeiten zur abstrahierten Darstellung von regelbasierten Modellen untersucht. Die Idee besteht darin, Gruppen \u00e4hnlicher Regeln durch allgemeinere Vereinigungsregeln darzustellen. Eine Vereinigungsregel ersetzt nicht nur mehrere urspr\u00fcngliche Regeln, sondern besteht in der Regel auch aus weniger logischen Bedingungen als jede der urspr\u00fcnglichen Regeln. Dadurch wird die resultierende Menge von Vereinigungsregeln, selbst mit zus\u00e4tzlich m\u00f6glichen Ausnahmen, verst\u00e4ndlicher. Auf diese Weise konstruieren wir ein vereinfachtes deskriptives Modell des transparenten, aber praktisch unverst\u00e4ndlichen ML-Modells. Der erreichbare Vereinfachungsgrad wird dabei nicht durch die Forderung nach Beibehaltung der Vorhersageg\u00fcte des urspr\u00fcnglichen Modells eingeschr\u00e4nkt, wie dies bei vielen bekannten Ans\u00e4tzen zum Training kompakterer regelbasierter Modelle der Fall ist. Die Assoziationsregeln des deskriptiven Modells k\u00f6nnen im Detail untersucht werden, indem die Hierarchie der spezifischeren Regeln, die an der Ableitung der Assoziationsregeln beteiligt waren, verfolgt wird.<\/p>\n\n\n\n Die Idee der Verallgemeinerung von Regeln kann durch die visuelle Darstellung einer Regel als rechteckiges Symbol (Glyphe) mit mehreren vertikalen Achsen f\u00fcr die im Modell verwendeten Merkmale veranschaulicht werden. Die vertikalen Balken stellen die Wertebereiche der in der Regel verwendeten Merkmale dar.<\/p>\n\n\n Die folgende Abbildung zeigt, wie eine Gruppe \u00e4hnlicher Regeln (dargestellt durch die Glyphen auf der rechten Seite) zu einer allgemeineren Vereinigungsregel (die Glyphe auf der linken Seite) vereinigt wird. Die cyanfarbenen Balken in den Glyphen stellen die Merkmalswertintervalle der Vereinigungsregel dar.<\/p>\n\n\n In den n\u00e4chsten Schritten wollen wir Ans\u00e4tze entwickeln, um einen menschlichen Experten in den Prozess der Erstellung verst\u00e4ndlicher Beschreibungsmodelle einzubinden. Ein menschlicher Experte kann nicht nur den Prozess der Organisation und Abstraktion von Modellkomponenten \u00fcberwachen, sondern auch die im Modell verwendeten Low-Level-Merkmale in \u00fcbergeordnete Dom\u00e4nenkonzepte einordnen, die f\u00fcr die Benutzer*innen aussagekr\u00e4ftiger sind.<\/p>\n\n\n\nRegelgeneralisierung zur strukturierten Darstellung der Modelllogik<\/h2>\n\n\n\n
![\"Visuelle](\"https:\/\/lamarr-institute.org\/wp-content\/uploads\/2_Merkmalswertintervalle_Vereinigungsregel.jpg\" "\\"\\"")
![\"Gruppe](\"https:\/\/lamarr-institute.org\/wp-content\/uploads\/3_Merkmalswertintervalle_Vereinigungsregel.jpg\" "\\"\\"")
Unsere Ideen werden im folgenden Paper ausf\u00fchrlicher vorgestellt:<\/h2>\n\n\n\n