{"id":4835,"date":"2023-06-14T05:00:45","date_gmt":"2023-06-14T05:00:45","guid":{"rendered":"https:\/\/lamarr-institute.org\/blog\/erklaerbarkeitsmethoden-fuer-punktwolken-2\/"},"modified":"2025-11-12T14:54:22","modified_gmt":"2025-11-12T14:54:22","slug":"erklaerbarkeitsmethoden-fuer-punktwolken-2","status":"publish","type":"blog","link":"https:\/\/lamarr-institute.org\/de\/blog\/erklaerbarkeitsmethoden-fuer-punktwolken-2\/","title":{"rendered":"Erkl\u00e4rbarkeitsmethoden f\u00fcr Punktwolken II"},"content":{"rendered":"\n

Als das am weitesten verbreitete 3D-Datenformat hat sich die Erkennung von Punktwolken zu einem Bereich entwickelt, der zunehmend im Fokus der Forschung ist. Da Deep-Learning-Modelle ihre Leistung immer weiter verbessern, wirft die zunehmende Komplexit\u00e4t der Modellarchitekturen jedoch Bedenken hinsichtlich ihrer Vertrauensw\u00fcrdigkeit auf, insbesondere bei Daten wie Punktwolken, die h\u00e4ufig in sicherheitskritischen Anwendungen wie dem autonomen Fahren eingesetzt werden. Um dieser Herausforderung zu begegnen, wurde in einem fr\u00fcheren Blogbeitrag<\/a> eine Erkl\u00e4rbarkeitsmethode vorgestellt, die auf einem Ersatzmodell f\u00fcr Punktwolken basiert. In diesem Artikel werden wir nun weitere Forschungsarbeiten zur Erkl\u00e4rbarkeit von Punktwolken vorschlagen.<\/p>\n\n\n\n

Die Erkl\u00e4rbarkeit von Punktwolken<\/h2>\n\n\n\n

Das Hauptziel der Erkl\u00e4rbarkeitsforschung besteht darin, die Entscheidungen von Modellen des Maschinellen Lernens f\u00fcr den Menschen transparenter und interpretierbar zu machen. Unterschiedliche Erkl\u00e4rbarkeitsmethoden entsprechen verschiedenen Wegen, dieses Ziel zu erreichen. Eine dieser Methoden ist die LIME-Methode<\/a> f\u00fcr Punktwolken. Bei diesem Ansatz handelt es sich um eine attributionsbasierte lokale Erkl\u00e4rungsmethode, die die Frage beantwortet, welcher Teil der Instanz f\u00fcr eine bestimmte Entscheidung von Bedeutung ist. Das Verst\u00e4ndnis der Vorhersageprinzipien von tiefen neuronalen Netzen aus einer einzigen Perspektive kann jedoch eine Herausforderung darstellen. Bei attributionsbasierten Erkl\u00e4rungen fehlt die Grundwahrheit, was es schwierig macht, ihre Korrektheit zu beurteilen. Au\u00dferdem k\u00f6nnen lokale Erkl\u00e4rungen keinen Einblick in das Verhalten des Modells auf dem gesamten Datensatz geben. Um diese Einschr\u00e4nkungen zu \u00fcberwinden, werden zwei Methoden vorgeschlagen, die die Entscheidungsgrundlage von Punktwolkenmodellen aus verschiedenen Blickwinkeln offenlegen: eine auf Aktivierungsmaximierung basierende globale Erkl\u00e4rungsmethode und ein auf fraktalen Fenstern basierender Non-Deep-Learning-Ansatz.<\/p>\n\n\n\n

Globale Repr\u00e4sentativit\u00e4t<\/h2>\n\n\n\n

Eine faszinierende Frage beim Deep Learning ist, was ein Modell als ideale Eingabe betrachtet. In einer fr\u00fcheren Studie wurde ein instanzbasierter Ansatz zur Visualisierung der globalen Repr\u00e4sentation vorgeschlagen, die sogenannte Aktivierungsmaximierung (AM). Die Grundidee besteht darin, eine Gradientenanstiegsoptimierung an bestimmten Neuronen in der obersten Schicht des Modells, den so genannten Logits, durchzuf\u00fchren \u2013 mit dem Ziel, eine Eingabe mit dem h\u00f6chsten Vertrauen zu erzeugen, die als die global repr\u00e4sentativste Instanz angesehen wird. Diese Technologie wurde bereits ausgiebig auf Bilder angewandt, wodurch klare Umrisse von Objekten erzeugt werden konnten.<\/p>\n\n\n\n

Die Visualisierung der globalen Repr\u00e4sentationen von Punktwolkenmodellen mit AM stellt jedoch aufgrund der komplexen Datenstruktur eine weitere Herausforderung dar. Um eine punktwolkenspezifische globale, instanzbasierte Erkl\u00e4rung zu erstellen, konzentrieren wir uns auf drei Hauptaspekte:<\/p>\n\n\n\n

    \n
  1. Das Ausma\u00df, in dem die Erkl\u00e4rung global repr\u00e4sentativ ist. Dies h\u00e4ngt vom Aktivierungsgrad der ausgew\u00e4hlten Neuronen ab. Ein h\u00f6herer Vertrauenswert deutet auf eine global repr\u00e4sentative Eingabe hin.<\/li>\n\n\n\n
  2. Die Wahrnehmbarkeit der Erkl\u00e4rungen f\u00fcr den Menschen ist entscheidend. Im Allgemeinen gilt: Je n\u00e4her die Erkl\u00e4rung an einem bestehenden Objekt liegt, desto leichter ist sie auch wahrnehmbar. Wir bewerten diese Metrik quantitativ, indem wir die \u00c4hnlichkeit mit Mustern der gleichen Kategorie aus dem Datensatz vergleichen.<\/li>\n\n\n\n
  3. Die Vielfalt der Erkl\u00e4rungen ist ebenfalls wichtig, da sie ein intuitiveres Verst\u00e4ndnis der internen Mechanismen des Modells erm\u00f6glicht. Eine gr\u00f6\u00dfere Anzahl von sich nicht wiederholenden Erkl\u00e4rungen tr\u00e4gt zu einem besseren Verst\u00e4ndnis des Entscheidungsprozesses des Modells bei.<\/li>\n<\/ol>\n\n\n\n
    \"\u00dcberblick
    \u00dcberblick \u00fcber die Architektur f\u00fcr Punktwolken-AM. Das Bild ist aus diesem Paper entnommen: https:\/\/openaccess.thecvf.com\/content\/WACV2023\/papers\/Tan_Visualizing_Global_Explanations_of_Point_Cloud_DNNs_WACV_2023_paper.pdf.<\/figcaption><\/figure>\n\n\n\n

    Um die Herausforderungen bei der Anwendung der Aktivierungsmaximierung auf Punktwolkenmodelle zu bew\u00e4ltigen, filtern wir zun\u00e4chst die Teilmenge der Daten heraus, die von Menschen leicht erkannt werden kann. Von dort aus suchen wir nach Stichproben, die f\u00fcr die gesamte Datenverteilung sehr repr\u00e4sentativ sind. Unser Ansatz zur globalen Erkl\u00e4rung umfasst ein generatives Modell und einen Punktwolkenklassifikator (mehr zur Klassifikation im Maschinellen Lernen lesen Sie in diesem Blogbeitrag<\/a>).<\/p>\n\n\n\n

      \n
    1. ein Diskriminator zur Unterscheidung der generierten Proben von den echten Proben <\/li>\n\n\n\n
    2. zwei latente Abstandsverluste zur Kontrolle der Qualit\u00e4t der generierten Proben in latenten R\u00e4umen<\/li>\n\n\n\n
    3. Gau\u00dfsches Rauschen, das dem Kodierer w\u00e4hrend des Trainings hinzugef\u00fcgt wird, um die Stabilit\u00e4t der Generationen zu verbessern.   <\/span><\/li>\n<\/ol>\n\n\n\n

      <\/p>\n\n\n\n

      Das obige Modul wird vor den zu erkl\u00e4renden Klassifikator geschaltet und ein bestimmtes Neuron (normalerweise die Logits, die eine bestimmte Klasse anzeigen) wird aus diesem ausgew\u00e4hlt. Dann wird ein zuf\u00e4lliger Anfangsvektor in den Generator eingespeist, um globale Erkl\u00e4rungsmuster zu erzeugen, die sowohl wahrnehmbar als auch repr\u00e4sentativ sind, indem die Verlustfunktion minimiert wird, die die Differenz zwischen dem Generationsverlust und dem Zielaktivierungswert darstellt. Au\u00dferdem f\u00fcgen wir w\u00e4hrend der Optimierung zuf\u00e4lliges Rauschen hinzu, um die Diversit\u00e4t zu f\u00f6rdern und zu vermeiden, dass das gleiche Ergebnis wiederholt erzeugt wird. <\/p>\n\n\n\n

      \"Demonstration
      Demonstration der globalen Erkl\u00e4rungen. Die ersten sieben Spalten zeigen die Leistungen der Bild-AM-Ans\u00e4tze f\u00fcr die Punktwolken und die letzten drei Spalten zeigen die durch den vorgeschlagenen Rahmen generierten Erkl\u00e4rungen. Das Bild stammt aus diesem Artikel: https:\/\/openaccess.thecvf.com\/content\/WACV2023\/papers\/Tan_Visualizing_Global_Explanations_of_Point_Cloud_DNNs_WACV_2023_paper.pdf<\/figcaption><\/figure>\n\n\n\n

      Aufgrund der strukturellen Besonderheiten k\u00f6nnen herk\u00f6mmliche AM-Techniken, die auf Bilder angewendet werden, keine sinnvollen Erkl\u00e4rungen f\u00fcr Punktwolken liefern. Die vorgeschlagene Methode erzeugt jedoch sehr gut wahrnehmbare und repr\u00e4sentative 3D-Strukturen f\u00fcr bestimmte Klassen. Um den Vergleich zu erleichtern, schlagen wir eine quantitative Bewertungsmetrik vor, die alle drei wesentlichen Elemente umfasst: Repr\u00e4sentativit\u00e4t, Wahrnehmbarkeit und Vielfalt.<\/p>\n\n\n\n

      \"Quantitative
      Quantitative Bewertung von globalen Erkl\u00e4rungen f\u00fcr Punktwolken. Detaillierte Bewertungsmetriken und weitere quantitative Ergebnisse finden Sie in diesem Paper: https:\/\/openaccess.thecvf.com\/content\/WACV2023\/papers\/Tan_Visualizing_Global_Explanations_of_Point_Cloud_DNNs_WACV_2023_paper.pdf<\/figcaption><\/figure>\n\n\n\n

      Inh\u00e4rente Interpretierbarkeit<\/h2>\n\n\n\n

      Eine Alternative zu Post-hoc-Erkl\u00e4rungsmethoden (\u201e<\/span>nachtr\u00e4gliche Erkl\u00e4rungsmethoden\u201d) besteht darin, die Transparenz des Modells selbst zu erh\u00f6hen. Dieser Ansatz kann die Rechenkosten senken und potenzielle Verzerrungen vermeiden, die durch Erkl\u00e4rungsmethoden hinzukommen k\u00f6nnen. Allerdings sind erkl\u00e4rbare Modelle im Vergleich zu Black-Box-Modellen oft weniger leistungsf\u00e4hig. Die meisten Punktwolkenmodelle basieren auf tiefen neuronalen Netzen, da diese in der Lage sind, komplexe r\u00e4umliche Merkmale zu lernen. Dennoch haben Forscher*innen darauf hingewiesen, dass es m\u00f6glich ist, eine \u00e4hnliche Leistung mit einem interpretierbaren Modell zu erzielen, das effektive Merkmale extrahieren kann<\/a>. <\/p>\n\n\n\n

      \"Ein
      Ein Beispiel f\u00fcr ein fraktales Fenster, wobei n und p die Gesamtzahl der nicht leeren Fenster und den Durchschnitt der Punkte in allen Fenstern bezeichnen. Das Bild entstammt dieser Arbeit: https:\/\/openaccess.thecvf.com\/content\/WACV2023\/papers\/Tan_Fractual_Projection_Forest_Fast_and_Explainable_Point_Cloud_Classifier_WACV_2023_paper.pdf<\/figcaption><\/figure>\n\n\n\n

      Wir stellen nun eine Technik zur Merkmalsextraktion f\u00fcr Punktwolken vor, die „fraktale Fenster“ genannt wird. Bei dieser Methode werden Punkte mit unterschiedlichen Fenstergr\u00f6\u00dfen abgetastet, um eine Folge von Fenstern zu erzeugen. Anschlie\u00dfend werden statistische Merkmale aus jedem Fenster extrahiert, um tabellarische Merkmale zu erhalten. Die statistischen Merkmale k\u00f6nnen mit jedem beliebigen benutzerdefinierten Merkmalsvektor verkettet werden \u2013 einschlie\u00dflich, aber nicht beschr\u00e4nkt auf Menge, Durchschnittswert, Varianz usw. Durch diesen Ansatz wird die komplizierte r\u00e4umliche Struktur von Punktwolken in tabellarische Daten umgewandelt, die sich besser f\u00fcr interpretierbare Modelle eignen.<\/p>\n\n\n\n

      Der Klassifizierungsprozess kann in vier Hauptschritte unterteilt werden. Zun\u00e4chst werden die Eingabedaten vergr\u00f6\u00dfert (z. B. gedreht) und auf ein- und zweidimensionale R\u00e4ume entlang der X-, Y- und Z-Achse projiziert. Dann werden fraktale Fenster erzeugt, aus denen manuell statistische Merkmale extrahiert werden. In einem n\u00e4chsten Schritt werden die Verteilungen der ein- und zweidimensionalen fraktalen Fenster mit Hilfe der Gau\u00dfschen Anpassung berechnet. Schlie\u00dflich werden alle fraktalen Merkmale miteinander verkn\u00fcpft und in einen Zufallsforst eingegeben, um Vorhersagen zu erhalten.<\/p>\n\n\n\n

      \"\u00dcberblick:
      \u00dcberblick: Die Struktur des fraktalen fensterbasierten Klassifikators. Das Bild stammt aus diesem Artikel: https:\/\/openaccess.thecvf.com\/content\/WACV2023\/papers\/Tan_Fractual_Projection_Forest_Fast_and_Explainable_Point_Cloud_Classifier_WACV_2023_paper.pdf<\/figcaption><\/figure>\n\n\n\n

      Unser Non-Deep-Learning-Ansatz zeigt eine vergleichbare Leistung wie Deep-Learning-Modelle, bietet aber den Vorteil, dass er auf der CPU mit akzeptablen Verarbeitungszeiten trainiert und ausgef\u00fchrt werden kann. Dies reduziert die Rechenkosten im Vergleich zu Deep-Learning-Methoden.<\/p>\n\n\n\n

      \"Vergleiche
      Vergleiche der Leistung zwischen dem vorgeschlagenen Ansatz und bestehenden neuronalen Netzen sowie anderen Modellen ohne Deep Learning. Weitere Ergebnisse und Vergleiche finden Sie in diesem Paper: https:\/\/openaccess.thecvf.com\/content\/WACV2023\/papers\/Tan_Fractual_Projection_Forest_Fast_and_Explainable_Point_Cloud_Classifier_WACV_2023_paper.pdf<\/figcaption><\/figure>\n\n\n\n

      Random Forests (\u201eZufallsw\u00e4lder\u201d) bieten im Vergleich zu neuronalen Black-Box-Netzen eine bessere Transparenz, auch wenn sie immer noch keine vollst\u00e4ndig verst\u00e4ndlichen Modelle sind. Intrinsische Interpretationen k\u00f6nnen mit Hilfe der Gini-Verunreinigung generiert werden, was zus\u00e4tzliche Post-hoc-Berechnungen \u00fcberfl\u00fcssig macht. Post-hoc-Erkl\u00e4rungen k\u00f6nnen ebenfalls verwendet werden, da das Modell aufgrund der deutlich h\u00f6heren Trainingsgeschwindigkeit leicht mehrfach neu trainiert werden kann, was das durch St\u00f6rungen verursachte Out-of-Distribution-Problem entsch\u00e4rft (siehe ROAR<\/a>).<\/p>\n\n\n\n

      \"Die
      Die intrinsische Erkl\u00e4rung basiert auf der Gini-Unreinheit. Weitere Erkl\u00e4rungen und Analysen finden Sie in diesem Paper: https:\/\/openaccess.thecvf.com\/content\/WACV2023\/papers\/Tan_Fractual_Projection_Forest_Fast_and_Explainable_Point_Cloud_Classifier_WACV_2023_paper.pdf<\/figcaption><\/figure>\n\n\n\n

      Schlie\u00dflich ist der vorgeschlagene Klassifizierungsansatz in hohem Ma\u00dfe anpassbar, da jedes statistische Merkmal verkettet werden kann. In Zukunft wollen wir Methoden zur Merkmalsverarbeitung erforschen, die tiefe neuronale Netze potenziell \u00fcbertreffen k\u00f6nnten.<\/p>\n\n\n\n

      Toolkit – Erl\u00e4uterung von Punktwolkenmodellen<\/h2>\n\n\n\n

      Sie fanden diese Informationen n\u00fctzlich und m\u00f6chten sie selbst ausprobieren? Bitte sehr: Der Code ist auf GitHub verf\u00fcgbar: https:\/\/github.com\/Explain3D\/PointCloudAM<\/a> und https:\/\/github.com\/Explain3D\/FracProjForest<\/a>. Eine Anleitung zum Aufbau der Arbeitsumgebung finden Sie im Repository. Weitere Informationen zu den vorgeschlagenen Ans\u00e4tzen und Experimenten finden Sie in der entsprechenden Ver\u00f6ffentlichung.<\/p>\n\n\n\n

        \n
      1. Visualizing Global Explanations of Point Cloud DNNs<\/strong>
        Tan, Hanxiao. Proceedings of the IEEE\/CVF Winter Conference on Applications of Computer Vision. 2023. Pdf<\/a><\/li>\n\n\n\n
      2. Fractual Projection Forest: Fast and Explainable Point Cloud Classifier<\/strong>
        Tan, Hanxiao. Proceedings of the IEEE\/CVF Winter Conference on Applications of Computer Vision. 2023. Pdf<\/a><\/li>\n<\/ol>\n","protected":false},"excerpt":{"rendered":"

        Wir sehen uns zwei verschiedene Ans\u00e4tze zur Interpretierbarkeit von Punktwolken an, die die Eigenschaften des Modells aus globaler bzw. modellinterner Sicht erl\u00e4utern. Alle Toolkits sind jetzt auf GitHub verf\u00fcgbar.<\/p>\n","protected":false},"author":16,"featured_media":3782,"template":"","meta":{"_acf_changed":false,"footnotes":""},"blog-category":[1416,396],"blog-tag":[1480,1484,1612],"class_list":["post-4835","blog","type-blog","status-publish","has-post-thumbnail","hentry","blog-category-alle-blogbeitraege","blog-category-forschung","blog-tag-deep-learning-de","blog-tag-erklaerbare-ki-xai","blog-tag-tiefe-neuronale-netze"],"acf":[],"publishpress_future_workflow_manual_trigger":{"enabledWorkflows":[]},"_links":{"self":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/blog\/4835","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/blog"}],"about":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/types\/blog"}],"author":[{"embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/users\/16"}],"version-history":[{"count":0,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/blog\/4835\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/media\/3782"}],"wp:attachment":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/media?parent=4835"}],"wp:term":[{"taxonomy":"blog-category","embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/blog-category?post=4835"},{"taxonomy":"blog-tag","embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/blog-tag?post=4835"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}