{"id":4769,"date":"2023-03-22T05:05:43","date_gmt":"2023-03-22T05:05:43","guid":{"rendered":"https:\/\/lamarr-institute.org\/blog\/shapley-werte\/"},"modified":"2025-11-12T14:54:22","modified_gmt":"2025-11-12T14:54:22","slug":"shapley-werte","status":"publish","type":"blog","link":"https:\/\/lamarr-institute.org\/de\/blog\/shapley-werte\/","title":{"rendered":"Erkl\u00e4rbarkeit von Gattern in Quantenschaltkreisen mit Shapley-Werten"},"content":{"rendered":"\n<p>Erkl\u00e4rbare KI (englisch: Explainable AI, kurz XAI) ist zu einem wichtigen Aspekt bei der Entwicklung und dem Einsatz von Systemen der K\u00fcnstlichen Intelligenz geworden. Da KI in unserem t\u00e4glichen Leben eine immer gr\u00f6\u00dfere Rolle spielt, ist es zunehmend wichtig zu verstehen, wie diese Systeme Entscheidungen treffen und welche Faktoren ihre Ergebnisse beeinflussen. Dies wird mit dem Aufkommen neuer Technologien wie Quantum Machine Learning (QML) noch dringlicher. Die XAI-Forschung geht auf diesen Bedarf ein, indem sie KI-Systeme entwickelt, die deren Funktionsweise erkl\u00e4ren und Einblicke in die von ihnen getroffenen Entscheidungen geben k\u00f6nnen, oder indem sie f\u00fcr bestehende Systeme versucht, ihr Verhalten im Nachhinein zu erkl\u00e4ren (Post-hoc-Erkl\u00e4rung). Dies tr\u00e4gt nicht nur dazu bei, Vertrauen in die Technologie aufzubauen, sondern erm\u00f6glicht es uns auch, potenzielle Verzerrungen zu erkennen und Anpassungen vorzunehmen, um die Genauigkeit und Fairness von KI-Systemen zu verbessern. Dar\u00fcber hinaus ist die F\u00e4higkeit, KI-Entscheidungen zu verstehen und zu interpretieren, von entscheidender Bedeutung. Denn nur so k\u00f6nnen wir sicherstellen, dass diese Systeme mit ethischen und rechtlichen Standards in Einklang stehen. Indem wir XAI einen hohen Stellenwert einr\u00e4umen, k\u00f6nnen wir gew\u00e4hrleisten, dass sich KI auf eine verantwortungsvolle und transparente Weise entwickelt, die der Gesellschaft als Ganzes zugutekommt.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Shapley-Werte in XAI<\/h2>\n\n\n\n<p>Eine Methode aus dem Forschungsfeld der XAI sind die Shapley-Werte: Sie wurden von Lloyd Shapley in den 1950er Jahren entwickelt und sind ein mathematisches Konzept aus der kooperativen Spieltheorie. Im Kontext der Spieltheorie bieten Shapley-Werte eine M\u00f6glichkeit, den Gesamtwert eines kooperativen Spiels auf faire und ausgewogene Weise auf die Spieler zu verteilen. Die Idee besteht darin, jedem Spieler einen Anteil am Gesamtwert zuzuweisen, der proportional zu seinem Beitrag zum Spiel ist.<\/p>\n\n\n\n<p>In den letzten Jahren wurden Shapley-Werte im Bereich des Maschinellen Lernens und der K\u00fcnstlichen Intelligenz eingesetzt. Hier werden sie unter anderem verwendet, um die Wichtigkeit einzelner Merkmale (Feature) eines Datenpunktes zur resultierenden Vorhersage eines Modells in Zahlen auszudr\u00fccken. Dies ist vor allem f\u00fcr komplexe Modelle, wie zum Beispiel tiefe neuronale Netze, von Bedeutung, die schwer zu interpretieren sind. Nehmen wir an, wir haben die M\u00f6glichkeit, die Qualit\u00e4t der Ergebnisse eines KI-Systems zu messen, zum Beispiel in Form einer Punktzahl. Dabei kann es sich um die Vorhersagegenauigkeit, die Ausf\u00fchrungszeit, den Energieverbrauch oder eine beliebige andere Gr\u00f6\u00dfe handeln, f\u00fcr die wir uns interessieren. Nehmen wir nun an, dass unser System als eine Anordnung von N Teilen (oder Akteuren) beschrieben werden kann, die wir einfach von 1 bis N aufz\u00e4hlen. Diese Teile k\u00f6nnten Neuronen in einem k\u00fcnstlichen neuronalen Netz, Merkmale im Eingabedatensatz oder einzelne Modelle in einem Ensemble sein. Eine Funktion, die jeder Kombination von Teilen eine Punktzahl zuweist, wird als Wertfunktion bezeichnet. Durch die Berechnung der Shapley-Werte l\u00e4sst sich der durchschnittliche Beitrag der einzelnen Teile zum Gesamtwert ermitteln. Auf diese Weise k\u00f6nnen wir ihre Bedeutung innerhalb des Gesamtsystems bewerten. Mit diesem Wissen werden Modelle transparenter, da wir die Teile identifizieren k\u00f6nnen, die f\u00fcr die Entscheidung des Modells verantwortlich sind.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Anwendung von Shapley-Werten auf das Quantencomputing<\/h2>\n\n\n\n<p>Bisher war es eine weitgehend offene Frage, wie sich Shapley-Werte verhalten, wenn die Wertfunktion nicht deterministisch ist. Mit anderen Worten, sind Shapley-Werte immer noch zuverl\u00e4ssig, wenn sich die Eigenschaften des ML-Systems im Laufe der Zeit \u00e4ndern, nur gesch\u00e4tzt werden k\u00f6nnen oder einer anderen Art von Ungewissheit unterliegen? In ihrer j\u00fcngsten Arbeit haben sich Wissenschaftler*innen der XAI-Gruppe des Lamarr-Instituts mit der Quantencomputing-Gruppe und Forscher*innen des <a href=\"https:\/\/www.itwm.fraunhofer.de\/\" target=\"_blank\" rel=\"noopener\">Fraunhofer ITWM<\/a> zusammengetan, um einen theoretischen Rahmen zu entwickeln, der die Bewertung von Shapley-Werten mit solchen unsicheren Wertfunktionen erm\u00f6glicht. Dazu modellieren sie die Wertfunktion als Zufallsvariable und analysieren die Auswirkungen auf die Verteilung der Shapley-Werte.<\/p>\n\n\n\n<figure class=\"wp-block-image size-full\"><img loading=\"lazy\" decoding=\"async\" width=\"285\" height=\"169\" src=\"https:\/\/lamarr-institute.org\/wp-content\/uploads\/fig_shapleys_EN.jpg\" alt=\"- Lamarr Institute for Machine Learning (ML) and Artificial Intelligence (AI)\" class=\"wp-image-13398\" title=\"\"><figcaption class=\"wp-element-caption\">\u00a9 Sascha M\u00fccke &amp; Lamarr-Institut <br>Beim klassischen Maschinellen Lernen werden Shapley-Werte meist zur Erkl\u00e4rung von Merkmalen der Eingabedaten verwendet. In ihrer j\u00fcngsten Arbeit wenden Forschende des Lamarr-Instituts und des Fraunhofer ITWM das Konzept an, um Gatter in einer Quantenschaltung zu erkl\u00e4ren. Zu diesem Zweck nehmen die Gatter die Position von \u201eSpielern\u201c in einem Koalitionsspiel ein, das f\u00fcr alle m\u00f6glichen Kombinationen von Spielern ausgewertet wird, um den Beitrag jedes einzelnen Spielers zu bestimmen.<\/figcaption><\/figure>\n\n\n\n<p>In einer Folgearbeit nutzten die Forscher*innen ihre theoretischen Erkenntnisse, um Shapley-Werte auf Quantencomputing anzuwenden. Ein Quantenschaltkreis ist das bekannteste Rechenmodell, das zur Durchf\u00fchrung von Quantenberechnungen verwendet wird. Es handelt sich um eine Reihe von Quantengattern, die den Quantenzustand eines Systems von Quantenbits (oder Qubits) manipulieren, um eine bestimmte Berechnung durchzuf\u00fchren. Quantenschaltkreise k\u00f6nnen zur Durchf\u00fchrung einer Vielzahl von Algorithmen verwendet werden, darunter Quantensimulationen, Quantenoptimierung und Maschinelles Lernen mit Quanten (<em>Quantum Machine Learning<\/em>, QML). Quantencomputer k\u00f6nnen \u2013 zumindest theoretisch \u2013 bestimmte Probleme effizient l\u00f6sen, die f\u00fcr klassische Computer als unl\u00f6sbar gelten, wie zum Beispiel das Faktorisieren gro\u00dfer Zahlen und die L\u00f6sung bestimmter Suchprobleme.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Ein Blick ins Innere von Quantenschaltkreisen<\/h2>\n\n\n\n<p>In einem Quantenschaltkreis werden die Qubits in einem bekannten Zustand initialisiert, und dann wird eine Reihe von Quantengattern auf die Qubits angewandt, um ihren Zustand auf eine Weise zu ver\u00e4ndern, die der gew\u00fcnschten Berechnung entspricht. Der Endzustand der Qubits kodiert die L\u00f6sung des zu l\u00f6senden Problems. Die Messung des Endzustands bietet eine M\u00f6glichkeit, die L\u00f6sung zu extrahieren, aber diese Messung l\u00e4sst den Quantenzustand kollabieren. Dies zerst\u00f6rt jegliche verbleibende Quantenkoh\u00e4renz. Das Messergebnis ist probabilistisch, das hei\u00dft anstelle eines einzigen Ergebnisses kann bei jeder Messung des Quantenzustands eine Vielzahl von Ergebnissen mit einer bestimmten Wahrscheinlichkeit beobachtet werden. Man kann sich das so vorstellen, als w\u00fcrde man einen W\u00fcrfel werfen, wobei der W\u00fcrfel selbst dem Quantenzustand und dem Messergebnis des Wurfs entspricht: Auch wenn der W\u00fcrfel selbst immer gleich ist, ist das Ergebnis dieser \u201eMessung\u201c, also der W\u00fcrfelwurf, nicht deterministisch. Aus diesem Grund ist jede Eigenschaft, die wir aus der Messung eines Quantenzustands ableiten k\u00f6nnen, von Natur aus unsicher.<\/p>\n\n\n\n<p>Die einzelnen Gatter kann man sich als Spieler in einem kooperativen Spiel vorstellen, von denen jedes zum Gesamtverhalten des Schaltkreises beitr\u00e4gt. Durch die Berechnung der Shapley-Werte f\u00fcr jedes Gatter oder jede Gruppe von Gattern ist es m\u00f6glich, den Beitrag jedes Gatters zum Endergebnis der Schaltung zu bestimmen und so das Verhalten des Quantensystems zu erkl\u00e4ren.<\/p>\n\n\n\n<figure class=\"wp-block-image size-full\"><img loading=\"lazy\" decoding=\"async\" width=\"373\" height=\"170\" src=\"https:\/\/lamarr-institute.org\/wp-content\/uploads\/fig_qshap_circuits-1.jpg\" alt=\"- Lamarr Institute for Machine Learning (ML) and Artificial Intelligence (AI)\" class=\"wp-image-13400\" title=\"\" srcset=\"https:\/\/lamarr-institute.org\/wp-content\/uploads\/fig_qshap_circuits-1.jpg 373w, https:\/\/lamarr-institute.org\/wp-content\/uploads\/fig_qshap_circuits-1-300x137.jpg 300w\" sizes=\"auto, (max-width: 373px) 100vw, 373px\" \/><figcaption class=\"wp-element-caption\">\u00a9 Sascha M\u00fccke &amp; Lamarr-Institut <br>Dieses Bild zeigt, wie eine Quantenschaltung (oben) modifiziert wird, um den Beitrag der einzelnen Gatter zu bestimmen: Alle m\u00f6glichen Teilmengen von Gattern werden separat bewertet, indem sie aus der Schaltung entfernt werden (unten) und die Auswirkungen auf die Wertfunktion beobachtet werden.<\/figcaption><\/figure>\n\n\n\n<p>Diese Informationen k\u00f6nnen in einer Vielzahl von Zusammenh\u00e4ngen n\u00fctzlich sein, zum Beispiel bei der Fehlersuche und Optimierung von Quantenschaltungen sowie bei der Verbesserung des Verst\u00e4ndnisses von Quantensystemen durch Forscher*innen und Anwender*innen. Durch die Verwendung von Shapley-Werten zur Erkl\u00e4rung des Verhaltens einzelner Gatter ist es au\u00dferdem m\u00f6glich, potenzielle Probleme zu erkennen und Anpassungen vorzunehmen, um die Genauigkeit und Robustheit von Quantenschaltungen zu verbessern. Dar\u00fcber hinaus k\u00f6nnen unn\u00f6tige Gatter entfernt werden, um die Schaltungstiefe zu verringern, die beim heutigen Quantencomputing ein wichtiger limitierender Faktor ist.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Wo sich XAI und Quantencomputing treffen<\/h2>\n\n\n\n<p>Die von den Forscher*innen verwendeten Wertfunktionen messen die Ausdrucksf\u00e4higkeit der Schaltungen (das hei\u00dft die Vielfalt der Funktionen, die sie realisieren k\u00f6nnen), die Verschr\u00e4nkungsf\u00e4higkeit (wie komplex der Quantenzustand werden kann) sowie die Klassifizierungsqualit\u00e4t in Quantum Machine Learning. Sie verwenden sowohl Simulatoren als auch reale Quantencomputer, um unsichere Shapley-Werte f\u00fcr eine Reihe verschiedener Schaltungen mit bis zu 20 Gattern zu berechnen. Ihre Ergebnisse deuten darauf hin, dass Shapley-Werte ein vielversprechender Weg sind, um die Rolle bestimmter Gatter in einem Quantenschaltkreis zu erkl\u00e4ren. Jedoch sind aufgrund der inh\u00e4renten Unsicherheit von Quantencomputern viele Messungen erforderlich, um sie genau zu berechnen. Klassische Shapley-Werte erfordern bereits eine gro\u00dfe Rechenleistung, und die probabilistische Natur der Quanteninformatik versch\u00e4rft dieses Problem noch weiter. Daher sind weitere Forschungsarbeiten erforderlich, um diese Methode zu erweitern.<\/p>\n\n\n\n<p>Insgesamt ist die Anwendung von Shapley-Werten auf Quantenschaltungen eine spannende \u00dcberschneidung von XAI- und Quantencomputer-Forschung, die das Potenzial hat, die Funktionsweise von Modellen f\u00fcr Maschinelles Lernen mit Quanten zu erhellen.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">Mehr Informationen finden Sie in unseren Paper:<\/h3>\n\n\n\n<p><strong>Shapley Values with Uncertain Value Functions<\/strong><br>Heese, Raoul et al., 2023, <em>arXiv preprint, <a href=\"https:\/\/arxiv.org\/pdf\/2301.08086.pdf\" target=\"_blank\" rel=\"noreferrer noopener\">pdf<\/a><\/em><\/p>\n\n\n\n<p><strong>Explaining Quantum Circuits with Shapley Values: <\/strong><strong>Towards Explainable Quantum Machine Learning<\/strong><br>Heese, Raoul et al., 2023, <em>arXiv preprint, <a href=\"https:\/\/arxiv.org\/pdf\/2301.09138.pdf\" target=\"_blank\" rel=\"noreferrer noopener\">pdf<\/a><\/em><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Durch die Anwendung von Shapley-Werten auf die Quanteninformatik erkl\u00e4ren Lamarr-Forschende die Rolle bestimmter Gatter in einem Quantenschaltkreis und geben Einblicke in die Funktionsweise von Modellen des Quantum Machine Learning.<\/p>\n","protected":false},"author":9,"featured_media":3765,"template":"","meta":{"_acf_changed":false,"footnotes":""},"blog-category":[1416,396],"blog-tag":[1517,1527,1584,1585],"class_list":["post-4769","blog","type-blog","status-publish","has-post-thumbnail","hentry","blog-category-alle-blogbeitraege","blog-category-forschung","blog-tag-high-performance-computers-hpc-de","blog-tag-ki-in-der-physik","blog-tag-quantencomputer","blog-tag-quantum-ml-de"],"acf":[],"publishpress_future_workflow_manual_trigger":{"enabledWorkflows":[]},"_links":{"self":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/blog\/4769","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/blog"}],"about":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/types\/blog"}],"author":[{"embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/users\/9"}],"version-history":[{"count":0,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/blog\/4769\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/media\/3765"}],"wp:attachment":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/media?parent=4769"}],"wp:term":[{"taxonomy":"blog-category","embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/blog-category?post=4769"},{"taxonomy":"blog-tag","embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/blog-tag?post=4769"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}