{"id":4695,"date":"2021-10-27T03:55:08","date_gmt":"2021-10-27T03:55:08","guid":{"rendered":"https:\/\/lamarr-institute.org\/blog\/quantenzufallszahlen-im-ml\/"},"modified":"2025-11-12T14:54:47","modified_gmt":"2025-11-12T14:54:47","slug":"quantenzufallszahlen-im-ml","status":"publish","type":"blog","link":"https:\/\/lamarr-institute.org\/de\/blog\/quantenzufallszahlen-im-ml\/","title":{"rendered":"Quantenzufallszahlen im Maschinellen Lernen"},"content":{"rendered":"\n<p class=\"wp-block-paragraph\">Zufallszahlen sind f\u00fcr viele Anwendungen im Bereich des Maschinellen Lernens (ML) essenziell. Sie werden f\u00fcr stochastische Optimierverfahren ben\u00f6tigt, au\u00dferdem um Datenpunkte aus den Verteilungen generativer Modelle zu ziehen, oder auch nur um die Parameter k\u00fcnstlicher neuronaler Netze zu initialisieren. Die Initialisierung solch eines Netzes bildet den Ausgangspunkt der Parameteroptimierung und hat einen gro\u00dfen Einfluss darauf, wie lang das Modell trainiert werden muss und wie leistungsf\u00e4hig es danach ist. Eine verl\u00e4ssliche Quelle qualitativ hochwertiger zuf\u00e4lliger Zahlen ist daher ein wichtiges Werkzeug, und das nicht nur im Bereich der K\u00fcnstlichen Intelligenz, sondern auch f\u00fcr viele andere Bereiche der Naturwissenschaften, zum Beispiel f\u00fcr Verschl\u00fcsselungsverfahren und Simulationen.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Was aber bedeutet hier \u201equalitativ hochwertig\u201c? Intuitiv scheint Zufall gleich Zufall zu sein: Eine Reihe von Zahlen ist zuf\u00e4llig, wenn man nicht vorhersagen kann, welche Zahl als n\u00e4chstes kommen wird. Allerdings kann man eine Vielzahl von Aussagen \u00fcber alle bisher gesehenen Zahlen treffen und so Vermutungen anstellen, welche Eigenschaften die noch nicht beobachteten Zahlen besitzen. Wirft man eine M\u00fcnze eine Million mal, so wird man beobachten, dass etwa 500.000 W\u00fcrfe Kopf und etwa ebenso viele Zahl zeigen. Legt man Kopf=1 und Zahl=0 fest, so wird der Mittelwert aller W\u00fcrfe bei ziemlich genau 0.5 liegen, und dieser Wert wird umso genauer je \u00f6fter man die M\u00fcnze wirft. Beobachtet man hingegen, dass der Mittelwert konsistent bei 0.4 liegt \u2013 Zahl also deutlich h\u00e4ufiger als Kopf f\u00e4llt \u2013 kann man davon ausgehen, dass die M\u00fcnze manipuliert wurde, oder dass ein anderer Faktor das Ergebnis beeinflusst, etwa die Wurfh\u00f6he oder die Ausgangsposition der Hand. Die Statistik bietet Methoden, um eine solche Abweichung von einer erwarteten Verteilung zu quantifizieren, beispielsweise durch Distanzma\u00dfe, wie der Kullback-Leibler-Divergenz oder der Hellinger- Distanz, oder aber durch statistische Tests, wie den Kolmogorov-Smirnov-Test.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><span style=\"font-size: 18pt;\">Pseudozufallszahlen<\/span><\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Will man mithilfe eines Computers Zufallszahlen erzeugen, steht man vor einem Problem: Ein Computer ist eine deterministische Maschine, die feste Abfolgen von Befehlen ausf\u00fchrt. Es ist nicht m\u00f6glich, mit solch einer Maschine echte Zufallszahlen zu generieren, da diese durch ein Programm erzeugt werden und so per Definition nicht zuf\u00e4llig sondern durch das Programm vorbestimmt sind. Um trotzdem Zahlen erzeugen zu k\u00f6nnen, die sich wie Zufallszahlen verhalten, enthalten Computer Programme, die mithilfe spezieller Algorithmen scheinbar zuf\u00e4llige Zahlen erzeugen \u2013 sogenannte Pseudozufallszahlen. Beginnend mit einer Zahl als Startzustand \u2013 auch \u201eSeed\u201c genannt \u2013 werden diese \u201escheinbar\u201c zuf\u00e4lligen Zahlen durch Abfolgen arithmetischer sowie Bit-Operationen aus dem aktuellen inneren Zustand abgeleitet. Obwohl sie aussehen wie echte Zufallszahlen und viele derer Eigenschaften besitzen, kann man sie mit dem Wissen \u00fcber den Ausgangszustand des Programms deterministisch reproduzieren. Insbesondere erzeugen Generatoren von Pseudozufallszahlen nur eine endliche Folge unterschiedlicher Zahlen ehe der Startzustand wieder erreicht ist und sie beginnen, sich zu wiederholen. Die L\u00e4nge der Pseudozufallsfolge, die ein Algorithmus erzeugt, bevor er sich wiederholt, ist ein wichtiges Merkmal f\u00fcr seine G\u00fcte und wird \u201ePeriode\u201c genannt. Bekannte und h\u00e4ufig verwendete Algorithmen sind etwa Xorshift und Mersenne-Twister. Letzterer hat eine Periode von 2<sup>19937<\/sup> \u2212 1, eine Zahl mit 6001 Stellen.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><span style=\"font-size: 18pt;\">Quantenzufallszahlen<\/span><\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Quantencomputer stehen aktuell im Rampenlicht der Forschung. Die Ideen, wie man die Effekte der Quantenmechanik f\u00fcr das Maschinelle Lernen nutzen kann, sind kreativ und vielf\u00e4ltig. W\u00e4hrend viele Forscher versuchen, komplette ML-Modelle \u00fcber das Gatter-Modell in Quantencomputer einzubetten, suchen andere nach alternativen Ans\u00e4tzen, um klassische ML-Verfahren durch Quanteneffekte zu verbessern.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Die zentrale Eigenschaft, die ein Qubit (also ein Quanten-Bit) von einem klassischen Bit unterscheidet, ist die Tatsache, dass ein Qubit nicht nur die Zust\u00e4nde 0 und 1 (die sogenannten Basiszust\u00e4nde), sondern unendlich viele Misch-Zust\u00e4nde annehmen kann. Solch ein Mischzustand |\u03c8\u232a hei\u00dft Superposition und kann durch den Ausdruck |\u03c8\u232a = \u03b1|0\u232a + \u03b2 |1\u232a beschrieben werden. Dabei bezeichnen |0\u232a und |1\u232a die Basiszust\u00e4nde, und \u03b1 und \u03b2 sind komplexe Zahlen mit der Eigenschaft |\u03b1 |\u00b2 + |\u03b2 |\u00b2 = 1. Die sogenannte Bornsche Regel aus der Quantenmechanik besagt, dass ein Qubit mit Zustand |\u03c8\u232a mit Wahrscheinlichkeit |\u03b1 |\u00b2 den Basiszustand 0 und mit Wahrscheinlichkeit |\u03b2 |\u00b2 = 1 \u2212 |\u03b1 |\u00b2 den Basiszustand 1 annimmt. Wir stellen also fest, dass sich die Messung eines Quantenzustandes sehr \u00e4hnlich zu einem M\u00fcnzwurz verh\u00e4lt, nur dass die Wahrscheinlichkeit f\u00fcr Kopf oder Zahl \u00fcber die Parameter \u03b1 und \u03b2 variabel ist. Setzen wir \u03b1 = \u03b2 = 1\/\u221a2, dann entspricht der Quantenzustand genau einem fairen M\u00fcnzwurf, und wir beobachten beide Basiszust\u00e4nde jeweils mit Wahrscheinlichkeit 50%. Dieser Zustand, der auch als |+\u232a bezeichnet wird, ist im Gatter-Modell des Quantencomputings besonders einfach herzustellen, denn er entsteht durch Anwenden des Hadamard-Gatters H \u2013 eines der grundlegendsten Gatter \u2013 auf ein Qubit im Basiszustand |0|.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Bringt man wiederholt ein Qubit in diesen Zustand und misst es, erh\u00e4lt man eine Reihe bin\u00e4rer Zufallszahlen, also eine Folge wie 10011100110111010110. . . Da diese Zahlen durch quantenmechanische Effekte erzeugt wurden, die mithilfe der klassischen Physik nicht erkl\u00e4rbar sind und nicht simuliert werden k\u00f6nnen, kann man sie als Zufallsquelle f\u00fcr die oben genannten Anwendungen benutzen und damit beispielsweise neuronale Netze initialisieren. Die Hoffnung, die Wissenschaftler*innen dabei hegen, ist, dass durch die hohe Qualit\u00e4t der Zufallszahlen maschinelle Lernmodelle besser initialisiert und somit schneller und zu einer h\u00f6heren G\u00fcte trainiert werden k\u00f6nnen.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><span style=\"font-size: 18pt;\">Quantenzufall in der Praxis<\/span><\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Diese Hoffnung schien sich k\u00fcrzlich zu bewahrheiten, als Forschende aus Birmingham <a href=\"https:\/\/link.springer.com\/article\/10.1007\/s00500-019-04450-0\" target=\"_blank\" rel=\"noopener\">Quanten-Zufallszahlen zur Initialisierung mehrerer Modelle<\/a> verwendeten, unter anderem neuronale Faltungsnetze. Dabei beobachteten sie, dass die Modelle, verglichen mit einer Initialisierung mit Pseudozufallszahlen, eine etwas h\u00f6here Trefferquote auf verschiedenen Klassifikationsdatens\u00e4tzen erreichten.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Obwohl Quantencomputer auf Hochtouren erforscht und weiterentwickelt werden, bilden heutige Ger\u00e4te das zuvor beschriebene mathematische Quantencomputing-Modell bei weitem nicht perfekt ab. Qubits werden mithilfe verschiedener physikalischer Mechanismen dargestellt, zum Beispiel mittels Mikrowellenstrahlung, durch supraleitende Materialien oder auch Photonen. Dabei gibt es viele Fehlerquellen, die das Ergebnis verzerren k\u00f6nnen [Abb. 1]. Im Rahmen ihrer<a href=\"https:\/\/arxiv.org\/abs\/2108.13329\" target=\"_blank\" rel=\"noopener\"> aktueller Forschung<\/a> haben Wissenschaftler*innen des ML2R untersucht, ob sich die Ergebnisse aus Birmingham reproduzieren und statistisch belegen lassen. Zu diesem Zweck nutzten sie einen Quantencomputer von IBM, um durch Anwenden des Hadamard-Gatters und Messen vieler Qubits eine gro\u00dfe Menge von Quantenzufallszahlen zwischen 0 und 1 zu erzeugen.<\/p>\n\n\n\n<figure class=\"wp-block-image size-large\"><img decoding=\"async\" src=\"https:\/\/lamarr-institute.org\/wp-content\/uploads\/fehlerquellen-1024x570.png\" alt=\"- Lamarr Institute for Machine Learning (ML) and Artificial Intelligence (AI)\" class=\"wp-image-24978\" title=\"\"><figcaption class=\"wp-element-caption\">\u00a9Raoul Heese\/Fraunhofer ITWM <br>Verschiedene Quellen von Fehlern, die das erwartete Ergebnis eines Experiments auf einem Quantencomputer verzerren oder verf\u00e4lschen k\u00f6nnen.<\/figcaption><\/figure>\n\n\n\n<p class=\"wp-block-paragraph\">Sie stellten fest, dass die so erzeugten Zahlen nicht komplett zuf\u00e4llig sind, sondern vielmehr einer speziellen Verteilung folgen, die in [Abb. 2] dargestellt ist. Offensichtlich gibt es Zahlen, die deutlich h\u00e4ufiger auftreten als andere, was gegen eine Gleichverteilung spricht, die man bei komplett zuf\u00e4lligen Zahlen erwarten w\u00fcrde. Diese Verteilung entsteht, wenn jedes Bit nicht mit einer Wahrscheinlichkeit von 50% den Wert 1 hat, sondern etwas weniger: Gemessen wurde eine durchschnittliche Wahrscheinlichkeit von 48,88%. Es stellt sich also heraus, dass Quantenzufallszahlen \u2013 zumindest, wenn man sie naiv nach dem idealen mathematischen Modell erzeugt \u2013 deutlich weniger zuf\u00e4llig sind als solche, die Preudozufallszahlengeneratoren generieren.<\/p>\n\n\n\n<figure class=\"wp-block-image size-large\"><img decoding=\"async\" src=\"https:\/\/lamarr-institute.org\/wp-content\/uploads\/verteilung-1024x535.png\" alt=\"- Lamarr Institute for Machine Learning (ML) and Artificial Intelligence (AI)\" class=\"wp-image-24980\" title=\"\"><figcaption class=\"wp-element-caption\">\u00a9Raoul Heese\/Fraunhofer ITWM <br>Beobachtete Verteilung der Zufallszahlen, die auf einem Quantencomputer von IBM erzeugt wurden (rote Balken). Die gr\u00fcne Linie zeigt eine Gleichverteilung, wie man sie bei perfekten Zufallszahlen erwarten w\u00fcrde. Die blauen Balken zeigen eine durch Pseudozufallszahlen generierte Simulation der verzerrten Quantenzufallszahlen.<\/figcaption><\/figure>\n\n\n\n<p class=\"wp-block-paragraph\">Neben diesen selbst generierten Zufallszahlen verwendeten die Forschenden weiterhin \u00f6ffentlich verf\u00fcgbare Zufallszahlen, die aus einem optischen Quantencomputer generiert wurden und qualitativ deutlich besser sind. Sowohl mit diesen als auch mit den selbst erzeugten Quantenzufallszahlen konnte im direkten Vergleich zu Pseudozufallszahlen kein signifikanter Effekt beim Trainieren von ML-Modellen beobachtet werden. Damit konnten die Forschenden zeigen, dass \u2013 zumindest bei den verwendeten Modellklassen \u2013 eine Quantenzufallsquelle nicht zu der beobachteten besseren Performance beim Lernen f\u00fchrt.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Fazit<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">M\u00f6gliche Anwendungen von Quanteneffekten f\u00fcr das Maschinelle Lernen sind vielf\u00e4ltig. Durch ihr inh\u00e4rent stochastisches Verhalten k\u00f6nnen Qubits als Quelle von (echten) Zufallszahlen verwendet werden. Eine anf\u00e4ngliche Hoffnung, dass diese Zahlen zu besseren Ergebnissen beim Trainieren von ML-Modellen f\u00fchrt, wurde widerlegt. Dies liegt vermutlich einerseits an der hohen G\u00fcte moderner Generatoren von Pseudozufallszahlen, und andererseits an den technischen H\u00fcrden des Quantencomputings, die nur eine verzerrte Realisierung der in der Theorie perfekt zuf\u00e4lligen Zahlen zulassen.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Es gibt dennoch Hoffnung, dass uns auch diese verzerrten Verteilungen zu neuen Erkenntnissen verhelfen k\u00f6nnten: Sollte sich herausstellen, dass die Initialisierung bestimmter Modellklassen mit speziellen Verteilungen tats\u00e4chlich zu einer weitaus besseren Leistung f\u00fchrt, k\u00f6nnte dies genutzt werden, um solche Verteilungen auch mithilfe von Pseudozufallszahlen nachzubilden. Dass dies im Prinzip funktioniert, konnten die Forschenden des ML2R bereits zeigen, indem sie die Verteilung aus [Abb. 2] ganz ohne Quanten-Computing simulierten. Solange allerdings Quantencomputer noch so fehlerbehaftet in Bezug auf die Qualit\u00e4t ihrer Ausgaben sind wie heute, kann man nicht argumentieren, dass die \u201eechte physikalische Zuf\u00e4lligkeit\u201c der Qubits allein eine messbare Auswirkung hat. Die Suche nach dem Durchbruch des Quantencomputings im Maschinellen Lernen geht also weiter.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Mehr Informationen im zugeh\u00f6rigen Paper:<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>On the effects of biased quantum random numbers on the initialization of artificial neural networks<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Raoul Heese, Moritz Wolter, Sascha M\u00fccke, Lukas Franken, Nico Piatkowski, 2021, <a href=\"https:\/\/link.springer.com\/epdf\/10.1007\/s10994-023-06490-y?sharing_token=J_BN94YdErHDVLXDvr5T8ve4RwlQNchNByi7wbcMAY7fjiNFYgg3VrVG72K1hJgGtnE8kjB3Eumu-e2HkPQueYpVnuke5StALaN-U6qP3VH4QN52dOXjecyBR5GrEOQiQDdWC01JScMRpCjoTbPTLJCZgcI8si5D_ecRSO12hoU=\" target=\"_blank\" rel=\"noreferrer noopener\">PDF<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Durch ihr stochastisches Verhalten k\u00f6nnen Qubits (Quanten-Bits) als Quelle von (echten) Zufallszahlen im Maschinellen Lernen verwendet werden. Forschende des ML2R untersuchten den Einsatz von Quanten-Zufallszahlen zur Initialisierung von maschinellen Lernmodellen.<\/p>\n","protected":false},"author":9,"featured_media":4700,"template":"","meta":{"_acf_changed":false,"footnotes":""},"blog-category":[1416,396],"blog-tag":[1517,1527,1584,1585],"class_list":["post-4695","blog","type-blog","status-publish","has-post-thumbnail","hentry","blog-category-alle-blogbeitraege","blog-category-forschung","blog-tag-high-performance-computers-hpc-de","blog-tag-ki-in-der-physik","blog-tag-quantencomputer","blog-tag-quantum-ml-de"],"acf":[],"publishpress_future_workflow_manual_trigger":{"enabledWorkflows":[]},"_links":{"self":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/blog\/4695","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/blog"}],"about":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/types\/blog"}],"author":[{"embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/users\/9"}],"version-history":[{"count":0,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/blog\/4695\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/media\/4700"}],"wp:attachment":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/media?parent=4695"}],"wp:term":[{"taxonomy":"blog-category","embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/blog-category?post=4695"},{"taxonomy":"blog-tag","embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/blog-tag?post=4695"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}