{"id":4066,"date":"2021-02-17T09:08:45","date_gmt":"2021-02-17T09:08:45","guid":{"rendered":"https:\/\/lamarr-institute.org\/blog\/informed-machine-learning\/"},"modified":"2025-11-12T14:55:08","modified_gmt":"2025-11-12T14:55:08","slug":"informed-machine-learning","status":"publish","type":"blog","link":"https:\/\/lamarr-institute.org\/de\/blog\/informed-machine-learning\/","title":{"rendered":"Informed Machine Learning \u2013 Aus Daten und Vorwissen lernen"},"content":{"rendered":"\n
K\u00fcnstliche Intelligenz bietet enorm gro\u00dfes Potential, jedoch auch einige Herausforderungen. So m\u00fcssen f\u00fcr das Trainieren von Machine Learning Modellen generell sehr gro\u00dfe Datenmengen zur Verf\u00fcgung stehen. Die gelernten Modelle m\u00fcssen zudem vertrauensw\u00fcrdig (\u201etrustworthy\u201c) sein, um mit ihnen abgesicherte Entscheidungen zu treffen. Die Mittel, um diesen Herausforderungen zu begegnen, liegen h\u00e4ufig bereits an anderer Stelle vor \u2013 und zwar in Form von Vorwissen. Die Idee von Informed Machine Learning ist es, solche bereits bestehenden Wissensquellen f\u00fcr das Maschinelle Lernen nutzbar zu machen. So ist es m\u00f6glich, Modelle auch bei geringeren Datenmengen zu trainieren oder gelernte Modelle mithilfe von Vorwissen abzusichern.<\/p>\n\n\n\n
In vielen Firmen oder Instituten gibt es langj\u00e4hriges Fachwissen, das zum Beispiel in Form von analytischen Modellen, Simulationen, oder Wissensgraphen vorliegt. Solche Wissensformen werden in den verschiedensten Anwendungsbereichen genutzt, wie folgende Beispiele veranschaulichen: In der Klimatologie werden physikalische Formeln genutzt, um die thermodynamischen Eigenschaften von Luft und Wasser zu beschreiben. Im autonomen Fahren k\u00f6nnen Verkehrsszenen mithilfe von Simulationen nachgestellt werden. In der Textverarbeitung k\u00f6nnen semantische und syntaktische Regeln in Wissensgraphen dargestellt werden. All diese vielf\u00e4ltigen Wissensquellen k\u00f6nnen mithilfe von Informed Machine Learning nutzbar gemacht werden.<\/p>\n\n\n\n
In unserer Forschung haben wir beobachtet, dass das in Informed Machine Learning genutzte Vorwissen, aus drei \u00fcbergeordneten Kategorien kommt und je nachdem unterschiedlich repr\u00e4sentiert wird. H\u00e4ufig kommt das Wissen aus den Natur- oder Ingenieurswissenschaften und wird zum Beispiel in Gleichungen oder Simulationsergebnissen dargestellt. Eine weitere Kategorie ist Weltwissen, das unter anderem Sprache und visuelle Konzepte beschreibt. Dieses wird zum Beispiel in Form von logischen Regeln oder auch Wissensgraphen repr\u00e4sentiert. Dar\u00fcber hinaus kann auch eher intuitives Expertenwissen genutzt werden und zum Beispiel durch direktes menschliches Feedback oder probabilistische Relationen dargestellt werden.<\/p>\n\n\n\n
Informed ML lernt Modelle aus Daten und<\/u> Vorwissen<\/span><\/h2>\n\n\n\n
Diese Wissensquellen kann man zus\u00e4tzlich zu den eigentlichen Trainingsdaten in das Maschinelle Lernen einbinden. Mithilfe einer solchen hybriden Informationsquelle kann man dann die St\u00e4rken aus daten- und wissensgetriebener Modellierung kombinieren: Anhand der Daten k\u00f6nnen neue, unbekannte Muster aufgedeckt werden und anhand des Vorwissens k\u00f6nnen bereits abgesicherte Aussagen eingebunden und die Datenmenge reduziert werden.<\/p>\n\n\n\n
F\u00fcr die technische Integration des Vorwissens in maschinelle Lernverfahren gibt es unterschiedliche Strategien, die von der vorliegenden Repr\u00e4sentation und dem eigentlichen Ziel der Wissensintegration abh\u00e4ngen. Generell gibt es vier Stufen, in denen das Vorwissen eingebunden werden kann: in den Trainingsdaten, im Modellraum, im Lernalgorithmus, oder im finalen Modell (Siehe Abbildung 1).<\/p>\n\n\n\n\u00a9 ML2R Illustration des Informed Machine Learning Prozesses: Neben Daten wird Vorwissen in das maschinelle Lernverfahren eingebunden.<\/figcaption><\/figure>\n\n\n\n
M\u00f6chte man Modelle mit urspr\u00fcnglich geringen Datenmengen trainieren und hat au\u00dferdem Zugriff auf Simulationen, so bietet es sich an, diese zu nutzen, um zus\u00e4tzliche synthetische Daten zu erzeugen. M\u00f6chte man hingegen Modelle absichern, ist die Validierung eines fertig gelernten Modells anhand von beispielsweise Wissensgraphen eine M\u00f6glichkeit. Eine Strategie zur Einbindung von Vorwissen, die sich f\u00fcr beide Ziele eignet, ist die Integration in den Lernalgorithmus durch wissensbasierte Regularisierungsterme. Diese k\u00f6nnen aus naturwissenschaftlichen Gleichungen oder logischen Regeln stammen.<\/p>\n\n\n\n
Vertrauensw\u00fcrdige Modelle lernen und geringe Datenmengen ausgleichen<\/h2>\n\n\n\n
Informed Machine Learning macht bestehende Wissensquellen nutzbar und integriert sie in maschinelle Lernverfahren. Damit k\u00f6nnen Modelle basierend auf Daten und Vorwissen trainiert werden. Dies bietet die Vorteile, dass urspr\u00fcnglich geringe Datenmengen ausgeglichen werden k\u00f6nnen und das Lernverfahren gegen bestehendes Wissen abgesichert werden kann.<\/p>\n\n\n\n
F\u00fcr das autonome Fahren bedeutet dies zum Beispiel Folgendes: Neben den vorhandenen Daten k\u00f6nnen zus\u00e4tzliche Verkehrsszenen simuliert und als zus\u00e4tzliche Trainingsdaten genutzt werden. Au\u00dferdem k\u00f6nnen sie f\u00fcr die Validierung bereits gelernter Modelle verwendet werden. Beides f\u00fchrt dazu, dass die gelernten Modelle robuster sind und erh\u00f6ht somit die Sicherheit im autonomen Fahren.<\/p>\n\n\n\n
Auch wenn die Anwendung von Informed Machine Learning insgesamt noch am Anfang steht, versprechen die Vorteile zusammen mit den vielf\u00e4ltigen Einsatzbereichen und Integrationsmethoden gro\u00dfes Potential. Das Kompetenzzentrum ML2R treibt die Erforschung wissensintegrierender maschineller Lernverfahren ma\u00dfgeblich voran.<\/p>\n\n\n\n
Mehr Informationen in den dazugeh\u00f6rigen Papern:<\/p>\n\n\n\n
Informed Machine Learning – A Taxonomy and Survey of Integrating Knowledge into Learning Systems <\/strong>Laura von Rueden, Sebastian Mayer, Katharina Beckh, Bogdan Georgiev, Sven Giesselbach, Raoul Heese, Birgit Kirsch, Julius Pfrommer, Annika Pick, Rajkumar Ramamurthy, Micha\u0142 Walczak, Jochen Garcke, Christian Bauckhage, Jannis Schuecker. ArXiv, 2019, PDF<\/a>.<\/p>\n\n\n\n
![\"-](\"https:\/\/lamarr-institute.org\/wp-content\/uploads\/Pipeline-1024x317.jpg\" "\\"\\"")