Komplexe Verfahren transparent machen<\/h2>\n\n\n\n
Im Forschungsbereich des Maschinellen Lernens taten sich in den letzten Jahren die sogenannten neuronalen Netze<\/em> als beliebte Methode zur L\u00f6sung von Entscheidungsproblemen hervor. Beispielsweise k\u00f6nnen neuronale Netze aus Bildern lernen, welche Objekte im jeweiligen Bild abgebildet sind. Diese Art von Entscheidungsproblem wird als Klassifikation bezeichnet. Anders als f\u00fcr viele vorangegangene Methoden ist es f\u00fcr die konkreten Entscheidungsprozesse neuronaler Netze jedoch aufgrund ihrer Komplexit\u00e4t deutlich schwieriger bis nahezu unm\u00f6glich, diese direkt nachzuvollziehen. Im Kontrast zu anderen Methoden des Maschinellen Lernens, welche ebenfalls Bilder klassifizieren k\u00f6nnen, erreichen neuronale Netze allerdings h\u00e4ufig eine h\u00f6here Genauigkeit bei ihren Entscheidungen. Im Allgemeinen gibt es im Feld des Maschinellen Lernens eine Abw\u00e4gung zwischen simplen, oft nicht ausreichend genauen Methoden und komplexen Methoden mit einer hohen Genauigkeit.<\/p>\n\n\n\n Heutige Forschung zur Erkl\u00e4rbarkeit K\u00fcnstlicher Intelligenz fokussiert sich deshalb h\u00e4ufig darauf, den Entscheidungsprozess von komplexen neuronalen Netzen transparenter zu machen. Ein Ansatz zur Erkl\u00e4rbarkeit ist der Versuch, zu jedem f\u00fcr die Entscheidung relevanten Merkmal eine passende Gewichtung zu finden. F\u00fcr eine einzelne Entscheidung, zum Beispiel ob ein Mensch kreditw\u00fcrdig ist, k\u00f6nnen das Alter des Menschen, die Ausgaben im letzten Jahr sowie vorangegangene Bewertungen zur Kreditw\u00fcrdigkeit ausschlaggebende Merkmale sein. Eine hohe und positive Gewichtung bedeutet dann, dass die Kreditw\u00fcrdigkeit im positiven Zusammenhang zum Merkmal steht. Wenn die Merkmale in Bildform vorliegen, lassen sich solche Gewichtungen als Bild darstellen, in welchem jedem Pixel ein Gewicht zugeordnet wird. Hohe Gewichte werden hierbei oftmals in einem markanten Rot visualisiert, w\u00e4hrend niedrige Gewichte in Blaut\u00f6nen dargestellt werden.<\/p>\n\n\n\n Die nachstehende Abbildung verdeutlicht eine Visualisierung von Entscheidungsgewichtungen. Im konkreten Anwendungsfall sollte ein System mittels automatisierter Lernverfahren entscheiden, ob das vorgelegte Foto einen Zug abbildet. Zun\u00e4chst fiel den Forscher*innen auf, dass das neuronale Netz sehr genau Bilder mit Z\u00fcgen von solchen ohne Z\u00fcge unterscheiden konnte. Durch die transparente Aufschl\u00fcsselung des Entscheidungsprozesses zeigte sich jedoch, dass der Algorithmus nicht erfolgreich die Identifizierung von Z\u00fcgen gelernt hatte. Stattdessen basierte seine Entscheidung vornehmlich auf dem Erkennen von Schienen. Obwohl der Algorithmus eine hohe Genauigkeit beim Erkennen von Bildern mit Z\u00fcgen erreichte, traf er seine Entscheidung anhand falscher Merkmale.<\/p>\n\n\n\n <\/p>\n\n\n\n In der Praxis sollte ein Modell wie das obige nicht eingesetzt werden, da es nicht gelernt hat, welche Merkmale einen Zug ausmachen. F\u00fcr Bilder, welche lediglich Schienen und keine Z\u00fcge abbilden, w\u00fcrde das Modell f\u00e4lschlicherweise entscheiden, dass ein Zug zu sehen ist. F\u00fcr sicherheitskritische Anwendungsf\u00e4lle, wie das autonome Fahren, ist dieses Verhalten nicht akzeptabel. Man stelle sich den Fall vor, in dem ein solches neuronales Netz f\u00fcr die Erkennung von Fu\u00dfg\u00e4nger*innen eingesetzt wird. W\u00fcrde das Modell einen Fu\u00dfg\u00e4nger oder eine Fu\u00dfg\u00e4ngerin f\u00e4lschlicherweise anhand des Pflasters auf einem B\u00fcrgersteig identifizieren, so ist es m\u00f6glich, dass derselbe Fu\u00dfg\u00e4nger auf einem anders gef\u00e4rbten Fahrradweg nicht erkannt wird. Solche Fehler zu erkennen, bevor das neuronale Netz in der Praxis angewendet wird, ist besonders f\u00fcr sicherheitskritische Anwendungsf\u00e4lle essentiell.<\/p>\n\n\n\n Neuronale Netze sind aus der aktuellen Forschungslandschaft des Maschinellen Lernens aufgrund ihrer hohen Genauigkeit nicht mehr wegzudenken. Allerdings sind sie, zum jetzigen Zeitpunkt, noch nicht geeignet, um in sicherheitskritischen Bereichen angewendet zu werden. Eine notwendige Zertifizierung neuronaler Netze f\u00fcr den Einsatz in sicherheitskritischen Bereichen f\u00e4llt schwer, da diese schnell zu komplex werden. Erste Ans\u00e4tze, welche die Entscheidungsprozesse transparenter gestalten, existieren allerdings bereits. Ein Verfahren, um den Entscheidungsprozess anhand von bildlichen Darstellungen transparenter zu gestalten, liefert die obige Visualisierung mittels einer Gewichtung. Durch dieses Verfahrens ist es bereits m\u00f6glich, zu \u00fcberpr\u00fcfen, ob das neuronale Netz konkrete Konzepte verinnerlicht hat (wie die visuellen Merkmale eines Zuges), oder ob es f\u00e4lschlicherweise andere Merkmale zur Entscheidung benutzt, welche h\u00e4ufig zusammen auftreten (wie Schienen im obigen Beispiel). Die Weiterentwicklung dieser Ans\u00e4tze zum Entschl\u00fcsseln von Entscheidungen komplexer Lernverfahren bildet deshalb ein zentrales Forschungsziel, um die Vorz\u00fcge der neuronalen Netze f\u00fcr die Allgemeinheit nutzbar zu machen.<\/p>\n\n\n\nHohe Genauigkeit alleine reicht nicht aus<\/h2>\n\n\n\n
![\"-](\"https:\/\/lamarr-institute.org\/wp-content\/uploads\/\/Bildschirmfoto-2020-08-04-um-13.57.49-e1604393675880-1-1024x343.jpg\" "\\"\\"")
Das neuronale Netz entschied zwar, dass in diesem Bild ein Zug abgebildet ist. Allerdings ergibt der Einblick in den Entscheidungsprozess (rechte Abbildung), dass das Modell lediglich gelernt hat, Schienen zu identifizieren.<\/figcaption><\/figure>\n\n\n\n