Praktischerweise werden f\u00fcr viele ML-L\u00f6sungen etablierte Prozesse der Softwareentwicklung verwendet. Aufgrund ihres Aufbaus und ihres Entwicklungszyklus stellen ML-L\u00f6sungen jedoch in vielen Bereichen der Entwicklung, der Qualit\u00e4tssicherung und des Betriebs Anforderungen, die durch bisherige Methoden nicht oder nur teilweise abgedeckt werden k\u00f6nnen. So ist das f\u00fcr Data-Science-Projekte etablierte Vorgehen CRISP-DM (Cross Industry Standard Process for Data Mining) prim\u00e4r f\u00fcr die Modellentwicklung gedacht und beschreibt nicht dezidiert die Konstruktion und den Betrieb von ML-Softwareanwendungen (mehr Informationen zum CRISP-DM Modell in unserem Blogbeitrag \u201eMaschinelles Lernen in der Praxis<\/a>\u201c). Generell sind bisher nur wenige Konzepte f\u00fcr den reibungslosen \u00dcbergang von der Modellentwicklung in die integrierte Nutzung vorhanden.<\/p>\n\n\n\n Auf technischer Ebene sind zum Beispiel bei der Qualit\u00e4tssicherung geeignete Testverfahren einzusetzen, um auch die Modelle selbst zu bewerten. Au\u00dferdem ist die Versionierung von Daten, Modellen und zugeh\u00f6rigen Artefakten mit g\u00e4ngigen Tools nur bedingt durchf\u00fchrbar. Gerade aber die Abh\u00e4ngigkeit zwischen Trainingsdaten, Testdaten und daraus abgeleiteten Modellen muss im Betrieb detailliert nachvollziehbar sein.<\/p>\n\n\n\n Zus\u00e4tzlich stellen sich auf der organisatorischen Ebene Herausforderungen an die F\u00e4higkeiten und Aufgaben der Mitarbeiter*innen in Betrieben. Wer \u00fcberwacht die Trainings- und Testverfahren der produktiven ML-L\u00f6sungen? Wie werden die ML-L\u00f6sungen betrieben und \u00fcberwacht, ist hier ML-Knowhow notwendig? Wie wird generell das Zusammenspiel zwischen Data Scientists, IT-Betrieb und Kunden organisiert? Viele dieser Fragen stellen grunds\u00e4tzliche Anforderungen und Herausforderungen an die Organisation, die nicht f\u00fcr eine ML-L\u00f6sung allein beantwortet werden k\u00f6nnen, sondern querschnittlicher und umfassender sind.<\/p>\n\n\n\n Wie wir gesehen haben, sind die Herausforderungen umfangreich und nicht an einer einzelnen Stelle verortbar, daher ist hier eine ganzheitliche Sichtweise wichtig:<\/p>\n\n\n\n Um Maschinelles Lernen in die Anwendung zu \u00fcberf\u00fchren, ist es neben den rein technischen L\u00f6sungen essenziell, auch auf der organisatorischen Ebene fr\u00fchzeitig Expert*innen aus den Fachabteilungen in die Konzept- und Use-Case- Entwicklung einzubinden. Insbesondere die Vor- und Nachteile von ML-L\u00f6sungen m\u00fcssen auf allen fachlichen und technischen Ebenen des Unternehmens bekannt sein und verstanden werden \u2013 beginnend bei der Entwicklung bis hin zum produktiven Einsatz. Durch dieses fr\u00fchzeitige Schaffen von Bewusstsein bei allen Mitarbeitenden f\u00fcr den Mehrwert von ML-Technologien, aber auch f\u00fcr die dahinterstehenden speziellen Anforderungen und Herausforderungen wird eine wichtige Grundlage f\u00fcr den Einsatz von ML im Unternehmen geschaffen.<\/p>\n\n\n\n Aus unserer Sicht muss verhindert werden, dass L\u00f6sungen entstehen, die in dem Kern von umfangreichen Anwendungen integriert sind und nur durch hoch qualifizierte Expert*innen verstanden, gewartet und weiterentwickelt werden k\u00f6nnen. Bis heute entsteht beispielsweise Banken ein enormer Aufwand dadurch, dass in der Vergangenheit nicht nachhaltig integrierte L\u00f6sungen gewartet oder abgel\u00f6st werden m\u00fcssen, ohne den operativen Betrieb zu behindern.<\/p>\n\n\n\n Im Bereich der Softwareentwicklung existieren bereits Prozesse, Verfahren und Werkzeuge, die dazu dienen, Fehler, die in der Vergangenheit bei der Einf\u00fchrung neuer Softwaretechnologien gemacht wurden, zu vermeiden. Dies sind vor allem agile Projektorganisationen. Das State-of-the-Art Modell \u00bbDevOps\u00ab (Development Operations) sieht hierbei eine starke Integration von Kundenseite, Entwicklung und IT-Betrieb vor.<\/p>\n\n\n\n Beim Fraunhofer IAIS arbeiten wir mit dem Prozessschema \u00bbMLOps\u00ab (Machine Learning Operations), eine Erweiterung und Anpassung von DevOps. MLOps integriert Elemente von DevOps und CRISP-DM und erweitert diese um ML-spezifische Charakteristika. Damit bieten wir Leitlinien f\u00fcr die zielgenaue Entwicklung, die schnelle Integration und den gesicherten Betrieb von ML-Technologien. CRISP-DM liefert vor allem Inhalte f\u00fcr die Analyse \u2013 und Explorationsphase, da hier wiederholt im Business-Understanding, Data-Understanding und in der Modellentwicklung gearbeitet wird. DevOps liefert den grunds\u00e4tzlichen Unterbau und das Verst\u00e4ndnis zur Entwicklung von Softwareprojekten mittels agilen Vorgehens und starker Einbindung der Kunden- und IT-Betriebsseite.<\/p>\n\n\n\n Der Fokus von MLOps liegt auf einer technisch hoch automatisierten Vorgehensweise, die ML-L\u00f6sungen nachhaltig und verl\u00e4sslich zur Verf\u00fcgung stellt. Au\u00dferdem lassen sich aktuelle Virtualisierungstechnologien, wie beispielsweise Docker-Container<\/a>, nutzen, um eine durchl\u00e4ssige Architektur zu entwickeln, die die \u00dcberf\u00fchrung von ML-L\u00f6sungen aus der Entwicklung hin zum operativen Betrieb unterst\u00fctzt.<\/p>\n\n\n\n Die Integration, Skalierung und \u00dcberwachung von ML-L\u00f6sungen f\u00fcr unterschiedliche Infrastrukturen, von einzelnen Arbeitspl\u00e4tzen bis hin zu Cloud-Implementierungen, wird von einer Vielzahl von Plattformen unterst\u00fctzt. Es existieren Werkzeuge und Methoden, die die Umsetzung der MLOps-Prozesse erleichtern. Konkret bedeutet dies, dass die einzelnen Phasen des Prozesses jeweils durch spezifisches Tooling unterst\u00fctzt wird. So wird zum Beispiel ML-spezifisches Tooling f\u00fcr die Exploration<\/strong> (Jupyter Notebooks<\/a> sowie f\u00fcr das Experiment-Tracking mlflow<\/a>) verwendet.<\/p>\n\n\n\n Bei der \u00dcberf\u00fchrung von der Exploration<\/strong> in die Entwicklung<\/strong> wird auf ML Pipeline Tools aufgebaut (zum Beispiel airflow<\/a> zur Umsetzung von automatisierten ML Pipelines) und es werden typische Verfahren und Tools der professionellen Softwareentwicklung angewandt (Standard Tooling f\u00fcr repos und registries, das hei\u00dft git<\/a> oder docker registries<\/a>).<\/p>\n\n\n\n Durch Tools wie gitlab-ci<\/a>, bamboo<\/a>, jenkins<\/a> werden Continuous Integration<\/strong> Prinzipien in den Prozess eingebracht und f\u00fcr das Testen, die Qualit\u00e4tssicherung und die Automatisierung verwendet. Dies umfasst dann sowohl die softwaretechnischen Anteile als auch die ML-spezifischen Anteile, indem die komplette ML Pipeline gepr\u00fcft wird und auch Gesamtsystem- und Integrationstests ausgef\u00fchrt werden.<\/p>\n\n\n\n Dasselbe Tooling unterst\u00fctzt auch beim Automatisieren der Deployments mittels Continuous Deployment<\/strong> und Delivery. Der Betrieb der ML-L\u00f6sungen<\/strong> ist dann wieder sehr unternehmens- und l\u00f6sungsspezifisch. Einerseits k\u00f6nnen mittels Containerisierung (zum Beispiel durch docker<\/a>) skalierbare Plattformen wie kubernetes<\/a> und openshift<\/a> unterst\u00fctzt werden, andererseits kann die Anwendung ebenfalls als Individuall\u00f6sung auf dezidierter Infrastruktur erfolgen.<\/p>\n\n\n\n Neben der Technologie und den Werkzeugen spielt die Kommunikation<\/strong> eine zentrale Rolle f\u00fcr die erfolgreiche Implementierung von ML-L\u00f6sungen. MLOps ist ein agiler Prozess mit einer starken und h\u00e4ufigen R\u00fcckkopplung zwischen Anwender*innen und Entwickler*<\/em>innen innerhalb von Data-Science-Projekten. H\u00e4ufig wird SCRUM als Projektmanagement-Methode verwendet, da der Fokus auf kurzen, iterativen Zyklen zur Entwicklung der ML-L\u00f6sung liegt. Die produktive Komponente erfordert dann auch organisatorisch eine klare Identifikation und Festlegung von Verantwortlichkeiten in Form von Rollen und Prozessen. So werden oftmals l\u00f6sungsspezifische oder je nach Gr\u00f6\u00dfe und Umfang der ML-L\u00f6sungen auch querschnittlich eingesetzte Mitarbeitende f\u00fcr zum Beispiel Daten-Management, Testing\/Qualit\u00e4tsmanagement und Release-Management eingesetzt. Insgesamt wird durch den toolunterst\u00fctzten Prozess gew\u00e4hrleistet, dass neue ML-Anforderungen und -Modelle schnell \u00fcber automatisierte qualit\u00e4tsgesicherte Verfahren in Produktion genommen werden k\u00f6nnen.<\/p>\n\n\n\n Zusammenfassend kann gesagt werden, dass ML-L\u00f6sungen in vielen Bereichen dabei sind in den operativen Betrieb \u00fcberzugehen. Hierbei existieren diverse Herausforderungen auf technischer und organisatorischer Ebene. MLOps ist ein ganzheitlicher Prozessansatz, der diesen Herausforderungen begegnet und sie mit geeigneten Methoden und Werkzeugen umsetzt. Weitere und detailliertere Einsichten erhalten Sie auch durch unser Whitepaper<\/a>.<\/p>\n","protected":false},"excerpt":{"rendered":" Bei der Anwendung von ML-L\u00f6sungen im operativen Betrieb stehen Anwender vor diversen technischen und organisatorischen Herausforderungen. MLOps beschreibt einen ganzheitlichen Prozessansatz, der diese Herausforderungen mit geeigneten Methoden und Werkzeugen l\u00f6st.<\/p>\n","protected":false},"author":9,"featured_media":4443,"template":"","meta":{"_acf_changed":false,"footnotes":""},"blog-category":[1416,546],"blog-tag":[1554],"class_list":["post-4438","blog","type-blog","status-publish","has-post-thumbnail","hentry","blog-category-alle-blogbeitraege","blog-category-anwendung","blog-tag-mlops-de"],"acf":[],"publishpress_future_workflow_manual_trigger":{"enabledWorkflows":[]},"_links":{"self":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/blog\/4438","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/blog"}],"about":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/types\/blog"}],"author":[{"embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/users\/9"}],"version-history":[{"count":0,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/blog\/4438\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/media\/4443"}],"wp:attachment":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/media?parent=4438"}],"wp:term":[{"taxonomy":"blog-category","embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/blog-category?post=4438"},{"taxonomy":"blog-tag","embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/blog-tag?post=4438"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}![\"-](\"https:\/\/lamarr-institute.org\/wp-content\/uploads\/CRISP-DM.drawio-1.png\" "\\"\\"")
CRISP-DM<\/figcaption><\/figure>\n\n\n\nDen Herausforderungen muss ganzheitlich begegnet werden<\/h2>\n\n\n\n
Das MLOps-Prozessmodell kann strukturiert Abhilfe schaffen<\/h2>\n\n\n\n
![\"-](\"https:\/\/lamarr-institute.org\/wp-content\/uploads\/Abbildungen_final-1.jpg\" "\\"\\"")
MLOps-Zyklus<\/figcaption><\/figure>\n\n\n\n