{"id":4229,"date":"2022-03-23T06:00:26","date_gmt":"2022-03-23T06:00:26","guid":{"rendered":"https:\/\/lamarr-institute.org\/blog\/design-of-experiments\/"},"modified":"2025-11-12T14:52:02","modified_gmt":"2025-11-12T14:52:02","slug":"design-of-experiments","status":"publish","type":"blog","link":"https:\/\/lamarr-institute.org\/de\/blog\/design-of-experiments\/","title":{"rendered":"Wie funktioniert Design of Experiments mit KI?"},"content":{"rendered":"\n

Das Problem \u2013 zu viele M\u00f6glichkeiten <\/span><\/h2>\n\n\n\n

Viele Menschen in den Forschungs- und Entwicklungsabteilungen dieser Welt stehen vor ein- und derselben Aufgabe: etwas Neues entwickeln. Wie kann eine Batterie aussehen, die ein Elektroauto noch l\u00e4nger fahren l\u00e4sst? Wie kann der Rotor einer Windkraftanlage ver\u00e4ndert werden, dass er weniger Schallemissionen verursacht? Wie sieht ein neues Waschmittel aus, das sauber w\u00e4scht aber weniger Ressourcen verbraucht? Die m\u00f6glichen Antworten auf diese Fragen sind h\u00e4ufig sehr vielf\u00e4ltig. Es gibt (zu) viele M\u00f6glichkeiten, wie bestehende Technik ver\u00e4ndert oder verbessert werden k\u00f6nnte.<\/span> <\/span><\/p>\n\n\n\n

Leider k\u00f6nnen nicht alle Ideen ausprobiert werden, denn jedes Experiment, egal ob Simulation oder ganz real im Labor, kostet Zeit, Geld und Ressourcen. F\u00fcr Forschende w\u00e4re es ein Traum, alle Experimente durchf\u00fchren zu k\u00f6nnen, doch auch sie arbeiten nur mit begrenzten Mitteln. <\/span> <\/span><\/p>\n\n\n\n

Design of Experiments \u2013 eine L\u00f6sung <\/span><\/h2>\n\n\n\n

Hier kommt das Design of Experiments (DoE) ins Spiel. Die Grundidee ist einfach: Kann eine gute Versuchsplanung (= engl. Design of Experiments) dabei helfen, weniger Experimente zu ben\u00f6tigen? Wie kann gepr\u00fcft werden, ob ein bestimmter Faktor \u00fcberhaupt Einfluss auf die Zielgr\u00f6\u00dfe hat? Und wie kann die Gr\u00f6\u00dfe des Einflusses des Faktors abgesch\u00e4tzt werden? Mit einem guten DoE sollten nur noch die statistisch notwendigen, nicht alle m\u00f6glichen Experimente durchgef\u00fchrt werden.<\/span> <\/span><\/p>\n\n\n\n

Wichtig ist hier, auch den Bezug zum <\/span>Curse of Dimensionality<\/span><\/a>  herzustellen. Hierzu kann man sich einen Kaffeevollautomaten vorstellen, dessen (unbekannte) Schalter (= Faktoren) man kennenlernen m\u00f6chte: Jeder zus\u00e4tzliche Faktor (zum Beispiel: Mahlgrad, Wassertemperatur, Br\u00fchdauer, \u2026) erh\u00f6ht die Dimension und damit gleichzeitig die Anzahl der Experimente, die gemacht werden k\u00f6nnen und m\u00fcssen, um beispielsweise den schmackhaftesten Espresso zu finden, den die Maschine hergibt. Das exponentielle Wachstum der Punkte, um den Raum zu f\u00fcllen (hier: der Experimente, um statistisch valide Schl\u00fcsse zu ziehen), wird als Curse of Dimensionality bezeichnet. <\/span><\/p>\n\n\n\n

Ein gutes DoE dient jetzt dazu, nur noch die notwendigen Experimente zu machen und den Einfluss des Curse of Dimensionality zu verringern. Daf\u00fcr m\u00fcssen zun\u00e4chst Annahmen getroffen werden: Ist der Einfluss des Faktors eher monoton (je l\u00e4nger gebr\u00fcht wird, desto st\u00e4rker der Kaffee) oder zum Beispiel quadratisch (sehr grobe Bohnen erzeugen einen schlechten Kaffee, sehr fein gemahlene Bohnen auch, dazwischen liegt ein Optimum)? Davon ausgehend kann man ein erstes DoE aufsetzen, das diese Annahmen pr\u00fcft: F\u00fcr die Br\u00fchdauer braucht man mindestens zwei Variationen (niedrig\/hoch), f\u00fcr den Mahlgrad drei (niedrig\/mittel\/hoch). Hieraus ergeben sich sechs notwendige Experimente: die Variation der Br\u00fchdauer bei allen drei Mahlgraden. Wenn man zus\u00e4tzlich annimmt, dass es keine Interaktion zwischen den beiden Gr\u00f6\u00dfen gibt, w\u00fcrden sogar vier reichen \u2013 zwei bei einem festen Mahlgrad, um den Einfluss der Br\u00fchdauer festzustellen und drei, bei denen der Mahlgrad bei fester Br\u00fchdauer variiert wird.<\/span> <\/span><\/p>\n\n\n\n

Auf den ersten Blick ist dieses Vorgehen sehr einleuchtend \u2013 es verkompliziert sich jedoch, wenn die Formulierung der Hypothesen (hier die Monotonie oder die Polynomannahme) nicht mehr so einfach ist und die Anzahl der Faktoren w\u00e4chst. An dieser Stelle hilft DoE, die wirklich notwendigen Experimente aus den m\u00f6glichen auszuw\u00e4hlen.<\/span> <\/span><\/p>\n\n\n\n

Fixed-size und sequential Design of Experiments <\/span><\/h2>\n\n\n\n

L\u00f6sungen f\u00fcr dieses erste Problem gibt es schon lange in den Ingenieurwissenschaften und man findet bereits eine entsprechende Literaturauswahl. Jedoch haben diese L\u00f6sungen eine Gemeinsamkeit: sie erzeugen sogenannte <\/span>\u201e<\/span>Fixed-size Designs of Experiments\u201d. Also Versuchspl\u00e4ne einer festen Gr\u00f6\u00dfe, die genau zu den aufgestellten Hypothesen passt.<\/span> <\/span><\/p>\n\n\n\n

Gleichzeitig wird hierbei die Annahme getroffen, jedes Mal neu anzufangen. Auch wenn die zehnte Kaffeemaschine untersucht werden soll, nimmt das DoE an, dass es sich um eine v\u00f6llig neue Maschine handelt und der Effekt der Br\u00fchdauer v\u00f6llig anders als bei den vorigen sein kann. Alle Parameter sind v\u00f6llig neu und aus den alten, verwandten Experimenten kann nicht gelernt werden.<\/span> <\/span><\/p>\n\n\n\n

Sequential Design of Experiments begegnet genau dieser Annahme. Die Idee ist, aus alten Messungen zu lernen. Und wie macht das ein Machine-Learner? Mit einem Modell. Damit es funktioniert, m\u00fcssen daher zwei Dinge gegeben sein: zum einen, ein fixed-size DoE, mit dem man gen\u00fcgend lernen kann und zum anderen, eine gute Modellqualit\u00e4t, welche zum Beispiel in einer Kreuzvalidierung festgestellt werden kann.<\/span> <\/span><\/p>\n\n\n\n

Sequential Design of Experiments: Active Learning vs. Bayesian Optimization <\/span><\/h2>\n\n\n\n

Sequential Design of Experiments lernt also aus schon vorhandenen Experimentdaten. Die Frage ist nun, was soll es lernen? Man unterscheidet zwei Ideen:<\/span> <\/span><\/p>\n\n\n\n

    \n
  1. Neue Punkte suchen, die das bestehende Modell verbessern, also genauer machen (zum Beispiel: Welchen Einfluss haben Mahlgrad und Br\u00fchdauer auf den Kaffeegeschmack?)<\/span><\/li>\n\n\n\n
  2. Neue Punkte suchen, die eine Einsch\u00e4tzung geben k\u00f6nnen, wo das Optimum liegt (zum Beispiel: Welchen Mahlgrad und welche Br\u00fchdauer brauche ich f\u00fcr den besten Kaffee?) <\/span><\/li>\n<\/ol>\n\n\n\n
    \"-
    \u00a9 ML2R
    1) Active Learning: <\/strong>konzentriert sich sukzessive auf die interessanten Stellen der Funktion, zum Beispiel starke Schwankungen, Spr\u00fcnge (\u2606)
    2) Bayessche Optimierung: <\/strong>konzentriert sich sukzessive auf das Minimum der Funktion (I)<\/figcaption><\/figure>\n\n\n\n

    Diese Ideen unterscheiden sich fundamental, wie man auch im Bild erkennen kann. Die erste Idee interessiert sich f\u00fcr Faktorbereiche, in denen \u201eviel\u201c passiert. Hier helfen Methoden des Active Learnings<\/a>, diese Bereiche zu bestimmen und die richtigen Punkte auszuw\u00e4hlen. Die zweite Idee interessiert sich f\u00fcr Faktorbereiche, in denen der Funktionswert besonders optimal (niedrig oder hoch, je nach Wahl durch den Anwender) ist. Dabei kann zum Beispiel Bayessche Optimierung weiterhelfen.<\/p>\n\n\n\n

    Die Konsequenzen von gutem Design of Experiments <\/h2>\n\n\n\n

    Design of Experiments ist also eine Methode, welche die notwendigen Daten in der Forschung und Entwicklung generieren kann. Sie vermag Kosten sowie Ressourcenverschwendung zu reduzieren und so \u201emethodisch intelligent\u201c zu forschen. In Kundenprojekten konnten wir bereits zeigen, dass mittels sequential DoE bis zu 50 % der Versuche eingespart werden k\u00f6nnen.  <\/p>\n\n\n\n

    Schon fr\u00fcher diente DoE dazu, den Einfluss von Gr\u00f6\u00dfen in immer neuen Problemen zu spezifizieren. Heute kann es aus bestehenden Daten lernen, um interessante Bereiche zu finden. Dazu baut es auf Machine Learning Modellen auf \u2013 und weil es neue Experimente selbstst\u00e4ndig vorschl\u00e4gt, ist es eine echte k\u00fcnstliche Intelligenz. <\/p>\n\n\n\n

    Weitere Informationen in der zugeh\u00f6rigen Literatur:<\/strong><\/p>\n\n\n\n

    Statistics for Experimenters: Design, Innovation, and Discovery (2nd Edition)<\/strong>
    Box, G. E., Hunter, W. H., & Hunter, S., Wiley-Interscience<\/em>, 2005,     Link<\/a> <\/p>\n\n\n\n

    Design and Analysis of Experiments (10th Edition)<\/strong>
    Montgomery, D. C., Wiley<\/em>, 2019,     Link<\/a> <\/p>\n\n\n\n

    The Design of Experiments<\/strong> Fisher, R. A., Nature<\/em> 137, <\/strong>252\u2013254, 1936, Link<\/a> <\/p>\n","protected":false},"excerpt":{"rendered":"

    In den Forschungs- und Entwicklungsabteilungen kann Design of Experiments mit K\u00fcnstlicher Intelligenz viele Experimente, und damit Zeit, Geld und Ressourcen sparen. Doch wie genau funktioniert es?<\/p>\n","protected":false},"author":9,"featured_media":4232,"template":"","meta":{"_acf_changed":true,"footnotes":""},"blog-category":[1416,390],"blog-tag":[1443,1481,1487,1557],"class_list":["post-4229","blog","type-blog","status-publish","has-post-thumbnail","hentry","blog-category-alle-blogbeitraege","blog-category-grundlagen","blog-tag-aktives-lernen","blog-tag-design-of-experiments-doe-de","blog-tag-fluch-der-dimensionalitaet","blog-tag-nachhaltige-ki"],"acf":[],"publishpress_future_workflow_manual_trigger":{"enabledWorkflows":[]},"_links":{"self":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/blog\/4229","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/blog"}],"about":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/types\/blog"}],"author":[{"embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/users\/9"}],"version-history":[{"count":0,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/blog\/4229\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/media\/4232"}],"wp:attachment":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/media?parent=4229"}],"wp:term":[{"taxonomy":"blog-category","embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/blog-category?post=4229"},{"taxonomy":"blog-tag","embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/blog-tag?post=4229"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}