{"id":33996,"date":"2026-01-29T10:16:56","date_gmt":"2026-01-29T10:16:56","guid":{"rendered":"https:\/\/lamarr-institute.org\/?post_type=blog&p=33996"},"modified":"2026-02-04T08:15:07","modified_gmt":"2026-02-04T08:15:07","slug":"heterogene-ensembles-stream-mining","status":"publish","type":"blog","link":"https:\/\/lamarr-institute.org\/de\/blog\/heterogene-ensembles-stream-mining\/","title":{"rendered":"Gr\u00fcnes Online-Lernen mit Heterogenen Ensembles"},"content":{"rendered":"\n

Aufbauend auf Dr. Sebastian Buschj\u00e4gers<\/a> Blogbeitrag \u201eLernen aus Datenstr\u00f6men: Grundlagen des Stream Learning<\/a>\u201c untersucht dieser zweite Artikel unserer Stream-Mining-Reihe, wie heterogene Online-Ensembles wie HEROS pr\u00e4zises, ressourceneffizientes Lernen unter Konzeptdrift erm\u00f6glichen.<\/p>\n\n\n\n

Warum ein einzelnes Modell nicht immer ausreicht<\/h2>\n\n\n\n

Sich bei Vorhersagen auf ein einzelnes Machine-Learning-Modell zu verlassen, ist nicht immer der zuverl\u00e4ssigste Ansatz. Mehrere Meinungen k\u00f6nnen die Entscheidungsfindung verbessern und oft zu genaueren und vertrauensw\u00fcrdigeren Ergebnissen f\u00fchren. Dieser Ansatz wird als Ensemble-Lernen bezeichnet.
Die Grundidee des Ensemble-Lernens besteht darin, die Ausgaben von zwei oder mehr Modellen zu einem einzigen, verbesserten Vorhersagewert zusammenzuf\u00fchren. Es gibt viele M\u00f6glichkeiten, die Ergebnisse einzelner Modelle innerhalb eines Ensembles zu kombinieren. Zu den einfachsten Ans\u00e4tzen geh\u00f6ren das Mitteln ihrer Vorhersagen oder die Auswahl des f\u00fcr eine Eingabe zuversichtlichsten Modells. Allerdings sind Ensembles zwar leistungssteigernd, bringen aber auch Kosten mit sich.
Insbesondere im Datenstrom-Lernen und in Echtzeitszenarien spielt die Verarbeitungszeit eine entscheidende Rolle. Bevor wir uns also mit der Reduzierung der Kosten befassen, schauen wir zun\u00e4chst darauf, wie wir die Diversit\u00e4t innerhalb des Ensembles erh\u00f6hen k\u00f6nnen.<\/p>\n\n\n\n

Heterogenit\u00e4t in Ensembles nutzen<\/h2>\n\n\n\n

Ein Ensemble wird besonders leistungsf\u00e4hig, wenn seine Mitglieder vielf\u00e4ltig sind. Diversit\u00e4t (oder Heterogenit\u00e4t) sorgt daf\u00fcr, dass Modelle unterschiedliche Arten von Fehlern machen, die sich bei der Kombination gegenseitig ausgleichen k\u00f6nnen und so die Gesamtrobustheit erh\u00f6hen.<\/p>\n\n\n\n

Dennoch bleibt die Konfiguration von Hyperparametern f\u00fcr Modelle, die auf kontinuierlich wechselnden, bislang ungesehenen Daten arbeiten, eine gro\u00dfe Herausforderung. Zwar k\u00f6nnen adaptive Modelle mit Concept Drift<\/em> (Ver\u00e4nderung der zugrunde liegenden Datenverteilung) umgehen, ihre Hyperparameter m\u00fcssen jedoch h\u00e4ufig weiterhin manuell abgestimmt werden. Um dies zu \u00fcberwinden, f\u00fchrt He<\/strong>terogeneous O<\/strong>nline Ens<\/strong>embles (HEROS<\/strong>) einen neuartigen Ansatz ein: Unter Ressourcenbeschr\u00e4nkungen wird aus einem Pool von Modellen, die mit unterschiedlichen Hyperparameter-Einstellungen initialisiert wurden, eine Teilmenge ausgew\u00e4hlt und trainiert. Diese eingebaute Diversit\u00e4t macht eine manuelle Hyperparameter-Abstimmung \u00fcberfl\u00fcssig.<\/p>\n\n\n\n

Das HEROS-Framework<\/h2>\n\n\n\n

HEROS ist ein Framework, das daf\u00fcr entwickelt wurde, ein Ensemble von Modellen auf Datenstr\u00f6men zu trainieren und dabei unter Ressourcenbeschr\u00e4nkungen zu arbeiten. In diesem Setting bestimmt eine Strategie (Policy<\/strong>), welches Ensemble-Mitglied<\/strong> mit jeder neu eintreffenden Instanz aus dem Strom aktualisiert <\/strong>(d. h. trainiert) werden soll<\/strong>. Wie in Abbildung 2 dargestellt, hebt die schematische \u00dcbersicht diesen Prozess hervor, wobei der rot gestrichelte Bereich die Komponente kennzeichnet, auf die wir uns konzentrieren.<\/p>\n\n\n\n

Sei $L:Y\u00d7Y\u2192[0,1]$  ein normalisiertes Leistungsma\u00df (z.B. Accuracy<\/em>), das wir maximieren m\u00f6chten. F\u00fcr jede eingehende Instanz w\u00e4hlt das Framework das Modell $f_i$ mit der h\u00f6chsten Vorhersagegenauigkeit aus, um die endg\u00fcltige Vorhersage zu erzeugen. Gleichzeitig entscheidet die Policy dynamisch, welche $k$ Modelle auf jeder Instanz trainiert werden sollen, damit alle Modelle im Ensemble (bezeichnet als der Pool $f=f_1, f_2, … f_m)$ aktuell bleiben.<\/p>\n\n\n