{"id":4564,"date":"2022-11-16T05:00:39","date_gmt":"2022-11-16T05:00:39","guid":{"rendered":"https:\/\/lamarr-institute.org\/blog\/automatische-kategorisierung\/"},"modified":"2025-11-12T14:53:12","modified_gmt":"2025-11-12T14:53:12","slug":"automatische-kategorisierung","status":"publish","type":"blog","link":"https:\/\/lamarr-institute.org\/de\/blog\/automatische-kategorisierung\/","title":{"rendered":"Automatische Kategorisierung von Online-Shop-Artikeln aus Produktbeschreibungen"},"content":{"rendered":"\n

Wenn man online shoppt, erwartet man ein breites Produktangebot, welches l\u00e4ngst nicht mehr rein manuell zu warten ist. G\u00e4ngige Online-Shops klassifizieren jeden Artikel unter einer oder mehreren Kategorien, um die Produktsuche zu vereinfachen. Wie kann sich so ein Prozess automatisieren lassen?<\/p>\n\n\n\n

Eine m\u00f6gliche L\u00f6sung erfolgt durch Textkategorisierung. Aus einem Produktkatalog k\u00f6nnen Produktbeschreibungen und die jeweiligen Kategorien benutzt werden, um ML-Modelle zu trainieren, die anhand eines kurzen Textes, die passenden Kategorien vorhersagen. Heutzutage l\u00f6st man solche Probleme standardm\u00e4\u00dfig mit vortrainierten kontextabh\u00e4ngigen Einbettungsvektoren<\/a>, insbesondere mit Transformer-basierten Modellen wie BERT<\/a> (Bidirectional Encoder Representations from Transformers). Das sind tiefe neuronale Netzwerke, die aus sehr vielen Texten, verschiedene Sprachen modellieren k\u00f6nnen. Dies erm\u00f6glicht unter anderem, z\u00fcgig einen Text-Klassifikator aus den Produktbeschreibungen zu trainieren. Obwohl die Resultate von solchen Ergebnissen erstaunlich gut sein k\u00f6nnen, machen manche ihrer Eigenschaften ihre Implementierung in der Praxis schwer:<\/p>\n\n\n\n

    \n
  1. Die derzeit leistungsst\u00e4rksten Modelle laufen normalerweise auf spezialisierter Hardware (meistens GPUs oder TPUs), um Ergebnisse in einer machbaren Zeit zu erhalten.<\/li>\n\n\n\n
  2. Selbst in dem Fall, dass die Trainingszeit ignoriert wird, kann die Rechenkomplexit\u00e4t w\u00e4hrend der Inferenzphase ein Problem darstellen, wenn sie zu zus\u00e4tzlicher Latenz bei Webanwendungen f\u00fchrt und schlie\u00dflich die Benutzerzufriedenheit verschlechtert.<\/li>\n\n\n\n
  3. Black-Box-Modelle wie BERT sind schwierig zu \u00fcberpr\u00fcfen, sobald Probleme auftreten (z. B. \u201eWarum diese unerwartete Kategorie f\u00fcr dieses Produkt?\u201c).<\/li>\n<\/ol>\n\n\n\n

    Das Problem des Trade-off-Dreiecks<\/span><\/h2>\n\n\n\n

    Ein besonderer Anwendungsfall ist es zum Beispiel, wenn eine ressourcenarme L\u00f6sung ben\u00f6tigt wird, bei der einige Kategorien nicht verwechselt werden d\u00fcrfen (beispielsweise darf \u201eSexspielzeug\u201c nicht f\u00e4lschlicherweise als \u201eSpielzeug\u201c klassifiziert werden, daher sind volle Black-Box-Modelle ungeeignet). Gleichzeitig sollen aber auch die bestm\u00f6glichen Klassifizierungen erreicht werden. An dieser Stelle tritt ein \u201eTrade-off-Dreieck\u201c aus drei Aspekten auf, welche man bei der Wahl einer Klassifikationsmodellarchitektur nicht zur selben Zeit vollst\u00e4ndig erreichen kann: Leistung, Erkl\u00e4rbarkeit und geringer Ressourcenbedarf. Deshalb ist es das Ziel, die Leistungsl\u00fccke zwischen Black-Box-BERT-basierten Methoden und leichteren erkl\u00e4rbaren Modellen zu quantifizieren. Daf\u00fcr wird DistilBERT<\/a> mit einer auf k<\/em>-N\u00e4chste-Nachbarn-basierte Klassifikationspipeline verglichen. DistilBERT schneidet zwar in der Regel etwas schlechter ab, ist es aber deutlich kompakter als \u00e4quivalente BERT-basierte Modelle. Die auf k<\/em>-N\u00e4chste-Nachbarn-basierte Klassifikationspipeline wird auf einer Reihe verschiedener Textdarstellungen mit unterschiedlichem Grad an Rechenkomplexit\u00e4t und Erkl\u00e4rbarkeit \u2013 einschlie\u00dflich Topic-Modelle und neuronale Sprachmodelle \u2013 trainiert.<\/p>\n\n\n\n

    Dieser Rahmen ist erkl\u00e4rbar, da trivialerweise die Nachbarn (die \u00e4hnlichsten Produktbeschreibungen) als Erkl\u00e4rungen f\u00fcr jeden klassifizierten Artikel gezeigt werden k\u00f6nnen.<\/p>\n\n\n\n

    Eine ressourcenarme L\u00f6sung mit bestm\u00f6glicher Klassifizierung<\/span><\/h2>\n\n\n\n

    Obwohl eine gewisse Leistungsl\u00fccke zu beobachten ist, kann dieser Unterschied sich kaum lohnen, wenn die gemessenen, viel gr\u00f6\u00dferen CPU-Zeiten f\u00fcr DistilBERT ber\u00fccksichtigt werden. Auch wegen ihrer mangelnden Erkl\u00e4rbarkeit muss das aktuellste verf\u00fcgbare neuronale Netz nicht unbedingt die beste Option sein, insbesondere wenn das Modell in einer Produktionsumgebung ausgef\u00fchrt werden muss.<\/p>\n\n\n\n

    Die erkl\u00e4rbare Pipeline besteht aus einem Sprachmodell, welches vektorielle Repr\u00e4sentationen f\u00fcr Textbeschreibungen generiert, und einem N\u00e4chste-Nachbarn-Klassifikator. Das bedeutet, laut des jeweiligen Sprachmodells, werden \u201e\u00e4hnliche\u201c Artikel (anhand ihrer Beschreibung), f\u00fcr die Kategorien des bisher bekannten \u00e4hnlichsten Artikels \u00fcbernommen. Zu den getesteten Sprachmodellen geh\u00f6ren:<\/p>\n\n\n\n