KI-Kolloquium mit Prof. Barbara Hammer zu Explainable AI

Herausforderungen und Perspektiven der Explainable AI

Gastrednerin: Lamarr-Fellow Prof. Barbara Hammer, Bielefeld University

Explainable AI (XAI) ist ein wichtiger Bestandteil vertrauenswürdiger KI – besonders in sicherheitskritischen Bereichen. Gleichzeitig bleibt häufig unklar, welche Informationen XAI-Methoden tatsächlich liefern und wie zuverlässig ihre Aussagen sind.

In ihrem Vortrag gibt Prof. Barbara Hammer Einblicke in aktuelle Forschungsarbeiten zur Erklärung komplexer Machine-Learning-Modelle. Sie zeigt anhand eines Anwendungsbeispiels aus der kritischen Infrastruktur, wie XAI in der Praxis eingesetzt werden kann. Anschließend diskutiert sie zentrale Herausforderungen wie Eindeutigkeit, Plausibilität und Interpretierbarkeit von Erklärungen.

Ein Fokus liegt auf featurebasierten Methoden wie SHAP, die auf spieltheoretischen Konzepten beruhen. Prof. Hammer erläutert, wie Interaktionen zwischen Merkmalen zu variierenden Erklärungsergebnissen führen und wie sich diese Effekte systematisch erfassen lassen – insbesondere bei großen Sprachmodellen und multimodalen KI-Systemen.

Zur Sprecherin

Prof. Dr. Barbara Hammer ist Leiterin der Machine-Learning-Gruppe am CITEC der Universität Bielefeld. Ihre Forschungsschwerpunkte umfassen vertrauenswürdige KI, lebenslanges Lernen und hybride KI-Ansätze. Sie ist in mehreren internationalen Forschungsprojekten und wissenschaftlichen Gremien aktiv, darunter der ERC Synergy Grant WaterFutures und Academia Europaea.