Das Forschungsprojekt AALearning (Adversarial and Uncertainty-Aware Learning) startete diese Woche offiziell. AALearning wird vom Bundesministerium für Forschung (BMFTR) im Rahmen des ErUM-Data-Programms gefördert und zielt darauf ab, die Robustheit, Interpretierbarkeit und Zuverlässigkeit von Methoden des maschinellen Lernens in der Grundlagenforschung der Physik zu stärken.
AALearning vereint Fachwissen aus den Bereichen Physik, maschinelles Lernen und KI-Sicherheit. Das Projekt wird gemeinsam von Prof. Dr. Matthias Schott (Rheinische Friedrich-Wilhelms-Universität Bonn), Prof. Dr. Lucie Flek, Bereichsleiterin für Natural Language Processing (NLP) am Lamarr-Institut und Professorin an der Universität Bonn und am Bonn-Aachen International Center for Information Technology (b-it), Prof. Dr. Alexander Schmidt (RWTH Aachen) und Prof. Dr. Christopher Wiebusch (RWTH Aachen) geleitet. Zu den assoziierten Partnern gehören der Industriepartner scieneers GmbH und den Lamarr-Partner Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme (IAIS).
Sichere und zuverlässige KI für datengesteuerte Physik
Maschinelles Lernen ist in Bereichen wie Teilchenphysik, Astroteilchenphysik und Gravitationswellenforschung zu einem zentralen Werkzeug geworden. Gleichzeitig wirft die zunehmende Abhängigkeit von KI grundlegende methodische Fragen auf. Die Empfindlichkeit gegenüber Modellannahmen, die begrenzte Robustheit gegenüber systematischen Unsicherheiten und die unzureichende Interpretierbarkeit können sich unmittelbar auf die Zuverlässigkeit und Reproduzierbarkeit wissenschaftlicher Analysen auswirken.
AALearning begegnet diesen Herausforderungen durch die Entwicklung physikalisch konsistenter adversarialer Lernmethoden, die physikalische Gesetze, Detektoreffekte und experimentelle Unsicherheiten explizit in den Trainingsprozess einbeziehen. Parallel dazu treibt das Projekt unsicherheitsbewusste KI-Techniken voran, darunter simulationsbasierte Inferenz, um strukturierte und interpretierbare Unsicherheitsschätzungen zu liefern, die direkt in physikalische Messungen integriert werden können.
Ein weiterer Schwerpunkt des Projekts ist die Sicherheit und Zuverlässigkeit generativer KI-Modelle für schnelle Simulationen. Obwohl solche Modelle erhebliche rechnerische Vorteile bieten, untersucht AALearning systematisch, unter welchen Bedingungen sie klassische, ressourcenintensive Simulationstechniken sicher ersetzen können, ohne die wissenschaftliche Validität zu beeinträchtigen.
Von der Grundlagenphysik zu vertrauenswürdigen KI-Systemen
Über seine Kernanwendungen in der Physik hinaus untersucht AALearning auch die Übertragbarkeit seiner methodischen Erkenntnisse auf andere KI-Bereiche. Insbesondere untersucht das Projekt, wie Konzepte wie epistemische und aleatorische Unsicherheit, Robustheit unter gegnerischen Störungen und sicherheitsorientierte Bewertung – ursprünglich für physikalische Analysen entwickelt – zur Bewertung und Reduktion von Halluzinationen in großen Sprachmodellen beitragen können.
Durch die Verbindung von unsicherheitsbewusstem Lernen in der Physik mit den Herausforderungen moderner KI-Systeme trägt AALearning zu einem umfassenderen Verständnis von vertrauenswürdiger und zuverlässiger KI über einzelne Anwendungsbereiche hinaus bei.
Alle im Rahmen des Projekts entwickelten Methoden, Benchmarks und Softwaretools werden als Open-Source-Ressourcen veröffentlicht. Damit stärkt AAILearning die ErUM-Data-Community und leistet einen Beitrag zu internationalen Forschungsbemühungen im Bereich transparenter und vertrauenswürdiger KI.
AALearning im Kontext der Forschungsagenda von Lamarr
Für das Lamarr-Institut for Machine Learning and Artificial Intelligence leistet AALearning einen direkten Beitrag zu seiner zentralen Forschungsagenda, der Entwicklung leistungsstarker, vertrauenswürdiger und ressourceneffizienter KI-Methoden. Das Projekt veranschaulicht den Ansatz von Lamarr, KI-Systeme konsequent in ihren wissenschaftlichen Kontext einzubetten, indem es methodische Fortschritte im maschinellen Lernen eng mit domänenspezifischem Wissen aus der Grundlagenphysik verknüpft.
Durch die Fokussierung auf Robustheit, Interpretierbarkeit und Unsicherheitsquantifizierung stärkt AALearning die interdisziplinäre Zusammenarbeit zwischen Physik- und KI-Forschung bei Lamarr und treibt methodische Grundlagen voran, die weit über einzelne Disziplinen hinaus von Bedeutung sind. Die explizite Erforschung von Transferkonzepten auf große Sprachmodelle steht im Einklang mit Lamarrs Forschungsarbeiten zu vertrauenswürdiger KI und der verantwortungsvollen Entwicklung generativer Modelle.
Durch seine Open-Source-Ausrichtung und die enge Integration in das ErUM-Data-Framework stärkt AALearning die Rolle von Lamarr als aktiven Mitgestalter an nationalen und internationalen Forschungsökosystemen an der Schnittstelle von KI-Methodik und wissenschaftlicher Anwendung.
Aufbauend auf bewährter Zusammenarbeit
AALearning baut auf dem erfolgreichen ErUM-Data-Projekt AISafety (2023–2026) auf, das von derselben Kooperation durchgeführt wurde. Das frühere Projekt gipfelte in einer Open-Data-Challenge, die im vergangenen Jahr auf der ECML vorgestellt wurde, und legte wichtige Grundlagen für die systematische Untersuchung von Robustheit und Unsicherheit im physikgestützten maschinellen Lernen. Mit AALearning wird diese Arbeit nun zu einem umfassenden Forschungsrahmen für sichere und zuverlässige KI in der Grundlagenphysik ausgebaut.