Das Forschungsprojekt AALearning (Adversarial and Uncertainty-Aware Learning) startete diese Woche offiziell. AALearning wird vom Bundesministerium f\u00fcr Forschung (BMFTR) im Rahmen des ErUM-Data-Programms gef\u00f6rdert und zielt darauf ab, die Robustheit, Interpretierbarkeit und Zuverl\u00e4ssigkeit von Methoden des maschinellen Lernens in der Grundlagenforschung der Physik zu st\u00e4rken.<\/p>\n\n\n\n
AALearning vereint Fachwissen aus den Bereichen Physik, maschinelles Lernen und KI-Sicherheit. Das Projekt wird gemeinsam von Prof. Dr. Matthias Schott<\/a> (Rheinische Friedrich-Wilhelms-Universit\u00e4t Bonn<\/a>), Prof. Dr. Lucie Flek<\/a>, Bereichsleiterin f\u00fcr Natural Language Processing (NLP)<\/a> am Lamarr-Institut und Professorin an der Universit\u00e4t Bonn und am Bonn-Aachen International Center for Information Technology (b-it)<\/a>, Prof. Dr. Alexander Schmidt<\/a> (RWTH Aachen<\/a>) und Prof. Dr. Christopher Wiebusch<\/a> (RWTH Aachen) geleitet. Zu den assoziierten Partnern geh\u00f6ren der Industriepartner scieneers GmbH<\/a> und den Lamarr-Partner Fraunhofer-Institut f\u00fcr Intelligente Analyse- und Informationssysteme (IAIS)<\/a>.<\/p>\n\n\n\n Sichere und zuverl\u00e4ssige KI f\u00fcr datengesteuerte Physik<\/strong><\/p>\n\n\n\n Maschinelles Lernen ist in Bereichen wie Teilchenphysik, Astroteilchenphysik und Gravitationswellenforschung zu einem zentralen Werkzeug geworden. Gleichzeitig wirft die zunehmende Abh\u00e4ngigkeit von KI grundlegende methodische Fragen auf. Die Empfindlichkeit gegen\u00fcber Modellannahmen, die begrenzte Robustheit gegen\u00fcber systematischen Unsicherheiten und die unzureichende Interpretierbarkeit k\u00f6nnen sich unmittelbar auf die Zuverl\u00e4ssigkeit und Reproduzierbarkeit wissenschaftlicher Analysen auswirken.<\/p>\n\n\n\n AALearning begegnet diesen Herausforderungen durch die Entwicklung physikalisch konsistenter adversarialer Lernmethoden, die physikalische Gesetze, Detektoreffekte und experimentelle Unsicherheiten explizit in den Trainingsprozess einbeziehen. Parallel dazu treibt das Projekt unsicherheitsbewusste KI-Techniken voran, darunter simulationsbasierte Inferenz, um strukturierte und interpretierbare Unsicherheitssch\u00e4tzungen zu liefern, die direkt in physikalische Messungen integriert werden k\u00f6nnen.<\/p>\n\n\n\n Ein weiterer Schwerpunkt des Projekts ist die Sicherheit und Zuverl\u00e4ssigkeit generativer KI-Modelle f\u00fcr schnelle Simulationen. Obwohl solche Modelle erhebliche rechnerische Vorteile bieten, untersucht AALearning systematisch, unter welchen Bedingungen sie klassische, ressourcenintensive Simulationstechniken sicher ersetzen k\u00f6nnen, ohne die wissenschaftliche Validit\u00e4t zu beeintr\u00e4chtigen.<\/p>\n\n\n\n Von der Grundlagenphysik zu vertrauensw\u00fcrdigen KI-Systemen<\/strong><\/p>\n\n\n\n \u00dcber seine Kernanwendungen in der Physik hinaus untersucht AALearning auch die \u00dcbertragbarkeit seiner methodischen Erkenntnisse auf andere KI-Bereiche. Insbesondere untersucht das Projekt, wie Konzepte wie epistemische und aleatorische Unsicherheit, Robustheit unter gegnerischen St\u00f6rungen und sicherheitsorientierte Bewertung \u2013 urspr\u00fcnglich f\u00fcr physikalische Analysen entwickelt \u2013 zur Bewertung und Reduktion von Halluzinationen in gro\u00dfen Sprachmodellen beitragen k\u00f6nnen.<\/p>\n\n\n\n Durch die Verbindung von unsicherheitsbewusstem Lernen in der Physik mit den Herausforderungen moderner KI-Systeme tr\u00e4gt AALearning zu einem umfassenderen Verst\u00e4ndnis von vertrauensw\u00fcrdiger und zuverl\u00e4ssiger KI \u00fcber einzelne Anwendungsbereiche hinaus bei.<\/p>\n\n\n\n Alle im Rahmen des Projekts entwickelten Methoden, Benchmarks und Softwaretools werden als Open-Source-Ressourcen ver\u00f6ffentlicht. Damit st\u00e4rkt AAILearning die ErUM-Data-Community und leistet einen Beitrag zu internationalen Forschungsbem\u00fchungen im Bereich transparenter und vertrauensw\u00fcrdiger KI.<\/p>\n\n\n\n AALearning im Kontext der Forschungsagenda von Lamarr<\/strong><\/p>\n\n\n\n F\u00fcr das Lamarr-Institut for Machine Learning and Artificial Intelligence leistet AALearning einen direkten Beitrag zu seiner zentralen Forschungsagenda, der Entwicklung leistungsstarker, vertrauensw\u00fcrdiger und ressourceneffizienter KI-Methoden. Das Projekt veranschaulicht den Ansatz von Lamarr, KI-Systeme konsequent in ihren wissenschaftlichen Kontext einzubetten, indem es methodische Fortschritte im maschinellen Lernen eng mit dom\u00e4nenspezifischem Wissen aus der Grundlagenphysik verkn\u00fcpft.<\/p>\n\n\n\n Durch die Fokussierung auf Robustheit, Interpretierbarkeit und Unsicherheitsquantifizierung st\u00e4rkt AALearning die interdisziplin\u00e4re Zusammenarbeit zwischen Physik- und KI-Forschung bei Lamarr und treibt methodische Grundlagen voran, die weit \u00fcber einzelne Disziplinen hinaus von Bedeutung sind. Die explizite Erforschung von Transferkonzepten auf gro\u00dfe Sprachmodelle steht im Einklang mit Lamarrs Forschungsarbeiten zu vertrauensw\u00fcrdiger KI und der verantwortungsvollen Entwicklung generativer Modelle.<\/p>\n\n\n\n Durch seine Open-Source-Ausrichtung und die enge Integration in das ErUM-Data-Framework st\u00e4rkt AALearning die Rolle von Lamarr als aktiven Mitgestalter an nationalen und internationalen Forschungs\u00f6kosystemen an der Schnittstelle von KI-Methodik und wissenschaftlicher Anwendung.<\/p>\n\n\n\n