{"id":20845,"date":"2025-04-07T07:27:59","date_gmt":"2025-04-07T07:27:59","guid":{"rendered":"https:\/\/lamarr-institute.org\/?p=20845"},"modified":"2025-04-07T07:40:33","modified_gmt":"2025-04-07T07:40:33","slug":"ki-naturwissenschaften-vertrauen","status":"publish","type":"post","link":"https:\/\/lamarr-institute.org\/de\/news\/ki-naturwissenschaften-vertrauen\/","title":{"rendered":"KI in den Naturwissenschaften: Wann sind Vorhersagen wirklich vertrauensw\u00fcrdig?"},"content":{"rendered":"\n<p><strong>Neue Publikation von Lamarr PI Prof. J\u00fcrgen Bajorath analysiert den wissenschaftlichen Nutzen pr\u00e4diktiver KI-Modelle<\/strong><\/p>\n\n\n\n<p>Die Anwendung von K\u00fcnstlicher Intelligenz in den Naturwissenschaften w\u00e4chst stetig \u2013 insbesondere in Disziplinen wie Chemie, Biologie oder Medizin. Doch wie aussagekr\u00e4ftig und vertrauensw\u00fcrdig sind KI-generierte Vorhersagen in einem wissenschaftlichen Kontext wirklich?<\/p>\n\n\n\n<p>Dieser Frage widmet sich eine neue Publikation von <a href=\"https:\/\/lamarr-institute.org\/de\/person\/prof-dr-jurgen-bajorath\/\">Prof. Dr. J\u00fcrgen Bajorath<\/a>, Principal Investigator am Lamarr-Institut f\u00fcr Maschinelles Lernen und K\u00fcnstliche Intelligenz. Zudem verantwortet er das <a href=\"https:\/\/www.b-it-center.de\/b-it-programmes\/msc-in-life-science-informatics\/description\" target=\"_blank\" rel=\"noreferrer noopener\">Life Science Informatics Programm am Bonn-Aachen International Center for Information Technology (b-it)<\/a> der Universit\u00e4t Bonn. Der Beitrag mit dem Titel <em>From Scientific Theory to Duality of Predictive Artificial Intelligence Models<\/em> ist k\u00fcrzlich in <em>Cell Reports Physical Science<\/em> erschienen.<\/p>\n\n\n\n<p>Die Studie formuliert ein theoretisches Rahmenwerk, das zeigt: Die Erkl\u00e4rung von KI-Vorhersagen ist nicht mit deren wissenschaftlicher Interpretation gleichzusetzen \u2013 und schon gar nicht mit dem Nachweis kausaler Zusammenh\u00e4nge.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Vertrauensw\u00fcrdige KI in den Naturwissenschaften: Forschung am Lamarr-Institut<\/h2>\n\n\n\n<p>Am Lamarr-Institut leitet Prof. Bajorath den Forschungsbereich <a href=\"https:\/\/lamarr-institute.org\/de\/forschung\/life-sciences\/\">Life Sciences<\/a>. In seiner Arbeit verbindet er Methoden des maschinellen Lernens mit Anwendungen in der Chemieinformatik, medizinischen Chemie und Wirkstoffforschung. Die aktuelle Publikation adressiert eines der zentralen Anliegen des Lamarr-Instituts: die Entwicklung erkl\u00e4rbarer, vertrauensw\u00fcrdiger KI-Systeme mit realer Anwendungsperspektive.<\/p>\n\n\n\n<p>Bajorath beschreibt darin die \u201e<strong>Dualit\u00e4t pr\u00e4diktiver Modelle<\/strong>\u201c: Je nachdem, ob ein Modell auf einer wissenschaftlich fundierten Hypothese basiert oder rein datengetrieben ist, unterscheidet sich seine Eignung f\u00fcr experimentelle Folgeforschung erheblich. Nur wenn ein Modell auf nachvollziehbaren wissenschaftlichen Prinzipien beruht, kann es laut Bajorath als Ausgangspunkt f\u00fcr Hypothesenbildung, Kausalit\u00e4tsanalyse und experimentelles Design dienen.<\/p>\n\n\n<style>.kb-image20845_26504c-1f .kb-image-has-overlay:after{opacity:0.3;}<\/style>\n<figure class=\"wp-block-kadence-image kb-image20845_26504c-1f size-large\"><img loading=\"lazy\" decoding=\"async\" width=\"1024\" height=\"915\" src=\"https:\/\/lamarr-institute.org\/wp-content\/uploads\/\/XAI_LS_DE-1024x915.jpg\" alt=\"Der Einsatz erkl\u00e4rbarer KI in der Forschung l\u00e4sst sich auch als zyklischer Prozess verstehen. \" class=\"kb-img wp-image-20846\" title=\"\" srcset=\"https:\/\/lamarr-institute.org\/wp-content\/uploads\/XAI_LS_DE-1024x915.jpg 1024w, https:\/\/lamarr-institute.org\/wp-content\/uploads\/XAI_LS_DE-300x268.jpg 300w, https:\/\/lamarr-institute.org\/wp-content\/uploads\/XAI_LS_DE-768x686.jpg 768w, https:\/\/lamarr-institute.org\/wp-content\/uploads\/XAI_LS_DE.jpg 1209w\" sizes=\"auto, (max-width: 1024px) 100vw, 1024px\" \/><figcaption>Der Einsatz erkl\u00e4rbarer KI in der Forschung l\u00e4sst sich auch als zyklischer Prozess verstehen. \u00a9 J\u00fcrgen Bajorath \/ Universit\u00e4t Bonn<\/figcaption><\/figure>\n\n\n\n<h2 class=\"wp-block-heading\">Klarer Unterschied: Erkl\u00e4rung \u2260 Interpretation \u2260 Kausalit\u00e4t<\/h2>\n\n\n\n<p>Die Studie grenzt zentrale Begriffe der KI-Forschung systematisch voneinander ab:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>Modellerkl\u00e4rung (explanation): Welche Merkmale nutzt das Modell f\u00fcr seine Vorhersage?<\/li>\n\n\n\n<li>Interpretation: Wie bewertet der Mensch diese Merkmale im wissenschaftlichen Kontext?<\/li>\n\n\n\n<li>Kausalit\u00e4t: L\u00e4sst sich ein urs\u00e4chlicher Zusammenhang zwischen einer Vorhersage und eines nat\u00fcrlichen Prozesses experimentell belegen?<\/li>\n<\/ul>\n\n\n\n<p>Fehlt die wissenschaftliche Rationalit\u00e4t im Modellansatz, drohen Fehlinterpretationen \u2013 ein Risiko, das Bajorath unter anderem am Beispiel sogenannter \u201eClever Hans Predictors\u201c illustriert: Modelle, die scheinbar korrekte Ergebnisse liefern, deren Entscheidungsgrundlage aber irref\u00fchrend ist. Gerade im Bereich der KI in den Naturwissenschaften kommt es h\u00e4ufig zu Missverst\u00e4ndnissen \u2013 etwa, wenn Modelle scheinbar zutreffende Ergebnisse liefern, aber auf irrelevanten oder nicht nachvollziehbaren Kriterien basieren.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Relevanz f\u00fcr die KI-Forschung am Lamarr-Institut<\/h2>\n\n\n\n<p>Die Studie ist ein Beitrag zur Grundlagenforschung im Bereich vertrauensw\u00fcrdiger und erkl\u00e4rbarer KI \u2013 einem der Leitprinzipien des Lamarr-Instituts. Sie verdeutlicht, unter welchen Bedingungen K\u00fcnstliche Intelligenz in den Naturwissenschaften mehr sein kann als ein reines Vorhersagewerkzeug: n\u00e4mlich ein methodisch fundiertes Instrument zur Hypothesenbildung und Erkenntnisgewinnung.<\/p>\n\n\n\n<p>Zugleich liefert sie wichtige Impulse f\u00fcr andere Lamarr-Forschungsbereiche, etwa Trustworthy AI, Hybrid ML und Life Sciences, die erkl\u00e4rbare und wissenschaftlich fundierte KI-Modelle entwickeln \u2013 im Sinne der Triangul\u00e4ren KI, die Daten, Wissen und Kontext systematisch miteinander verkn\u00fcpft.<\/p>\n\n\n\n<p><strong>Publikation:<\/strong> J\u00fcrgen Bajorath: <em>From Scientific Theory to Duality of Predictive Artificial Intelligence Models<\/em>. <em>Cell Reports Physical Science<\/em> (2025). DOI: <a href=\"https:\/\/www.sciencedirect.com\/science\/article\/pii\/S2666386425001158\" target=\"_blank\" rel=\"noreferrer noopener\">10.1016\/j.xcrp.2025.102516<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Neue Publikation von Lamarr PI Prof. J\u00fcrgen Bajorath analysiert den wissenschaftlichen Nutzen pr\u00e4diktiver KI-Modelle Die Anwendung von K\u00fcnstlicher Intelligenz in den Naturwissenschaften w\u00e4chst stetig \u2013 insbesondere in Disziplinen wie Chemie, Biologie oder Medizin. Doch wie aussagekr\u00e4ftig und vertrauensw\u00fcrdig sind KI-generierte Vorhersagen in einem wissenschaftlichen Kontext wirklich? Dieser Frage widmet sich eine neue Publikation von Prof. Dr. J\u00fcrgen Bajorath, Principal Investigator am Lamarr-Institut f\u00fcr Maschinelles Lernen und K\u00fcnstliche Intelligenz. Zudem verantwortet [&hellip;]<\/p>\n","protected":false},"author":16,"featured_media":20842,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[175],"tags":[738],"class_list":["post-20845","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-wissenschaft","tag-studium"],"acf":[],"publishpress_future_workflow_manual_trigger":{"enabledWorkflows":[]},"_links":{"self":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/posts\/20845","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/users\/16"}],"replies":[{"embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/comments?post=20845"}],"version-history":[{"count":0,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/posts\/20845\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/media\/20842"}],"wp:attachment":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/media?parent=20845"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/categories?post=20845"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/tags?post=20845"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}