{"id":27012,"date":"2025-10-15T14:21:05","date_gmt":"2025-10-15T14:21:05","guid":{"rendered":"https:\/\/lamarr-institute.org\/?p=27012"},"modified":"2025-10-20T14:30:49","modified_gmt":"2025-10-20T14:30:49","slug":"ki-chemie-transformer-studie","status":"publish","type":"post","link":"https:\/\/lamarr-institute.org\/de\/news\/ki-chemie-transformer-studie\/","title":{"rendered":"Chemie-KIs m\u00fcssen nichts von Chemie verstehen"},"content":{"rendered":"\n

Sprachmodelle kommen inzwischen auch in den Naturwissenschaften zum Einsatz. In der Chemie werden sie etwa genutzt, um potenzielle Wirkstoffe vorherzusagen. Dazu m\u00fcssen sie zun\u00e4chst aufw\u00e4ndig trainiert werden. Doch Wissen \u00fcber biochemische Zusammenh\u00e4nge eignen sie sich dabei offenbar nicht an. Stattdessen ziehen sie ihre Schl\u00fcsse auf Basis von \u00c4hnlichkeiten und statistischen Korrelationen \u2013 wie eine aktuelle Studie von Forschenden des Lamarr-Instituts f\u00fcr Maschinelles Lernen und K\u00fcnstliche Intelligenz an der Universit\u00e4t Bonn zeigt. Die Ergebnisse sind nun in der Fachzeitschrift Patterns erschienen.<\/p>\n\n\n\n

Gro\u00dfe Sprachmodelle sind oft verbl\u00fcffend gut in dem, was sie tun \u2013 ob sie mathematische Beweise f\u00fchren, Musik komponieren oder Werbeslogans entwerfen. Doch wie kommen sie zu ihren Ergebnissen? Verstehen sie tats\u00e4chlich, was eine Symphonie ausmacht oder einen guten Witz? \u201eAlle Sprachmodelle sind eine Black Box\u201c, betont Prof. Dr. J\u00fcrgen Bajorath<\/a>, der am Lamarr-Institut den interdisziplin\u00e4ren Forschungsbereich Life Sciences & Health<\/a> verantwortet. \u201eEs ist schwer, ihnen \u2013 metaphorisch gesprochen \u2013 in den Kopf zu schauen.\u201c<\/p>\n\n\n\n

Der Chemieinformatiker hat gemeinsam mit Doktorand Jannik P. Roth genau das versucht \u2013 und zwar f\u00fcr eine besondere Form von KI-Algorithmen: die chemischen Transformermodelle. Sie funktionieren im Prinzip \u00e4hnlich wie ChatGPT, Google Gemini oder Elon Musks \u201eGrok\u201c. W\u00e4hrend diese Modelle mit riesigen Mengen an Texten trainiert wurden und so gelernt haben, selbst S\u00e4tze zu formulieren, basieren chemische Sprachmodelle in der Regel auf deutlich weniger Daten. Sie eignen sich ihr Wissen anhand molekularer Repr\u00e4sentationen und Beziehungen an, etwa durch sogenannte SMILES<\/em>-Strings \u2013 Zeichenfolgen, die Molek\u00fcle und deren Struktur als Sequenz von Buchstaben und Symbolen darstellen.<\/p>\n\n\n\n

\"Schematic
Schematische Darstellung eines Transformermodells zur Vorhersage neuer Verbindungen auf der Basis von Proteinsequenzdaten. \u00a9 J. P. Roth und J. Bajorath<\/figcaption><\/figure>\n\n\n\n

Trainingsdaten gezielt manipuliert<\/h3>\n\n\n\n

In der pharmazeutischen Forschung sucht man h\u00e4ufig nach Substanzen, die bestimmte Enzyme hemmen oder Rezeptoren blockieren. Mit chemischen Sprachmodellen l\u00e4sst sich beispielsweise versuchen, aktive Molek\u00fcle auf Grundlage der Aminos\u00e4uresequenzen von Zielproteinen vorherzusagen. \u201eWir haben dieses sogenannte sequenzbasierte Molek\u00fcldesign als Testsystem genutzt, um besser zu verstehen, wie die Transformer zu ihren Vorhersagen kommen\u201c, erkl\u00e4rt Roth. \u201eWenn man ein solches Modell nach einer Anlernphase mit einem neuen Enzym f\u00fcttert, schl\u00e4gt es mit etwas Gl\u00fcck eine Verbindung vor, die dieses Enzym hemmen k\u00f6nnte. Doch bedeutet das, dass die KI gelernt hat, nach welchen biochemischen Prinzipien so eine Hemmung funktioniert?\u201c<\/p>\n\n\n\n

Um dieser Frage nachzugehen, manipulierten die Forschenden die Trainingsdaten gezielt. \u201eWir haben das Modell zun\u00e4chst nur mit einer bestimmten Gruppe von Enzymen und deren Hemmstoffen trainiert\u201c, erl\u00e4utert Bajorath. \u201eWenn wir dann im Test ein neues Enzym aus derselben Familie verwendet haben, schlug der Algorithmus tats\u00e4chlich einen plausiblen Hemmstoff vor.\u201c Wurde dagegen ein Enzym aus einer anderen Familie getestet \u2013 also eines mit v\u00f6llig anderer Funktion im K\u00f6rper \u2013 lieferte das chemische Sprachmodell nur unbrauchbare Ergebnisse.<\/p>\n\n\n\n

Statistische Daumenregel statt biochemischem Verst\u00e4ndnis<\/h3>\n\n\n\n

\u201eDas spricht dagegen, dass das Modell allgemeing\u00fcltige chemische Prinzipien erlernt hat \u2013 also wei\u00df, wie eine Enzymhemmung chemisch abl\u00e4uft\u201c, so Bajorath. Stattdessen beruhen die Vorschl\u00e4ge auf statistischen Zusammenh\u00e4ngen und Mustern in den Daten: Wenn ein neues Enzym einem bereits bekannten \u00e4hnelt, wird ein \u00e4hnlicher Hemmstoff funktionieren. \u201eEine solche Daumenregel muss nicht zwangsl\u00e4ufig schlecht sein\u201c, betont Bajorath. \u201eSie kann zum Beispiel helfen, neue Einsatzgebiete f\u00fcr bekannte Wirkstoffe zu entdecken.\u201c<\/p>\n\n\n\n

Allerdings zeigten die Modelle in der Studie keinerlei biochemisches Verst\u00e4ndnis, selbst bei der Bewertung von \u00c4hnlichkeiten. So hielten sie Enzyme (oder auch Rezeptoren und andere Proteine) stets dann f\u00fcr \u00e4hnlich, wenn ihre Aminos\u00e4uresequenzen zu 50 bis 60 Prozent \u00fcbereinstimmten. Die restlichen Sequenzen konnten beliebig durcheinandergew\u00fcrfelt werden \u2013 ohne Einfluss auf das Ergebnis. Dabei sind h\u00e4ufig nur bestimmte Bereiche eines Enzyms entscheidend f\u00fcr dessen Funktion. Eine einzige ver\u00e4nderte Aminos\u00e4ure kann die Aktivit\u00e4t vollst\u00e4ndig aufheben. \u201eDie Modelle lernten w\u00e4hrend ihres Trainings nicht, wichtige von unwichtigen Sequenzanteilen zu unterscheiden\u201c, erkl\u00e4rt Bajorath.<\/p>\n\n\n\n

Modelle plappern zuvor Geh\u00f6rtes nach<\/h3>\n\n\n\n

Die Ergebnisse der Studie zeigen eindrucksvoll, dass den Modellen zumindest f\u00fcr dieses Testsystem jegliches tiefere chemische Verst\u00e4ndnis fehlt. Bildlich gesprochen plappern sie nur mit Variationen nach, was sie zuvor in \u00e4hnlichen Kontexten gesehen haben. \u201eDas bedeutet nicht, dass sie f\u00fcr die Wirkstoffforschung ungeeignet sind\u201c, betont Bajorath, der auch Mitglied im Transdisziplin\u00e4ren Forschungsbereich (TRA) Modelling<\/em><\/a> der Universit\u00e4t Bonn ist. \u201eSie k\u00f6nnen durchaus Wirkstoffe vorschlagen, die bestimmte Rezeptoren blockieren oder Enzyme hemmen. Das tun sie aber nicht, weil sie Chemie verstehen, sondern weil sie \u00c4hnlichkeiten in textbasierten molekularen Repr\u00e4sentationen und statistischen Korrelationen erkennen. Ihre Ergebnisse sind wertvoll \u2013 man darf sie nur nicht \u00fcberinterpretieren.\u201c<\/p>\n\n\n\n

Publikation<\/h3>\n\n\n\n

Jannik P. Roth, J\u00fcrgen Bajorath: Unraveling learning characteristics of transformer models for molecular design, Patterns, https:\/\/doi.org\/10.1016\/j.patter.2025.101392<\/a>, URL: https:\/\/www.cell.com\/patterns\/fulltext\/S2666-3899(25)00240-5<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Forschende des Lamarr-Instituts und der Universit\u00e4t Bonn zeigen: Transformer-Modelle lernen ausschlie\u00dflich statistische Korrelationen.<\/p>\n","protected":false},"author":16,"featured_media":27006,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[175],"tags":[],"class_list":["post-27012","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-wissenschaft"],"acf":[],"publishpress_future_workflow_manual_trigger":{"enabledWorkflows":[]},"_links":{"self":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/posts\/27012","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/users\/16"}],"replies":[{"embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/comments?post=27012"}],"version-history":[{"count":0,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/posts\/27012\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/media\/27006"}],"wp:attachment":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/media?parent=27012"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/categories?post=27012"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/tags?post=27012"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}