Warum eine Künstliche Intelligenz trotz tausender Patientendaten die falsche Entscheidung treffen kann – und wie Forschende daran arbeiten, das zu ändern.
Sie haben gerade eine KI herausgefordert
Im Exponat haben Sie Elena kennengelernt – eine 34-jährige Patientin mit einem Hirntumor. Ihre Aufgabe war es, einer Künstlichen Intelligenz dabei zu helfen, die richtige Behandlung für sie zu finden.
Dabei haben Sie vielleicht festgestellt: Obwohl die KI aus tausenden früheren Patientenfällen gelernt hat, trifft sie zunächst die falsche Entscheidung.
Das liegt nicht daran, dass sie zu wenige Daten hat. Im Gegenteil: Sie hat viele Daten – aber sie versteht nicht, warum bestimmte Zusammenhänge bestehen.
Genau diese Frage steht im Mittelpunkt unserer Forschung.
Warum lag die KI falsch?
Künstliche Intelligenz erkennt Muster. Sie kann beispielsweise feststellen, dass Patientinnen und Patienten, die Steroide erhalten haben, häufiger schwere Krankheitsverläufe hatten.
Eine klassische KI könnte daraus schließen:
„Steroide sind schädlich.“
Doch dieser Schluss ist falsch.
Der eigentliche Grund ist, dass Steroide vor allem den schwersten Fällen verabreicht wurden. Nicht die Behandlung führte zum schlechten Ausgang – die Schwere der Erkrankung beeinflusste sowohl die Therapie als auch den Krankheitsverlauf.
Dieses Beispiel zeigt den Unterschied zwischen Korrelation und Kausalität.
Warum mehr Daten nicht automatisch bessere Entscheidungen bedeuten
Eine naheliegende Vermutung wäre: Dann braucht die KI eben noch mehr Daten.
Doch genau darin liegt die Überraschung.
Wenn sich die zugrunde liegenden Zusammenhänge nicht ändern, lernt eine herkömmliche KI mit mehr Daten lediglich dieselben Muster – und wird möglicherweise sogar sicherer in ihrer falschen Empfehlung.
Deshalb arbeiten Forschende daran, KI-Systeme zu entwickeln, die nicht nur Zusammenhänge erkennen, sondern Ursache und Wirkung unterscheiden können.
Was ist Causal AI?
Causal AI erweitert klassische Verfahren des Machine Learning um Modelle, die Ursache-Wirkungs-Beziehungen berücksichtigen.
Anstatt nur zu fragen:
„Welche Patientinnen und Patienten hatten ein ähnliches Ergebnis?“
fragt ein kausales Modell:
„Was würde passieren, wenn wir die Behandlung gezielt verändern?“
Damit nähert sich die KI einer Denkweise an, die Ärztinnen und Ärzte in ihrer täglichen Arbeit anwenden: Sie beurteilen nicht nur Muster, sondern auch medizinische Zusammenhänge und mögliche Folgen einer Behandlung.
Was ist ein Digital Twin?
Ein Digital Twin ist ein digitales Modell eines realen Systems – in diesem Fall einer Patientin.
Mit einem solchen Modell lassen sich unterschiedliche Behandlungsoptionen simulieren, bevor sie in der Realität angewendet werden. Ziel ist es, besser zu verstehen, welche Therapie für eine bestimmte Person geeignet sein könnte.
Digitale Zwillinge sind deshalb ein vielversprechender Ansatz auf dem Weg zu einer personalisierten Medizin.
Forschung am Lamarr Institut
Am Lamarr Institut für Maschinelles Lernen und Künstliche Intelligenz entwickeln Forschende Methoden, die KI-Systeme robuster, nachvollziehbarer und zuverlässiger machen.
Gemeinsam mit dem Institut für KI in der Medizin (IKIM) am Universitätsklinikum Essen untersuchen sie unter anderem,
- wie kausale Zusammenhänge aus Daten erkannt werden können,
- wie Unsicherheiten in medizinischen Daten berücksichtigt werden,
- und wie KI Ärztinnen und Ärzte künftig bei komplexen Entscheidungen unterstützen kann.
Das im Exponat gezeigte Szenario ist bewusst vereinfacht. Es macht wissenschaftliche Konzepte anschaulich, die heute Gegenstand intensiver Forschung sind.
Hinter den Kulissen
Forschung beginnt oft mit einer einfachen Frage:
Warum?
Warum treffen KI-Systeme manchmal überraschende Entscheidungen? Welche Informationen fehlen ihnen? Und wie können wir Maschinen dabei helfen, die Welt besser zu verstehen?
Diese Fragen beschäftigen Forschende weltweit – und auch am Lamarr Institut.
Weiter entdecken
Wenn Sie tiefer in die Forschung eintauchen möchten, finden Sie auf unserer Website weitere Informationen zu:
- den Forschungsbereich Life Science & Health
- Blogbeiträge zu KI in Gesundheit und Medizin
- News and Events unseres Instituts
Vielen Dank für Ihren Besuch auf der MS Wissenschaft.
Wir hoffen, das Exponat hat Ihnen gezeigt, dass gute KI nicht nur Daten braucht – sondern auch ein Verständnis für Ursache und Wirkung.
