Die Nachvollziehbarkeit von KI-Anwendungen in der Medizin – Eine Betrachtung aus juristischer Perspektive mit Beispielszenarien

KI hat ein hohes Potenzial, die medizinische Versorgung zu verbessern. Eine große Rolle wird dabei die Nachvollziehbarkeit von KI-Anwendungen spielen, denn diese ermöglicht, die algorithmischen Prozesse besser zu verstehen. Der Beitrag befasst sich mit den verschiedenen Formen der Nachvollziehbarkeit von KI-Systemen und setzt diese für potenzielle KI-Anwendungen in der Notfallversorgung aus dem Projekt LOTTE in einen spezifischen Kontext. Das Verständnis für das Thema „Explainable AI“ ist aus juristischer Perspektive von besonderer Relevanz, da die Nachvollziehbarkeit von KI-Technologien für die Einhaltung gesetzlicher Vorgaben des Medizinprodukterechts, des Datenschutzrechts sowie des AGG einen bedeutenden Faktor darstellt. Zwar wird die Nachvollziehbarkeit nicht direkt gesetzlich gefordert, das Erfordernis ergibt sich jedoch indirekt bzw. wird die Erfüllung gesetzlicher Vorgaben erheblich erleichtern.