F\u00fcr die Realisierung solcher KI-Pr\u00fcfungen stellt sich als erstes die Frage, gegen welche Anforderungen eine KI-Anwendung gepr\u00fcft werden soll. Diese Anforderungen werden durch den Begriff der KI-Vertrauensw\u00fcrdigkeit zusammengefasst, welcher die folgenden Dimensionen umfasst:<\/p>\n\n\n\n Im Einzelfall sind nicht alle Anforderungen f\u00fcr alle KI-Anwendungen gleicherma\u00dfen wichtig, sondern h\u00e4ngen von dem Einsatzkontext der KI-Anwendung ab. Es ist etwa sehr unwahrscheinlich, dass eine Anwendung zur pr\u00e4diktiven Wartung von Maschinen Nutzer*innen dieser Anwendung ungerechtfertigt diskriminieren wird, in diesem Fall ist die Dimension \u201eFairness\u201c also von geringerer Bedeutung. F\u00fcr eine KI-Anwendung, welche bei der Beurteilung der Kreditw\u00fcrdigkeit unterst\u00fctzt, ist das \u201eFairness\u201c-Risiko aber nicht zu vernachl\u00e4ssigen und sollte unbedingt bei der Beurteilung einer solchen Anwendung untersucht werden.<\/p>\n\n\n\n KI-Anwendungen beruhen im Kern auf Software, welche durch K\u00fcnstliche Intelligenz, zum Beispiel ein ML-Modell, realisiert wird. W\u00e4hrend es viele etablierte Verfahren gibt, um Software systematisch zu testen und zu pr\u00fcfen, greifen diese im Fall von KI zu kurz. Ein wesentlicher Grund ist, dass viele KI-Anwendungen (insbesondere ML-Modelle) datengetrieben sind und ihre innere Logik aus einer Anpassung bestimmter Parameter an gro\u00dfe Datenmengen erlernen. Hieraus ergeben sich eine Reihe an Herausforderungen f\u00fcr die Forschung, im Folgenden werden zwei prominente Fragestellungen kurz dargestellt:<\/p>\n\n\n\n Validierung von KI-Anwendungen: <\/strong>\u201eHerk\u00f6mmliche Software\u201c ist typischerweise modular aufgebaut, so dass sie zum Testen in kleine Einheiten zerlegt werden kann, die systematisch getestet und die Testergebnisse der einzelnen Einheiten zu einer Aussage f\u00fcr die gesamte Software aggregiert werden k\u00f6nnen. Dies ist im Fall von KI nicht ohne weiteres m\u00f6glich: Ein Neuronales Netz kann \u00fcblicherweise nicht in einzelne Komponenten zum Testen zerlegt werden. Es kann also nur als Ganzes getestet werden, was den Testvorgang sehr komplex macht. Insbesondere f\u00fcr Netze, die mit einer sehr gro\u00dfen Menge an m\u00f6glichen Eingabedaten zurechtkommen m\u00fcssen (wenn der m\u00f6gliche Eingaberaum prinzipiell beliebig gro\u00df wird, spricht man auch von einem Open-World-Kontext), ist eine Aussage, wie gro\u00df die Testabdeckung ist, sehr schwierig. Hierzu gibt es unterschiedliche L\u00f6sungsans\u00e4tze: F\u00fcr spezielle Netzwerkarchitekturen, Aktivierungsfunktionen und Spezifikationen des Eingaberaums ist es m\u00f6glich, mathematisch beweisbare Aussagen \u00fcber Begrenzungen des Raumes der m\u00f6glichen Ausgaben zu machen. F\u00fcr viele KI-Anwendungen ist dieser Ansatz aber noch nicht praktikabel und so fokussiert sich die Forschung darauf, Ans\u00e4tze zum systematischen Testen zu entwickeln.<\/p>\n\n\n\n Lernen im Betrieb: <\/strong>KI-Anwendungen, die auf dem Einsatz von ML-Modellen beruhen, k\u00f6nnen \u2013 zumindest im Prinzip \u2013 auch w\u00e4hrend des Produktiveinsatzes weiterlernen. Daneben kann eine KI-Anwendung auch nach abgeschlossenem Lernprozess ihr Verhalten \u00e4ndern, n\u00e4mlich dann, wenn sich ihre Einsatzumgebung \u00e4ndert und die zu verarbeitenden Eingangsdaten nicht mehr strukturidentisch zu den Trainingsdatens\u00e4tzen sind. Dies stellt herk\u00f6mmliche Pr\u00fcfverfahren vor eine Herausforderung, denn ein Pr\u00fcfergebnis zu einem festen Zeitpunkt kann seine G\u00fcltigkeit verlieren, wenn der Pr\u00fcfgegenstand danach signifikant ver\u00e4ndert wird. Somit ist die Entwicklung von Verfahren notwendig, welche eine kontinuierliche \u201eEchtzeit\u201c-Pr\u00fcfung von KI-Systemen erm\u00f6glichen.<\/p>\n\n\n\n Die Fortschritte bei der Beantwortung dieser Fragestellungen m\u00fcssen kontinuierlich Eingang in die Standardisierung finden, da Standards und Normen die Referenzgr\u00f6\u00dfen bilden, gegen die Pr\u00fcfungen stattfinden. Auch an dieser Stelle besteht noch ein gro\u00dfer Handlungsbedarf wie die Normungsroadmap KI von DIN und DKE<\/a> eindrucksvoll zeigt.<\/p>\n\n\n\n Wirft man einen Blick auf Pr\u00fcfverfahren aus benachbarten Dom\u00e4nen, etwa die IT-Sicherheit, so zeigt sich, dass es grob gesprochen zwei prominente Ans\u00e4tze gibt, um Pr\u00fcfungen zu realisieren: Prozess- und Produktpr\u00fcfungen. Erstere Art von Pr\u00fcfung adressiert die Prozesse, nach denen KI-Anwendungen entwickelt und betrieben werden und beruht auf der Annahme, dass gute Prozesse auch zu guten KI-Anwendungen f\u00fchren. Dar\u00fcber hinaus k\u00f6nnen viele KI-Anwendungen gar nicht ohne flankierende Prozesse betrieben werden, was die Wichtigkeit solcher Pr\u00fcfungen ebenfalls unterstreicht. Die zweite Art von Pr\u00fcfungen zielt darauf ab, die Funktionalit\u00e4ten einer konkreten KI-Anwendung zu validieren beziehungsweise \u00fcber eine strukturierte Risikoanalyse nachzuweisen, dass wesentliche Risiken im Hinblick auf die Vertrauensw\u00fcrdigkeit hinreichend gut gemindert sind. Hierzu hat das Fraunhofer IAIS den ersten KI-Pr\u00fcfkatalog \u201eLeitfaden zur Gestaltung von vertrauensw\u00fcrdiger KI\u201c<\/a> ver\u00f6ffentlicht, welcher den State of the Art zu den oben vorgestellten Forschungsfragestellungen zusammenfasst und in ersten KI-Pr\u00fcfungen zum Einsatz gekommen ist.<\/p>\n","protected":false},"excerpt":{"rendered":" In Kooperation mit dem Landesfrauenrat RLP: KI ist l\u00e4ngst eine Schl\u00fcsseltechnologie. Umso wichtiger ist es, KI-Anwendungen so zu gestalten, dass sie verl\u00e4sslich & sicher agieren und transparent & zuverl\u00e4ssig mit Daten umgehen.<\/p>\n","protected":false},"author":9,"featured_media":4264,"template":"","meta":{"_acf_changed":false,"footnotes":""},"blog-category":[1416,390,465],"blog-tag":[1442,1531,1532,1593],"class_list":["post-4261","blog","type-blog","status-publish","has-post-thumbnail","hentry","blog-category-alle-blogbeitraege","blog-category-grundlagen","blog-category-sie-gestaltet-ki","blog-tag-eu-ai-act-de","blog-tag-ki-ethik","blog-tag-ki-regulierung","blog-tag-sichere-ki"],"acf":[],"publishpress_future_workflow_manual_trigger":{"enabledWorkflows":[]},"_links":{"self":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/blog\/4261","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/blog"}],"about":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/types\/blog"}],"author":[{"embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/users\/9"}],"version-history":[{"count":0,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/blog\/4261\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/media\/4264"}],"wp:attachment":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/media?parent=4261"}],"wp:term":[{"taxonomy":"blog-category","embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/blog-category?post=4261"},{"taxonomy":"blog-tag","embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/blog-tag?post=4261"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}![\"-](\"https:\/\/lamarr-institute.org\/wp-content\/uploads\/Grafik_KI_Dimensionen-1024x610.png\" "\\"\\"")
Die KI-Vertrauensw\u00fcrdigkeit umfasst mehrere Dimensionen u.a. Kontrolle, Transperenz und Sicherheit.
Weiterf\u00fchrende Informationen zu KI-spezifischen Handlungsfeldern f\u00fcr den vertrauensw\u00fcrdigen Einsatz von K\u00fcnstlicher Intelligenz finden Sie in diesem Whitepaper<\/a> des Fraunhofer IAIS. Dar\u00fcber hinaus bieten die \u201cEthics Guidelines for trustworthy AI\u201d<\/a> der High-Level Expert Group on Artificial Intelligence (HLEG AI) der europ\u00e4ischen Kommission einen ersten Entwurf f\u00fcr Leitlinien einer Vertrauensw\u00fcrdigen KI.<\/figcaption><\/figure>\n\n\n\nWarum ist die Entwicklung von KI-Pr\u00fcfungen ein Fall f\u00fcr die Forschung?<\/h2>\n\n\n\n
Welche L\u00f6sungsans\u00e4tze gibt es?<\/h2>\n\n\n\n