Menschenzentrierte KI-Systeme
Menschenzentrierte KI-Systeme sind so konzipiert, dass sie mit Menschen interagieren und erklärbare und verständliche Ergebnisse liefern.
Am Lamarr-Institut entwickeln wir menschenzentrierte Ansätze, die die Kluft zwischen Methoden des Maschinellen Lernens (ML) und der menschlichen Kognition überbrücken. Menschenzentrierte KI-Systeme sind einerseits darauf ausgelegt, sich an menschlichen Zielen, Konzepten, Werten und kognitiven Prozessen zu orientieren. Andererseits zielen diese Systeme darauf ab, ihre Funktionalität zu optimieren, indem sie die Kraft der menschlichen Wahrnehmung und Intelligenz nutzen. Visual Analytics dient als zentrales Werkzeug für die Integration von menschlicher und maschineller Intelligenz, indem es die Interaktion zwischen Mensch und Computer nutzt, um die Übertragung von Expertenwissen in ML-Modelle zu ermöglichen. Dadurch sind sie nicht nur in der Lage, genaue Vorhersagen zu treffen und Probleme zu lösen, sondern auch für den Menschen verständliche Erklärungen zu liefern.
Kommunikation und Zusammenarbeit zwischen KI und Mensch
Das Hauptziel menschenzentrierter KI-Systeme besteht darin, menschliche und Computerintelligenz zu kombinieren und optimal zu nutzen. Bei der Entwicklung von ML-Modellen, die menschliche Fähigkeiten ergänzen und erweitern, müssen wir uns auf Aufgaben und Situationen konzentrieren, in denen menschliche Expertinnen und Experten Schwierigkeiten haben. Gleichzeitig sollten wir vermeiden, Menschen dort zu ersetzen, wo sie gute Leistungen erbringen.
Um diese Ziele zu erreichen, berücksichtigen wir zwei Seiten der menschenzentrierten KI-Systeme. Zum einen haben wir das ML für Menschen, also Computer, die sich an das menschliche Denken und die menschliche Wahrnehmung anpassen und menschengerechte, vor allem visuelle Informationen liefern.
Zum anderen gibt es das Konzept Menschen für ML, das bedeutet, dass Computer die Stärke der menschlichen Wahrnehmung und Intelligenz ausnutzen und so die intellektuellen Fähigkeiten des Menschen optimal für die Entwicklung von ML-Modellen einsetzen.
Das folgende Diagramm zeigt die Beziehung zwischen menschenzentrierten KI-Systemen und dem Forschungsparadigma der triangulären KI des Lamarr-Instituts. Ein Schlüsselaspekt ist die Übertragung von menschlichem Expertenwissen unter Berücksichtigung des Kontexts, in dem das ML-Modell eingesetzt werden soll.
Ansprechpartner
Visual Analytics: Synergieeffekte zwischen menschlicher und maschineller Intelligenz
Im Rahmen der visuellen Analytik werden interaktive visuelle Schnittstellen entwickelt, die eine Schlüsselrolle bei der Ermöglichung von Synergien zwischen menschlicher und maschineller Intelligenz spielen. Solche Schnittstellen stellen Mittel der Mensch-Computer-Kommunikation dar, die das Verständnis sowie eine abstraktere Wahrnehmung und Denkweise des Menschen erleichtern.
Visual Analytics bietet eine wesentliche Unterstützung, die es Modellen des Maschinellen Lernens ermöglicht, von menschlichen Experten zu lernen, insbesondere in Bezug auf Domänenkonzepte, Logik, kausale Beziehungen und Erklärungsmethoden. Darüber hinaus können visuelle Schnittstellen die Benutzerfreundlichkeit und Akzeptanz dieser Modelle verbessern, indem sie ihre Funktionalität und Ergebnisse auf benutzerfreundliche Weise darstellen und erklären.
Letztendlich sollen visuelle Schnittstellen die kollaborative Problemlösung und Entscheidungsfindung zwischen Mensch und KI unterstützen, wobei eine Partnerschaft mit komplementären Beiträgen, Diskurs und gemischter Initiative angestrebt wird. Künftige menschenorientierte KI-Systeme sollten die allgemeinen kognitiven Fähigkeiten und Grenzen des Menschen berücksichtigen und sich an spezifische Nutzerkategorien anpassen, beispielsweise an Fachleute, Entscheidungsträger oder Patientinnen und Patienten.