Responsible AI
Verantwortung bei der Gestaltung, Umsetzung und Nutzung Künstlicher Intelligenz ist ein zentraler Arbeitsauftrag des Lamarr-Instituts. Um die Vertrauenswürdigkeit, Nachhaltigkeit und Erklärbarkeit von KI zu stärken, suchen unsere Vertreterinnen und Vertreter den Austausch mit kanadischen Expertinnen und Experten, die gemeinsam mit ihnen KI zum Wohle der Gesellschaft voranbringen!
Unsere Expert*innen im Bereich Responsible AI in Kanada
Fortschrittliche, verlässliche KI-Systeme für sensible Bereiche
Michael Kamp legt den Fokus seiner Forschungen zusätzlich auf vertrauenswürdige, erklärbare und robuste KI-Methoden, die eine Deep-Learning-Theorie, Kausalität und datenschutzfreundliche Optimierung vereinen. In diesem Schritt verbindet er mathematische Grundlagen (Geometrie der Loss-Funktion) mit praktischen Anwendungen in sensiblen Bereichen wie beispielsweise dem Gesundheitswesen. Sein Ziel ist es verlässliche KI-Systeme zu entwickeln, die strenge Sicherheits-, Fairness- und Transparenzstandards erfüllen. Um dies zu erreichen, sucht er Forschungspartner*innen.
Nachhaltige KI in die Praxis umsetzen
Aimee van Wynsberghes Forschung konzentriert sich auf Nachhaltige KI; in anderen Worten auf eine KI, die für das Ziel der Nachhaltigkeit einsetzbar ist. Auf der einen Seite dienen die Systeme so beispielsweise der Erreichung der UN-Nachhaltigkeitsziele und der Bekämpfung der Klimakrise. Auf der anderen Seite steht die Nachhaltigkeit von KI selbst im Vordergrund. Untersuchungen zu den ökologischen Auswirkungen von Entwicklung, Einsatz und Entsorgung von KI – einschließlich eines Energieverbrauchs -, der CO₂-Fußabdruck, die Rohstoffgewinnung und letztendlich auch eine Abfallentsorgung fallen in den Blick von Aimee van Wynsberghes. Derzeit arbeitet sie mit Forschenden aus den Bereichen der Ethik/Philosophie, des Ingenieurswesen, der Landwirtschaft und schließlich der Politikwissenschaften an diesen Themen. Insbesondere unter dem Aspekt der Erforschung eines Übergangs von den in der Theorie gefangenen Prinzipien nachhaltiger KI zu ihrer praktischen Umsetzung möchte sie ihre Arbeit diesbezüglich fortsetzen. Tests und/ oder Gestaltungsmöglichkeiten zukünftiger KI-Infrastrukturen sollen dabei eine prominente Rolle einnehmen.
Einsatz von Reinforcement Learning für erklärbare Machine-Learning-Algorithmen
Die Arbeit Axel-Cyrille Ngonga Ngomos und die seines Teams konzentriert sich auf neurosymbolisches Konzeptlernen auf Wissensgraphen und adressiert dabei zentrale Herausforderungen in Bezug auf Skalierbarkeit und Erklärbarkeit. Im Rahmen dessen wird auf eine tensorbasierte Speicherung, Embedding-Techniken und Reinforcement Learning zurückgegriffen. Es soll die Entwicklung von robusten Methoden des Konzeptlernens ermöglichen. Diese Methoden wiederum können auf unvollständigen und verrauschten Wissensbeständen eingesetzt werden und auf Milliarden von ausschlagkräftigen Aussagen skalieren. Mit dem Ziel neuartige, erklärbare Machine-Learning-Algorithmen zu entwickeln und deren Anwendung auf komplexe Reasoning-Aufgaben zu untersuchen, sucht das Team nach Kooperationspartner mit Expertise in Reinforcement Learning.
Verantwortungsvolle KI in der Praxis: Leitlinien für eine nachhaltige und vertrauenswürdige Entwicklung
Raphael Fischers Promovierung (verteidigt) widmete sich der Förderung nachhaltiger KI in Bezug auf Gesellschaft, Umwelt und Wirtschaft. Sein Labeling-Ansatz kann Wissenslücken überbrücken und KI transparenter und vertrauenswürdiger machen, während die vorgeschlagene Meta-Learning-Erweiterung eine nutzerzentrierte und automatisierte Modellauswahl ermöglicht. Mit diesem Ansatz liefert seine Arbeit wichtige Erkenntnisse über verantwortungsvolle KI-Systeme und verbindet verschiedene Disziplinen sowie Forschungsgruppen am Lamarr-Institut. Darunter fällt beispielsweise der Bereich der Resource-Aware ML oder der der AI Certification. Raphael Fischer begrüßt jeden Austausch, insbesondere zum Thema der nachhaltigen KI-Anwendungen und praxisrelevanten Eigenschaften von KI.
Neuigkeiten zu Responsible AI aus dem Forschungsbereich Vertrauenswürdige KI
Bleiben Sie auf dem Laufenden über die neuesten Projekte, Forschungsergebnisse und Aktivitäten des Lamarr-Instituts im Bereich Responsible AI.
Erfahren Sie mehr über die Forschungsergebnisse des Lamarr-Instituts in unserem Blog.
- Alle
- Grundlagen
- Forschung
- Anwendung
