Sichere KI | LAMARR

|Szene aus dem Straßenverkehr mit verschiedenen Gruppen von Fußgängern|Schritte zur Beschreibung der Umgebung als Regeln|

Pflanzen laufen nicht auf der Straße: Mithilfe von menschlichem Wissen zu einer verlässlichen semantischen Segmentierung

17. November 2021

Linara

Adilova

Die datengesteuerte Sensorinterpretation beim autonomen Fahren kann manchmal zu sehr unplausiblen Vorhersagen führen. Ein teils von Menschen entworfener, teils gelernter Regelsatz kann bestehende tiefe neuronale Netze, die Low-Level-Sensorinformationen verarbeiten, zuverlässig machen.

||Gewichte im Minimum des Verlustes nach dem Training und Ergebnisse des regularisierten Trainings

Abwehrspiel: Was können wir gegen Adversarial Examples tun?

12. Juli 2021

Linara

Adilova

Software für Maschinelles Lernen ist für bestimmte Angriffe anfällig: So können künstlich veränderte Eingabedaten zum Versagen des zugrunde liegenden Modells führen. Wir stellen Techniken zur Entwicklung von adversarialer Robustheit vor.

Was sind Adversarial Examples?

7. Juli 2021

Linara

Adilova

Feindliche Angriffe beim maschinellen Lernen zielen darauf ab, Ausfälle in der Funktionalität der Modelle zu verursachen. Dieser Blogpost beschreibt die sogenannten „Adversarial Examples“, die fehlerhafte Vorhersagen neuronaler Netze verursachen.

KI-Absicherung Blogbeitrag|KI-Absicherung im autonomen Fahren

Der Weg zur abgesicherten KI: Ein Überblick über praktische Methoden

24. März 2021

Michael

Mock

Sebastian

Houben

Sicherheitskritische Systeme, wie beispielsweise selbstfahrende Autos, stellen neue, hohe Anforderungen an KI-Modelle. Vielerorts wird hierzu an Lösungsansätzen geforscht, ein umfassender Überblick wurde jetzt durch ein Übersichtspapier des Konsortiums „KI-Absicherung“ geschaffen.