Robustheit | LAMARR

|Szene aus dem Straßenverkehr mit verschiedenen Gruppen von Fußgängern|Schritte zur Beschreibung der Umgebung als Regeln|

Pflanzen laufen nicht auf der Straße: Mithilfe von menschlichem Wissen zu einer verlässlichen semantischen Segmentierung

17. November 2021

Linara

Adilova

Die datengesteuerte Sensorinterpretation beim autonomen Fahren kann manchmal zu sehr unplausiblen Vorhersagen führen. Ein teils von Menschen entworfener, teils gelernter Regelsatz kann bestehende tiefe neuronale Netze, die Low-Level-Sensorinformationen verarbeiten, zuverlässig machen.

|Aufteilung des Datensatzes in Trainingsmenge

Vorfahrt für sicheres Maschinelles Lernen: Zur Robustheit Neuronaler Netze

14. Juli 2021

Luise

Weickhmann

Feindliche Angriffe auf Vorhersagemodelle des Maschinellen Lernens, zum Beispiel beim autonomen Fahren, könnten zu großem (Personen-)Schaden führen. Mit Hilfe von Abwehrmechanismen können ML-Modelle geschützt und ihre Robustheit gegenüber Angriffen erhöht werden.

||Gewichte im Minimum des Verlustes nach dem Training und Ergebnisse des regularisierten Trainings

Abwehrspiel: Was können wir gegen Adversarial Examples tun?

12. Juli 2021

Linara

Adilova

Software für Maschinelles Lernen ist für bestimmte Angriffe anfällig: So können künstlich veränderte Eingabedaten zum Versagen des zugrunde liegenden Modells führen. Wir stellen Techniken zur Entwicklung von adversarialer Robustheit vor.

|Maschine erkennt das Schwein. Sobald ein Rauschen hinzugefügt wird

Robust oder anfällig – mit Wärme mehr Einsichten in neuronale Netze erhalten

1. Juni 2021

Lukas

Franken

Bogdan

Georgiev

Wie einfach KI-Algorithmen angegriffen werden können, hängt von der Form der Grenzen ab, mit der das neuronale Netz die Entscheidungen voneinander trennt. Diese kann durch das Erhitzen der Entscheidungsgrenzen bestimmt werden.