Dr.
Akbar Karimi

Während Sprachmodelle von Tag zu Tag besser werden, weisen sie noch immer Schwachstellen gegenüber realen Fehlern und adversarialen Angriffen auf. Zudem fehlt es in vielen Fällen an geeigneten Daten, damit diese Modelle bei neu entwickelten Aufgaben zuverlässig funktionieren. Deshalb liegt mein Forschungsschwerpunkt im Bereich NLP unter anderem darauf, die Robustheit von Sprachmodellen gegenüber verschiedenen Veränderungen zu verbessern.

Um robustere Sprachmodelle zu entwickeln, habe ich sowohl mit adversarialen als auch mit einfachen Datenaugmentierungsmethoden gearbeitet. Bei ersteren wird künstliches adversariales Datenmaterial im Embedding Space erzeugt, während bei letzteren Rauschen in die Rohdaten eingespeist wird. Diese Methoden haben dazu beigetragen, Modelle widerstandsfähiger gegen solche Veränderungen zu machen und ihre Fähigkeit zu verbessern, Nutzerstimmungen zu erkennen und präziser zu identifizieren, worüber in Produkt- und Servicebewertungen gesprochen wird.

Trotz ihrer Fortschritte zeigen aktuelle generative Modelle noch immer Probleme wie Halluzinationen, Bias und eingeschränkte Reasoning-Fähigkeiten. Die Untersuchung dieser Herausforderungen steht ebenfalls im Zentrum meiner Forschung.

Forschungsinteressen

• Robustheit
• LLM Reasoning
• Methoden der Datenaugmentierung
• Adversariale Angriffe und Verteidigungsstrategien
• Erklärbarkeit und Interpretierbarkeit von Modellen