TRR 318 - Projekt C03: Interpretierbares maschinelles Lernen: Veränderung erklären
Überblick
Das Projekt C03 konzentriert sich darauf, wie dynamische Eigenschaften
eines Explanandums berücksichtigt werden können. Das Ziel ist es, ein Modell zu
liefern, das eine Abweichung von Daten erklärt, die ein maschinelles Lernmodell
im Laufe der Zeit als Ergebnis von nicht-stationären Verteil-ungen und sich
entwickelnden Trainingsdaten erfährt. Das Projekt geht über einen bloßen
Transfer etablierter Methodik für interpretierbares ML hinaus und entwickelt
eine neue Methodik für erklärbares ML in dem relevanten Bereich des
Online-Lernens und untersucht Fragen bezüglich der Häufigkeit von
Modelländerungen im Hinblick auf ausreichende Qualität sowie
Erklärberechtigung.
Key Facts
- Art des Projektes:
- Forschung
- Laufzeit:
- 07/2021 - 12/2025
Detailinformationen
Publikationen
Exact Computation of Any-Order Shapley Interactions for Graph Neural Networks
M. Muschalik, F. Fumagalli, P. Frazzetto, J. Strotherm, L. Hermes, A. Sperduti, E. Hüllermeier, B. Hammer, in: The Thirteenth International Conference on Learning Representations (ICLR), 2025.
Explaining Outliers using Isolation Forest and Shapley Interactions
R. Visser, F. Fumagalli, E. Hüllermeier, B. Hammer, in: Proceedings of the European Symposium on Artificial Neural Networks (ESANN), 2025.
Unifying Feature-Based Explanations with Functional ANOVA and Cooperative Game Theory
F. Fumagalli, M. Muschalik, E. Hüllermeier, B. Hammer, J. Herbinger, in: Proceedings of The 28th International Conference on Artificial Intelligence and Statistics (AISTATS), PMLR, 2025, pp. 5140–5148.
Adaptive Prompting: Ad-hoc Prompt Composition for Social Bias Detection
M. Spliethöver, T. Knebler, F. Fumagalli, M. Muschalik, B. Hammer, E. Hüllermeier, H. Wachsmuth, in: L. Chiruzzo, A. Ritter, L. Wang (Eds.), Proceedings of the 2025 Conference of the Nations of the Americas Chapter of the Association for Computational Linguistics: Human Language Technologies (Volume 1: Long Papers), Association for Computational Linguistics, Albuquerque, New Mexico, 2025, pp. 2421–2449.
No learning rates needed: Introducing SALSA - Stable Armijo Line Search Adaptation
Alle Publikationen anzeigen
P. Kenneweg, T. Kenneweg, F. Fumagalli, B. Hammer, in: 2024 International Joint Conference on Neural Networks (IJCNN), 2024, pp. 1–8.