Forschende der Universitäten Paderborn und Bielefeld stellen Studie vor
Wann übernehmen Menschen Empfehlungen von künstlicher Intelligenz (KI) – und wann ignorieren oder hinterfragen sie diese? Das haben Forschende aus dem Projekt A03(1) des Sonderforschungsbereichs/TRR 318 „Constructing Explainability“ der Universitäten Paderborn und Bielefeld untersucht. Sie wollten herausfinden, welchen Einfluss der emotionale Zustand von Nutzer*innen auf den Umgang mit KI-Empfehlungen hat. Dabei wurde deutlich: Besonders Menschen in einem mittleren emotionalen Erregungszustand scheinen KI-Empfehlungen kritischer zu prüfen. Die Ergebnisse der Studie werden im Paper „User Arousal and Advice Taking“ vorgestellt, das zur „4th World Conference on eXplainable Artificial Intelligence“ (XAI 2026) angenommen wurde, die vom 1. bis 3. Juli in Brasilien stattfindet.
Im Paper beschreiben die Wissenschaftler*innen Prof. Dr. Kirsten Thommes, Dr. Olesja Lammert und Maurice Pape eine U-förmige Beziehung zwischen emotionaler Erregtheit und der Akzeptanz von KI-Empfehlungen: Personen mit hoher oder niedriger emotionaler Erregtheit übernahmen die Empfehlungen der KI häufiger. Teilnehmer*innen mit mittlerer Erregtheit folgten den Empfehlungen dagegen seltener. Zur Erläuterung: In der Beziehungspsychologie beschreibt eine U-förmige Beziehung den typischen Verlauf der Beziehungszufriedenheit über einen größeren gemeinsamen Zeitraum. Am Anfang ist sie sehr hoch, fällt dann in den ersten Jahren z. B. durch Alltag und Routine ab und steigt nach der kritischen Phase wieder an.
Experiment unter emotionalem Druck
Für die Studie führten die Wissenschaftler*innen ein Experiment mit 73 Teilnehmer*innen durch. Zunächst versetzten sich die Proband*innen in unterschiedliche emotionale Zustände, indem sie bestimmte Situationen visualisierten und anschließend Aufgaben bearbeiteten. Während eine Gruppe eine lösbare Aufgabe erhielt, wurde die andere mit einer unlösbaren Aufgabe konfrontiert. Zusätzlich zum subjektiven Empfinden der Teilnehmenden maßen die Forschenden den Puls, um die emotionale Erregtheit objektiv zu erfassen. „Unsere Ergebnisse deuten darauf hin, dass Menschen in einem mittleren Erregungszustand Empfehlungen von KI-Systemen kritischer hinterfragen. Ob Personen mit hoher oder niedriger Erregtheit sich dagegen weniger für die Erklärungen der KI interessieren, untersuchen wir derzeit in weiteren Studien“, erklärt Pape. Er präsentiert die aktuellen Ergebnisse auf der XAI 2026.
Potenzial für medizinische Anwendungen
Die Erkenntnisse könnten künftig insbesondere für sogenannte „arousal-sensitive“ XAI-Systeme relevant werden, also erklärbare KI-Systeme, die den emotionalen Zustand oder den situativen Kontext von Nutzer*innen stärker berücksichtigen. Ziel ist es, besser zu verstehen, wann Menschen KI-Empfehlungen reflektiert prüfen und wann sie diese eher ungefragt übernehmen. In weiteren Studien wollen die Forschenden nun untersuchen, welchen Einfluss Faktoren wie z. B. Zeitdruck auf die emotionale Erregtheit haben und welche Auswirkungen das auf die Wahrnehmung und Akzeptanz von KI-Erklärungen hat. Langfristig sollen die Erkenntnisse auch in medizinischen Anwendungsszenarien genutzt werden, etwa in Situationen, in denen Menschen unter Stress stehen oder emotional belastet sind.
Interessierte können sich mit den Projektverantwortlichen in Verbindung setzen, um mehr über die laufenden Studien zu erfahren oder selbst daran teilzunehmen. Weitere Informationen dazu gibt es auf der Projektseite.
(1) Projektname: Ko-Konstruktion von Erklärungen zwischen KI-Erklärer*in und menschlichen Erklärungsempfänger*innen mit und ohne Erregung
