TRR 318 - Projekt B06: Ethik und Normativität der erklärbaren KI

Die Forschung zum Thema Erklären und Erklärbarkeit bedarf einer ethischen Reflexion, da Erklärungen dazu verwendet werden können, Nutzer zu manipulieren oder Akzeptanz für eine Technologie zu schaffen, die ethisch oder rechtlich inakzeptabel ist. Zudem müssen ethische Prinzipien (z.B. Erklärbarkeit für Rechtfertigbarkeit, Verantwortbarkeit) und partikulare Interessen im Design systematisch unterschieden werden, da diese nicht zwangsläufig zusammenfallen müssen. Die in unserem Projekt vorgeschlagene ethische Reflexion umfasst drei miteinander verknüpfte Untersuchungsstränge: Erstens werden wir eine systematische Klassifizierung der verschiedenen Zwecke, Bedürfnisse und Anforderungen von Erklärungen vornehmen. Zweitens wird unser Projekt die technologische Entwicklung innerhalb des TRR 318 ethisch reflektieren. Drittens werden wir beide Forschungslinien kombinieren, um sowohl ein theoretisches als auch ein praktisches Ziel zu verfolgen: Einerseits wollen wir das Modell des TRR 318 über das Erklären als soziale Praxis zu einem ethischen Rahmen für das Erklären von KI erweitern. Andererseits werden wir diesen Rahmen auf konkrete Projekte innerhalb des TRR 318 anwenden, um (a) zu erklären, wie aktuelle Designentscheidungen ethische Überlegungen und die Anforderungen der Nutzer widerspiegeln, indem wir die methodischen Schritte des wertorientierten Designs (VSD) befolgen. Auf der Grundlage dieser Erkenntnisse werden wir dann (b) konkrete Gestaltungsempfehlungen formulieren, um die weitere Entwicklung innerhalb des TRR 318 zu unterstützen. Langfristig wird B06 Vorstellungen des TRR zu den sozialen Kontexten verbessern, da es Aspekte aufzeigt, die nicht technisch gelöst werden können, sondern auf sozialer oder rechtlicher Ebene angegangen werden müssen.