TRR 318 - Projekt C01: Gesundes Misstrauen in Erklärungen
Systeme mit künstlicher Intelligenz (KI) machen Fehler: Die Gitarre im Raum wird als Mensch erkannt, die Bahnverbindung führt zu einem falschen Zielort oder das große, rote Feuerwehrauto wird von der KI übersehen. In diesen Situationen und vor allem bei Empfehlungen für Entscheidungen sollten Menschen der KI ein gesundes Misstrauen entgegenbringen. ...
Laufzeit: 07/2021 - 12/2025
TRR 318 - Projekt C02: Interaktives Lernen von erklärbaren, situationsangepassten Entscheidungsmodellen
Der Schwerpunkt des Projekts C02 liegt auf einem neuen Ansatz, durch den der Raum möglicher Modelle, die eine bestimmte Entscheidung erklären, von Benutzern interaktiv erkundet werden kann, bis ein Modell gefunden wird, das die Bedürfnisse der Benutzer in Bezug auf den Kompromiss zwischen Genauigkeit und Modellkomplexität erfüllt. Das Projekt ...
Laufzeit: 07/2021 - 12/2025
TRR 318 - Projekt C04: Metaphern als Mittel der Erklärung
Mithilfe von Metaphern lassen sich abstrakte Konzepte leichter erklären: Indem die Erklärer*innen Metaphern verwenden, greifen sie auf vertraute Strukturen und Erfahrungen zurück und stellen ausgewählte Eigenschaften der erklärten Konzepte in den Vordergrund, andere hingegen in den Hintergrund. Im Projekt C04 wird beleuchtet, wie Metaphern in ...
Laufzeit: 07/2021 - 12/2025
TRR 318 - Projekt C06: Technisch ermöglichtes Erklären von Sprecher-Eigenschaften
Im Projekt C6 wird ein spezieller Fall von soziotechnischer Assistenz betrachtet, bei dem Expert:innen durch maschinelle Lernausgabe unterstützt werden, die es ihnen ermöglicht, ein Sprachsignal besser zu verstehen und damit interpretierbar zu machen. Weiterhin wird untersucht, wie dieser Output von Phonetik-Expert:innen genutzt werden kann, um ihr ...
Laufzeit: 07/2021 - 12/2025
QPIC-1: Photonisch-Integrierte Quantencomputer
Quantentechnologien werden einen transformativen Einfluss auf unsere Gesellschaft besitzen; insbesondere Quantencomputing welches den grundlegenden quantenmechanischen Effekt der Verschränkung für die effiziente Berechnung von Aufgaben verwendet, die mit einem klassischen Computer in realistischer Zeit nicht durchgeführt werden können. Zusammen mit ...
Laufzeit: 07/2021 - 06/2025
Kontakt: Dr. Christof Eigner
TRR 318 - Projekt B05: Ko-Konstruktion von Erklärbarkeit mit einem interaktiv lernenden Roboter
In enger Zusammenarbeit mit dem Projekt Ö befasst sich das Projekt B05 mit der Frage, wie Erklärbarkeit durch Ko-Konstruktion und im Rahmen einer Lernaufgabe erreicht werden kann. Es wird untersucht, welchen Einfluss das Geschlecht, Alter und Workshops über KI (Projekt Ö) auf das mentale Modell der Adressaten über einen Lernroboter haben. Der ...
Laufzeit: 07/2021 - 12/2025
TRR 318 - Projekt C03: Interpretierbares maschinelles Lernen: Veränderung erklären
Das Projekt C03 konzentriert sich darauf, wie dynamische Eigenschaften eines Explanandums berücksichtigt werden können. Das Ziel ist es, ein Modell zu liefern, das eine Abweichung von Daten erklärt, die ein maschinelles Lernmodell im Laufe der Zeit als Ergebnis von nicht-stationären Verteil-ungen und sich entwickelnden Trainingsdaten erfährt. Das ...
Laufzeit: 07/2021 - 12/2025
TRR 318 - Projekt C05: Erstellen von Erklärungen in der kollaborativen Mensch-Maschine-Wissensexploration
Im Projekt C05 werden Grundlagen für Systeme entwickelt, die Benutzer interaktiv bei der Exploration einer Entscheidungsdomäne unterstützen, um zu nachvollziehbaren Entscheidung zu gelangen. Der Fokus liegt dabei auf der Modellierung der Verwendung von kontrafaktischen Inferenzen in einem explorativen Entscheidungsprozess. Auf dieser Basis kann ...
Laufzeit: 07/2021 - 12/2025
TRR 318 - Projekt INF: Bewertung der Erklärungsqualität
Das INF-Projekt schafft eine Infrastruktur für die einzelnen Projekte, indem es Richtlinien für Datenannotationen und -erfassung bereitstellt. Die Richtlinien fördern ein einheitliches Datenmanagement und ermöglichen es, dass die Daten aus den einzelnen Projekten direkt in die Analyse des Erklärungserfolgs einfließen. Eine weitere Aufgabe des ...
Laufzeit: 07/2021 - 12/2025
TRR 318 - Projekt Ö: Fragen zur erklärbaren Technik
Das Öffentlichkeitsarbeitsprojekt Ö sorgt für die Vermittlung der interdisziplinären Forschung des TRR an die breite Öffentlichkeit und einen Austausch, indem es den Leitgedanken der Ko-Konstruk-tion in den Mittelpunkt stellt. In diesem Sinne werden Ko-Konstruktions-Workshops (CCWS) durchgeführt, die die Teilnehmer:innen eine aktive Rolle erleben ...
Laufzeit: 07/2021 - 12/2025