Ein Referenzmodell für Erklärbare künstliche Intelligenz

Die Fortschritte bei den statistischen Methoden des maschinellen Lernens haben die KI immer erfolgreicher gemacht. Deep Learning übertrifft die menschliche Leistung sogar im medizinischen Bereich. Ihr volles Potenzial wird jedoch durch die Schwierigkeit begrenzt, zugrundeliegende Erklärungsstrukturen zu generieren, so dass es ihnen an einer expliziten deklarativen Wissensrepräsentation fehlt. Eine Motivation für dieses Projekt sind die zunehmenden rechtlichen und datenschutzrechtlichen Fragen - maschinelle Entscheidungsprozesse zu verstehen und nachzuvollziehen. Transparente Algorithmen könnten das Vertrauen von medizinischem Fachpersonal stärken und damit die Akzeptanz von KI-Lösungen generell erhöhen. Dieses Projekt wird wichtige Beiträge für die internationale Forschungsgemeinschaft in folgender Weise liefern: 1) Evidenz in verschiedenen Methoden der Erklärbarkeit, Muster der Erklärbarkeit und Messungen der Erklärbarkeit. Basierend auf empirischen Studien ("Wie erklären Menschen?") werden wir eine Bibliothek von Erklärungsmustern und eine neuartige Grammatik entwickeln, wie diese kombiniert werden können. Schließlich werden wir Kriterien/Benchmarks für Erklärbarkeit definieren und Antworten auf die Frage "Was ist eine gute Erklärung?" geben. 2) Prinzipien zur Messung der Effektivität von Erklärbarkeit und Erklärbarkeitsrichtlinien und 3) Mapping des menschlichen Verständnisses mit maschinellen Erklärungen und Einsatz eines offenen Erklärungsrahmens zusammen mit einer Reihe von Benchmarks und offenen Daten, um weitere Forschung in der internationalen KI/Maschinenlerngemeinschaft anzuregen und zu inspirieren. Alle Ergebnisse dieses Projekts werden der internationalen Forschungsgemeinschaft offen zugänglich gemacht.