Achieving Explainability in Convolutional Neural Networks using Visual Analytics

Angesichts der zunehmenden Popularität und Nutzung künstlicher Intelligenz gewinnt die Frage nach der Erklärbarkeit von Modellen des maschinellen Lernens immer mehr an Bedeutung. Selbstlernende Algorithmen lassen sich in verschiedenste Lebensbereiche integrieren, von autonomen Fahrzeugen bis hin zur medizinischen Unterstützung bei der Krebsdiagnose. Daher ist es wichtig zu verstehen, wie die verwendeten Modelle Entscheidungen treffen und Daten verarbeiten. Diese Masterarbeit konzentriert sich auf die Erklärbarkeit von Convolutional Neural Networks (CNNs), die häufig für die Bildklassifizierung eingesetzt werden. Die Forschungsfragen dieser Arbeit beschäftigen sich mit den CNN-Aspekten, die berücksichtigt werden sollen, um das Modellverständnis zu verbessern, und mit der generellen Verbesserung des Modellverständnisses durch die identifizierten und evaluierten Visualisierungsansätze. Im Rahmen einer umfassenden Literaturrecherche identifizieren wir verschiedene Visualisierungsansätze zur Erklärung von CNN-Aspekten und geben somit einen detaillierten Überblick über das Verhalten des Modells und den verarbeiteten Datensatz. Anschließend erstellen wir das CNN-Dashboard, das die vorgeschlagenen Methoden der visuellen Analyse umfasst, und evaluieren es anhand des Feedbacks von CNN-Experten. Das Dashboard umfasst verschiedene Aspekte von CNNs und wir führten halbstrukturierte Interviews mit CNN-Experten durch, um Feedback zur Benutzerfreundlichkeit und Erklärbarkeit der einzelnen Visualisierungsansätze zu erhalten. Darüber hinaus werden die Ansätze mithilfe des heuristischen Ansatzes zur wertorientierten Bewertung von Visualisierungen nach Wall et al.[WAM+19] bewertet. Anschließend diskutierten wir die gewonnenen Erkenntnisse und die für die einzelnen heuristischen Komponenten erzielten Bewertungen. Wir stellten fest, dass das CNNDashboard mit seinem Visualisierungsansatz zur Verbesserung der Erklärbarkeit vonCNNs einen umfassenden Überblick bietet und die in den Bewertungskomponenten definierten Anforderungen erfüllt. Dennoch weist es Verbesserungspotenzial auf, insbesondere in Bereichen des Datenvertrauens und der Visualisierungsessenz, wie aus den Bewertungen der CNN-Experten entnommen werden kann. Um die Forschungsfragen zu beantworten, schließen wir diese Arbeit mit der Feststellung ab, dass unsere Lösung einen verständlichen Überblick über die verarbeiteten Daten und Modellentscheidungen bietet und zusammenfassende Statistiken, Netzwerkstruktur, Layer-Dashboard, die wichtigsten Filter, falschklassifizierte Bilder und Feature-Space-Projektionen mit Hidden-Activations zur Verbesserung der Erklärbarkeit von CNNs beitragen. Wir beschreiben außerdem Limitierungen unserer Analyse und daraus resultierende weiterführende Forschungsrichtugen.