HOXAI.

Hands-on Explainable Artificial Intelligence

  • Laufzeit: 10/2020 - 2022
  • Fördergeber: Bundesland Oberösterreich und Bundesministerium für Bildung, Wissenschaft und Forschung via LIT – Linz Institute of Technology
  • Projektpartner: LIT Robopsychology Lab (Lead), Institut für Computergrafik, JKU

Eine zentrale Herausforderung bei der Implementierung Künstlicher Intelligenz (KI) in real-weltliche Nutzungskontexte besteht darin, dass die Akzeptanz von Algorithmen des maschinellen Lernens (ML) dadurch begrenzt wird, dass sie ihre Entscheidungen nicht hinreichend in einer für menschliche Nutzer*innen verständlichen Weise erklären können.

Forscher*innen und politische Entscheidungsträger*innen fordern daher, dass Entscheidungen als Resultat maschinellen Lernens für die User*innen durch die Künstliche Intelligenz selbst nachvollziehbar gemacht werden sollen (Explainable AI, XAI). Wie das Ziel von Explainable AI in unterschiedlichen Nutzungskontexten und mit Blick auf unterschiedliche Zielgruppen, insbesondere Nicht-Expert*innen, erreicht werden kann, ist bisher jedoch noch wenig erforscht.

Im Rahmen dieses Projekts vergleichen wir die Interpretierbarkeit verschiedener visueller Erklärungsstrategien von Machine Learning Algorithmen in kontrollierten Experimenten mit menschlichen Nutzer*innen und untersuchen den Zusammenhang zwischen Erklärbarkeit, Akzeptanz menschlicher Nutzer*innen und deren Nutzungsverhalten.

An Explainable AI besteht ein großes internationales Interesse. Dem gegenüber stehen jedoch noch viele offene Fragen bezüglich real-weltlicher Umsetzungen solcher Technologien und deren Auswirkungen auf die Akzeptanz nutzender Personen. Wir sind zuversichtlich, dass die Ergebnisse dieses Projekts einen relevanten Beitrag zur Umsetzung von Explainable AI für die internationale Forschungsgemeinschaft und die Industrie liefern.