Projektgruppe XAI gewinnt den mit 1000 Euro datierten Preis der Alumni Informatik

Foto von M. Weissenborn

Die Projektgruppe XAI der Universität hat sich mit der Erklärbarkeit von 
Künstlicher Intelligenz (KI), spezieller von neuronalen Netzen, beschäftigt. 
Oftmals agieren diese Modelle als undurchsichtige "Black Box", was das 
Vertrauen in ihre Entscheidungen erschwert. Das Konzept der Explainable AI 
(XAI) zielt darauf ab, diese Entscheidungen transparenter zu gestalten. Dies 
stärkt nicht nur das Vertrauen in die Modelle, sondern hilft auch, sie zu 
verbessern. Klassische Beispiele für die Notwendigkeit der Erklärbarkeit ist 
die Anwendung in der medizinischen Diagnose mittels Röntgenbildern oder im 
autonomen Fahren.

Die Projektgruppe hat dabei ein Framework entwickelt, bei dem neue Bilder 
hochgeladen und analysiert werden können. Dabei wird die Entscheidung des 
zugrundliegenden Modells untersucht und sowohl visuell, als auch sprachlich 
durch ein LLM, erklärt.
Besonders in der Bildklassifikation wird mit Methoden wie LRP, Lime und CAM 
gearbeitet, um für die Entscheidung relevante Bildbereiche zu identifizieren. 
Diese Methoden haben sich nach einer ausgiebigen Evaluation der Projektgruppe 
als die zuverlässigsten herausgestellt.

Als Beispiel wählten sie das beliebte Spiel GeoGuessr, bei dem es darum geht 
zufällige Orte auf der Erde anhand von Google Streetmaps Bildern zu 
lokalisieren. Dieses Beispiel eignet sich hervorragend um die Entscheidung der 
Modelle mit denen von Menschen zu vergleichen, denn Menschen nutzen meist 
bestimmte Bildinhalte, wie Nummernschilder, Sehenswürdigkeiten oder 
Infrastruktur um Länder zu erkennen. Das Sprachmodell wird hier genutzt um die 
gefundenen Unterschiede und Gemeinsamkeiten zwischen Modell und Mensch zu 
beschreiben.

Mit dem Preisgeld feierte die Projektgruppe den Abschluss ihres erfolgreichen 
Projekts bei Topgolf in Oberhausen.

Wir wünschen den Teilnehmerinnen und Teilnehmern der Projektgruppe XAI noch 
viel Freude im weiteren Verlauf ihres Studiums.