392137 AI-Guardians (S) (WiSe 2024/2025)

AI algorithms and ML profoundly impact many areas of our lives. Performing well in many tasks, those algorithms are not flawless but frequently lack robustness, explainability, and fairness. While the majority of people use AI-based systems in one way or another, usually they lack insights in how algorithms work and which limitations to expect. This can lead to errors and wrong expectations. Thus, this seminar aims to discuss these limitations and design demonstrations that showcase and explain how AI-based systems work and which shortcomings are expected to laypeople.

KI basierte Systeme und ML Algorithmen sind Teil unseres täglichen Lebens. Während sie in vielen Bereichen sehr gut funktionieren, bleiben die Probleme der Robustheit, Erklärbarkeit und Fairness bestehen. Heutzutage benutzt die Mehrheit der Menschen KI getriebene Systeme. Allerdings wissen die wenigsten wie ML funktioniert und welche Probleme man im Umgang mit KI erwarten sollte. In diesem Seminar diskutieren wir diese Probleme und entwickeln Demonstratoren, die Laien sowohl die Funktionsweise als auch die Limatationen von KI Modellen erklären.