Module 5-I-IP-TM4 Fundamentals of explainable AI for medical decision support and assistance systems

Faculty

Person responsible for module

Regular cycle (beginning)

Every winter semester

Credit points and duration

5 Credit points

For information on the duration of the modul, refer to the courses of study in which the module is used.

Competencies

Die Studierenden verstehen den Entstehungsprozess von Machine Learning Anwendungen und die zugrundeliegenden Methoden von Machine Learning Ansätzen. Sie können die Ergebnisse von KI-Systemen bewerten und einordnen und potentielle Probleme eines KI-Systems erkennen (z.B. Bias). Sie sind in der Lage, Hypothesen über die Ursachen zu generieren. Die Studierenden werden dazu befähigt, in diesem Themenbereich die Projektarbeit zu schreiben.

Content of teaching

Um ein Verständnis für das prinzipielle Vorgehen und die Arbeitsweise von KI in der Medizin zu erhalten, werden hier zunächst KI Systemarchitekturen erläutert, indem der Entstehungsprozess eines KI Systems von der Datenaufnahme und -aufbereitung über das Training samt Evaluation bis hin zum Einsatz im medizinischen Alltag beleuchtet wird. Außerdem werden die Grundlagen von Machine Learning Ansätzen verständlich für Studierende aus der Medizin erläutert (z.B. Bayes-Klassifikator, Multi-Layer Perzeptron und Error-Backpropagation, Tiefe Neuronale Netze). Ebenso werden grundlegende Prinzipien für Erklärungsansätze für KI („Explainable AI (XAI)“) vorgestellt, mit deren Hilfe es möglich sein soll, Fehlleistungen von KI-Systemen z.B. durch Datenbiases zu erkennen.

Inhalte:
- Entwicklungsprozess von KI-basierten Systemen
- Systemarchitekturen von KI-basierten Systemen
- Machine Learning Ansätze (z.B. Bayes- vs Maximum-Likelihood Klassifikator, Multi-Layer Perzeptron, Tiefe Neuronale Netze...)
- Grundlegende Prinzipien für Explainable AI
- Evaluation von KI Systemen

Recommended previous knowledge

Necessary requirements

Explanation regarding the elements of the module

Module structure: 1 bPr 1

Courses

XAI (Angeleitetes Selbststudium)
Type guided self-study
Regular cycle WiSe
Workload5 30 h (0 + 30)
LP 1
XAI (Vorlesung)
Type lecture
Regular cycle WiSe
Workload5 30 h (15 + 15)
LP 1
XAI (Workshop)
Type exercise
Regular cycle WiSe
Workload5 60 h (30 + 30)
LP 2 [Pr]

Examinations

portfolio o. presentation
Allocated examiner Teaching staff of the course XAI (Workshop) (exercise)
Weighting 1
Workload 30h
LP2 1

Das Portfolio dokumentiert eine Sammlung von Essays, Referatsausarbeitungen, Argumentrekonstruktionen und ähnlichen schriftlichen Arbeiten, die studienbegleitend angefertigt werden. Das gesamte Portfolio umfasst ca. 13.600 Zeichen (ca. 8 Seiten). Es erfolgt eine abschließende Gesamtbewertung.
Eine Präsentation hat eine Dauer von 15 bis 20 Minuten inklusive Diskussion und Rückfragen. Im Rahmen einer Präsentation werden sowohl die mündliche Leistung als auch die erstellten Präsentationsmedien (z.B. mediale Präsentation, Posterpräsentation) bewertet.

The module is used in these degree programmes:

Degree programme Version Profile Recom­mended start 3 Duration Manda­tory option 4
Interdisciplinary Medical Sciences / Bachelor of Science [FsB vom 15.12.2021 mit Berichtigung vom 01.04.2022] Bachelor with One Core Subject (Academic) Technologische Transformation in der Medizin 4. one semester Obli­gation
Medicine / Staatsprüfung [Studien- und Prüfungsordnung vom 15.02.2021 mit Änderungen vom 15.12.2021, 14.07.2023 und 10.09.2024] Technologische Transformation in der Medizin 5. one semester Obli­gation

Automatic check for completeness

The system can perform an automatic check for completeness for this module.


Legend

1
The module structure displays the required number of study requirements and examinations.
2
LP is the short form for credit points.
3
The figures in this column are the specialist semesters in which it is recommended to start the module. Depending on the individual study schedule, entirely different courses of study are possible and advisable.
4
Explanations on mandatory option: "Obligation" means: This module is mandatory for the course of the studies; "Optional obligation" means: This module belongs to a number of modules available for selection under certain circumstances. This is more precisely regulated by the "Subject-related regulations" (see navigation).
5
Workload (contact time + self-study)
SoSe
Summer semester
WiSe
Winter semester
SL
Study requirement
Pr
Examination
bPr
Number of examinations with grades
uPr
Number of examinations without grades
This academic achievement can be reported and recognised.