230008 Prompt-Engineering oder -Alchemie? Instruktion von Sprachmodellen zwischen Theorie und Trial-and-Error (S) (WiSe 2026/2027)

Seit instruction-tuned Sprachmodelle (LLMs) allgegenwärtig sind, hat sich der Umgang mit KI-Modellen in Forschung und Anwendung sehr verändert. Wo vorher Modelle trainiert oder pre-trained Models fine-tuned werden mussten um eine spezifische Anwendung zu finden, werden aktuelle Modelle nur durch Eingabe eines Prompts (zero-shot) oder zusätzlich mit einigen Beispielen (few-shot) instruiert und so auf die gewünschte Aufgabe ausgerichtet. Die Frage, wie Prompts formuliert werden können, sodass sie effektiv arbeiten, ist ungeklärt, wird aber als eine Engineering-Aufgabe geframed (prompt engineering).

In diesem Seminar beschäftigt uns die etwas salopp formulierte Frage, ob es sich beim „Prompten“ wirklich um Engineering handelt, oder ob es sich nicht eher um vorwissenschaftliche, „alchemistische“ Praktiken handelt. Prompting ist fragil und hat dementsprechend methodische Probleme bei der Reproduzierbarkeit. Wir werden uns empirisch und theoretisch mit Prompting, der Wirkweise von Prompts, ihrer Interpretierbarkeit und Erklärbarkeit beschäftigen und auch ansehen, wie die Wirkmechanismen von Prompting in der Praxis dargestellt und an die Anwender:innen gebracht werden.

Im Seminar lesen und diskutieren wir aktuelle Fachpublikationen, experimentieren selbst mit Prompts und sichten Prompting-Guides (z.B. Zeitungsartikel, YouTube-Videos, HowTo-Bücher und Web-Ressourcen).