230016 Große Sprachmodelle anwenden und evaluieren (S) (WiSe 2024/2025)

Große Sprachmodelle wie GPT-3 oder GPT-4 sind DAS Thema der Stunde: sie dominieren derzeit nicht nur die computerlinguistische Forschung, sondern finden durch Anwendungen wie ChatGPT große Aufmerksamkeit in der Gesellschaft. Aber wie funktionieren große Sprachmodelle eigentlich und wie gut können sie sprachliches Wissen lernen? Wie nutzt man diese große Modellen in spezifischen computerlinguistischen Anwendungen? Wie kann man als Computerlinguist*in einen Blick "hinter die Kulissen" dieser so wichtigen Technologie werfen, wie kann man Sprachmodelle evaluieren und analysieren? Diese Fragen wollen wir in diesem Kurs anhand von einigen beispielhaften, computerlinguistischen Problemen betrachten.

Requirements for participation, required level

Voraussetzung:
- Pythonkenntnisse

Dringend empfohlen ist außerdem der Kurs:
- Methoden der angewandten Computerlinguistik/Grundkenntnisse im Bereich des maschinellen Lernens in der CL