Start my eKVV Studieninformation Lernräume Prüfungsverwaltung Bewerbungs-/Statusportal Anmelden

230013 Neuronale Netze in der Sprachverarbeitung (S) (SoSe 2021)

Inhalt, Kommentar

Maschinelles Lernen ist ein zentrales Verfahren in der computerlinguistischen Forschung und vielen sprachtechnologischen Anwendungen. In den letzten Jahren wurden hier vor allem mit sogenannten neuronalen Netzen bzw. Methoden des Deep Learning Fortschritte erzielt. Dieses Seminar wiederholt zunächst einige grundlegende mathematische Konzepte, die für das Verständnis von Deep Learning notwendig sind (Rechnen mit Vektoren, Matrizen und Tensoren, Funktionen, Ableitungen). Wir beschäftigen uns dann mit zwei grundlegenden Typen von neuronalen Netzen, Feed-forward-Netzen und rekurrenten Netzen, und besprechen deren Anwendung in der Sprachverarbeitung. Außerdem geht es um Verfahren zum Lernen von sogenannten Wort- und Satzeinbettungen, die Wörter und Sätze mit kontinuierlichen Repräsentationen erfassen und einen der wichtigsten Durchbrüche der computerlinguistischen Forschung der letzten Jahre darstellen.

Teilnahmevoraussetzungen, notwendige Vorkenntnisse

Da wir einige der besprochenen Verfahren mit Python und PyTorch implementieren werden, sind Grundkenntnisse im Programmieren eine wichtige Voraussetzung für diesen Kurs.

Literaturangaben

- Marc Peter Deisenrith, A. Aldo Faisal und Cheng Soon Ong. 2020. Mathematics for Machine Learning. Cambridge University Press
- Dan Jurafsky and James H. Martin. Speech and Language Processing (3rd ed. draft). Aktuelle Draftversion unter https://web.stanford.edu/~jurafsky/slp3/
- Delip Rao und Brian McMahan. 2019. Natural Language Processing mit PyTorch. O'Reilly

Lehrende

Termine (Kalendersicht )

Rhythmus Tag Uhrzeit Format / Ort Zeitraum  
wöchentlich Di 14-16 ONLINE   12.04.2021-23.07.2021

Klausuren

  • Keine gefunden

Fachzuordnungen

Modul Veranstaltung Leistungen  
23-LIN-MaCL-MethAngewCL Methoden der angewandten Computerlinguistik Lehrveranstaltung 1 Studienleistung
Studieninformation
Lehrveranstaltung 2 Studienleistung
Studieninformation

Die verbindlichen Modulbeschreibungen enthalten weitere Informationen, auch zu den "Leistungen" und ihren Anforderungen. Sind mehrere "Leistungsformen" möglich, entscheiden die jeweiligen Lehrenden darüber.

Studiengang/-angebot Gültigkeit Variante Untergliederung Status Sem. LP  
Linguistik: Kommunikation, Kognition und Sprachtechnologie / Master (Einschreibung bis WiSe 19/20) 23-LIN-MaCL1; 23-LIN-MaCL2   3  
Konkretisierung der Anforderungen
Keine Konkretisierungen vorhanden
Lernraum
Teilnehmer*innen
Automatischer E-Mailverteiler der Veranstaltung
Änderungen/Aktualität der Veranstaltungsdaten
Sonstiges