Module 39-M-Inf-DL Deep Learning

Die Studierenden sind in der Lage, verschiedene Schlüsselarchitekturen für das tiefe Lernen zu unterscheiden und sie kennen die Lernszenarien, in denen diese Architekturen verwendet werden können. Die Studierenden wissen, wie eine tiefe Architektur zu trainieren ist, sowohl im Hinblick auf die algorithmische Pipeline als auch auf mögliche Implementierungsformen mit modernen Systemen. Das Modul besteht aus Vorlesungen und Übungen besteht und wird mit einer Klausur abgeschlossen.

Students are able to distinguish different key architectures for deep learning and they know the learning scenarios where these architectures can be used. The students know how to train a deep architecture, both, as with regards to the algorithmic pipeline and possible forms of implementation using modern systems. The module consists of lectures and exercise classes and includes an exam at the end of the term.

Das Modul stellt die grundlegenden Konzepte des Deep Learning vor, insbesondere verschiedene populäre Architekturen wie restricted Boltzmann machines, convolutional neural networks, stacked autoencoder (concerns feedforward models), long short term memory models und rekursive Netzwerke (concerns recurrent models). Verschiedene Tricks für das Training werden eingeführt, einschließlich Optimierungsschemata wie ADAM und Trainingsmodi wie drop-out und Trainingssatzverbesserung. Beliebte Anwendungen wie zum Beispiel zur Bilderkennung werden diskutiert. Auf einer praktischen Seite wird TensorFlow hauptsächlich mit Keras als API verwendet.

The module introduces the basic concepts of deep learning, in particular different popular architectures including restricted Boltzmann machines, convolutional neural networks, stacked autoencoders (as concerns feedforward models), and long short term memory models and recursive networks (as concerns recurrent models). Different tricks for training are introduced including optimiziation schemes such as ADAM and training modi such as drop-out and training set enhancement. Popular applications such as for image recognition will be discussed. On a practical side, mostly TensorFlow will be used with Keras as API.

Programmierkenntnisse (Python oder eine ähnliche Sprache), mathematische Grundlagen, Grundlagen des maschinellen Lernens (z. B. Neuronale Netze oder Einführung in das maschinelle Lernen)

Programming knowledge (Python or a similar language),
Foundations of mathematics, foundations of machine learning (e.g., neural networks or introduction to machine learning)

—