Machine Learning im SS 2015

The lecture is given in English.

Aktuelles

• The exam results are now available on UniWorx.
• Material for the Exam: Excluded from the material is the guest lecture on Reinforcement Learning. Besides that, everything that has been discussed in the lecture or in the exercises may be part of the exam. The exercises are a good indicator for what we deem important, but it is not sufficient to rely solely on the exercises for preparation purposes.
• The exam starts at 14:00 (not 14:15!), please make sure to be on time.
• Bitte melden Sie sich über UniWorx für die Klausur an, wenn Sie daran teilnehmen möchten. Please register for the exam via UniWorx if you plan on taking it.
• Die Klausur findet am Dienstag, 21.07., von 14 bis 16 Uhr in Raum D209 (HGB) stattfinden. The final exam will take place on Tuesday 21st of July from 2 to 4 pm in room D209 of the main building.

Topic

Machine Learning is a data-driven approach for the development of technical solutions. Initially motivated by the adaptive capabilities of biological systems, machine learning has increasing impact in many fields, such as vision, speech recognition, machine translation, and bioinformatics, and is a technological basis for the emerging field of Big Data.

The lecture will cover:

• Supervised learning: the goal here is to learn functional dependencies for classification and regression. We cover linear systems, basis function approaches, kernel approaches and neural networks. We will cover the recent developments in deep learning which lead to exciting applications in speech recognition and vision.
• Unsupervised Learning: the goal here is to compactly describe important structures in the data. Typical representatives are clustering and principal component analysis
• Graphical models (Bayesian networks, Markov networks), which permit a unified description of high-dimensional probabilistic dependencies
• Reinforcement Learning as the basis for the learning-based optimization of autonomous agents
• Some theoretical aspects: frequentist statistics, Bayesian statistics, statistical learning theory

The technical topics will be illustrated with a number of real-world applications.

Ziel des Maschinellen Lernens ist die Entwicklung von Methoden zur Realisierung lernfähiger technischer Systeme. In der Vorlesung werden die wichtigsten Zweige des Maschinellen Lernens vorgestellt:

• Beim überwachten Lernen werden basierend auf vorhandenen Beispieldaten Systeme zur Klassifikation und zur Modellierung funktioneller Abhängigkeiten trainiert (typische Vertreter: Neuronales Netz, Support Vector Machine). Wir werden Deep Learning behandeln, eine Erweiterung von Neuronalen Netzen mit hoch-performanten Anwendungen für die Sprach- und Objekterkennung.
• Das Ziel des unüberwachten Lernens ist es, autonom relevante Strukturen in Daten zu finden (typische Vertreter: Cluster Analyse, Independent Component Analyse).
• Kausal Probabilistische Netze (Bayesian Networks) stellen einen Rahmen zur Beschreibung und zum Erlernen von komplexen probabilistischen Abhängigkeiten dar, bis hin zur Analyse von Kausalität.
• Reinforcement Learning ist das wichtigste Lernverfahren zur Optimierung des Verhaltens von Agenten.

Organisation

• Umfang: 3+2 Semesterwochenstunden (6 ECTS)
• Vorlesung: Prof. Dr. Volker Tresp
• Vorkenntnisse: Die Beherrschung mindestens einer Programmiersprache
• Ansprechpartner Übungen: Gregor Jossé

Zeit und Ort

Planung

Übungsbetrieb

• Zur Vertiefung der Vorlesung werden 2-stündige Übungen angeboten, in denen die vorgestellten Verfahren weiter erläutert und an praktischen Beispielen veranschaulicht werden. Da es sich mitunter um Programmieraufgaben handelt, ist eine vorherige Vorbereitung des aktuellen Übungsblattes erwünscht um Fragen diesbezüglich besser beantworten zu können.
• Einige Studenten hatten Probleme bei der Installation von Theano auf Windows über pip mit einem Anaconda/Python Bundle. Ein modifiziertes Konfigurationsskript kann hier heruntergeladen werden. Nach dem Download muss die Datei noch in den Ordner C:\Users\<Windows-Benutzername>\Anaconda\Lib\site-packages\theano\ verschoben werden.

Klausur / Exam

• Die Klausur wird am Dienstag, 21.07., von 14 bis 16 Uhr in Raum D209 (HGB) stattfinden. The final exam will take place on Tuesday 21st of July from 2 to 4 pm in room D209 of the main building.

Nützliche Links

• Unter http://www.die-informatiker.net bieten Münchner Informatiker ein Diskussionsforum für euch. Dort können Fragen von allgemeinem Interesse gestellt werden und finden oft auch eine Antwort. Wir begrüßen diese Initiative, übernehmen aber keinerlei Verantwortung für den Inhalt.

Vorhergehende Semester

SS 16, SS 15, SS 14, SS 13, SS 12, SS 11, SS 10, SS 09, SS 08, SS 07, SS 06, SS 05, SS 04