Druckansicht
Vorlesung Neuronale Netze
Sommersemester 2017
Neuigkeiten
- Die Klausur ist korrigiert. Die Klausureinsicht findet am Dienstag, dem 08. August von 09:30 Uhr bis 11:30 Uhr im Raum G29-336 statt.
Übersicht
Allgemeines
Auf dieser Seite finden Sie verschiedene Informationen zu der Vorlesung "Neuronale Netze", die im Sommersemester 2017 von Professor Dr. Rudolf Kruse an der Otto-von-Guericke-Universität Magdeburg gehalten wird.
Diese Seite wird im Laufe des Semesters aktualisiert.
Inhalte der Vorlesung
(Künstliche) Neuronale Netze werden in vielen Bereichen eingesetzt, z.B. zur Mustererkennung, Klassifikation, Diagnose, Optimierung, Steuerung und in wissensbasierten Systemen.
Die wesentlichen Vorteile (Künstlicher) Neuronaler Netze sind ihre Lernfähigkeit und ihre inhärente Parallelität.
Die Vorlesung führt in die Grundlagen der (Künstlichen) Neuronalen Netze aus der Sicht der Informatik ein.
Lernparadigmen und -algorithmen werden ebenso behandelt wie verschiedene, auf diesen Paradigmen aufsetzende Netzmodelle, z.B.: Schwellenwertelemente, mehrschichtige Perzeptren, Radiale-Basisfunktionen-Netze, selbstorganisierende Karten, Hopfield-Netze, rückgekoppelte Netze, Support Vector Machines und Neuro-Fuzzy-Systeme, Deep-Learning.
Termine und Räume
| Dozent | Wochentag | Zeit | Raum | Datum | Bemerkung |
Vorlesung | R. Kruse | donnerstags | 11:15 - 12:45 Uhr | G29 -307 | ab 06.04.2017 | |
Übung | C. Doell | donnerstags | 13:15 - 14:45 Uhr | G29-K058 | ab 06.04.2017 | |
Übung | C. Rekowski | dienstags | 11:15 - 12:45 Uhr | G22A-216 | ab 04.04.2017 | Raumänderung beachten! |
Übung | M. Bieber | montags | 15:15 - 16:45 Uhr | G29-K059 | ab 03.04.2017 | nur für PNK-Studierende |
Jede(r) Studierende, die/der an einer der Übungen teilnehmen will, muss sich über den FIN Registration Service zu einer der Übungen anmelden.
Die Anmeldung wird bald freigeschaltet und bis zum Tag der ersten Übung freigeschaltet bleiben.
Es wird darum gebeten, bei der Registrierung eine E-Mail-Adresse anzugeben, in dessen Posteingang man auch regelmäßig hineinschaut.
Die Klausur findet am 26.07.2017 von 08:00 bis 10:00 Uhr im Hörsaal 6 - Gebäude 44 statt.
Wir bitten darum, mindestens 10 Minuten vor der eigentlichen Prüfung zu erscheinen.
Zugelassenes Hilfsmittel, das mitgebracht werden darf, ist ein nichtprogrammierbarer Taschenrechner.
Schreibpapier wird gestellt.
Außerdem mitgebracht werden muss
- ein Lichtbildausweis (Personalausweis und Studierendenausweis mit Foto),
- Schreibmaterial (Stifte/Füller, die blau oder schwarz schreiben).
Auch Studierende, die einen Leistungsnachweis in Form eines (un)benoteten Scheins benötigen, müssen an dieser Prüfung teilnehmen.
Nach der Klausur wird auf dieser Webseite dann auch bekanntgegeben, an welchem Tag Studierenden die Einsicht in die Klausuren gestattet ist.
- Die Klausur ist korrigiert. Die Klausureinsicht findet am Dienstag, dem 08. August von 09:30 Uhr bis 11:30 Uhr im Raum G29-336 statt.
Dozenten
Wenn Sie Fragen zur Vorlesung oder zu den Übungen haben, wenden Sie sich bitte (wenn möglich, per E-mail) an:
Schein- und Prüfungskriterien
Ein neues Aufgabenblatt mit schriftlichen Aufgaben und Programmieraufgaben wird jede Woche auf dieser Internetseite veröffentlicht.
Die schriftlichen Aufgaben müssen am Beginn einer jeden Übung votiert werden.
Durch das Votieren erklärt man, dass man gewillt und in der Lage ist, die Aufgabe und einen Lösungsvorschlag zu erklären und zu präsentieren.
(Der vorgeschlagene Ansatz muss nicht vollständig richtig sein.
Es muss allerdings klar werden, dass man sich gewissenhaft mit der Aufgabe auseinandergesetzt hat.)
Studierende, die den Kurs mit einer Prüfung oder einem benoteten Schein beenden wollen, müssen
- regelmäßig und gut in den Übungen mitarbeiten,
- mindestens die Hälfte der schriftlichen Aufgaben votieren,
- mindestens zweimal eine Lösung zu einer schriftlichen Aufgabe während der Übung präsentieren,
- schließlich eine schriftliche Prüfung nach dem Kurs bestehen.
Das Bestehen der schriftlichen Prüfung ermöglicht ebenfalls den Erhalt eines unbenoteten Scheines falls ein solcher von einer/einem Studierenden anstatt der Prüfung erwünscht wird.
Studierende der Philosophie-Neurowissenschaften-Kognition, die den Kurs mit einer Prüfung oder einem benoteten Schein beenden wollen, müssen zusätzlich zum oben erwähntem Pensum aktiv an einer zusätzlichen Übung teilnehmen.
Voraussetzungen
Sie müssen nicht, aber Sie sollten Hintergrundwissen verfügen über
- Algorithmen und Datenstrukturen,
- Programmierung und Modellierung,
- Mathematik I bis III.
Folien aus der Vorlesung
Die Folien der Vorlesung werden rechtzeitig hochgeladen so wie der Kurs fortschreitet.
Übungsblätter
Die Sammlung von Übungsblättern wird hier wöchentlich erweitert.
- allgemeine Hinweise zu den Übungsblättern und zum Ablauf der Übungen
- 14. KW: 01. Übungsblatt zum 04./06.04.2017 (grundlegende Mathematik)
- 15. KW: 02. Übungsblatt zum 11./13.04.2017 (Schwellenwertelemente)
- 16. KW: 03. Übungsblatt zum 18./20.04.2017 (Netze von Schwellenwertelementen)
- 17. KW: 04. Übungsblatt zum 25./27.04.2017 (Aktualisierungsreihenfolge, Funktionsapproximation)
- 18. KW: Die Übungen in der ersten Maiwoche fallen aus.
- 19. KW: 05. Übungsblatt zum 09./11.05.2017 (Regression)
- 20. KW: 06. Übungsblatt zum 16./18.05.2017 (Gradientenabstieg)
- 21/22. KW: 07. Übungsblatt zum 23.05./01.06.2017 (Radiale Basisfunktionen-Netze)
- 23. KW: 08. Übungsblatt zum 06./08.06.2017 (Radiale Basisfunktionen-Netze)
- 24. KW: 09. Übungsblatt zum 13./15.06.2017 (Wettbewerbslernen / Lernende Vektorquantisierung, Selbstorganisierende Karten, Hopfield-Netze)
- 25. KW: 10.Übungsblatt zum 20./22.06.2017 (Hopfield-Netze, VC-Dimension, Kernel-Trick)
- 26. KW: 11.Übungsblatt zum 27.06./29.06.2017 (Convolution, Dropout)
Zusätzliche Unterlagen
An dieser Stelle finden Sie zusätzliche Unterlagen zur Vorlesung und zu den Übungen.
Literatur
- R. Kruse, C. Borgelt, F. Klawonn, C. Moewes, M. Steinbrecher und P. Held. (2013). Computational Intelligence: A Methodological Introduction. Springer-Verlag, Berlin/Heidelberg. (Buch bei Springer, Buch bei amazon.de)
- R. Kruse, C. Borgelt, C. Braune, F. Klawonn, C. Moewes und M. Steinbrecher (2015). Computational Intelligence: Eine methodische Einführung in Künstliche Neuronale Netze, Evolutionäre Algorithmen, Fuzzy-Systeme und Bayes-Netze (2. Auflage). Springer+Vieweg-Verlag, Wiesbaden. (, Buch bei amazon.de)
- D. Nauck, C. Borgelt, F. Klawonn und R. Kruse (2003). Neuro-Fuzzy-Systeme: Von den Grundlagen Neuronaler Netze zu modernen Fuzzy-Systemen. 3. Aufl., Vieweg-Verlag, Wiesbaden. (Buch bei amazon.de)
- FAQ der Newsgroup comp.ai.neural-nets: ftp://ftp.sas.com/pub/neural/FAQ.html
- D. Kriesel (2007). Ein kleiner Überblick über Neuronale Netze. Erhältlich auf http://www.dkriesel.com.
Support Vector Machines und Kernel Methods:
- N. Cristianini und J. Shawe-Taylor (2000). An Introduction to Support Vector Machines. Cambridge University Press, Cambridge, UK. (führt kurz und gut in die Theorie und Optimierungsalgorithmen der SVMs ein, beschreibt weitere Kernel-Methoden, diskutiert praktische Anwendungen, ideal für Anfänger)
- J. Shawe-Taylor und N. Cristianini (2004). Kernel Methods for Pattern Analysis. Cambridge University Press, Cambridge, UK. (Fokus dieses Buches der selben Autoren: Kernel-Methoden, Anwendung des Kernel-Tricks und deren Implementierung, nichts für Laien)
- B. Schölkopf und A. J. Smola (2002). Learning with Kernels. MIT Press, Cambridge, MA, USA. (Die Bibel der Kernel-Methoden, teilweise auch als Einstieg nützlich)
Statistische Lerntheorie:
- T. Hastie, R. Tibshirani und J. Friedman (2009). The Elements of Statistical Learning: Data Mining, Inference, and Prediction. 2. Aufl., Springer, New York City, NY, USA. (diskutiert eine sehr große Bandbreite an Statistischen Lernmethoden, Übungsaufgaben inklusive, ideal für verschiedenste Vorlesungen in den Bereichen Data Mining, Machine Learning und Intelligent Data Analysis, Buch frei als PDF von der Website erhältlich)
Spiking Neural Networks:
- W. Gerstner und W. Kistler (2002). Spiking Neuron Models. Cambridge University Press, Cambridge, UK. (sehr gute Einführung in die Modellierung und Analyse von Spiking Neural Networks)
Verweise auf andere Webseiten