Safety Engineering for Machine Learning Systems
Sommer
Introduction to Machine Learning Safety
(in German: Safety Engineering for Machine Learning Systems )
Module-ID: FIN-INF-999800 |
| Link: | LSF |
| Responsibility: | Prof. Dr. Frank Ortmeier |
| Lecturer: | Prof. Dr. Frank Ortmeier |
| Classes: | Vorlesung Übung |
| Applicability in curriculum: | - M.Sc. INF: Informatik - M.Sc. INGINF: Informatik - M.Sc. WIF: Informatik - M.Sc. DKE: Learning Methods and Models for Data Science - M.Sc. DE: Methoden der Informatik - M.Sc. DE: Fachliche Spezialisierung - M.Sc. VC: Computer Science |
|
Abbreviation MLS |
Credit Points 6 |
Semester Sommer |
Term ab 1. |
Duration 1 Semester |
Language english |
Level Master |
Intended learning outcomes:
· Verständnis grundlegender Unterschiede zwischen klassischer Softwareentwicklung und datengetriebener Entwicklung von ML-Systemen sowie der daraus resultierenden Sicherheitsimplikationen.
· Fähigkeit, typische Fehlermodi von ML-Systemen systematisch zu analysieren und deren Ursachen (z. B. Datenverteilung, Modellunsicherheit, Verteilungsverschiebung) zu identifizieren.
· Kompetenz, geeignete Test- und Evaluationsverfahren für ML-Modelle in sicherheitskritischen Kontexten auszuwählen und anzuwenden.
· Einordnung und Bewertung von Unsicherheitsabschätzungen, Anomalieerkennung und Robustheitsmechanismen im Hinblick auf ihre sicherheitstechnische Relevanz.
· Verständnis adversarieller Bedrohungsmodelle sowie grundlegender Verteidigungsstrategien.
· Reflexion regulatorischer, ethischer und gesellschaftlicher Rahmenbedingungen beim Einsatz lernbasierter Systeme.
Content:
· Grundlagen und Sicherheitskontext
· Datenqualität und Modelltestverfahren
· Robustheit und Angriffsmodelle
· Unsicherheit und Anomalieerkennung
· Alignment und gesellschaftliche Aspekte
Workload:
180h = 56h Präsenzzeit + 124h selbständige Arbeit am Projekt
| Pre-examination requirements: | Type of examination: | Teaching method / lecture hours per week (SWS): |
|
Teilnahme an der Übung |
Schriftliche Prüfung 2h |
Übung (2 SWS) Vorlesung (2 SWS) |
| Prerequisites according to examination regulations: | Recommended prerequisites: |
|
keine |
Introduction to Deep Learning Grundlagen des Maschinellen Lernens |
| Media: | Literature: |
|
|
Comments: