Safety Engineering for Machine Learning Systems
Sommer
Introduction to Machine Learning Safety
(engl. )
Modulnummer: FIN-INF-999800 |
| Link zum LSF: | LSF |
| Verantwortung: | Prof. Dr. Frank Ortmeier |
| Dozent:in: | Prof. Dr. Frank Ortmeier |
| Lehrveranstaltungen: | Vorlesung Übung |
| Verwendbarkeit: | - M.Sc. INF: Informatik - M.Sc. INGINF: Informatik - M.Sc. WIF: Informatik - M.Sc. DKE: Learning Methods and Models for Data Science - M.Sc. DE: Methoden der Informatik - M.Sc. DE: Fachliche Spezialisierung - M.Sc. VC: Computer Science |
|
Kürzel MLS |
CP 6 |
Semester Sommer |
Fachsem. ab 1. |
Dauer 1 Semester |
Sprache deutsch |
Niveau Master |
Angestrebte Lernergebnisse:
· Verständnis grundlegender Unterschiede zwischen klassischer Softwareentwicklung und datengetriebener Entwicklung von ML-Systemen sowie der daraus resultierenden Sicherheitsimplikationen.
· Fähigkeit, typische Fehlermodi von ML-Systemen systematisch zu analysieren und deren Ursachen (z. B. Datenverteilung, Modellunsicherheit, Verteilungsverschiebung) zu identifizieren.
· Kompetenz, geeignete Test- und Evaluationsverfahren für ML-Modelle in sicherheitskritischen Kontexten auszuwählen und anzuwenden.
· Einordnung und Bewertung von Unsicherheitsabschätzungen, Anomalieerkennung und Robustheitsmechanismen im Hinblick auf ihre sicherheitstechnische Relevanz.
· Verständnis adversarieller Bedrohungsmodelle sowie grundlegender Verteidigungsstrategien.
· Reflexion regulatorischer, ethischer und gesellschaftlicher Rahmenbedingungen beim Einsatz lernbasierter Systeme.
Inhalt:
· Grundlagen und Sicherheitskontext
· Datenqualität und Modelltestverfahren
· Robustheit und Angriffsmodelle
· Unsicherheit und Anomalieerkennung
· Alignment und gesellschaftliche Aspekte
Arbeitsaufwand:
180h = 56h Präsenzzeit + 124h selbständige Arbeit am Projekt
| Prüfungsvorleistungen: | Studien-/Prüfungsleistungen: | Lehrform / SWS: |
|
Teilnahme an der Übung |
Schriftliche Prüfung 2h
|
Übung (2 SWS)
Vorlesung (2 SWS)
|
| Voraussetzungen nach Prüfungsordnung: | Empfohlene Voraussetzungen: |
|
keine
|
Introduction to Deep Learning
Grundlagen des Maschinellen Lernens
|
| Medienformen: | Literatur: |
|
|
|
Hinweise: