# Erklärbare und sichere KI

**Sommer**


(engl. Explainable and safe AI )

<table bgcolor="#7FB3D9" border="1" id="bkmrk-%5Btitle%5D" style="width: 100%; border-collapse: collapse; border-width: 1px; border-style: none;"><colgroup><col style="width: 100%;"></col></colgroup><tbody><tr style="background-color: rgb(235, 243, 249);"><td>##### <span style="color: rgb(0, 104, 180);">**Modulnummer: FIN-INF-110496** </span>

</td></tr></tbody></table>

<table bgcolor="#7FB3D9" border="1" id="bkmrk-" style="border-collapse: collapse; width: 100%;"><colgroup><col style="width: 14.2515%;"></col><col style="width: 14.2515%;"></col><col style="width: 13.061%;"></col><col style="width: 15.442%;"></col><col style="width: 14.2515%;"></col><col style="width: 14.2515%;"></col><col style="width: 14.2515%;"></col></colgroup><tbody><tr><td class="align-center" style="border: 5px solid rgb(255, 255, 255);"><span style="color: rgb(61, 61, 61);">**Kürzel**</span>

<span style="color: rgb(61, 61, 61);">XAI </span>

</td><td class="align-center" style="border: 5px solid rgb(255, 255, 255);"><span style="color: rgb(61, 61, 61);">**CP**</span>

<span style="color: rgb(61, 61, 61);">5 </span>

</td><td class="align-center" style="border: 5px solid rgb(255, 255, 255);"><span style="color: rgb(61, 61, 61);">**Semester**</span>

<span style="color: rgb(61, 61, 61);">Sommer </span>

</td><td class="align-center" style="border: 5px solid rgb(255, 255, 255);"><span style="color: rgb(61, 61, 61);">**Fachsem.**</span>

<span style="color: #3d3d3d;">ab 3. </span>

</td><td class="align-center" style="border: 5px solid rgb(255, 255, 255);">**<span style="color: rgb(61, 61, 61);">Dauer</span>**

<span style="color: rgb(61, 61, 61);">1 Semester </span>

</td><td class="align-center" style="border: 5px solid rgb(255, 255, 255);"><span style="color: rgb(61, 61, 61);">**Sprache**</span>

<span style="color: rgb(61, 61, 61);">deutsch</span>

</td><td class="align-center" style="border: 5px solid rgb(255, 255, 255);"><span style="color: rgb(61, 61, 61);">**Niveau**</span>

<span style="color: rgb(61, 61, 61);">Bachelor </span>

</td></tr></tbody></table>

<table border="1" id="bkmrk-verantwortung%3A-verwe" style="border-collapse: collapse; width: 100%; height: 89.3907px; border-width: 1px; border-style: none;"><colgroup><col style="width: 20.2601%;"></col><col style="width: 79.7399%;"></col></colgroup><tbody><tr><td>**Link zum LSF:**</td><td>[ LSF](https://lsf.ovgu.de/qislsf/rds?state=wsearchv&search=1&subdir=veranstaltung&veranstaltung.semester=20261&veranstaltung.dtxt=Erkl%C3%A4rbare+und+sichere+KI&P_start=0&P_anzahl=30&P.sort=veranstaltung.dtxt&_form=display "Erklärbare und sichere KI")</td></tr><tr><td>**Zugang beschränkt:**</td><td></td></tr><tr style="height: 29.7969px;"><td style="height: 29.7969px;">**Verantwortung:**</td><td style="height: 29.7969px;">Sebastian Stober </td></tr><tr style="height: 29.7969px;"><td style="height: 29.7969px;">**Dozent:in:**</td><td style="height: 29.7969px;">Sebastian Stober </td></tr><tr><td>**Lehrveranstaltungen:**</td><td>- Vorlesung *Erklärbare und sichere KI*
- Übung *Erklärbare und sichere KI*

</td></tr><tr style="height: 29.7969px;"><td style="height: 29.7969px;">**Verwendbarkeit:**</td><td style="height: 29.7969px;">- B.Sc. INF: Informatik - Wahlpflicht  
- B.Sc. INF: Studienprofil: Künstliche Intelligenz  
- B.Sc. CV: Informatik - Wahlpflicht  
- B.Sc. INGINF: Informatik - Wahlpflicht  
- B.Sc. WIF: Gestalten und Anwenden - Wahlpflicht  
- B.Sc. INF (bilingual): Informatik - Wahlpflicht  
  
</td></tr></tbody></table>

**Angestrebte Lernergebnisse:** Die Studierenden ...

- können Methoden zur Erklärung von Entscheidungen und internen Repräsentationen, sowie Prozessen von Modellen des maschinellen Lernens sicher anwenden
- haben die Fähigkeit, die Qualität von Modellen abseits von Genauigkeitsmetriken einschätzen zu können
- können Modelle zielgerichtet verbessern

  
**Inhalt:** Einordnung unterschiedlicher Kategorien von Erklärbarkeits-Methoden für Modelle des maschinellen Lernens sowie Anforderungen an Nutzer:innenzentrierte Erklärungen. Darstellung direkt interpretierbarer Modelle (ante-hoc) sowie Analyse- und Visualisierungs-Methoden für Blackbox-Modelle (post-hoc). Zudem werden grundlegende Post-hoc Erklärungstechniken mit modell-agnostischen und modell-spezifischen Ansätzen vorgestellt.

**Arbeitsaufwand:**

- 56h Präsenzzeit (Vorlesung + Übung)
- 94h selbstständige Arbeit (Vor- und Nachbearbeitung von Vorlesung (OER) und Übung, Bearbeiten von Übungs- und Programmieraufgaben)

  
<table border="1" id="bkmrk-studien-%2Fpr%C3%BCfungslei" style="border-collapse: collapse; width: 100%;"><colgroup><col style="width: 32.6591%;"></col><col style="width: 35.9941%;"></col><col style="width: 31.3468%;"></col></colgroup><tbody><tr><td>**Prüfungsvorleistungen:**</td><td>**Studien-/Prüfungsleistungen:**</td><td>**Lehrform / SWS:**</td></tr><tr><td style="vertical-align: top;"></td><td class="align-left" style="vertical-align: top;">Klausur 120 Minuten Ankündigung der notwendigen Vorleistungen in der ersten Veranstaltungswoche.

</td><td class="align-left" style="vertical-align: top;">- Vorlesung (2 SWS)
- Übung (2 SWS)

  
</td></tr></tbody></table>

<table border="1" id="bkmrk-voraussetzungen-nach" style="font-family: var(--font-body); font-size: 14px; width: 100%;"><colgroup><col style="width: 50%;"></col><col style="width: 50%;"></col></colgroup><tbody><tr><td>**Voraussetzungen nach Prüfungsordnung:**</td><td>**Empfohlene Voraussetzungen:**</td></tr><tr><td class="align-left" style="vertical-align: top;">keine

</td><td class="align-left" style="vertical-align: top;">Deep Learning für Ingenieure

</td></tr></tbody></table>

<table border="1" id="bkmrk-medienformen%3A-litera" style="border-collapse: collapse; width: 100%;"><colgroup><col style="width: 50%;"></col><col style="width: 50%;"></col></colgroup><tbody><tr><td>**Medienformen:**</td><td>**Literatur:**</td></tr><tr><td class="align-left" style="vertical-align: top;"></td><td class="align-left" style="vertical-align: top;"></td></tr></tbody></table>

**Hinweise:**