Visualisierung: Risikomatrix (Eintrittswahrscheinlichkeit × Schadenspotenzial) mit eingetragenen KI-spezifischen Risiken: Datenleck, Halluzination in kritischem Kontext, Adversarial Attack, Modell-Bias, Systemausfall.
Modul-Lernziele
Sie benennen die wichtigsten Sicherheitsrisiken beim Einsatz von KI-Systemen in Unternehmensumgebungen.
Sie unterscheiden zwischen technischen Risiken (Halluzination, Adversarial Attacks, Bias) und organisationalen Risiken (unkontrollierter Datenzugang, fehlende Governance).
Sie wenden eine strukturierte Risikobewertungsmatrix auf einen konkreten KI-Anwendungsfall an.
Sie erläutern die Anforderungen an Sicherheit und Robustheit von KI-Systemen gemäß EU AI Act (Art. 15).
Sie entwickeln grundlegende Maßnahmen zur Risikominimierung für einen definierten KI-Einsatz.
Sie erkennen Anzeichen für Prompt-Injection-Angriffe und beschreiben angemessene Gegenmaßnahmen.
Modul-Übersicht
| UE | Titel |
| UE 97 | KI-Risiken im Überblick: Eine Taxonomie |
| UE 98 | Halluzinationen: Entstehung, Auswirkungen, Gegenmaßnahmen |
| UE 99 | Bias in KI-Systemen: Typen, Ursachen, Folgen |
| UE 100 | Datensicherheit beim KI-Einsatz: Vertrauliche Informationen schützen |
| UE 101 | Adversarial Attacks und Prompt Injection |
| UE 102 | Risikobewertung: Strukturierte Methoden |
| UE 103 | EU AI Act Art. 9 und 15: Risikomanagement und Robustheit |
| UE 104 | Datenschutz-Folgenabschätzung bei KI-Systemen (DSFA) |
| UE 105 | Incident Response: Was tun, wenn etwas schiefgeht? |
| UE 106 | Monitoring und Qualitätssicherung im laufenden KI-Betrieb |
| UE 107 | Resilienzbewertung: Wie abhängig ist meine Organisation von KI-Systemen? |
| UE 108 | Modul 9 — Zusammenfassung, Wiederholung, Ausblick auf Modul 10 |
Didaktische Verortung
Modul 9 kehrt zu einer kritisch-reflexiven Perspektive zurück, nachdem die Module 3 bis 8 primär Anwendungskompetenz aufgebaut haben. Es behandelt systematisch die Risiken, die beim produktiven KI-Einsatz entstehen, und entwickelt strukturierte Methoden, mit diesen Risiken umzugehen.
Das Modul enthält neben dem rechtlichen Modul 2 den höchsten Anteil an Warnungs-Boxen. Trainerinnen und Trainer sollten auch hier darauf achten, dass Risikobewusstsein nicht in Lähmung umschlägt — das Ziel ist kompetentes Risikomanagement, nicht Risikovermeidung. UE 105 (Incident Response) ist besonders praxisrelevant und sollte, wenn möglich, anhand eines realen oder realistischen Fallszenarios aus der Branche der Kursgruppe durchgeführt werden.
Verzahnung mit anderen Modulen
Modul 9 setzt Module 1 und 2 voraus und vertieft Themen aus Modul 4 (UE 46: Halluzinationen), Modul 6 (Deepfakes, UE 70) und Modul 7 (Risiken teilautonomer Systeme, UE 81–82). Modul 10 baut auf den Risikobewertungsmethoden aus diesem Modul auf.
Kompetenzziel auf der AI-Act-Kompetenz-Skala: Risiko-Bewusstsein (Stufe 2) mit Elementen von Anwendungskompetenz (Stufe 3) in der praktischen Risikobewertung.
Empfohlene Reihenfolge: Nach Modul 7 und Modul 8. Modul 9 kann jedoch auch früher im Curriculum eingesetzt werden, wenn eine Kursgruppe besonderen Bedarf an Sicherheits- und Compliance-Inhalten hat (z. B. in regulierten Branchen).
Quelle: KI-Wissensbasis von MindsMachines, Edition Juni 2026. Vollständige Fassung als PDF anfordern.