Fallstudie: Risiko-Assessment eines Use Cases

Lernziele

Sie führen ein strukturiertes Risiko-Assessment für einen KI-Use-Case nach einer 6-Dimensionen-Methodik durch.

Sie bewerten alle relevanten Risikodimensionen (technisch, Datenschutz, rechtlich, Qualität, Governance, Ethik) auf einer Skala von 1–5 und begründen die Bewertung.

Sie leiten aus dem Assessment eine begründete Empfehlung (Go / No Go / Conditional Go) ab.

Sie wenden das Modul-9-Gesamtwissen als integrierte Analyse auf einen realen Use-Case an.

Sie nutzen das Risiko-Assessment-Ergebnis als Ausgangspunkt für das KI-Systemverzeichnis (UE 105).

Sie erkennen Grenzfälle und Ermessenssituationen im Assessment-Prozess und entwickeln Strategien für den Umgang damit.

Auf einen Blick

Worum geht es? — Der didaktische Einstieg

Diese Unterrichtseinheit ist kein neues Thema. Sie ist die Synthese von Modul 9.

In den vergangenen elf Unterrichtseinheiten haben Sie gelernt, wie Angreifer KI-Systeme manipulieren und wie man sich schützt. Sie wissen, was Shadow AI ist und wie man sie steuert. Sie können Daten klassifizieren, Hosting-Entscheidungen begründen, Anbieter bewerten, Qualität sichern, Systeme überwachen, Dokumentationspflichten erfüllen, Vorfälle bearbeiten und die Koordinationsrolle des/der KI-Beauftragten beschreiben.

Das Risiko-Assessment ist das Instrument, das all dieses Wissen in einer strukturierten Analyse zusammenbringt. Es ist die Antwort auf die Frage: „Können wir diesen KI-Use-Case verantwortungsvoll einführen — und wenn ja, unter welchen Bedingungen?”

In der Praxis sollte jeder neue KI-Use-Case dieses Assessment durchlaufen, bevor er produktiv geht. Es ist keine Bürokratie — es ist eine strukturierte Due-Diligence, die verhindert, dass Probleme im Betrieb sichtbar werden.

Lerntext — Theorie und Konzepte

Das Risiko-Assessment als Modul-9-Synthese

Risiko auf ein akzeptables Niveau senkt.

Abb. 108.1 — Risiko-Assessment-Methodik: 6 Dimensionen führen zu einer Go/No-Go-Entscheidung

Die sechs Risikodimensionen im Detail

Dimension 1: Technische Sicherheitsrisiken (Referenz: UE 97, 98)

Ausgangspunkt ist die Angriffsfläche des Systems: Wie stark ist das System für direkte Prompt Injection (OWASP LLM01) exponiert, bei der Nutzende durch clever formulierte Eingaben die Systemanweisung überschreiben? Wie anfällig ist es für indirekte Injection (OWASP LLM02) durch verarbeitete Dokumente oder externe Inhalte? Die Beantwortung dieser Fragen erfordert, die Architektur des Systems aus der Perspektive eines Angreifers zu betrachten.

Der Guardrail-Status ist das zweite wesentliche Kriterium: Sind die Sieben Architektur-Kontrollen implementiert — Systemanweisungs-Härtung, Input-Filter, Output-Sanitizer, Least-Privilege-Zugriff für Agenten, vollständiges Logging, dokumentierter Kill-Switch und regelmäßiges Red Teaming? Ein System, das keines dieser Elemente vollständig implementiert hat, erhält in dieser Dimension mindestens eine 3.

Merksatz

Das Risiko-Assessment übersetzt das Wissen aus UE 97–107 in eine strukturierte Entscheidungsgrundlage: Sechs Dimensionen, eine Skala (1–5), eine klare Empfehlung. Es ist nicht das Ende eines Projekts, sondern sein Anfang.

Dimension 2: Datenschutz- und Datensicherheitsrisiken (Referenz: UE 100, 101, 102)

Welche Datenstufen werden verarbeitet? Ein System, das ausschließlich öffentliche Informationen oder interne Stufe-1-Dokumente verwendet, hat ein grundlegend anderes Risikoprofil als ein System, das Kunden-Personaldaten oder vertrauliche Vertragsinformationen (Stufe 3–4) einbezieht. Die Datenstufenklassifizierung aus UE 100 ist hier der direkte Input.

Die Hosting-Konformität prüft, ob die gewählte Hosting-Option mit dem Schutzbedarf der Daten übereinstimmt: Streng vertrauliche Daten (Stufe 4) dürfen nur On-Premise oder in zertifizierten EU-souveränen Cloud-Lösungen verarbeitet werden — nicht in internationalen Cloud-Diensten, auch nicht mit AVV. Dieser Grundsatz aus UE 101 fließt direkt in die Bewertung ein.

Dimension 3: Rechtliche und Compliance-Risiken (Referenz: UE 105)

Die EU AI Act Risikokategorie bestimmt den Compliance-Aufwand fundamental: Ein Minimal-Risiko-System erfordert einen KI-Systemverzeichnis-Eintrag und die Minimal-Deployer-Pflichten. Ein Hochrisiko-System (Anhang III) erfordert eine vollständige Risikomanagement-Dokumentation nach Art. 9–15 — mit deutlich höherem Aufwand.

Besonders kritisch sind Use-Cases im Grenzbereich zwischen Nicht-Hochrisiko und Hochrisiko: Ein KI-System, das Stellenbeschreibungen formuliert, ist kein Hochrisikosystem. Aber ein System, das Bewerbungen rangiert und HR-Empfehlungen generiert, ist es — nach Anhang III Ziffer 4. Diese Klassifizierung ist im Assessment sorgfältig zu begründen, und im Zweifelfall empfiehlt sich die Einholung juristischer Beratung.

Dimension 4: Qualitäts- und Zuverlässigkeitsrisiken (Referenz: UE 103, 104)

Das Halluzinations-Risiko ist kontextabhängig: In einem Assistenten für kreative Textentwürfe ist ein gelegentlich erfundenes Detail tolerierbar (Mensch prüft). In einem medizinischen oder rechtlichen Auskunftssystem kann eine halluzinierte Antwort ernsthafte Konsequenzen haben. Die Risikobewertung dieser Dimension berücksichtigt, wie kritisch Fehlinformationen in diesem spezifischen Use-Case sind — und welche Schutzmechanismen (Human-in-the-Loop, Golden Test-Set) das Risiko mindern.

Dimension 5: Organisatorische und Governance-Risiken (Referenz: UE 99, 107)

Ist das Drei-Stufen-Freigabemodell (Grün / Gelb / Rot) angewendet und dokumentiert? Gibt es eine benannte verantwortliche Person für dieses System? Ist der Incident-Response-Pfad für dieses System definiert? Ohne diese Governance-Grundlage fehlt die organisatorische Steuerungsfähigkeit — auch wenn das System technisch gut abgesichert ist.

Dimension 6: Ethische und Reputationsrisiken

Diese Dimension greift, wo die anderen fünf schweigen: Könnte das System Ausgaben produzieren, die Personen aufgrund von Geschlecht, Herkunft, Alter oder anderen Merkmalen benachteiligen — auch unbeabsichtigt durch Bias in den Trainingsdaten? Werden betroffene Personen transparent informiert, wenn KI im Entscheidungsprozess eingesetzt wird? Und was wäre der schlimmste Fall bei einer öffentlichen Fehlfunktion — für das Unternehmen und für betroffene Personen?

Merksatz

Ein Use-Case, der in einer einzigen Dimension eine 5 (kritisch) erhält, rechtfertigt einen sofortigen No-Go — unabhängig davon, ob der Gesamtdurchschnitt niedrig ist. Das Assessment-Framework gibt eine Empfehlung; Ausreißer nach oben erfordern immer ein separates Urteil.

Vollständige Fallbeispiel-Bewertung: Recruiting-Screening-Assistent

Use-Case-Beschreibung: Ein KI-Assistent analysiert eingehende Bewerbungen, gleicht das Anforderungsprofil mit dem Lebenslauf ab und erstellt eine Vorschlags-Rangliste für HR mit Begründungen. HR-Mitarbeitende treffen finale Entscheidungen auf Basis dieser Vorschläge.

Entscheidung: Conditional Go — unter der Bedingung, dass alle Maßnahmen aus den Dimensionen 2, 3 und 6 vollständig umgesetzt sind, bevor das System produktiv geht.

Risiko-Assessment-Vorlage: Wissens-RAG-Assistent

Neben dem Recruiting-Screener (Lerntext-Fallbeispiel) und dem Angebots-Assistenten (Übung 1) dient der Wissens-RAG-Assistent als drittes Referenzbeispiel:

Use-Case-Beschreibung: Ein RAG-Assistent beantwortet Fragen von Mitarbeitenden zu internen Prozessen, Projekten und Richtlinien. Er hat Zugriff auf eine kuratierte Wissensbasis aus internen Dokumenten (Stufen 2 und 3). Mitarbeitende stellen Fragen in natürlicher Sprache; der Assistent antwortet mit Informationen aus den Dokumenten und zitiert seine Quellen.

Vergleich der drei Referenzbeispiele

Die Spannbreite dieser drei Beispiele zeigt: Das Assessment-Framework ist kein Binär-Instrument. Es differenziert und macht Risikoprofile vergleichbar — was für die Portfolio-Perspektive besonders wertvoll ist.

Die Verbindung zwischen Risiko-Assessment und Wirtschaftlichkeitsbewertung

Ein vollständiger Business-Case für einen neuen KI-Use-Case in Ihrer Organisation kombiniert vier Dimensionen:

Nutzenbewertung: Welche Effizienzgewinne, Qualitätsverbesserungen oder neuen Fähigkeiten entstehen?

Kostenbewertung: Implementierungskosten (IT, Schulung, Vendor Assessment) und laufende Kosten (Token, Monitoring, Personal für den KI-Beauftragten).

Risikobewertung: Das Risikoprofil aus dem Assessment — und die Kosten für Risikomitigation (EU-Hosting statt günstigem US-Cloud, Logging-Infrastruktur, Red-Teaming-Aufwand).

Compliance-Kosten: Dokumentationsaufwand, KI-Systemverzeichnis-Pflege, mögliche Datenschutz-Folgenabschätzungen, externe Rechtsberatung bei Hochrisiko-Klassifizierung.

Erst wenn alle vier Dimensionen bewertet sind, kann eine vollständige Entscheidung getroffen werden. Ein Use-Case mit niedrigem Risikoprofil und hohem Nutzen ist ein klares Go. Ein Use-Case mit hohem Risikoprofil, der Hochrisiko-Status nach EU AI Act auslöst und dadurch erheblichen Compliance-Aufwand mit sich bringt, muss seinen Nutzen entsprechend höher ausweisen, um wirtschaftlich sinnvoll zu sein.

Assessment im Projektlebenszyklus: Wann und wie

Das Risiko-Assessment ist kein einmaliges Ereignis. Es begleitet den gesamten Projektlebenszyklus:

Frühphase (Ideenbewertung): Ein schnelles erstes Assessment (30 Minuten) identifiziert k.o.-Kriterien frühzeitig. Wenn ein Use-Case bereits in dieser Phase einen Hochrisiko-Status aufweist, muss das vor der Projektvergabe kommuniziert werden — nicht erst kurz vor dem Go-live.

Detailplanung: Nachdem das technische Konzept steht, wird das Assessment vertieft. Hosting-Entscheidung, Vendor Assessment, Sicherheitsarchitektur fließen ein. Dieses vertiefte Assessment ist die Grundlage für die Freigabeentscheidung durch den/die KI-Beauftragten.

Pre-Go-Live: Ein abschließendes Assessment prüft, ob alle Maßnahmen aus dem vorherigen Assessment umgesetzt wurden. Nur bei vollständiger Umsetzung (oder dokumentierten Ausnahmen mit Begründung und Frist) erfolgt der Produktivstart.

Jährliches Review: Das Assessment wird jährlich aktualisiert — weil sich Regulierung (EU AI Act Durchführungsakte, neue Leitlinien), Technologie (neue Modell-Generationen) und Unternehmenskontext (neue Datenstufen, neue Nutzergruppen) verändern.

Grenzfälle und Ermessensentscheidungen

Das Assessment-Framework gibt klare Bewertungskriterien vor, aber die Anwendung erfordert Urteilsvermögen.

Grenzfall: Geringer Hochrisiko-Ansatz — Ein KI-Tool unterstützt HR beim Formulieren von Stellenbeschreibungen, entscheidet aber nicht über Bewerber. Ist das Hochrisiko? Nach dem Wortlaut von Anhang III Ziffer 4 (KI-Systeme für Beschäftigungsentscheidungen) wahrscheinlich nicht — aber die Grenze ist nicht scharf, und eine Vorab-Klärung mit dem DSB ist empfehlenswert.

Grenzfall: Aggregationsrisiko — Mehrere Low-Risk-Use-Cases werden zu einem System kombiniert. Das kombinierte System könnte ein höheres Risikoprofil haben als die Summe der Einzelteile. Beispiel: Ein System, das aus Textanalyse (Low Risk) und E-Mail-Versand (Low Risk) kombiniert, könnte für indirekte Injections anfälliger sein als jede Komponente für sich.

Grenzfall: Veränderter Einsatz über Zeit — Ein Use-Case beginnt als Low Risk, wird aber im Verlauf auf weitere Funktionen ausgebaut, die potenziell Hochrisiko auslösen. Ein jährliches Review des Assessments ist die Antwort auf dieses Risiko.

Vertiefung — Skalierung des Assessments auf Unternehmensebene

Das Risiko-Assessment als Einzelinstrument ist wertvoll. Noch wertvoller wird es, wenn es als systematisches Unternehmens-Governance-Instrument skaliert wird.

Portfolio-Betrachtung: Wenn eine Organisation drei, fünf oder zehn KI-Systeme im Einsatz hat, ist ein Blick auf das Gesamtportfolio wichtig. Welche Systeme konzentrieren das höchste Risiko? Gibt es Cluster — z. B. alle Systeme mit Datenschutzrisiko ≥ 3? Diese Vogelperspektive erlaubt priorisierten Ressourceneinsatz bei der Risikominderung. Der/die KI-Beauftragte (UE 107) sollte diese Portfolio-Perspektive monatlich im KI-Status-Report an die Geschäftsführung darstellen.

Kontinuierliche Neubewertung: Auslöser für eine Neubewertung umfassen Modell-Updates durch den Anbieter (neue Fähigkeiten bedeuten neue Risiken), Änderungen der Datenbasis (neue Datenquellen im RAG-System), neue gesetzliche Anforderungen (EU AI Act Durchführungsakte), Vorfälle (jeder Incident kann neue Risikodimensionen aufdecken) sowie wesentliche Änderungen im Nutzungsverhalten.

Das Assessment als Lernmittel: Die größte Wirkung entfaltet sich nicht im Ergebnis-Dokument, sondern im Prozess. Das gemeinsame Durcharbeiten aller sechs Dimensionen mit IT, Datenschutz, Fachabteilung und KI-Beauftragtem schafft ein geteiltes Verständnis der Risiken — und eine geteilte Verantwortung für die Maßnahmen. Wer das Assessment allein durchführt und das Ergebnis kommuniziert, hat die Compliance-Anforderung erfüllt. Wer es als gemeinsamen Workshop durchführt, hat darüber hinaus die Governance-Kultur gestärkt.

Empfehlung: Jährliche Neubewertung aller produktiven KI-Systeme als Standard. Anlassbezogene Bewertung bei den oben genannten Auslösern. Für bedeutsame neue Use-Cases: einstündiger Assessment-Workshop mit allen relevanten Stakeholdern vor der Freigabeentscheidung.

Branchen-Anwendungen

IT-Dienstleistung & Beratung

Ein IT-Beratungshaus mit 80 Mitarbeitenden plant die Einführung von drei KI-Assistenten gleichzeitig: einem Angebots-Assistenten für den Vertrieb, einem internen Wissens-RAG für die Projektdokumentation und einem Ticket-Triaging-System für den IT-Support. Das Risiko-Assessment wird für alle drei separat durchgeführt. Ergebnis: Der Angebots-Assistent (Gesamtrisiko 2,2) und das Wissens-RAG (1,8) erhalten ein direktes Go. Das Ticket-Triaging-System (1,7) ebenfalls. Alle drei werden in das KI-Systemverzeichnis eingetragen und mit dediziertem Monitoring ausgestattet. Die Assessment-Ergebnisse fließen in den ersten monatlichen KI-Governance-Report an die Geschäftsführung ein — und dienen gleichzeitig als Nachweis für die Art.-4-Compliance des EU AI Act. Die Organisation hat in einer strukturierten Anfangsphase von vier Wochen eine vollständige Governance-Grundlage für ihren KI-Einsatz aufgebaut.

Industrie & Fertigung

Ein Maschinenbauunternehmen prüft die Einführung eines KI-gestützten Predictive-Maintenance-Systems, das Sensordaten aus der Produktionslinie auswertet und Wartungsempfehlungen generiert. Das Risiko-Assessment ergibt: Technische Sicherheit niedrig (2) — keine externen Eingaben, keine direkten Nutzerinteraktionen. Datenschutz mittel (2) — Maschinendaten, keine Personendaten. Rechtlich/Compliance: kritische Frage — handelt es sich um ein KI-System in kritischer Infrastruktur? Das Unternehmen ist kein kritischer Infrastrukturbetreiber nach NIS2 — aber die Produktion hat Safety-Implikationen, wenn Wartungsempfehlungen fehlerhaft sind. Das Assessment bewertet Qualität/Zuverlässigkeit mit 3 (bei Fehlfunktion entstehen Produktionsausfälle und Sicherheitsrisiken) und empfiehlt ein detailliertes Golden Test-Set mit Sicherheitstestszenarien sowie Human-in-the-Loop für kritische Wartungsentscheidungen. Ergebnis: Conditional Go — mit strukturierter Qualitätssicherung und verpflichtendem Human Review für Wartungsempfehlungen der Priorität Hoch/Kritisch.

Finanzdienstleistung & Versicherung

Eine mittelgroße Versicherungsgesellschaft prüft einen KI-Assistenten, der Schadenmeldungen vorbearbeitet und eine erste Bewertung (Plausibilität, Kategorie, Priorität) für Sachbearbeiter generiert. Das Risiko-Assessment hebt sofort zwei kritische Punkte hervor: Erstens verarbeitet das System personenbezogene Daten in erheblichem Umfang (Name, Schadensituation, ggf. Gesundheitsdaten bei Personenschäden) — das ergibt Datenschutz-Risikostufe 4–5. Zweitens: Ist dieses System ein Hochrisikosystem nach Anhang III EU AI Act, Ziffer 5b (Kreditbewertung) oder Ziffer 5c (Risikobewertung)? Nach intensiver Diskussion mit dem DSB und einem externen Rechtsberater: Wahrscheinlich nein für reine Schadenmeldungsvorverarbeitung, aber ja, wenn das System Empfehlungen für die Auszahlungsentscheidung generiert. Das Unternehmen entscheidet sich, die KI strikt auf Kategorisierung und Prioritätsvorschlag zu beschränken — keine Auszahlungsempfehlungen — und setzt damit die Hochrisiko-Klassifizierung ab. Ergebnis: Conditional Go mit Datenschutz-Folgenabschätzung nach DSGVO Art. 35 als Pflichtschritt.

Öffentliche Verwaltung

Ein Landratsamt evaluiert einen KI-Assistenten, der Bürgeranfragen per E-Mail vorklassifiziert und an die zuständige Abteilung weiterleitet. Das Risiko-Assessment stellt eine besondere Herausforderung: Als Behörde verarbeitet das Amt Daten von Bürgerinnen und Bürgern in einem hoheitlichen Kontext. Die datenschutzrechtlichen Anforderungen sind strenger als im privatwirtschaftlichen Bereich. Das Assessment ergibt Datenschutz-Risiko 3 (Bürger-E-Mails enthalten oft personenbezogene Informationen), Rechtlich/Compliance 2 (Routing-Funktion, keine hoheitliche Entscheidung durch die KI), Governance 3 (Behördliche Prozesse erfordern vollständige Dokumentierbarkeit und Nachvollziehbarkeit). Besonderheit: Die Anfrage-Logs müssen nach den Verwaltungsgerichtsordnungen ggf. für Klageverfahren aufbewahrt werden — das Logging-Konzept wird entsprechend ausgebaut. Ergebnis: Conditional Go mit Datenschutz-Folgenabschätzung, erweitertem Logging-Konzept und verpflichtender Information der Bürgerinnen und Bürger (Transparenzhinweis in der E-Mail-Signatur der Behörde).

Übung 1 — Risiko-Assessment für den Angebots-Assistenten

Aufgabe: Sie führen ein vollständiges Risiko-Assessment für einen Angebots-Assistenten durch, der auf Angebotsvorlagen und historischen Angeboten einer Organisation basiert.

Use-Case-Beschreibung: Ein KI-Assistent hat Zugriff auf Angebotsvorlagen und historische Angebote. Mitarbeitende geben Kundenwünsche und Projektparameter ein. Der Assistent erstellt einen Angebotsentwurf, der vom Projektleiter geprüft und angepasst wird, bevor er an den Kunden gesendet wird.

Material: Risiko-Assessment-Template (Tabelle mit 6 Dimensionen), Stift oder Laptop.

Schritt-für-Schritt: 1. Lesen Sie die Use-Case-Beschreibung sorgfältig durch. 2. Bewerten Sie jede der 6 Dimensionen auf einer Skala von 1–5. 3. Begründen Sie jede Bewertung in einem Satz. 4. Definieren Sie für jede Dimension mit einer Bewertung ≥ 3 eine konkrete Maßnahme. 5. Berechnen Sie die Durchschnittsbewertung. 6. Formulieren Sie Ihre Empfehlung: Go / Conditional Go / No Go — mit einer Begründung von drei Sätzen.

Erwartetes Ergebnis: Eine vollständig ausgefüllte Assessment-Tabelle mit begründeter Empfehlung.

Musterlösung:

Warum dieses Ergebnis? Die zwei Bewertungen mit 3 (Technische Sicherheit und Qualität) zeigen Handlungsbedarf — aber kein K.o.-Kriterium. Die Maßnahmen (Zugriffssteuerung, Golden Test-Set, Projektleiter-Review) sind mit vertretbarem Aufwand implementierbar und reduzieren das Risikoprofil auf ein akzeptables Niveau. Ein Conditional Go wäre ebenfalls vertretbar, wenn die Maßnahmen noch nicht implementiert sind.

Übung 2 — Gruppenarbeit: Eigenen Use-Case bewerten

Aufgabe: Jede Gruppe wählt einen Use-Case und führt das vollständige Risiko-Assessment durch. Anschließend werden die Ergebnisse in der Gruppe oder allein verglichen.

Use-Case-Optionen: (A) Wissens-RAG-Assistent für interne Prozessdokumentation, (B) Ticket-Triaging-Assistent für den IT-Support, (C) Meeting-Transkription-und-Zusammenfassungs-System, (D) Kundenservice-Chatbot für externe Kunden.

Schritt-für-Schritt: 1. Beschreiben Sie den gewählten Use-Case in fünf Sätzen: Was tut das System? Wer nutzt es? Welche Daten werden verarbeitet? Welche Ausgaben erzeugt es? Welche Folgen hat eine Fehlfunktion? 2. Führen Sie das Assessment durch — alle 6 Dimensionen mit Begründung und Maßnahme. 3. Berechnen Sie den Gesamtscore und formulieren Sie die Empfehlung. 4. Bereiten Sie eine 5-minütige Präsentation vor: Assessment-Ergebnisse + Empfehlung + Bezug auf konkrete UEs aus Modul 9. 5. Diskutieren Sie nach den Präsentationen: Welcher Use-Case hat das höchste Risikoprofil — und warum?

Erwartetes Ergebnis: Eine vollständige Assessment-Tabelle und eine strukturierte 5-Minuten-Präsentation.

Musterlösung (Beispiel: Ticket-Triaging-Assistent):

Use-Case-Beschreibung: Der Ticket-Triaging-Assistent analysiert eingehende Helpdesk-Tickets und klassifiziert sie nach Priorität (Niedrig/Mittel/Hoch/Kritisch) sowie Kategorie (Hardware, Software, Netzwerk, Sonstiges). Die Daten umfassen Ticket-Text, Absender-E-Mail und ggf. Screenshots. Das System schlägt eine Kategorisierung vor; die finale Entscheidung trifft der/die Mitarbeitende.

Bezug zu Modul-9-Konzepten: UE 97 (Angriffsvektoren durch Ticket-Inhalte), UE 98 (Input-Sanitizer), UE 100 (Datenstufenbewertung), UE 103 (Golden Test-Set), UE 104 (Monitoring), UE 105 (KI-Systemverzeichnis-Eintrag).

Warnung — Hochrisiko-Klassifizierung und ihre Konsequenzen

Risiko: Ein Use-Case, der Anhang III des EU AI Act auslöst (insbesondere Ziffer 4 für Personalentscheidungen, Ziffer 5 für Kreditbewertungen oder Ziffer 8 für kritische Infrastruktur), unterliegt ab August 2026 dem vollständigen Hochrisiko-Pflichtenprogramm der Art. 9–15. Die Nichterfüllung dieser Pflichten kann zu Bußgeldern von bis zu 3 % des weltweiten Jahresumsatzes oder 15 Millionen Euro führen (Art. 101 EU AI Act) — sowie zu zivilrechtlichen Haftungsansprüchen betroffener Personen.

OWASP LLM-Risiko (LLM01 / LLM06): Beim Risiko-Assessment darf die technische Sicherheitsdimension nicht unterschätzt werden. Ein Hochrisiko-KI-System, das gleichzeitig für Prompt Injection anfällig ist (LLM01), verbindet regulatorisches Compliance-Risiko mit operativem Sicherheitsrisiko. Ein Angreifer, der via Prompt Injection Zugriff auf ein Recruiting-System erlangt, kann nicht nur Daten extrahieren (Data Leakage, LLM06), sondern auch Bewerbungsbewertungen manipulieren — mit möglichen Diskriminierungsfolgen und erheblichem Reputationsschaden.

Handlungsempfehlung: Führen Sie das Risiko-Assessment für jeden neuen KI-Use-Case vor dem Produktivstart durch. Bei Hochrisiko-Klassifizierung: Rechtsberatung einbeziehen, Datenschutzbeauftragten konsultieren, und ausreichend Zeit für die Compliance-Dokumentation einplanen — mindestens 8–12 Wochen für die vollständige Vorbereitung eines Hochrisiko-Systems.

Cheatsheet — Die wichtigsten Punkte

6 Dimensionen: Technisch + Datenschutz + Rechtlich + Qualität + Governance + Ethik

Bewertungsskala: 1 = gering, 5 = kritisch; Durchschnitt ergibt Gesamtrisikoniveau

Go bis 2.0: Produktivstart mit Monitoring und Dokumentation

Conditional Go 2.1–3.5: Maßnahmen zuerst, dann Produktivstart; offene Punkte mit Frist dokumentieren

No Go ab 3.6: Grundlegende Nachbesserung des Use-Cases vor erneutem Assessment

Einzeldimension 5: Immer k.o. — unabhängig vom Gesamtdurchschnitt

Assessment = Syntheseinstrument: Alle Konzepte von UE 97–107 fließen ein

Weiterverwendung: Assessment-Ergebnis direkt in KI-Systemverzeichnis übertragen

Jährliches Review: Nicht einmalig — bei Modell-Update, Regulatory Change und Nutzungsänderung wiederholen

Hochrisiko (Anhang III): Recruiting, Kreditbewertung, kritische Infrastruktur — immer DSB und Rechtsberatung einbeziehen

Prompt-Vorlage — Integriertes Risiko-Assessment für einen KI-Use-Case durchführen

Prompt für einen KI-Assistenten:

„Ich führe ein umfassendes Risiko-Assessment für einen neuen KI-Use-Case durch, bevor wir mit dem Pilot beginnen. Der Use-Case: Ein KI-Assistent soll unsere Buchhalter bei der Prüfung von Eingangsrechnungen unterstützen. Er liest Rechnungs-PDFs ein, extrahiert relevante Felder (Betrag, Lieferant, Rechnungsnummer) und schlägt vor, welches Kostenkonto belastet werden soll. Ein Mensch trifft stets die finale Buchungsentscheidung.

Führe ein strukturiertes Risiko-Assessment durch, das alle Dimensionen aus einem vollständigen Modul-9-Governance-Stack abdeckt:

EU AI Act Einordnung: Welche Risikokategorie? Welche Pflichten ergeben sich daraus?

OWASP LLM Risikoanalyse: Welche der Top-10-Risiken sind relevant? Priorität und Gegenmaßnahmen?

Datenschutz-Risikoeinschätzung: Welche personenbezogenen Daten werden verarbeitet? DSFA notwendig?

Datenklassifizierung: Wie sind Rechnungsdaten einzustufen? Welche KI-Hosting-Option ist konform?

Vendor-Assessment-Kernanforderungen: Welche 5 wichtigsten Anforderungen muss der KI-Anbieter erfüllen?

Qualitätssicherungs-Konzept: Welche Testfälle sind für das Golden Test-Set essenziell?

Monitoring-Konzept: Welche Kennzahlen müssen überwacht werden?

Incident-Response: Welcher Vorfall-Typ ist am wahrscheinlichsten — und wie lautet die erste Sofortmaßnahme?

Formatiere als kompakte Assessment-Matrix (Tabelle: Dimension | Bewertung | Maßnahme | Priorität). Ergänze am Ende eine Go/No-Go-Empfehlung mit Begründung.”

Erwartetes Ergebnis: Eine vollständige, integrierte Risiko-Assessment-Matrix, die als Entscheidungsvorlage für das Management und als Dokumentationsgrundlage für den EU AI Act dient. Das Ergebnis verknüpft alle Konzepte aus Modul 9 in einer einzigen Analyse.

Reflexionsfragen

Welche der sechs Dimensionen ist für die typischen Use-Cases in Ihrer Organisation im Durchschnitt am kritischsten — und welche ist am einfachsten zu beherrschen?

Ein Use-Case erhält in einer Dimension die Bewertung 5 (kritisch), in allen anderen aber 1. Wie würden Sie mit diesem Fall umgehen — Durchschnitt berechnen oder anders entscheiden?

Das Risiko-Assessment ist eine Momentaufnahme. Welche Ereignisse müssten eintreten, damit Sie das Assessment für ein bereits produktives System wiederholen?

Ein Kunde bittet Ihre Organisation um eine erste Risikobewertung seines geplanten KI-Assistenten. Wie integrieren Sie das Assessment in Ihr Beratungsangebot — und wie kommunizieren Sie ein Conditional-Go-Ergebnis gegenüber dem Kunden?

Welche Elemente aus Modul 9 erscheinen Ihnen für Ihren persönlichen Arbeitsalltag als am unmittelbar relevantesten — und was möchten Sie als erstes konkret umsetzen?

Quellen & Weiterlesen

Hinweise für AI Champions — So vermitteln Sie das Thema — UE 108

Timing (45 Min): 5 Min Einstieg (kurze Modul-9-Synthese, Überblick über das Assessment-Framework), 10 Min Lerntext (6 Dimensionen im Überblick, die drei Referenzbeispiele), 20 Min Gruppenarbeit Übung 2 (jede Gruppe bewertet einen Use-Case), 8 Min Ergebnis-Präsentationen und Vergleich, 2 Min Abschluss und Übergang zu Modul 10.

Methodische Empfehlung: Diese UE ist die Synthese des gesamten Moduls — das Gruppenarbeitsformat ist hier besonders wirkungsvoll. Die Gruppen sollten unterschiedliche Use-Cases bearbeiten (Aufgabenoptionen A–D), damit die Ergebnispräsentationen einen echten Vergleich ermöglichen. Das Plenum-Gespräch nach den Präsentationen ist der didaktische Höhepunkt: Warum hat Use-Case C ein höheres Risikoprofil als Use-Case A — obwohl beide auf den ersten Blick ähnlich wirken?

Häufige Stolpersteine: (a) Teilnehmende neigen dazu, alle Dimensionen zu niedrig zu bewerten — aus dem Wunsch, das Ergebnis „Go” zu erhalten. Der Trainer weist darauf hin: Ein zu niedriges Assessment ist schlechter als ein ehrliches Conditional Go, weil es echte Risiken verdeckt. (b) Die rechtliche Dimension (EU AI Act Hochrisiko) wird ohne juristisches Vorwissen unsicher bewertet. Hinweis: Im Zweifelsfall immer DSB und Rechtsberatung einbeziehen — das Assessment gibt die Richtung, aber keine Rechtssicherheit. (c) Die ethische Dimension wird oft als „weich” abgetan. Konkrete Diskriminierungsbeispiele aus der Praxis (Amazons Recruiting-KI 2018, Credit-Scoring-Bias) machen die Dimension greifbar.

Diskussionsfragen für Plenum: (1) Wenn Sie heute Nacht alle Assessment-Ergebnisse Ihrer Organisation auf einem Blatt hätten — welches System hätte das höchste Risikoprofil? (2) Was wäre das erste konkrete Ding, das Sie nach diesem Modul in Ihrer Organisation verändern würden?

Tafelbild-Vorschlag: Die 6 Dimensionen als Sechseck (Radar-Chart-Analogie) — jede Ecke ist eine Dimension, die Größe zeigt das Risiko. Der Recruiting-Screener hat ein nach außen gezogenes Sechseck (hohe Werte in mehreren Dimensionen), das Ticket-Triaging ein kleines, kompaktes Sechseck (alle Werte niedrig).

Differenzierung Power-User ↔ Einsteiger: Einsteiger bearbeiten Übung 1 (strukturierter Angebots-Assistent mit Musterlösung als Referenz) und können bei Unsicherheit die Musterlösung schrittweise als Orientierung nutzen. Power-User bearbeiten Übung 2 mit einem komplexeren Use-Case (Option D — Kundenservice-Chatbot für externe Kunden) und werden gebeten, zusätzlich zur Empfehlung einen konkreten Maßnahmenplan mit Zeitplan zu formulieren.

Materialliste: Laptops oder Tablets (für Gruppenarbeit), Assessment-Template als ausgedruckte Vorlage (1 Exemplar pro Gruppe), Flipchart oder Whiteboard für die Ergebnispräsentation, Zugang zum KI-Systemverzeichnis-Template aus UE 105.

Übergang zu Modul 10: „Mit dem Risiko-Assessment haben Sie das analytische Werkzeug für verantwortungsvolle KI-Einführung in der Hand. Modul 10 bringt dieses Wissen in die Praxis: Sie entwickeln einen eigenen KI-Use-Case oder eine KI-Governance-Richtlinie — und zeigen, dass Sie das Gelernte wirklich anwenden können.”

Tipp zur Branchenauswahl: Die Branchen-Galerie dieser UE zeigt vier sehr unterschiedliche Anwendungskontexte. Für Gruppen aus dem Finanzsektor ist das Versicherungsbeispiel besonders relevant (Hochrisiko-Grenzfall). Für Gruppen aus der öffentlichen Verwaltung schärft das Behörden-Szenario das Bewusstsein für die besonderen datenschutzrechtlichen Anforderungen im hoheitlichen Kontext.

Quelle: KI-Wissensbasis von MindsMachines, Edition Juni 2026. Vollständige Fassung mit Anhängen und Musterlösungen: als PDF anfordern.