Risikoklassen des EU AI Act

Lernziele

• Sie können die vier Risikoklassen des EU AI Act (Verboten, Hochrisiko, Begrenzt, Minimal) definieren und voneinander abgrenzen.
• Sie kennen die in Anhang III des AI Act aufgelisteten Hochrisiko-Bereiche und können Beispiele aus verschiedenen Branchen zuordnen.
• Sie können die Vier-Fragen-Prüfheuristik anwenden, um die Risikoklasse eines konkreten KI-Systems zu bestimmen.
• Sie verstehen, welche spezifischen Anforderungen für jede Risikoklasse gelten und wie diese für Deployer relevant sind.
• Sie kennen konkrete Beispiele für verbotene KI-Praktiken nach Art. 5 des AI Act.

Auf einen Blick

Worum geht es? — Der didaktische Einstieg

Nicht alle KI-Systeme sind gleich riskant. Ein KI-System, das Filmempfehlungen generiert, hat ein anderes Risikopotenzial als ein System, das Polizisten bei der Risikobewertung von Verdächtigen unterstützt. Diese intuitive Erkenntnis ist der Kern des risikobasierten Ansatzes des EU AI Act: Je höher das potenzielle Risiko, desto strenger die Anforderungen.

Der AI Act unterteilt KI-Systeme in vier Risikoklassen. Das ist kein theoretisches Modell — es hat unmittelbare praktische Konsequenzen. Ein Hochrisiko-KI-System, das nicht konform ist, darf nicht eingesetzt werden. Ein System der minimalen Risikoklasse kann dagegen fast ohne regulatorische Auflagen genutzt werden.

Für Unternehmen als Deployer ist die Frage der Risikoklasse zentral: Welche meiner KI-Systeme fallen in welche Klasse? Welche Pflichten entstehen daraus? Und gibt es Systeme, die ich heute einsetze, die ich so nicht mehr einsetzen darf?

In dieser Einheit lernen Sie die vier Risikoklassen kennen, die Kriterien für die Klassifizierung, und eine praktische Prüfheuristik, die Sie bei der Einordnung konkreter KI-Systeme unterstützt.

Lerntext — Theorie und Konzepte

Die vier Risikoklassen im Überblick

Der AI Act strukturiert KI-Systeme in eine Pyramide, von der breiten Basis (minimales Risiko) bis zur engen Spitze (verbotene Systeme):

Klasse 1 — Verbotene KI (Art. 5): Die schärfste Kategorie. KI-Praktiken, die als inakzeptabel eingestuft werden und vollständig verboten sind — ohne Ausnahme. Seit dem 2. Februar 2025 in Kraft.

Klasse 2 — Hochrisiko-KI (Art. 6, Anhang I+III): KI-Systeme mit erheblichem Potenzial für Schäden an Gesundheit, Sicherheit oder Grundrechten. Dürfen eingesetzt werden, aber nur unter Einhaltung strenger Anforderungen (Konformitätsbewertung, technische Dokumentation, menschliche Aufsicht, etc.).

Klasse 3 — Begrenzt riskante KI (Art. 50): KI-Systeme mit spezifischen Transparenzanforderungen, insbesondere wenn sie mit Menschen interagieren (Chatbots, Deepfakes, generierte Inhalte). Benutzer müssen wissen, dass sie mit einer KI interagieren.

Klasse 4 — Minimal riskante KI: Der größte Teil aller KI-Anwendungen. Keine spezifischen Anforderungen im AI Act — aber natürlich gelten weiterhin DSGVO und allgemeines Haftungsrecht.

Abb. 16.1 — EU AI Act Risikoklassen: Pyramide von verboten bis minimal

Merksatz

Die meisten KI-Tools, die im Büroalltag eingesetzt werden — Textgeneratoren, Zusammenfassungs-Tools, Übersetzungs-KI — fallen in Klasse 4 (Minimal) oder Klasse 3 (Begrenzt). Hochrisiko-KI betrifft vor allem Systeme, die rechtlich oder sicherheitlich bedeutsame Entscheidungen beeinflussen.

Klasse 1 — Verbotene KI-Praktiken (Art. 5)

Art. 5 des EU AI Act listet abschließend die verbotenen KI-Praktiken auf. Diese sind seit dem 2. Februar 2025 verboten:

Social Scoring durch Behörden: KI-Systeme, die Personen von Behörden aufgrund ihres sozialen Verhaltens oder persönlicher Merkmale in sozialen Kontexten bewerten und darauf basierend Nachteile zufügen. Explizit abgeleitet vom chinesischen Social-Credit-System-Modell.

Manipulation unter Ausnutzung von Schwächen: KI-Systeme, die subliminale Techniken einsetzen oder Schwächen oder Verletzlichkeiten bestimmter Personengruppen (Kinder, ältere Menschen, Menschen mit Behinderungen) ausnutzen, um ihr Verhalten wesentlich zu beeinflussen.

Biometrische Echtzeit-Fernidentifikation in öffentlichen Räumen: Grundsätzliches Verbot für Strafverfolgungsbehörden — mit engen Ausnahmen (z. B. bei Terrorismusgefahr nach richterlicher Genehmigung).

Biometrische Kategorisierung zur Schlussfolgerung auf politische Ansichten, Religion, sexuelle Orientierung etc.

Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen: Verboten, außer für Sicherheitszwecke (z. B. Müdigkeitserkennung bei Fahrzeugführern).

Prädiktive Polizeiarbeit basierend auf Profiling: KI-basierte Risikobewertungen für Polizei, die auf Profiling ohne konkrete Verdachtsmomente basieren.

Klasse 2 — Hochrisiko-KI (Anhang I und Anhang III)

Hochrisiko-KI ist in zwei Gruppen unterteilt:

Anhang I — Sicherheitskomponenten: KI-Systeme, die Sicherheitskomponenten von Produkten sind, die unter bestimmte EU-Harmonisierungsrechtsvorschriften fallen (z. B. Maschinenrichtlinie, Spielzeugrichtlinie, Medizinprodukte-Verordnung). Ein KI-System, das in einer Werkzeugmaschine den Sicherheitsmechanismus steuert, ist Hochrisiko.

Anhang III — Neun Hochrisiko-Anwendungsbereiche: 1. Biometrische Identifikation (mit Ausnahmen) 2. Kritische Infrastruktur (Energie, Wasser, Verkehr) 3. Bildung und Berufsausbildung (z. B. Bewertung von Lernenden) 4. Beschäftigung und Personalmanagement (z. B. Bewerbungs-Screening, Kündigunsempfehlungen) 5. Wesentliche private und öffentliche Dienste (z. B. Kreditwürdigkeitsprüfung, Sozialleistungsentscheidungen) 6. Strafverfolgung (Risikobeurteilung, Profilierung) 7. Migration und Asyl (z. B. Antragsbewertung) 8. Justiz und Demokratie (z. B. Urteilsunterstützung) 9. Gesundheit und Wohlbefinden — Medizinprodukte

Merksatz

Hochrisiko nach Anhang III bedeutet nicht, dass das System verboten ist — es bedeutet, dass es streng reguliert ist. Unternehmen, die solche Systeme einsetzen, müssen Konformitätsbewertungen durchführen, technische Dokumentation führen und menschliche Aufsicht gewährleisten.

Klasse 3 — Begrenzt riskante KI (Art. 50)

Art. 50 regelt Transparenzpflichten für KI-Systeme, die mit Menschen interagieren oder Inhalte generieren:

Chatbots: Nutzer müssen transparent informiert werden, dass sie mit einem KI-System interagieren — außer wenn dies offensichtlich ist. Kein User-Täuschungsgebot.

Deep Fakes: KI-generierte Audio- oder Video-Inhalte, die reale Personen darstellen, müssen als KI-generiert gekennzeichnet werden. Ausnahme: Satire und Parodie, sofern erkennbar.

KI-generierte Texte: Texte, die zu öffentlich relevanten Themen dienen (z. B. Wahlbeeinflussungen), müssen als KI-generiert markiert sein.

Emotionserkennung / Biometrische Kategorisierung (außer Hochrisiko): Informationspflicht gegenüber den betroffenen Personen.

Klasse 4 — Minimal riskante KI

Hierunter fallen die meisten alltäglichen KI-Anwendungen: Spamfilter, Empfehlungssysteme, Produktivitäts-Tools, Übersetzungs-KI, einfache Chatbots ohne rechtliche Entscheidungsfunktion. Der AI Act stellt für diese Klasse keine spezifischen Anforderungen auf. Die EU-Kommission empfiehlt jedoch freiwillige Verhaltenskodizes für Anbieter.

Die Vier-Fragen-Prüfheuristik

Um die Risikoklasse eines konkreten KI-Systems schnell zu bestimmen, hilft folgende Prüfheuristik:

Frage 1: Fällt das System unter eine der verbotenen Praktiken in Art. 5? → Wenn ja: Verboten, darf nicht eingesetzt werden.

Frage 2: Ist das System eine Sicherheitskomponente eines Produkts nach Anhang I, oder fällt es in einen der neun Anhang-III-Bereiche? → Wenn ja: Hochrisiko-KI, strenge Anforderungen.

Frage 3: Interagiert das System mit Menschen, oder generiert es Inhalte, die als KI-generiert nicht erkennbar sein könnten? → Wenn ja: Begrenzt riskant, Transparenzpflichten nach Art. 50.

Frage 4: Keine der obigen Fragen bejaht? → Minimal riskant, keine spezifischen AI-Act-Anforderungen (aber DSGVO und allgemeines Haftungsrecht gelten weiterhin).

Vertiefung — Grenzfälle und die Herausforderung der Klassifizierung

Warum Klassifizierung schwierig ist

Die Theorie der vier Risikoklassen ist klar — die Praxis ist es häufig nicht. Mehrere Faktoren erschweren die Klassifizierung:

Systemgrenzen: Was ist das „KI-System”? Ein LLM an sich ist oft minimal riskant. Aber wenn dasselbe LLM in einen HR-Workflow eingebettet wird, der Bewerbungen bewertet, entsteht ein Hochrisiko-Kontext. Die Risikoklasse hängt oft vom Einsatzkontext ab, nicht nur von der Technologie.

Entwicklung von Anwendungen: Wird ein KI-System für einen Minimalrisiko-Zweck entwickelt und dann in einem Hochrisiko-Kontext genutzt, ändert sich die Klassifizierung — aber wer ist dafür verantwortlich? Der Anbieter oder der Deployer?

Kombination von Systemen: Ein Workflow kann aus mehreren KI-Systemen bestehen. Wenn eines davon Hochrisiko ist, welche Anforderungen gelten für den Gesamtworkflow?

Aktualisierungen und neue Versionen: Wenn ein KI-System weiterentwickelt wird, kann sich seine Risikoklasse ändern. Muss dann eine neue Konformitätsbewertung durchgeführt werden?

Diese Fragen sind zum Teil noch offen — die EU-Kommission, die zuständigen nationalen Behörden und der AI Office erarbeiten Leitlinien und Guidance-Dokumente, die schrittweise Klarheit schaffen.

Praktische Empfehlung für Deployer

Für Unternehmen, die KI-Systeme einsetzen und unsicher sind, welche Risikoklasse gilt, empfiehlt sich folgendes Vorgehen: Im Zweifel die höhere Risikoklasse annehmen und die entsprechenden Anforderungen erfüllen. Das schützt vor dem Risiko, dass eine spätere Neubewertung Compliance-Lücken aufdeckt.

Branchen-Anwendungen

IT-Dienstleistung & Beratung

IT-Berater, die KI-Systeme für Kunden konfigurieren oder implementieren, müssen die Risikoklasse des Systems kennen. Wenn ein Kunde ein Hochrisiko-System einsetzen will und der Berater ihn dabei unterstützt, ohne auf die Compliance-Anforderungen hinzuweisen, kann auch der Berater in die Haftung geraten. Empfehlung: Integrieren Sie die Risikoklassen-Prüfung als festes Element in Ihr Beratungs-Onboarding für KI-Projekte auf. Kunden, die nicht wissen, in welcher Risikoklasse ihre KI-Anwendung liegt, sind gefährdet — und Berater, die es auch nicht wissen, haften mit.

Industrie & Fertigung

Industrieunternehmen setzen KI häufig in der Qualitätskontrolle, Predictive Maintenance und Produktionssteuerung ein. Viele dieser Anwendungen sind minimal riskant — es sei denn, sie fallen unter Anhang III (z. B. sicherheitskritische Infrastruktur). Ein Maschinenhersteller, der eine KI zur automatischen Abschaltung von Maschinen bei erkannten Anomalien einsetzt, muss prüfen, ob dies als Sicherheitskomponente nach Anhang I klassifiziert wird. Empfehlung: Führen Sie für jeden KI-Einsatz ein Klassifizierungs-Logbuch mit Begründung der gewählten Risikoklasse.

Finanzdienstleistung & Versicherung

Im Finanzsektor sind KI-Systeme zur Kreditwürdigkeitsprüfung, Betrugserkennung und algorithmischen Entscheidungsfindung besonders kritisch. Kreditentscheidungen auf Basis von KI fallen in der Regel unter Anhang III (Hochrisiko) — das bedeutet: menschliche Aufsicht ist Pflicht, nicht Optional. Versicherer, die KI zur Schadensbewertung nutzen, müssen prüfen, ob Diskriminierungsrisiken bestehen und wie Ergebnisse erklärt werden können.

Öffentliche Verwaltung

Behörden und öffentliche Einrichtungen, die KI für Verwaltungsentscheidungen einsetzen, bewegen sich fast immer im Hochrisiko-Bereich. KI-gestützte Systeme zur Sozialleistungsgewährung, zur Steuerbewertung oder zur Genehmigungsentscheidung fallen unter Anhang III. Der Einsatz muss vollständig dokumentiert, durch Datenschutzbeauftragte geprüft und durch menschliche Entscheidungsträger überwacht werden. Kein automatisierter Bescheid ohne menschliche Letztverantwortung.

Übung 1 — Klassifizierungsworkshop

Verbotene KI-Praktiken im Detail — Art. 5

Art. 5 EU AI Act enthält sechs verbotene KI-Praktiken. Drei davon sind besonders praxisrelevant:

Verbot 1 — Unterschwellige Manipulation (Art. 5 Abs. 1 lit. a): KI-Systeme, die Techniken einsetzen, die das Bewusstsein einer Person umgehen, um ihr Verhalten so zu beeinflussen, dass sie oder andere geschädigt werden. Dies zielt auf manipulative Design-Muster (Dark Patterns) ab, die in KI-gestützten Anwendungen besonders wirkungsvoll sein können.

Verbot 2 — Social Scoring durch staatliche Akteure (Art. 5 Abs. 1 lit. c): KI-gestützte Bewertungssysteme für natürliche Personen durch Behörden oder im staatlichen Auftrag, die zu einer benachteiligenden oder schädlichen Behandlung führen. Dies ist die direkte Reaktion auf chinesische Social-Credit-Systeme.

Verbot 3 — Echtzeit-Biometrie im öffentlichen Raum (Art. 5 Abs. 1 lit. h): Der Einsatz von Echtzeit-Systemen zur biometrischen Fernidentifikation in öffentlichen Räumen durch Strafverfolgungsbehörden ist grundsätzlich verboten — mit engen Ausnahmen für terroristische Bedrohungen und die Suche nach vermissten Kindern.

Wichtig: Diese Verbote gelten für alle Akteure — nicht nur für staatliche. Auch private Unternehmen dürfen Techniken nach Art. 5 Abs. 1 lit. a nicht einsetzen.

Anhang III im Detail — Neun Hochrisiko-Bereiche

Anhang III listet die neun Bereiche auf, in denen KI-Systeme automatisch als Hochrisiko eingestuft werden. Ein vertiefer Blick auf die für Unternehmen besonders relevanten Bereiche:

Nr. 2 — Kritische Infrastruktur: Sicherheitskomponenten für die Verwaltung kritischer Infrastruktur (Wasser, Energie, Transport). Relevant für Industrieunternehmen, die KI zur Steuerung von Produktionsanlagen einsetzen.

Nr. 4 — Beschäftigung und Personalmanagement: KI-Systeme zur Einstellung, Aufgabenverteilung, Beförderung, Kündigung und vergleichbaren wesentlichen Entscheidungen im Arbeitsverhältnis. Dies ist der für die meisten Unternehmen direktest relevante Bereich.

Nr. 5 — Zugang zu privaten Dienstleistungen: KI-Systeme zur Bewertung der Kreditwürdigkeit oder zur Festlegung von Versicherungsprämien. Für Banken und Versicherungen besonders relevant.

Nr. 6 — Strafverfolgung: KI-Systeme zur individuellen Risikobewertung, Erkennung von Straftaten oder Prüfung von Beweismitteln. Ausschließlich relevant für Behörden.

Nr. 8 — Migrationskontrolle: KI-Systeme für Risikoeinschätzungen bei Einreiseanträgen. Ausschließlich für Behörden relevant.

Merksatz

Anhang III Nr. 4 (Beschäftigung und Personalmanagement) ist für die meisten Unternehmen der relevanteste Hochrisiko-Bereich. Jede KI-Anwendung im HR-Kontext — von der Bewerbungsauswahl über Leistungsbewertung bis zur Urlaubsplanung — muss auf eine potenzielle Hochrisiko-Klassifizierung geprüft werden.

Konformitätsbewertung für Hochrisiko-KI

Wenn ein System als Hochrisiko klassifiziert ist, muss vor dem Markteintritt eine Konformitätsbewertung (Conformity Assessment) durchgeführt werden. Diese kann — je nach Systemkategorie — intern (Self-Assessment) oder durch eine externe Notified Body durchgeführt werden.

Für Deployer, die Hochrisiko-KI einsetzen, gilt: Sie müssen die Konformitätserklärung des Anbieters prüfen (Art. 26 Abs. 1) und sich vergewissern, dass das System für den konkreten Verwendungszweck tatsächlich konform ist. Eine Hochrisiko-KI, die für Bereich X konform ist, muss nicht automatisch für Bereich Y konform sein.

Praxisübungen zur Risikoklassifizierung — Weitere Fallbeispiele

Fallbeispiel 1 — KI-gestützte Preisgestaltung: Ein E-Commerce-Unternehmen nutzt ein KI-System zur dynamischen Preisgestaltung. Das System analysiert Kundendaten (z. B. Kaufhistorie, Standort, Gerät) und passt Preise individuell an. Klassifizierung: In der Regel minimal riskant oder begrenzt riskant. Ausnahme: Wenn die Preisgestaltung auf Merkmalen basiert, die mit geschützten Kategorien (z. B. Wohnort als Proxy für Ethnizität) korrelieren, entstehen AGG-Risiken. Art. 50 greift nicht direkt, aber Transparenzanforderungen aus dem AGB-Recht und dem UWG können relevant sein.

Fallbeispiel 2 — KI-gestützte Sicherheitskontrolle im Betrieb: Ein Produktionsunternehmen setzt KI zur Erkennung von Sicherheitsrisiken im Betrieb ein (z. B. Erkennung von Mitarbeitenden ohne Schutzausrüstung durch Kamera-KI). Klassifizierung: Potenziell Hochrisiko nach Anhang III Nr. 1 (Sicherheitskomponente kritischer Infrastruktur) oder zumindest begrenzt riskant (biometrische Komponenten). Zusätzlich: Echtzeit-Biometrieregeln prüfen. BetrVG-Mitbestimmung (§ 87 Nr. 6) zwingend.

Fallbeispiel 3 — KI-gestützte Kundensegmentierung: Eine Versicherung nutzt KI, um Kunden in Risikogruppen einzuteilen und Versicherungsprämien entsprechend anzupassen. Klassifizierung: Hochrisiko nach Anhang III Nr. 5 (Zugang zu privaten Diensten und Versicherungsleistungen). Art. 26 vollumfänglich anwendbar. DPIA nach Art. 35 DSGVO erforderlich. Besonderes AGG-Risiko (Diskriminierung durch demografische Proxies).

Fallbeispiel 4 — KI-Chatbot für den Kundensupport: Ein Unternehmen setzt einen KI-Chatbot ein, der Kundenanfragen beantwortet und Rückerstattungen genehmigt oder ablehnt. Klassifizierung: Begrenzt riskant nach Art. 50 (Chatbot muss als KI kenntlich gemacht werden). Wenn der Chatbot Rückerstattungsentscheidungen trifft, die erhebliche wirtschaftliche Auswirkungen auf Kunden haben: Grenzfall zu Hochrisiko; DSGVO Art. 22 prüfen (automatisierte Einzelentscheidung).

Merksatz

Die Risikoklassifizierung ist keine akademische Übung — sie hat direkte finanzielle Konsequenzen: Hochrisiko-Compliance kostet Zeit und Geld, aber Nicht-Compliance kostet mehr. Investieren Sie in die richtige Klassifizierung zu Beginn — nicht in nachträgliche Korrekturen.

Konformitätsbewertung und CE-Kennzeichnung

Für Hochrisiko-KI-Systeme (Anhang I und III) ist vor Markteintritt eine Konformitätsbewertung erforderlich (Art. 43). Je nach Systemkategorie erfolgt diese:

Intern (Self-Assessment): Für Hochrisiko-Systeme nach Anhang III (außer biometrischen Systemen) kann der Anbieter die Konformitätsbewertung selbst durchführen. Voraussetzung: Vollständige technische Dokumentation, Aufzeichnungen über Tests und Validierungen.

Extern (Notified Body): Für Hochrisiko-Systeme nach Anhang I (in regulierten Produkten) und für bestimmte biometrische Systeme ist eine externe Konformitätsbewertung durch eine benannte Stelle (Notified Body) erforderlich.

Nach erfolgreicher Konformitätsbewertung: EU-Konformitätserklärung (Art. 47) und CE-Kennzeichnung (Art. 49). Die CE-Kennzeichnung signalisiert: Das System erfüllt alle Anforderungen des EU AI Acts.

Für Deployer: Sie müssen die CE-Kennzeichnung und Konformitätserklärung des Anbieters prüfen und in ihrer Dokumentation festhalten. Ein Hochrisiko-System ohne CE-Kennzeichnung darf nicht eingesetzt werden.

Übung 1 — Klassifizierungsworkshop

Aufgabe: Ordnen Sie die folgenden fünf KI-Anwendungen der richtigen Risikoklasse (Verboten / Hochrisiko / Begrenzt / Minimal) zu und begründen Sie Ihre Einordnung mit Verweis auf den AI Act.

1. Ein Chatbot im Kundenservice, der Fragen zu Produkten beantwortet und auf Nachfrage mitteilt, dass er ein KI-System ist.
2. Ein System, das Lernende in der Schule anhand von Verhalten und Leistung bewertet und Empfehlungen für Fördermaßnahmen gibt.
3. Ein Social-Scoring-System, das Bürger anhand ihres Sozialverhaltens bewertet und den Zugang zu öffentlichen Leistungen einschränkt.
4. Ein Predictive-Maintenance-System in einer Fabrik, das den optimalen Wartungszeitpunkt für Maschinen vorhersagt.
5. Ein System, das aus Textbeschreibungen Deep-Fake-Videos bekannter Politiker erstellt, ohne Kennzeichnung.

Bearbeitungszeit: 15 Minuten, Gruppenarbeit zu zweit.

Musterlösung:

1. Chatbot: Begrenzt riskant (Art. 50 — Transparenzpflicht, aber erfüllt, da Bot sich zu erkennen gibt).
2. Schüler-Bewertungssystem: Hochrisiko — Anhang III Nr. 3 (Bildung und Berufsausbildung: Entscheidungen mit erheblichem Einfluss auf Bildungswege).
3. Social Scoring: Verboten — Art. 5 Abs. 1 lit. c (allgemeines Social Scoring durch öffentliche Stellen).
4. Predictive Maintenance: Minimal riskant — keine Anhang-I- oder Anhang-III-Relevanz, keine direkte Personenwirkung, reine Maschinenoptimierung.
5. Deep-Fake-Videos ohne Kennzeichnung: Verstoß gegen Art. 50 Abs. 4 (Kennzeichnungspflicht für Deep Fakes), potenziell auch verboten wenn zur Täuschung über politische Prozesse eingesetzt (Art. 5 Abs. 1 lit. a).

Übung 2 — Praxisfall: Das HR-System

Übung 2 — Praxisfall: Das HR-System

Ausgangslage: Ihr Unternehmen plant, ein KI-System zur Vorauswahl von Bewerbungsunterlagen einzuführen. Das System analysiert Lebensläufe, vergibt Scores und empfiehlt, welche Kandidaten zum Vorstellungsgespräch eingeladen werden sollen. Ein Mensch trifft die finale Entscheidung, aber der Score beeinflusst sie stark.

Aufgabe: Beurteilen Sie das System nach dem AI Act. Welche Risikoklasse? Welche Pflichten entstehen? Was müsste geändert werden, damit das System legal betrieben werden kann?

Bearbeitungszeit: 20 Minuten, Einzel- oder Partnerarbeit.

Musterlösung:

Risikoklasse: Hochrisiko — Anhang III Nr. 4 (Beschäftigung und Personalmanagement, lit. a: Entscheidungen über Einstellung und Auswahl von Personen).

Pflichten als Deployer (Art. 26): - Technische Dokumentation des Systems einholen und prüfen. - Menschliche Aufsicht sicherstellen — die finale Entscheidung muss ein Mensch treffen und verstehen können. - Betroffene informieren, dass eine KI an der Entscheidung beteiligt ist (Art. 50 i.V.m. Art. 26 Abs. 9). - Grundrechtefolgenabschätzung durchführen (Art. 27). - Protokolle über den Betrieb führen (Art. 26 Abs. 6).

Anpassungen für legalen Betrieb: - Scorings müssen für Entscheider erklärbar sein (Explainability). - Regelmäßige Bias-Audits (Art. 10 EU AI Act). - Dokumentation der Entscheidungsgrundlagen. - Datenschutz-Folgenabschätzung nach Art. 35 DSGVO.

Branchenspezifische Hochrisiko-Klassifizierungen — Tiefblick

IT- und Softwareunternehmen setzen häufig KI-Systeme ein, die für Kunden betrieben werden. Die Risikoklassifizierung hängt davon ab, in welchem Kontext der Kunde das System einsetzt. Ein Entwicklungsunternehmen, das eine HR-KI-Plattform für Kunden baut und betreibt, ist für die Risikoklassifizierung und Compliance selbst verantwortlich — auch wenn es nicht der Endnutzer ist. Dies schafft eine Kettenverantwortung: Der Software-Anbieter ist Anbieter; der Kunde ist Deployer. Beide haben Pflichten.

Besonderheit bei Open-Source-Modellen: Open-Source-LLMs (z. B. Llama 3, Mistral, Qwen) unterliegen anderen Regeln: Wenn ein Unternehmen ein Open-Source-Modell nutzt und darauf aufbauend ein Hochrisiko-System entwickelt, wird dieses Unternehmen zum Anbieter — und muss alle Anbieter-Pflichten erfüllen, einschließlich technischer Dokumentation und Konformitätsbewertung.

Übergangsregeln und Bestandsschutz

Für KI-Systeme, die vor dem jeweiligen Stichtag des AI Acts bereits in Betrieb waren, gelten Übergangsregelungen:

Hochrisiko-KI nach Anhang III: Systeme, die vor August 2026 in Betrieb gehen, müssen bis August 2027 compliant sein. Systeme, die vor August 2027 in Betrieb gehen (und nach dem AI-Act-Stichtag für Hochrisiko-Pflichten), müssen sofort compliant sein.

Praxis-Empfehlung: Wenn Ihr Unternehmen ein Hochrisiko-System plant, beginnen Sie die Compliance-Vorbereitungen frühzeitig — idealerweise 12–18 Monate vor dem geplanten Deployment. Die Konformitätsbewertung, technische Dokumentation und ggf. externe Zertifizierung sind zeitintensiv.

Warnung — Compliance-Risiko: Fehlklassifizierung

Die falsche Einordnung eines KI-Systems in eine zu niedrige Risikoklasse ist kein Kavaliersdelikt. Der EU AI Act sieht empfindliche Sanktionen vor: Bei Verstößen gegen Verbote nach Art. 5 drohen Bußgelder von bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes (je nachdem, welcher Wert höher ist). Für Verstöße gegen Hochrisiko-Anforderungen (z. B. fehlende Konformitätsbewertung, keine technische Dokumentation, keine menschliche Aufsicht) drohen Bußgelder von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes. Für KMU und Start-ups können abgemilderte Sanktionen gelten — aber keine Freistellung. Wer ein Hochrisiko-System ohne Konformitätsbewertung in Betrieb nimmt, haftet auch dann, wenn das System selbst keinen Schaden anrichtet. Die Marktüberwachungsbehörden können Systeme vorübergehend vom Markt nehmen lassen. Fazit: Eine sorgfältige Klassifizierung zu Beginn ist deutlich günstiger als eine nachträgliche Compliance-Lücke.

Cheatsheet — Risikoklassen auf einen Blick

Die Hochrisiko-Liste in der Praxis — Häufige Fragen

In Schulungen und Beratungen entstehen regelmäßig dieselben Fragen zur Hochrisiko-Klassifizierung. Hier die häufigsten Fragen und Antworten:

Frage: Ihr HR-System hat eine KI-Funktion für automatische Kandidatenvorauswahl. Ist das Hochrisiko? Antwort: Sehr wahrscheinlich ja. Anhang III Nr. 4 schließt KI-Systeme für die Einstellung und Auswahl natürlicher Personen ausdrücklich ein. Die Vorauswahl von Bewerbern ist ein klassischer Fall. Deployer-Pflichten nach Art. 26 sind vollumfänglich anwendbar.

Frage: Ihr Buchhaltungs-KI-System erstellt automatisch Jahresabschluss-Vorschläge. Ist das Hochrisiko? Antwort: Wahrscheinlich nicht. Buchhaltungssysteme sind in keinem der neun Anhang-III-Bereiche explizit genannt. Minimal riskant — es sei denn, die Ergebnisse beeinflussen Kreditentscheidungen oder werden von einer Behörde für Steuerzwecke genutzt (dann möglicherweise öffentliche Verwaltung oder Zugang zu öffentlichen Diensten).

Frage: Ihr Kundenservice-Chatbot beantwortet Fragen und gibt Rückerstattungen frei. Wann wird er Hochrisiko? Antwort: Als reiner Chatbot ist er begrenzt riskant (Art. 50 — Transparenzpflicht). Wenn er jedoch bindende Entscheidungen trifft, die erhebliche wirtschaftliche Folgen für Verbraucher haben (z. B. Kreditgenehmigungen, Versicherungsansprüche), könnte er in Anhang III Nr. 5 fallen.

Frage: Sie nutzen KI für interne IT-Security (z. B. Anomalie-Erkennung im Netzwerk). Hochrisiko? Antwort: Wahrscheinlich nicht für normales IT-Security-Monitoring. Falls das Unternehmen Teil kritischer Infrastruktur ist (Energieversorgung, Wasserversorgung, Transportnetze, Finanzmarktinfrastruktur), dann Hochrisiko nach Anhang III Nr. 2.

Prompt-Beispiel: KI-Anwendungsfall nach EU AI Act Risikoklassen klassifizieren

Rolle: Sie sind ein KI-Compliance-Spezialist mit fundiertem Kenntnisstand des EU AI Act (Verordnung EU 2024/1689), insbesondere der Risikostufenarchitektur (Art. 5, 6, Anhang III) und der Klassifizierungsregeln (Art. 6 Abs. 1 und 2).

Aufgabe: Klassifizieren Sie den folgenden KI-Anwendungsfall nach den vier Risikoklassen des EU AI Act (Verbotene KI nach Art. 5 / Hochrisiko nach Art. 6 und Anhang III / Begrenzte Transparenzpflichten nach Art. 50 / Minimales Risiko). Begründen Sie die Klassifizierung Schritt für Schritt anhand der Vier-Fragen-Prüfheuristik.

Kontext: KI-Anwendungsfall: [Beschreiben Sie den KI-Use-Case: Welches System? Welcher Zweck? Welche Entscheidungen werden unterstützt oder getroffen? In welchem Bereich (Anhang III prüfen)? Wer ist betroffen?]

Format: Strukturierter Prüfbericht mit: (1) Vier-Fragen-Prüfung (F1: Ist das System von Art. 5 erfasst? / F2: Fällt es unter Anhang III? / F3: Gibt es Transparenzpflichten nach Art. 50? / F4: Minimal-Risiko-Einordnung), (2) Risikoklassen-Ergebnis mit Begründung (max. 150 Wörter), (3) Wesentliche Rechtspflichten aus der Klassifizierung (5 Punkte). Keine Rechtsberatung.

Branchen-Vignette — Risikoklassifizierung eines HR-KI-Systems

Ein Logistikunternehmen mit 2.500 Mitarbeitenden plant die Einführung eines KI-Systems, das Bewerbungsunterlagen analysiert, Kandidaten bewertet und eine Ranking-Liste für die Vorauswahl erstellt. HR-Mitarbeitende treffen die finale Entscheidung, orientieren sich aber in der Praxis stark am KI-Ranking.

Klassifizierung nach EU AI Act: Das System fällt unter Anhang III Nr. 2 lit. a des AI Act: „KI-Systeme, die für Einstellungen oder für die Selektion natürlicher Personen verwendet werden sollen, insbesondere um Stellenanzeigen zu schalten, Bewerbungen zu filtern oder zu bewerten.” Das System ist daher Hochrisiko-KI.

Konkrete Pflichten als Deployer (Art. 26 EU AI Act): - Vor Einsatz: Technische Dokumentation vom Anbieter einholen (Art. 26 Abs. 1) - Grundrechtsbewertung durchführen (Art. 26 Abs. 9) — insbesondere AGG-Diskriminierungsrisiken - Mitarbeitende schulen (Art. 26 Abs. 5) - Betriebsrat informieren und einbinden (Art. 26 Abs. 8, BetrVG § 87 Abs. 1 Nr. 6) - Menschliche Aufsicht sicherstellen — das KI-Ranking darf nicht der alleinige Entscheidungsgrund sein - Protokollierung der KI-Empfehlungen und Abweichungen dokumentieren (Art. 26 Abs. 6)

Zusatzübung — Klassifizierungsworkshop: Grenzfälle diskutieren

Aufgabe (15 Minuten Gruppenarbeit): Jede Gruppe erhält zwei der folgenden KI-Anwendungsfälle und diskutiert deren Klassifizierung nach dem EU AI Act. Präsentation der Ergebnisse im Plenum (je 3 Minuten).

1. Chatbot im Kundenservice eines Versicherungsunternehmens, der einfache Fragen beantwortet und bei komplexen Fällen an Mitarbeitende weiterleitet.
2. KI-gestützte Kreditwürdigkeitsprüfung einer Sparkasse, die einen Score liefert, der als Empfehlung gilt — die finale Kreditentscheidung trifft ein Sachbearbeiter.
3. Überwachungskamera mit automatischer Verhaltensanalyse in einem Supermarkt, die ungewöhnliches Verhalten meldet (potenzielle Ladendiebstahl-Prävention).
4. KI-Sprachassistent in einem Callcenter, der Mitarbeitende bei der Formulierung von Antworten unterstützt, aber nicht autonom kommuniziert.
5. Automatische Sicherheitsklassifizierung von E-Mails in einem Industrieunternehmen — Mails werden als „verdächtig”, „normal” oder „kritisch” eingestuft.

Leitfragen für die Diskussion: Welche Vier-Fragen-Heuristik-Antwort ist eindeutig, welche ist umstritten? Was ist das Schlimmste, was passieren kann, wenn die Klassifizierung falsch ist?

Vertiefung II — Hochrisiko-KI nach Anhang III: Die vollständige Liste

Anhang III des EU AI Act listet die KI-Systeme auf, die als Hochrisiko eingestuft werden. Diese Liste ist abschließend (Stand 2024) und kann durch delegierte Rechtsakte der EU-Kommission erweitert werden. Für die Praxis ist es wichtig, die acht Bereiche zu kennen:

1. Biometrische Identifizierung und Kategorisierung — z. B. Gesichtserkennung in Zugangssystemen.

2. Kritische Infrastruktur — KI-Systeme im Management von Wasser-, Gas-, Strom- und Verkehrsinfrastruktur; Cybersicherheitssysteme.

3. Allgemeine und berufliche Bildung — KI, die Zugang zu Bildungseinrichtungen bestimmt oder Lernleistungen bewertet (z. B. automatisierte Prüfungsbewertung, Zulassungssysteme).

4. Beschäftigung, Personalmanagement und Zugang zur Selbständigkeit — Recruitment-KI (→ UE 17 Vignette), Leistungsbeurteilungs-KI, Beförderungs-KI, Kündigung-KI.

5. Zugang zu und Nutzung wesentlicher Dienste — Kredit-Scoring, Bonitätsprüfung, Sozialleistungs-Bewertung, Notfall-Triagierung.

6. Strafverfolgung — Risikobewertung von Personen, Lügendetektoren, Tatverdächtigen-Profilierung.

7. Migrations-, Asyl- und Grenzkontrollmanagement — Risikobewertung für Visaanträge, Grenzübertritt-Verifikation.

8. Justiz und demokratische Prozesse — KI zur Unterstützung von Rechtsentscheidungen, politischem Micro-Targeting.

Merksatz

Nicht jedes KI-System, das in einem dieser Bereiche eingesetzt wird, ist automatisch Hochrisiko. Entscheidend ist: Trifft das System Entscheidungen über Personen mit erheblicher Wirkung auf ihre Rechte, Chancen oder ihren Zugang zu Ressourcen? Wenn ja, ist Hochrisiko sehr wahrscheinlich.

Zusammenfassung UE 16

Der EU AI Act kennt vier Risikoklassen: Verboten (Art. 5 — 6 Praktiken), Hochrisiko (Anhang I + III — neun Bereiche), Begrenzt riskant (Art. 50 — Transparenzpflichten), Minimal riskant (keine spezifischen Anforderungen). Die Vier-Fragen-Prüfheuristik ermöglicht eine schnelle Erstklassifizierung. Hochrisiko-Systeme erfordern Konformitätsbewertung, CE-Kennzeichnung, technische Dokumentation und die Deployer-Pflichten nach Art. 26. Grenzfälle — insbesondere bei LLMs in unterschiedlichen Kontexten — erfordern eine kontextspezifische Analyse. Die Risikoklasse hängt oft mehr vom Einsatzkontext ab als von der Technologie. Im Zweifel gilt: höhere Risikoklasse annehmen und dokumentieren. Anhang III Nr. 4 (Beschäftigung und Personalmanagement) ist der für die meisten Unternehmen relevanteste Hochrisiko-Bereich.

Querverweise zu anderen UEs

UE 16 (Risikoklassen) übersetzt die Grundlagen aus UE 15 in praktische Klassifizierungsarbeit. Die Risikoklasse bestimmt, welche Deployer-Pflichten (UE 17) und welche Schulungsanforderungen (UE 18) gelten. In der Fallstudie (UE 24) ist die Risikoklassifizierung Block B des Fünf-Blöcke-Schemas. Die Verbindung zu Bias und Diskriminierung (UE 22) liegt in Anhang III Nr. 4: HR-KI ist fast immer Hochrisiko — und Hochrisiko-HR-KI muss auf Bias geprüft werden (Art. 10).

Abschlussbetrachtung — Den EU AI Act als Orientierungsrahmen nutzen

Der EU AI Act schafft erstmals einen verbindlichen rechtlichen Rahmen für KI-Systeme in Europa. Dieser Rahmen ist kein starres Regelwerk, sondern ein dynamisches Instrument, das mit der technologischen Entwicklung mitwächst. Für Organisationen bietet er wichtige Orientierung: Welche KI-Systeme sind erlaubt? Welche erfordern besondere Sorgfalt? Und welche sind grundsätzlich verboten? Diese Fragen lassen sich mit dem Risikoklassen-Modell des EU AI Act systematisch beantworten. Nutzen Sie dieses Modell, um KI-Einsatz in Ihrer Organisation zu strukturieren — nicht als bürokratisches Prozedere, sondern als strategisches Steuerungsinstrument. Beginnen Sie mit einer Inventur der aktuell genutzten KI-Tools, klassifizieren Sie diese nach Risikoklasse, und leiten Sie daraus Handlungsprioritäten ab. So gelingt der Übergang von reaktiver Compliance zu proaktivem KI-Governance.

Reflexionsfragen

1. Warum ist die Risikoklasse oft kontextabhängig und nicht allein von der Technologie abhängig?
2. Stellen Sie sich vor, Ihr Unternehmen nutzt ein LLM-Tool für interne Zwecke. Welche Fragen müssen Sie klären, bevor Sie die Risikoklasse festlegen?
3. Was bedeutet „menschliche Aufsicht” im Hochrisiko-Kontext konkret — und wo liegt die Grenze zwischen echter Aufsicht und bloßem Rubber-Stamping?
4. Warum sind die Bußgelder beim EU AI Act prozentual am Jahresumsatz gemessen und nicht als Fixbetrag?
5. Welche Risikoklasse würden Sie für einen KI-Assistenten annehmen, der Ärzte bei der Diagnoseunterstützung verwendet? Welche Anforderungen würden sich daraus ergeben?
6. Können Sie sich einen KI-Anwendungsfall aus Ihrer Branche vorstellen, der auf den ersten Blick harmlos wirkt, aber bei näherer Prüfung als Hochrisiko-KI einzuordnen wäre? Was wäre das Risiko-auslösende Merkmal?
7. Verbotene KI-Praktiken nach Art. 5 EU AI Act betreffen u. a. Social Scoring durch staatliche Behörden. Warum ist gerade dieses Verbot besonders wichtig für das gesellschaftliche Vertrauen in KI-Systeme?

Risikoklassifizierung und Versicherungsschutz

Ein wenig beachteter Aspekt der AI-Act-Risikoklassifizierung ist ihr Einfluss auf den Versicherungsschutz. Cyber-Versicherungen und Haftpflichtversicherungen beginnen, KI-Risiken explizit zu adressieren:

Deckungslücken: Viele bestehende Cyber-Versicherungen decken Schäden durch KI-Fehlfunktionen nicht ab — oder nur eingeschränkt. Prüfen Sie Ihre Versicherungsverträge auf KI-spezifische Ausschlussklauseln.

KI-spezifische Policen: Erste Versicherungsanbieter entwickeln dedizierte KI-Haftpflichtversicherungen, die Schäden durch KI-Fehlfunktionen, Datenschutzverletzungen durch KI und Diskriminierungsansprüche abdecken.

Risikoklasse als Prämienfaktor: Ähnlich wie bei der Betriebsunterbrechungsversicherung (wo die Sicherheitssysteme des Unternehmens die Prämie beeinflussen) werden Versicherer zunehmend die KI-Risikoklassifizierung und den Compliance-Status als Prämienfaktoren einbeziehen.

Empfehlung: Sprechen Sie mit Ihrem Versicherungsbroker über die KI-Abdeckung Ihrer bestehenden Policen und prüfen Sie, ob eine KI-spezifische Ergänzung sinnvoll ist.

Merksatz zu UE 16: Die Risikoklasse bestimmt den Compliance-Aufwand. Minimal riskante Systeme brauchen kein Konformitätsbewertungsverfahren — aber sie brauchen DSGVO-Compliance, wenn personenbezogene Daten verarbeitet werden. Keine KI-Anwendung ist regulierungsfrei.

Quellen & Weiterlesen

Ergänzung: Grenzfälle in der Risikoklassifizierung

Die Praxis zeigt: Viele KI-Systeme sind nicht eindeutig klassifizierbar. Zwei häufige Grenzfalltypen:

Typ 1 — Doppelnutzung: Ein KI-Tool wird sowohl für HR-Zwecke (Hochrisiko) als auch für allgemeine Textverarbeitung (minimal) genutzt. Lösung: Die Hochrisiko-Einstufung gilt für den gesamten Einsatz des Tools, solange HR-Funktionen enthalten sind. Das gesamte Compliance-Regime des AI Acts gilt dann für alle Nutzungen.

Typ 2 — Empfehlung vs. Entscheidung: Das System empfiehlt nur, entscheidet aber nicht. Lösung: Wenn die Empfehlung in der Praxis regelmäßig ohne wesentliche menschliche Überprüfung übernommen wird, ist die Grenze zur Entscheidung faktisch überschritten. Aufsichtsbehörden werten nicht die formelle, sondern die tatsächliche Entscheidungsrolle.

Anhang III — vollständige Übersicht der Hochrisiko-Bereiche:

Merksatz

Nicht jedes KI-System in einem der acht Bereiche ist automatisch Hochrisiko. Entscheidend ist: Trifft das System Entscheidungen über Personen mit erheblicher Wirkung auf ihre Rechte, Chancen oder ihren Zugang zu Ressourcen?

Trainer-Hinweise

Minimale Anforderungen für minimal riskante KI

Während Hochrisiko-KI umfangreiche Anforderungen hat, sind minimale KI-Systeme weitgehend unreguliert. Aber das bedeutet nicht, dass gar keine Anforderungen gelten:

DSGVO: Falls personenbezogene Daten verarbeitet werden, gilt die DSGVO vollständig — unabhängig von der AI-Act-Risikoklasse.

Produkthaftungsrecht: Das allgemeine Produkthaftungsrecht gilt für alle KI-Systeme, die als Teil eines Produkts eingesetzt werden — auch für minimal riskante.

Vertragsrecht: KI-generierte Empfehlungen oder Inhalte, die im Rahmen eines Vertragsverhältnisses geliefert werden, unterliegen den allgemeinen Gewährleistungs- und Haftungsregeln des BGB.

Wettbewerbsrecht (UWG): Irreführende KI-generierte Inhalte (z. B. gefälschte Produktbewertungen, manipulative Werbebotschaften) können Verstöße gegen das Gesetz gegen den unlauteren Wettbewerb darstellen.

Empfehlung: Auch für minimal riskante KI-Systeme sollte eine kurze Compliance-Notiz existieren, die festhält: (1) warum das System als minimal riskant klassifiziert wurde, und (2) dass DSGVO, Produkthaftung und allgemeines Haftungsrecht weiterhin gelten.

Minimal-Compliance-Checkliste für alle KI-Deployer

Unabhängig von der Risikoklasse der eingesetzten KI-Systeme gibt es eine minimale Compliance-Baseline, die alle Deployer einhalten sollten:

Basis-Compliance (alle Deployer): 1. KI-Inventar vorhanden (auch wenn nur als Tabelle) 2. Keine verbotenen KI-Praktiken nach Art. 5 im Einsatz 3. Transparenzpflichten nach Art. 50 erfüllt (Chatbot-Kennzeichnung, Deep-Fake-Kennzeichnung) 4. AI-Literacy-Schulungen für alle KI-nutzenden Mitarbeitenden dokumentiert 5. DSGVO-Compliance für alle KI-Systeme mit Personenbezug (AVV, Rechtsgrundlage) 6. KI-Policy vorhanden (auch wenn nur 1 Seite)

Erweiterte Compliance (Hochrisiko-Deployer zusätzlich): 7. Konformitätserklärung des Anbieters vorhanden und geprüft 8. Menschliche Aufsichtsverfahren definiert und dokumentiert 9. DPIA abgeschlossen 10. Post-Market-Monitoring eingerichtet 11. Betriebsrat eingebunden

Diese zwei-stufige Checkliste gibt Organisationen eine klare Orientierung: Stufe 1 ist für alle Unternehmen, Stufe 2 nur wenn Hochrisiko-Systeme eingesetzt werden.

Praxishinweis: Entwickeln Sie fuer Ihre Organisation ein einfaches Klassifizierungs-Flowchart (eine Seite), das die Vier-Fragen-Heuristik visualisiert. Dieses Flowchart kann in Projektmeetings eingesetzt werden, wenn neue KI-Systeme diskutiert werden, auch ohne Rechtsexpertise koennen Teammitglieder eine erste Einschaetzung vornehmen.

Hinweise für AI Champions — So vermitteln Sie das Thema UE 16

Timing: 45 Minuten — empfohlen: 15 Min. Theorie (Pyramide + Klassen), 15 Min. Übung 1 (Klassifizierungsworkshop), 15 Min. Übung 2 + Diskussion.

Methodik: Die Pyramiden-Darstellung der vier Risikoklassen ist ein wirksames didaktisches Mittel — von unten (minimal) nach oben (verboten) aufbauen und auf dem Flipchart zeichnen. Betonen Sie: „Verboten” steht an der Spitze, weil es das strengste Regime ist, nicht weil es die häufigste Kategorie ist.

Stolpersteine: Teilnehmende verwechseln häufig „verboten” mit „gefährlich”. Klären Sie: Minimal riskant kann trotzdem DSGVO-relevant sein. Hochrisiko ist nicht verboten, sondern streng reguliert.

Diskussionsfragen: Was wäre, wenn ein KI-System gleichzeitig in mehrere Risikoklassen fällt (z. B. Deep-Fake-Generator, der auch für HR-Zwecke genutzt wird)? Wer entscheidet über die Klassifizierung — Anbieter oder Deployer?

Tafelbild: Pyramide mit vier Ebenen + Vier-Fragen-Check daneben. Zeichnen Sie Pfeile von den Fragen zu den Klassen.

Differenzierung: Für fortgeschrittene Gruppen: Das Verhältnis von EU AI Act und DSGVO bei Hochrisiko-Systemen (beide gelten gleichzeitig — keine „entweder/oder”-Logik).

Materialliste: Flipchart, Marker, Fallkarten für Übung 1 (je ein Fallbeispiel auf einer Karte), Handout.

Übergang zu UE 17: „Jetzt wissen Sie, welche Klassen existieren. In UE 17 geht es um die konkreten Pflichten, die für Deployer — also Ihr Unternehmen — aus diesen Klassen entstehen.”

Branchenauswahl-Tipp: Für Gruppen aus dem Finanzsektor: Kreditwürdigkeitsprüfung ist das Parade-Beispiel für Hochrisiko. Für Industrie-Gruppen: Sicherheitskomponenten nach Anhang I sind das relevanteste Beispiel.

Risikoklassifizierung — Grenzfälle im Dialog

In der Praxis treten immer wieder Grenzfälle auf, bei denen die Klassifizierung nicht eindeutig ist. Ein strukturierter Dialog zwischen IT, Legal und Fachabteilung hilft:

Schritt 1 — Systemdokumentation lesen: Was sagt der Anbieter selbst über den Verwendungszweck? Viele Anbieter geben in ihren Datenschutzerklärungen und FAQs Hinweise zur AI-Act-Klassifizierung.

Schritt 2 — Vier-Fragen-Schema anwenden: Systematische Prüfung aller vier Fragen (verboten? Hochrisiko? Transparenzpflicht? Minimal?).

Schritt 3 — Kontext definieren: Wofür wird das System in Ihrer Organisation konkret eingesetzt? Derselbe LLM kann in einem Hochrisiko-Kontext (HR-Entscheidungen) und einem minimalen Kontext (Marketingtext-Generierung) eingesetzt werden.

Schritt 4 — Im Zweifel konservativ klassifizieren: Bei echten Grenzfällen gilt: höhere Risikoklasse annehmen und entsprechende Maßnahmen ergreifen. Der Aufwand ist überschaubar; das Haftungsrisiko bei falscher Einstufung nach unten ist erheblich.

Schritt 5 — Entscheidung dokumentieren: Halten Sie die Klassifizierungsentscheidung und ihre Begründung schriftlich fest. Im Nachhinein muss nachvollziehbar sein, warum ein System als X und nicht als Y klassifiziert wurde.

Quelle: KI-Wissensbasis von MindsMachines, Edition Juni 2026. Vollständige Fassung mit Anhängen und Musterlösungen: als PDF anfordern.