Ethik-Frameworks: OECD, EU HLEG und Asilomar

Lernziele

• Sie können die fünf OECD-Prinzipien für vertrauenswürdige KI (2019/rev.2024) benennen und deren Relevanz für den Unternehmenskontext erläutern.
• Sie kennen die drei Komponenten und sieben Anforderungen der EU-HLEG-Leitlinien für vertrauenswürdige KI und können diese auf konkrete Anwendungsbeispiele anwenden.
• Sie sind vertraut mit den Asilomar-KI-Prinzipien (2017) und deren historischer Bedeutung für die KI-Ethik-Debatte.
• Sie verstehen den Weg von ethischen Freiwilligkeitsprinzipien zu rechtlich verbindlicher Regulierung (EU AI Act).
• Sie können den Unterschied zwischen Compliance (Rechtspflicht) und ethischer Verantwortung erläutern und begründen, warum beide für Unternehmen relevant sind.

Auf einen Blick

Worum geht es? — Der didaktische Einstieg

Recht und Ethik sind nicht dasselbe. Was legal ist, muss nicht ethisch sein — und was ethisch geboten ist, muss nicht immer rechtlich erzwingbar sein. Diese Spannung ist im KI-Bereich besonders spürbar: Viele der ethischen Debatten um KI (Fairness, Transparenz, Verantwortlichkeit) haben die rechtliche Regulierung angestoßen und geprägt. Der EU AI Act ist in weiten Teilen die Kodifizierung vorheriger ethischer Prinzipien.

Diese UE gibt einen strukturierten Überblick über die drei wichtigsten internationalen Ethik-Frameworks: die OECD-Prinzipien als globaler Standard, die EU-HLEG-Leitlinien als europäischer Rahmen und die Asilomar-Prinzipien als historisches Fundament der KI-Ethik-Bewegung. Das Ziel: Verstehen, woher die ethischen Grundvorstellungen kommen, die nun in Recht gegossen wurden.

Lerntext — Theorie und Konzepte

Abb. 21.1 — Von ethischen Frameworks zu rechtsverbindlicher Regulierung

OECD-Prinzipien für vertrauenswürdige KI (2019/rev.2024)

Die OECD hat 2019 als erste internationale Organisation Prinzipien für vertrauenswürdige KI verabschiedet — von 42 Mitgliedsstaaten und weiteren Ländern anerkannt. Sie wurden 2024 revidiert und an neue technologische Entwicklungen (insbesondere generative KI) angepasst.

Prinzip 1 — Inklusives Wachstum und Wohlbefinden: KI sollte so entwickelt und eingesetzt werden, dass sie Menschen und dem Planeten nützt. KI-Gewinne sollten breit geteilt werden, nicht nur bei Eigentümern von KI-Systemen konzentriert sein.

Prinzip 2 — Menschenzentrierte Werte und Fairness: KI-Systeme sollten die Rechtstaatlichkeit respektieren, Grundrechte und demokratische Werte achten. Diskriminierung und Vorurteile (Bias) sollen vermieden werden.

Prinzip 3 — Transparenz und Erklärbarkeit: KI-Akteure sollten transparent über ihre KI-Fähigkeiten und -Grenzen informieren. KI-Entscheidungen sollten erklärbar sein — entsprechend dem Kontext und den Risiken.

Prinzip 4 — Robustheit, Sicherheit und Schutz: KI-Systeme müssen sicher, robust und widerstandsfähig gegen Missbrauch sein. Sie sollten unter allen Bedingungen zuverlässig funktionieren — auch unter adversarialen Bedingungen.

Prinzip 5 — Verantwortlichkeit: KI-Akteure müssen für das Funktionieren ihrer Systeme Verantwortung übernehmen. Verantwortlichkeit und Rechenschaftspflicht müssen klar definiert sein.

Merksatz

Die OECD-Prinzipien sind freiwillig — aber sie definieren den internationalen Standard für das, was als „vertrauenswürdige KI” gilt. Wer sich als vertrauenswürdiger KI-Akteur positionieren möchte, sollte diese Prinzipien kennen und in seiner Praxis widerspiegeln.

EU HLEG — Leitlinien für vertrauenswürdige KI (2019)

Die High-Level Expert Group on AI (HLEG) der EU-Kommission veröffentlichte 2019 ihre Leitlinien für vertrauenswürdige KI. Diese haben maßgeblich die Entwicklung des EU AI Act beeinflusst. Die Leitlinien strukturieren vertrauenswürdige KI in drei Komponenten und sieben Anforderungen:

Drei Komponenten: 1. Gesetzeskonformität: KI muss alle anwendbaren Gesetze und Vorschriften einhalten. 2. Ethische Grundsätze: KI muss ethische Grundsätze und Werte respektieren. 3. Robustheit: KI muss technisch und sozial robust sein — auch mit unbeabsichtigten Konsequenzen umgehen.

Sieben Anforderungen: 1. Menschliche Handlungsfähigkeit und Aufsicht 2. Technische Robustheit und Sicherheit 3. Datenschutz und Datenverwaltung 4. Transparenz 5. Diversität, Nichtdiskriminierung und Fairness 6. Gesellschaftliches und ökologisches Wohlbefinden 7. Verantwortlichkeit

Diese sieben Anforderungen finden sich in modifizierter Form in den Anforderungen des EU AI Act (insbesondere für Hochrisiko-Systeme nach Kapitel III) wieder.

Merksatz

Die EU HLEG-Leitlinien sind der direkte Vorläufer des EU AI Act. Wer die sieben Anforderungen versteht, versteht auch die Logik hinter den AI-Act-Anforderungen für Hochrisiko-KI.

Asilomar-KI-Prinzipien (2017)

Die Asilomar-KI-Prinzipien wurden 2017 von über 1.000 KI-Forschenden und Experten unterzeichnet (darunter Elon Musk, Stuart Russell, Yoshua Bengio). Sie umfassen 23 Prinzipien in drei Kategorien:

Kategorie 1 — Forschungsfragen: Wie sollte KI-Forschung betrieben werden? Fokus auf Sicherheitsforschung, Kooperation zwischen KI-Community und Politik, Förderung von Forschungskultur.

Kategorie 2 — Ethik und Werte: Darunter: Sicherheit (KI muss sicher und robustentiert sein), Fehlertoleranz (KI muss mit menschlichen Fehlern umgehen können), Werteausrichtung (KI soll menschliche Werte reflektieren), Transparenz, Freiheit und Privatsphäre, geteilter Wohlstand.

Kategorie 3 — Langfristige Themen: Darunter: Vermeidung eines KI-Rüstungswettlaufs, keine Entwicklung von KI, die menschliche Werte untergraben will, Kontrolle über künstliche Superintelligenz.

Historische Bedeutung: Asilomar war der erste breite Konsens der KI-Community über ethische Leitlinien. Es legitimierte die KI-Ethik-Debatte und bereitete den Boden für staatliche Regulierung.

Der Weg von Ethik zu Recht

Die Entwicklung verlief in drei Phasen:

Phase 1 — Freiwillige Selbstverpflichtung (2017–2019): Asilomar-Prinzipien, OECD-Prinzipien, EU HLEG-Leitlinien. Unverbindlich, aber normativ prägend.

Phase 2 — Standardisierung und Empfehlungen (2019–2021): ISO/IEC-Normen für KI, nationale KI-Strategien, erste nationale Regulierungsansätze.

Phase 3 — Verbindliche Regulierung (2021–2026): EU AI Act (Entwurf 2021, Inkrafttreten 2024, Geltung ab 2025/2026), nationale Umsetzungsgesetze, Durchsetzung durch Marktüberwachungsbehörden.

Diese Entwicklung zeigt: Ethische Prinzipien wurden schrittweise in Recht überführt. Was 2017 als freiwilliger Appell galt, ist heute gesetzlich verbindlich.

Vertiefung — Ethik als Wettbewerbsvorteil

Jenseits der Compliance: Vertrauenswürdige KI als Markenversprechen

Compliance ist das Minimum — Ethik ist das Ziel. Unternehmen, die KI nicht nur gesetzeskonform, sondern nachweislich verantwortungsvoll einsetzen, gewinnen Vertrauen bei Kunden, Partnern und Mitarbeitenden.

Studien zeigen: Verbraucher und Geschäftskunden bevorzugen zunehmend Unternehmen, die transparent über ihren KI-Einsatz kommunizieren und nachweislich ethische Standards einhalten. Das IBM Global AI Ethics Report 2023 zeigt: 75 % der befragten Unternehmensführer sehen ethische KI als wichtig für den Unternehmenserfolg — aber nur 28 % haben formale KI-Ethik-Programme etabliert.

Praktische Umsetzung: KI-Ethik-Governance

Ein formales KI-Ethik-Governance-Framework umfasst typischerweise: - KI-Ethik-Kodex: Unternehmensspezifische Verpflichtung zu ethischen KI-Prinzipien. - KI-Ethik-Review-Board: Gremium, das neue KI-Projekte auf Ethik-Konformität prüft. - Ethik-Impact-Assessment: Strukturierte Bewertung ethischer Risiken vor dem KI-Einsatz. - Transparenzbericht: Regelmäßige Berichterstattung über KI-Einsatz und ethische Standards.

Branchen-Anwendungen

IT-Dienstleistung & Beratung

IT-Dienstleistungsunternehmen können KI-Ethik als Differenzierungsmerkmal nutzen. Kunden fragen zunehmend: „Wie stellen Sie sicher, dass KI-Lösungen, die Sie für uns entwickeln, ethisch sind?” Ein klares Bekenntnis zu OECD-Prinzipien und EU HLEG-Anforderungen in der Kundenbeziehung stärkt das Vertrauen. Empfehlung: KI-Ethik-Erklärung als Teil des Unternehmensauftritts entwickeln.

Industrie & Fertigung

In der Industrie ist KI-Ethik oft noch kein etabliertes Thema — aber mit wachsender KI-Nutzung in Produktion und Personalmanagement wird es relevanter. Besonders relevant: Fairness bei KI-gestützter Personalplanung und Sicherheit bei KI-gesteuerten Maschinen. Empfehlung: KI-Ethik als Teil der CSR-Strategie entwickeln.

Finanzdienstleistung & Versicherung

Regulatoren wie die EBA fordern zunehmend, dass Finanzinstitute ethische KI-Governance dokumentieren. Die OECD-Prinzipien und EU HLEG-Anforderungen werden von der EBA als Referenz für gute KI-Praxis genutzt. Empfehlung: KI-Ethik in bestehende Risk-Governance-Strukturen integrieren — nicht als separates Thema, sondern als Teil des operationellen Risikomanagements.

Öffentliche Verwaltung

Für Behörden ist KI-Ethik besonders kritisch — sie agieren im Auftrag der Bürger und müssen höchste Standards an Fairness, Transparenz und Rechenschaftspflicht einhalten. Die EU HLEG-Leitlinien wurden explizit auch für den öffentlichen Sektor entwickelt. Empfehlung: KI-Ethik als Teil des Qualitätsmanagements und der demokratischen Rechenschaftspflicht verankern.

Übung 1 — Framework-Vergleich

Vergleich der Ethik-Frameworks — Gemeinsamkeiten und Unterschiede

Die drei vorgestellten Frameworks — OECD, EU HLEG und Asilomar — decken trotz ihrer unterschiedlichen Entstehungskontexte viele gemeinsame Kernprinzipien ab:

Gemeinsamkeiten: Alle drei betonen Transparenz, Erklärbarkeit, Vermeidung von Schaden und menschliche Kontrolle. Die Konvergenz der Prinzipien über unterschiedliche Stakeholdergruppen (Regierungen, Industrie, Wissenschaft) hinweg ist bemerkenswert und gibt den Prinzipien eine gewisse universelle Gültigkeit.

Unterschiede: Die OECD-Prinzipien sind die abstrakt-politischsten und adressieren primär Regierungen. Die EU-HLEG-Anforderungen sind operativer und adressieren direkt Entwickler und Deployer — was sie für die Unternehmenspraxis relevanter macht. Die Asilomar-Prinzipien sind die umfangreichsten (23 Prinzipien) und schließen langfristige Risiken ein, die für die unmittelbare Praxis weniger relevant sind.

Relevanz für den Alltag: Für Unternehmen sind die EU-HLEG-Anforderungen am direktesten anwendbar — insbesondere die sieben Anforderungen der Vertrauenswürdigen KI. Diese Anforderungen finden sich teilweise direkt in den rechtlich verbindlichen Anforderungen des EU AI Acts wieder (z. B. Transparenz → Art. 50; Robustheit → Art. 15; Menschliche Aufsicht → Art. 14).

Vom Freiwilligen zum Verbindlichen — Der Regulierungsprozess

Ethik-Frameworks sind freiwillig — der EU AI Act ist verbindlich. Der Weg vom Freiwilligen zum Verbindlichen ist charakteristisch für die Entwicklung von Technologieregulierung:

Phase 1 — Selbstregulierung: Industrie entwickelt freiwillige Grundsätze (z. B. Asilomar, 2017). Diese sind oft zu abstrakt und werden nicht einheitlich angewendet.

Phase 2 — Soft Law: Regierungen und internationale Organisationen entwickeln Empfehlungen und Guidelines (z. B. OECD-Empfehlungen, 2019; EU HLEG Trustworthy AI, 2019). Besser strukturiert, aber immer noch freiwillig.

Phase 3 — Hard Law: Verbindliche Regulierung mit Durchsetzungsmechanismen (EU AI Act, 2024). Die Prinzipien der Soft-Law-Phase werden zu verbindlichen Anforderungen.

Dieser Prozess vollzog sich im KI-Bereich in nur sieben Jahren (2017–2024) — ungewöhnlich schnell für eine so tiefgreifende Regulierung.

Merksatz

Das Studium der Ethik-Frameworks ist nicht nur akademische Pflichtübung — es erklärt, warum der EU AI Act so aufgebaut ist, wie er aufgebaut ist. Wer die Prinzipien versteht, versteht die Regulierung.

Ethik-Washinghing und Implementierungsherausforderungen

Ein kritisches Phänomen in der KI-Ethik ist das sogenannte „Ethics Washing”: Unternehmen verabschieden schön klingende KI-Ethik-Richtlinien, ohne diese tatsächlich in ihren Entwicklungs- und Deployment-Prozessen zu verankern. Die Richtlinien existieren als PR-Instrument, haben aber keinen Einfluss auf tatsächliche Entscheidungen.

Wie erkennt man echte vs. kosmetische Ethik-Commitments? Folgende Indikatoren helfen:

Zeichen für echtes Commitment: Ethik-Überprüfungen sind Teil des Produkt-/System-Entwicklungsprozesses (Ethik-by-Design). Es gibt dedizierte Ethik-Teams oder -Rollen. Entscheidungen wurden aufgrund ethischer Bedenken verlangsamt oder gestoppt. Ergebnisse von Ethik-Audits werden veröffentlicht.

Zeichen für Ethik-Washing: Ethik-Grundsätze existieren nur auf der Website. Keine klaren Verantwortlichkeiten für die Umsetzung. Keine messbaren Indikatoren für ethische KI-Nutzung. Ethik-Teams haben kein Veto-Recht.

OECD AI Policy Observatory — Ressource für die Praxis

Das OECD AI Policy Observatory (https://oecd.ai) ist eine wichtige Ressource für Unternehmen, die KI-Regulierungen verfolgen wollen. Es bietet:

• Eine Datenbank aller nationalen KI-Strategien und -Regulierungen weltweit
• Analysen zu aktuellen Entwicklungen in der KI-Regulierung
• Vergleiche zwischen verschiedenen nationalen Ansätzen
• Praxisleitfäden zur Umsetzung der OECD-Prinzipien

Besonders nützlich für Unternehmen, die international tätig sind und für verschiedene Rechtssysteme gleichzeitig compliant sein müssen.

Asilomar-Prinzipien im Kontext aktueller KI-Entwicklungen

Die 23 Asilomar-Prinzipien von 2017 wurden in einer Zeit formuliert, als GPT-3 noch nicht existierte. Einige Prinzipien haben sich als besonders weitsichtig erwiesen:

Prinzip 7 — Fehler-Transparenz: KI-Systeme sollten so gestaltet sein, dass ihre Fehler erkannt, analysiert und korrigiert werden können. In der Praxis zeigt sich, dass Halluzinationen von LLMs genau dieses Problem illustrieren — und dass die Forderung nach Fehler-Transparenz direkter Einfluss auf die Entwicklung von Explainable AI (XAI) hatte.

Prinzip 11 — Menschliche Kontrolle: Menschen sollen die Kontrolle über kritische KI-Systeme behalten. Dies ist heute im Art. 14 EU AI Act rechtsverbindlich.

Prinzip 14 — Risikominderung für existenzielle Risiken: KI-Forscher sollten mögliche existenzielle Risiken ihrer Systeme ernst nehmen. Dies ist heute das Thema von KI-Sicherheitsforschungsinstituten wie dem Center for AI Safety und staatlichen KI-Sicherheitsinstituten (UK AISI, US AISI).

Was sich geändert hat: Die Asilomar-Prinzipien wurden von 1.200 KI-Forschern und Unternehmensvertretern unterzeichnet. Heute, 2026, haben sich KI-Fähigkeiten dramatisch weiterentwickelt. Neue Diskussionen (insbesondere zu agentic AI und Foundation Models) gehen über Asilomar hinaus. Die EU AI Act ist ein Versuch, diese neuen Herausforderungen regulatorisch zu adressieren.

Ethische KI-Governance in der Organisation — Praktische Umsetzung

Wie institutionalisiert man ethische KI-Governance in einem Unternehmen ohne dediziertes Ethik-Team (was bei KMUs die Regel ist)?

Minimalansatz (für KMUs): - KI-Policy mit ethischen Grundsätzen (1–2 Seiten) - KI-Checkliste für neue Systeme (5–10 Fragen zu Ethik-Risiken) - Designated KI-Ansprechperson (muss kein Ethik-Experte sein) - Feedback-Kanal für Mitarbeitende bei ethischen Bedenken

Mittlerer Ansatz (für mittelgroße Unternehmen): - Dedizierter KI-Governance-Ausschuss (interdisziplinär) - Formale Ethik-Risikoanalyse bei neuen KI-Projekten (Teil des Projektgateway) - Jährlicher KI-Ethik-Report (intern oder extern) - Training für Führungskräfte zu KI-Ethik

Vollständiger Ansatz (für große Unternehmen): - Chief Ethics Officer oder Chief Responsible AI Officer - Externes KI-Ethik-Beiratsgremium - Regelmäßige externe Audits - Öffentliche Berichte zu KI-Governance-Maßnahmen

Merksatz

KI-Ethik-Governance ist keine Frage der Unternehmensgröße — es ist eine Frage der Unternehmenskultur und des Risikobewusstseins. Selbst ein kleines Unternehmen kann ethische Grundsätze in seine KI-Nutzung integrieren — mit einfachen, pragmatischen Instrumenten.

Übung 1 — Vergleich der Ethik-Frameworks

Aufgabe: Vergleichen Sie die OECD-Prinzipien, EU HLEG-Anforderungen und einen AI-Act-Artikel Ihrer Wahl in einer Tabelle. Identifizieren Sie Gemeinsamkeiten und Unterschiede.

Vorlage:

Bearbeitungszeit: 15 Minuten, Partnerarbeit.

Musterlösung:

Übung 2 — Ethik-Dilemma

Übung 2 — Ethik-Dilemma: Legal vs. Ethisch

Szenario: Ein Unternehmen möchte ein KI-System einsetzen, das Mitarbeitende anhand ihrer E-Mail-Kommunikation und Kalendernutzung bewertet und Empfehlungen für Beförderungen gibt. Das System ist so konfiguriert, dass es keine Hochrisiko-Kriterien nach AI Act erfüllt (da es nur „empfiehlt” und kein Mensch formal ausgeschlossen wird). Es ist also wahrscheinlich legal — aber ist es ethisch?

Aufgabe: Bewerten Sie das Szenario anhand der OECD-Prinzipien und EU HLEG-Anforderungen. Was sind die ethischen Bedenken? Was würden Sie dem Management empfehlen?

Bearbeitungszeit: 20 Minuten.

Musterlösung:

Ethische Bedenken: - OECD Prinzip 2 (Fairness): Kommunikation und Kalendernutzung spiegeln möglicherweise nicht Leistung wider, sondern Persönlichkeitstypen, familiäre Situation (z. B. Eltern mit weniger Abendterminen), kulturelle Faktoren. - EU HLEG Anforderung 4 (Transparenz): Werden Mitarbeitende informiert, dass ihre Kommunikation ausgewertet wird? Ohne Transparenz ist die Nutzung ethisch bedenklich. - EU HLEG Anforderung 5 (Diversität/Fairness): Verstärkt das System bestehende Ungleichheiten? - BetrVG §87: Leistungsüberwachung mitbestimmungspflichtig (unabhängig vom AI Act).

Empfehlung: Auch wenn das System möglicherweise legal ist, empfiehlt sich aus ethischen Gründen und zum Schutz des Unternehmens-Employer-Brandings: Transparente Kommunikation an Mitarbeitende, Betriebsrat einbinden, Bias-Audit, Limitierung auf klar definierte und einvernehmliche Datenpunkte.

OECD-Prinzipien 2024 — Was hat sich geändert?

Die OECD-Empfehlungen zu KI wurden ursprünglich 2019 verabschiedet und 2024 überarbeitet. Die wichtigsten Änderungen in der 2024-Revision:

Erweiterter Anwendungsbereich: Die 2024-Revision bezieht explizit Systeme der künstlichen allgemeinen Intelligenz (AGI) und Foundation Models in den Anwendungsbereich ein — ein Thema, das 2019 noch keine praktische Relevanz hatte.

Schärfere Anforderungen an Transparenz: Die 2024-Fassung betont stärker die Pflicht, Trainingsdaten und Trainingsverfahren transparent zu machen — eine direkte Reaktion auf die LLM-Debatte um intransparente Trainingsquellen.

Stärkere Betonung von Umweltauswirkungen: Das 2024-Dokument enthält erstmals explizite Prinzipien zu den Umweltauswirkungen von KI (Energieverbrauch, CO₂-Fußabdruck). Das Training großer KI-Modelle verbraucht erhebliche Energiemengen — eine ethische und regulatorische Frage, die zunehmend in den Vordergrund rückt.

Klarere Verantwortlichkeiten: Die Unterscheidung zwischen Anbieter- und Nutzerverantwortung wurde 2024 präzisiert — in deutlicher Anlehnung an die Deployer/Anbieter-Terminologie des EU AI Acts.

EU HLEG — Die Sieben Anforderungen Vertrauenswürdiger KI im Vergleich zum AI Act

Die EU HLEG definierte 2019 sieben Anforderungen für vertrauenswürdige KI. Diese Anforderungen finden sich größtenteils in den verbindlichen Anforderungen des AI Acts wieder:

Die Abbildung zeigt: Die HLEG-Arbeit hat direkten Einfluss auf die regulatorische Ausgestaltung des AI Acts gehabt. Das Studium der HLEG-Anforderungen erklärt, warum der AI Act so strukturiert ist, wie er strukturiert ist.

Praktische Umsetzung von Ethik-Prinzipien

Ethik-Prinzipien allein verändern nichts. Die Herausforderung liegt in der operationellen Umsetzung. Folgende Mechanismen helfen:

Ethik-by-Design: Ethische Prüfungen werden zu festen Bestandteilen des Entwicklungsprozesses. Beispiel: In jeder Anforderungsanalyse für ein KI-System gibt es eine Pflicht-Frage: „Welche ethischen Risiken entstehen durch dieses System?”

KI-Ethik-Beiräte: Externe Experten (Ethiker, Juristen, betroffene Community-Vertreter) werden in die Governance einbezogen. Dies schützt vor Betriebsblindheit.

Interne Whistleblower-Kanäle: Mitarbeitende können ethische Bedenken zu KI-Systemen anonym melden, ohne Repressalien befürchten zu müssen. Besonders wichtig in Unternehmen mit starker Hierarchie.

Externes Auditing: Regelmäßige Prüfungen durch unabhängige Dritte schaffen Vertrauen bei Kunden, Regulatoren und der Öffentlichkeit.

Praktische Übung: Ethik-Check für ein KI-System

Als Ergänzung zu den vorgestellten Ethik-Frameworks: ein praktischer, fünfminütiger Ethik-Check für ein neues KI-System:

Frage 1: Wer profitiert von diesem KI-System? Wer trägt die Risiken? Ist die Verteilung von Nutzen und Risiken fair?

Frage 2: Könnte das System jemanden benachteiligen oder schädigen — direkt oder indirekt? Welche Gruppen sind besonders gefährdet?

Frage 3: Sind die Entscheidungen des Systems für Betroffene verständlich und nachvollziehbar? Könnten sie widersprechen oder eine Überprüfung verlangen?

Frage 4: Wer ist verantwortlich, wenn das System falsche oder schädliche Entscheidungen trifft? Ist die Verantwortlichkeit klar und durchsetzbar?

Frage 5: Würde Ihre Organisation sich wohlfühlen, wenn Kunden, Mitarbeitende und die Öffentlichkeit wüssten, wie dieses System funktioniert und wofür es eingesetzt wird?

Wenn auf eine der fünf Fragen keine klare, positive Antwort gegeben werden kann: Vertiefende Analyse vor dem Deployment. Dieser schnelle Check ersetzt kein vollständiges Ethik-Audit — aber er verhindert die offensichtlichsten Fehlentscheidungen.

Warnung — Compliance-Risiko: Ethik ohne Recht reicht nicht

Es ist ein verbreiteter Irrtum zu glauben, ethische Grundsätze zu befolgen schütze vor rechtlichen Konsequenzen. Umgekehrt gilt dasselbe: Gesetzeskonformität schützt nicht automatisch vor Reputationsschäden bei ethisch fragwürdigen KI-Einsätzen. Aktuelle Beispiele zeigen: Unternehmen, die KI-Systeme einsetzen, die legal, aber offensichtlich unfair oder intransparent sind, geraten unter öffentlichen Druck, verlieren Kunden und finden schwerer qualifizierte Mitarbeitende. Insbesondere in der EU, wo die Zivilgesellschaft und Regulatoren KI-Ethik-Themen aktiv verfolgen, ist ein „wir halten uns nur ans Minimum” keine nachhaltige Strategie. Empfehlung: Nutzen Sie ethische Frameworks als Leitplanken für KI-Entscheidungen, auch wenn die rechtliche Pflicht noch nicht explizit existiert.

Cheatsheet — Ethik-Frameworks auf einen Blick

Praktische Anwendung der OECD-Prinzipien

Wie übersetzt man die fünf abstrakten OECD-Prinzipien in konkrete organisationale Maßnahmen?

Prinzip 1 — Inklusive Entwicklung und Wohlstand: In der Praxis: Bevor ein KI-System eingeführt wird, fragen: Wie werden alle Stakeholder (Mitarbeitende, Kunden, Gesellschaft) durch das System beeinflusst? Gibt es Gruppen, die benachteiligt werden könnten?

Prinzip 2 — Menschenzentrierte Werte und Fairness: In der Praxis: Bias-Audits für HR- und Kundenkontakt-KI, AGG-Prüfung, klare Eskalationspfade für betroffene Personen.

Prinzip 3 — Transparenz und Erklärbarkeit: In der Praxis: Nutzerinterfaces, die KI-Interaktionen als solche kennzeichnen; Erklärungen für wesentliche KI-Entscheidungen; interne Dokumentation der Modell-Logik.

Prinzip 4 — Robustheit, Sicherheit und Datenschutz: In der Praxis: Regelmäßige Tests auf adversarielle Angriffe (Prompt Injection, Jailbreaking), Datenschutz-Folgenabschätzungen, Incident-Response-Pläne.

Prinzip 5 — Rechenschaftspflicht: In der Praxis: Klare Verantwortlichkeiten für KI-Systeme (wer ist Deployer-Verantwortliche/r?), dokumentierte Entscheidungsprozesse, externe Auditierbarkeit.

Prompt-Beispiel: Ethische Bewertung eines KI-Systems nach OECD-Prinzipien und EU-HLEG

Rolle: Sie sind ein KI-Ethik-Experte mit fundiertem Kenntnisstand der OECD-Prinzipien für vertrauenswürdige KI (2019/rev.2024) und der EU-HLEG-Leitlinien für vertrauenswürdige KI. Sie beraten Unternehmen bei der ethischen Selbstbewertung von KI-Systemen.

Aufgabe: Führen Sie eine strukturierte ethische Bewertung des beschriebenen KI-Systems durch. Beziehen Sie sich auf: (1) Alle fünf OECD-Prinzipien, (2) Die sieben Anforderungen der EU-HLEG (insbesondere menschliche Aufsicht, Transparenz, Diversität und Nichtdiskriminierung, gesellschaftliches und ökologisches Wohlergehen), (3) Identifizieren Sie die drei größten ethischen Risiken und schlagen Sie für jedes eine konkrete Mitigationsmaßnahme vor.

Kontext: KI-System: [Beschreiben Sie das System: Zweck, Funktionsweise, Zielgruppe, Entscheidungstiefe, Einsatzkontext]

Format: Strukturierter Ethik-Bericht mit: (1) OECD-Prinzipien-Checkmarke (Prinzip | Erfüllt / Teilweise / Nicht erfüllt | Begründung), (2) EU-HLEG-Anforderungsbewertung (Anforderung | Status | Handlungsbedarf), (3) Top-3-Risiken mit Maßnahmen. Sachlich, nicht wertend, Ethik als Compliance-Ergänzung formulieren.

Branchen-Vignette — KI-Ethik in der Pharmaindustrie

Ein pharmazeutisches Unternehmen entwickelt ein KI-System, das Arzneimittelstudien-Daten analysiert und Hypothesen für neue Wirkstoffkombinationen generiert. Das System nutzt öffentlich zugängliche Studiendaten sowie proprietäre Forschungsdaten.

OECD-Prinzipien-Analyse: - Inklusive Entwicklung und Wohlergehen: Das System könnte perspektivisch die Entwicklungszeit für lebensrettende Medikamente verkürzen — hohes gesellschaftliches Wohlergehenspotenzial. - Transparenz und Erklärbarkeit: Ein LLM-basiertes System, das komplexe Wirkstoffhypothesen generiert, muss erklärbar sein, damit Forscher die Grundlage der Hypothesen bewerten können. XAI-Methoden sind hier essenziell. - Rechenschaftspflicht: Bei Marktversagen oder Patientenschäden durch eine falsche Hypothese: Wer haftet — das Unternehmen, die Forscherin, der KI-Anbieter? Die Haftungsklärung muss vor dem Einsatz erfolgen. - Sicherheit und Robustheit: Medizinischer Einsatz erfordert höchste Robustheitsanforderungen; fehlerhafte Outputs könnten zu Fehlinvestitionen oder schlimmstenfalls zu gefährlichen Wirkstoffkombinationen führen.

EU AI Act-Schnittstelle: Ein KI-System, das die Sicherheit von Arzneimitteln beeinflusst, könnte als Hochrisiko-KI nach Anhang III Nr. 5 (kritische Sicherheitsinfrastruktur im Medizinbereich) klassifiziert werden — dies erfordert eine enge Prüfung in Abstimmung mit dem Bundesinstitut für Arzneimittel und Medizinprodukte (BfArM).

Vertiefung II — Ethik-Frameworks in der Unternehmenspraxis: Vom Prinzip zur Maßnahme

Die Herausforderung mit Ethik-Frameworks ist die Operationalisierung: Wie werden abstrakte Prinzipien zu konkreten Handlungen?

Schritt 1 — Ethik-Selbstbewertung: Nutzen Sie das ALTAI-Tool (Assessment List for Trustworthy AI) der EU-HLEG. Es ist ein kostenloser, webbasierter Fragebogen, der Organisationen dabei hilft, ihre KI-Systeme gegen die sieben EU-HLEG-Anforderungen zu prüfen. Das Tool liefert eine strukturierte Bewertung als Ausgangspunkt.

Schritt 2 — Ethik-Board oder Ethik-Review-Prozess: Für Organisationen, die regelmäßig KI-Systeme entwickeln oder einsetzen, empfiehlt sich die Einrichtung eines interdisziplinären Ethik-Boards (Recht, IT, HR, Fachbereich) oder zumindest ein formeller Ethik-Review-Prozess für neue KI-Projekte.

Schritt 3 — Red-Teaming: Red-Teaming für KI-Ethik bedeutet: Eine Gruppe von Mitarbeitenden wird explizit beauftragt, nach ethischen Schwächen des KI-Systems zu suchen (ähnlich dem Security Red-Teaming). Welche Diskriminierungen könnten auftreten? Welche ungewollten Konsequenzen? Diese strukturierte Kritik ist effektiver als rein deskriptive Ethik-Prinzipien.

Schritt 4 — Transparenz nach außen: Immer mehr Unternehmen veröffentlichen KI-Ethik-Berichte oder KI-Prinzipien als Teil ihres Nachhaltigkeitsberichts (ESG). Dies ist keine gesetzliche Pflicht, schafft aber Vertrauen und Rechenschaftspflicht.

Merksatz

Ethik ist kein Selbstzweck — sie ist langfristig wirtschaftlich sinnvoll. Unternehmen, die KI-Systeme einsetzen, die diskriminieren, manipulieren oder intransparent agieren, riskieren Reputationsschäden, Regulierungseingriffe und den Verlust von Kundenvertrauen. Ethisches KI-Design ist präventive Risikominimierung.

Zusammenfassung UE 21

Die drei wichtigsten KI-Ethik-Frameworks — OECD (5 Prinzipien, 2019/rev.2024), EU HLEG (3 Komponenten + 7 Anforderungen, 2019) und Asilomar (23 Prinzipien, 2017) — bilden das normative Fundament, auf dem der EU AI Act aufbaut. Die OECD-Prinzipien sind die international breiteste Grundlage (42+ Länder). Die HLEG-Anforderungen sind die EU-relevanteste und direkteste Vorlage für den AI Act. Asilomar schließt als einziges Framework explizit langfristige Risiken ein. Alle drei konvergieren in Kernforderungen: Transparenz, menschliche Kontrolle, Nicht-Diskriminierung, Rechenschaftspflicht. Der Übergang von freiwilligen Frameworks (Soft Law, 2017–2019) zu rechtsverbindlicher Regulierung (Hard Law, 2024) zeigt die zunehmende gesellschaftliche Dringlichkeit ethischer KI-Governance. Ethics Washing ist eine reale Gefahr — echter Commitment zeigt sich in Prozessen, nicht in Dokumenten.

Querverweise zu anderen UEs

Ethik-Frameworks (UE 21) liefern die normativen Grundlagen, auf denen sowohl der EU AI Act (UE 15–18) als auch die Bias- und Fairness-Analyse (UE 22) aufbauen. Das Verständnis der OECD-Prinzipien und der HLEG-Anforderungen erklärt, warum der AI Act so strukturiert ist, wie er ist. In der Fallstudie (UE 24) bilden Ethik und Bias Block D. Ethik-by-Design ist das übergeordnete Prinzip, das alle rechtlichen Anforderungen zusammenhält.

Abschlussbetrachtung — Datenschutz als Wettbewerbsvorteil

Datenschutz wird häufig als Einschränkung wahrgenommen, ist aber bei näherer Betrachtung ein echter Wettbewerbsvorteil. Organisationen, die personenbezogene Daten vorbildlich schützen, bauen nachhaltig Vertrauen bei Kund:innen und Mitarbeitenden auf. Dieses Vertrauen ist besonders im KI-Zeitalter wertvoll: Da KI-Systeme große Datenmengen verarbeiten, entstehen neue Fragen zu Datensicherheit und Privatsphäre — und Organisationen, die hier proaktiv handeln, differenzieren sich positiv. In der Praxis bedeutet das: Datenschutzmaßnahmen nicht als Pflichtübung, sondern als Qualitätsmerkmal kommunizieren. Kund:innen schätzen Transparenz darüber, wie ihre Daten verwendet werden, und honorieren einen sorgsamen Umgang mit ihren Informationen. Bauen Sie daher Datenschutzkompetenz gezielt auf und machen Sie sie sichtbar — als Teil Ihres professionellen Profils und als Merkmal Ihrer Organisation.

Reflexionsfragen

1. Welche der sieben EU HLEG-Anforderungen halten Sie in Ihrer Organisation für am schwierigsten umzusetzen?
2. Warum war es wichtig, dass ethische Prinzipien zuerst freiwillig erarbeitet wurden, bevor rechtliche Regulierung folgte?
3. Wo ziehen Sie die Grenze zwischen ethischer Verantwortung und rechtlicher Compliance — gibt es Situationen, in denen Sie über das Minimum hinausgehen würden?
4. Wie erklären Sie einem Geschäftsführer, der nur auf Compliance fokussiert ist, warum KI-Ethik auch ohne rechtliche Pflicht relevant ist?
5. Was könnte passieren, wenn Unternehmen systematisch das ethische Minimum unterschreiten — welche gesellschaftlichen Konsequenzen wären denkbar?
6. Die EU-HLEG unterscheidet zwischen „lawful” (rechtlich konform), „ethical” (ethisch) und „robust” (technisch zuverlässig) als drei Voraussetzungen für vertrauenswürdige KI. Welche der drei Dimensionen ist in der Praxis am schwierigsten sicherzustellen — und warum?
7. Ethik-Prinzipien können vage bleiben und schwer operationalisierbar sein. Welche konkrete Maßnahme in Ihrer Organisation würde dazu beitragen, dass ethische KI-Standards nicht nur auf dem Papier stehen, sondern im Alltag gelebt werden?

Ethik-Frameworks und ihre Kritiker

Kein akademisches Thema ist vollständig ohne eine Betrachtung der Kritik. Die Ethik-Frameworks für KI sind nicht unumstritten:

Kritik an der OECD-Initiative: Manche Kritiker sehen die OECD-Prinzipien als zu abstrakt und zu industriefreundlich — entwickelt in Konsultation mit den großen Tech-Konzernen, die ein Interesse an weichen, nicht-verbindlichen Standards haben. Die Prinzipien schaffen Compliance-Theater, ohne echte Hürden zu setzen.

Kritik an der EU HLEG: Ähnliche Kritik gilt für die EU HLEG: Die Experten wurden aus der Industrie, der Zivilgesellschaft und der Wissenschaft rekrutiert — aber manche Zivilgesellschaftsgruppen monierten, dass die Industrieinteressen zu dominant waren. Das finale Dokument sei ein Kompromiss, der keine der Gruppen wirklich zufriedenstellt.

Kritik an Asilomar: Die Asilomar-Prinzipien wurden von 1.200 Unterzeichnerinnen und Unterzeichnern — aber von Abwesenden waren wichtige Teile der KI-Forschungsgemeinschaft, die die Gefahr als zu abstrakt und die Agenda als zu sehr von US-amerikanischen Technologieinteressen geprägt empfanden.

Konstruktive Einordnung: Ethik-Frameworks sind unvollkommene Instrumente — aber sie sind besser als keine Frameworks. Sie schaffen eine gemeinsame Sprache, ermöglichen öffentliche Rechenschaft und legen den Grundstein für die rechtsverbindliche Regulierung, die mit dem EU AI Act folgte.

Merksatz zu UE 21: Ethik ist keine Soft-Skill-Ergänzung zur KI-Compliance — sie ist das normative Fundament, auf dem alle rechtlichen Anforderungen aufbauen. Wer die Ethik-Frameworks versteht, versteht, warum der EU AI Act so reguliert, wie er reguliert.

Quellen & Weiterlesen

Ergänzung: Ethik-Frameworks — Vom Prinzip zur Maßnahme

Die Herausforderung mit Ethik-Frameworks ist die Operationalisierung. Konkrete Schritte:

Schritt 1 — ALTAI-Tool: Das Assessment List for Trustworthy AI (ALTAI) der EU-HLEG ist ein kostenloser webbasierter Fragebogen, der Organisationen hilft, ihre KI-Systeme gegen die sieben EU-HLEG-Anforderungen zu prüfen. URL: https://altai.insight-centre.org/

Schritt 2 — Ethik-Review-Prozess: Für Organisationen, die regelmäßig KI-Systeme einsetzen, empfiehlt sich ein formeller Ethik-Review-Prozess für neue KI-Projekte — ähnlich dem DSGVO-Impact-Assessment, aber mit ethischer Perspektive.

Schritt 3 — Red-Teaming für KI-Ethik: Eine Gruppe von Mitarbeitenden sucht strukturiert nach ethischen Schwächen des KI-Systems: Diskriminierungen, unerwünschte Nebeneffekte, Transparenzlücken. Diese strukturierte Kritik ist effektiver als rein deskriptive Ethik-Prinzipien.

EU-HLEG-Anforderungen — Kompaktübersicht:

Stiftung Neue Verantwortung — KI-Ethik Überblick | Studie | https://www.interface-eu.org/publications |

Trainer-Hinweise

KI-Ethik und Unternehmenskommunikation

Wie kommunizieren Unternehmen nach außen über ihre KI-Ethik-Prinzipien? Die Qualität dieser Kommunikation ist ein Indikator für die Ernsthaftigkeit des Engagements:

Transparenzberichte (KI-spezifisch): Einige Unternehmen veröffentlichen jährliche KI-Transparenzberichte, in denen sie offenlegen, welche KI-Systeme sie einsetzen, welche Governance-Maßnahmen existieren und welche Vorfälle aufgetreten sind. Dies ist die höchste Form der Transparenz.

Kundenkommunikation: Wenn KI in Kundenkontakt-Prozessen eingesetzt wird, sollten Kunden darüber informiert werden — und zwar nicht nur in AGBs, die niemand liest, sondern in verständlichen, prominent platzierten Hinweisen.

Mitarbeiterkommunikation: Mitarbeitende sollten wissen, welche KI-Systeme im Unternehmen eingesetzt werden und wie diese ihre Arbeit beeinflussen. Transparenz nach innen schafft Vertrauen und reduziert Fehlinformationen.

Investor Relations: Institutionelle Investoren fragen zunehmend nach KI-Governance-Praktiken als Teil der ESG-Bewertung (Environmental, Social, Governance). Eine klare KI-Ethik-Positionierung kann die Bewertung positiv beeinflussen.

HLEG Trustworthy AI — Checkliste für die Praxis

Die sieben Anforderungen der HLEG lassen sich in eine praktische Checkliste übersetzen, die für jedes neue KI-System durchgegangen werden sollte:

Anforderung 1 — Menschliche Handlungsfähigkeit und Aufsicht: ✓ Ist ein Human-in-the-Loop-Verfahren definiert? ✓ Können Nutzer KI-Entscheidungen überstimmen? ✓ Gibt es klare Eskalationspfade?

Anforderung 2 — Technische Robustheit und Sicherheit: ✓ Wurden Adversarial Tests durchgeführt? ✓ Gibt es Fallback-Mechanismen bei Systemausfällen? ✓ Sind Cybersicherheitsmaßnahmen implementiert?

Anforderung 3 — Datenschutz und Daten-Governance: ✓ DSGVO-Rechtsgrundlage vorhanden? ✓ AVV mit Anbieter abgeschlossen? ✓ DPIA durchgeführt (wenn erforderlich)?

Anforderung 4 — Transparenz: ✓ Werden Nutzer über KI-Interaktion informiert? ✓ Können Entscheidungen erklärt werden? ✓ Sind Einschränkungen des Systems kommuniziert?

Anforderung 5 — Diversität, Nicht-Diskriminierung, Fairness: ✓ Bias-Audit durchgeführt? ✓ Fairness-Metriken berechnet und dokumentiert? ✓ AGG-Risiken bewertet?

Anforderung 6 — Gesellschaftliches und ökologisches Wohlergehen: ✓ Energieverbrauch des Systems bekannt? ✓ Gesellschaftliche Auswirkungen bewertet?

Anforderung 7 — Rechenschaftspflicht: ✓ Verantwortliche Person benannt? ✓ Audit-Trail vorhanden? ✓ Beschwerdeverfahren implementiert?

Diese Checkliste ist kein vollständiger Compliance-Nachweis — aber ein gutes Instrument für den internen Pre-Deployment-Review.

Praxishinweis: Uebersetzen Sie die HLEG-Checkliste in eine interne KI-Ethik-Ampel: Fuer jede der sieben Anforderungen ein Ampel-Symbol (Gruen/Gelb/Rot). Wenn ein geplantes KI-System mehr als zwei rote Ampeln aufweist, ist eine externe Ethik-Beratung empfehlenswert.

Hinweise für AI Champions — So vermitteln Sie das Thema UE 21

Timing: 45 Minuten — 20 Min. Theorie (drei Frameworks), 25 Min. Übungen + Diskussion.

Methodik: Die Zeitlinie (Asilomar 2017 → OECD 2019 → HLEG 2019 → AI Act 2024) ist das didaktische Rückgrat. Visualisieren Sie auf dem Flipchart als Pfeil: Freiwillig → Normativ → Rechtlich verbindlich.

Stolpersteine: Teilnehmende fragen: „Warum sollen wir Ethik-Prinzipien lernen, wenn der AI Act gilt?” Antwort: Compliance ist das Minimum, Ethik ist der Standard. Ethisches Verhalten verhindert Reputationsschäden, die rechtlich nicht sanktioniert werden können.

Diskussionsfragen: Gibt es KI-Anwendungen, die alle Gesetze einhalten, aber ethisch verwerflich sind? (Gutes Beispiel: Legal, aber manipulative Targeting-Algorithmen.) Was wäre, wenn AI Act und OECD-Prinzipien in Widerspruch stünden?

Tafelbild: Zeitlinie Ethik → Recht. Drei-Framework-Vergleich. Legal-Ethisch-Matrix (2x2: Legal/Illegal × Ethisch/Unethisch).

Differenzierung: Für Gruppen mit Philosophie-Interesse: Ethik-Theorien kurz einbringen (Utilitarismus vs. deontologische Ethik bei KI). Für pragmatische Gruppen: Direkt zur Frage: Was muss ich konkret tun?

Materialliste: Flipchart, Framework-Vergleichstabelle als 1-Pager, Ethik-Dilemma-Fallkarte.

Übergang zu UE 22: „Ethik-Prinzipien wie Fairness und Nichtdiskriminierung klingen abstrakt. In UE 22 machen wir sie konkret: Was ist algorithmischer Bias, wo kommt er her, und wie messen wir ihn?”

Branchenauswahl-Tipp: Für Finanzgruppen: EBA-Referenzen auf OECD/HLEG besonders relevant. Für öffentliche Verwaltung: Ethische Rechenschaftspflicht als demokratisches Prinzip betonen.

Ethische KI-Audits — Externe Überprüfung

Externe KI-Audits durch unabhängige Dritte sind ein aufkommendes Instrument für Transparenz und Vertrauen:

Was prüft ein KI-Ethik-Audit? Einhaltung der deklarierten Ethik-Prinzipien, Funktionsfähigkeit der Governance-Mechanismen, Bias-Risiken, Datenschutz-Compliance, Erklärbarkeit der Systeme.

Wer bietet KI-Audits an? Spezialisierte Prüforganisationen (z. B. AlgorithmWatch, AI Now Institute), große Wirtschaftsprüfungsgesellschaften (PwC, KPMG, Deloitte, EY — alle haben KI-Audit-Practices aufgebaut), und technische Institute (Fraunhofer, TÜV).

Welcher Standard gilt? Es gibt noch keinen universellen Standard für KI-Audits (Stand 2025). ISO entwickelt Standards (z. B. ISO/IEC 42001 — AI Management System). Das IEEE hat ethische KI-Standards. Die EU-Kommission fördert die Entwicklung harmonisierter Audit-Standards als Teil der AI-Act-Implementierung.

Kosten und Nutzen: Externe KI-Audits sind kostspielig (je nach Umfang 20.000–200.000 €). Aber der Nachweis eines bestandenen externen Audits kann gegenüber Kunden, Investoren und Aufsichtsbehörden ein starkes Signal sein.

Quelle: KI-Wissensbasis von MindsMachines, Edition Juni 2026. Vollständige Fassung mit Anhängen und Musterlösungen: als PDF anfordern.