Ethische Leitplanken bei synthetischen Medien

Lernziele

Sie kennen die fünf Kernprinzipien für den ethischen Umgang mit synthetischen Medien und können sie auf konkrete Situationen anwenden.

Sie analysieren ethische Dilemmata strukturiert und entwickeln eine begründete Position.

Sie erläutern die relevanten Regelungen des EU AI Act (Art. 5 und Art. 50) und der OECD-KI-Prinzipien.

Sie entwerfen persönliche ethische Grundsätze und Bausteine für eine organisationale KI-Medien-Policy.

Auf einen Blick

Worum geht es?

Ethik ist kein Luxus für Abendveranstaltungen — sie ist das Fundament, auf dem langfristiges Vertrauen in Technologie und in Organisationen aufgebaut wird. Im Bereich synthetischer Medien ist diese Aussage besonders relevant: Die Technologie, mit der ein inspirierendes Schulungsvideo produziert wird, ist technisch identisch mit der Technologie, mit der ein CEO-Fraud-Angriff oder ein politisches Desinformationsvideo erstellt wird. Der Unterschied liegt ausschließlich in der Absicht und im Kontext.

Das bedeutet für Organisationen: Es genügt nicht, die Tools zu beherrschen. Es braucht klare Leitplanken, die definieren, was mit diesen Tools erlaubt, eingeschränkt und verboten ist. Diese Leitplanken sind teils rechtlich vorgegeben (EU AI Act), teils kulturell und ethisch — und müssen in jeder Organisation explizit formuliert werden.

In dieser Einheit entwickeln Sie beides: ein Verständnis der ethischen Prinzipien und erste Bausteine für eine organisationale Policy.

Lerntext

Die fünf Kernprinzipien

1. Transparenz Menschen haben ein Recht zu wissen, ob das, was sie sehen, hören oder lesen, von einer KI erzeugt wurde. Transparenz bedeutet: proaktive Kennzeichnung, auch wo sie rechtlich noch nicht zwingend ist. Ein Unternehmen, das KI-generierte Inhalte kennzeichnet, baut Vertrauen auf; eines, das es heimlich lässt, riskiert Vertrauensverlust beim Entdecken.

2. Einwilligung Synthetische Darstellungen realer Personen erfordern deren ausdrückliche Einwilligung. Das gilt für Voice Cloning, Personal Avatare, Video-Reenactments und realistische Bildgenerierung. Einwilligung muss informiert, freiwillig und spezifisch sein — und kann jederzeit widerrufen werden.

3. Nicht-Täuschung KI-generierte Inhalte dürfen nicht so gestaltet sein, dass Menschen getäuscht werden — über ihre KI-Herkunft, über Fakten oder über die Identität von Personen. Die Grenze zwischen atmosphärischer Illustration (legitim) und täuschender Realitätssimulation (nicht legitim) ist nicht immer scharf, aber muss bewusst gezogen werden.

4. Verhältnismäßigkeit Der Einsatz synthetischer Medien sollte im Verhältnis zum Zweck stehen. Ein KI-Avatar für eine interne Schulung: verhältnismäßig. Derselbe Avatar, der als reale Person ausgegeben wird, um ein Gerichtsverfahren zu beeinflussen: unverhältnismäßig und strafbar.

5. Schadensbegrenzung Vor dem Einsatz synthetischer Medien sollte eine Risikoabwägung stattfinden: Welcher Schaden könnte entstehen, wenn dieser Inhalt missverstanden, aus dem Kontext gerissen oder missbraucht wird? Für Inhalte mit hohem Schadenspotenzial gelten höhere Sorgfaltspflichten.

Abb. 71.1 — Ethik-Framework für synthetische Medien: 5 Prinzipien · Drei-Stufen-Freigabemodell

Merksatz

Die fünf Prinzipien sind keine theoretischen Maximen — sie sind praktische Entscheidungshilfen. Wenn Sie unsicher sind, ob ein synthetischer Medieninhalt ethisch vertretbar ist, prüfen Sie ihn gegen alle fünf: Transparenz · Einwilligung · Nicht-Täuschung · Verhältnismäßigkeit · Schadensbegrenzung.

OECD-KI-Prinzipien und EU AI Act

OECD-KI-Prinzipien (2019, aktualisiert 2024): Die OECD-Prinzipien sind international anerkannte Leitlinien für vertrauenswürdige KI: - Transparency and Explainability: KI-Systeme und ihre Entscheidungen sollen verständlich und erklärbar sein - Accountability: Menschen (Organisationen) tragen Verantwortung für KI-Outputs - Robustness: KI-Systeme sollen sicher und zuverlässig funktionieren - Safety: KI soll keine Risiken für Menschheit oder Umwelt erzeugen

EU AI Act — Direkt relevante Artikel:

Art. 5 — Verbotene KI-Praktiken: Verboten sind u.a. KI-Systeme, die: - Unterbewusstes menschliches Verhalten manipulieren, ohne dass die Person es bemerkt - Schwächen oder Verletzlichkeit einer Person gezielt ausnutzen - Social Scoring durch öffentliche Stellen - Biometrische Echtzeit-Fernidentifikation in öffentlichen Räumen (mit engen Ausnahmen)

Art. 50 — Transparenzpflichten: - Nutzer müssen informiert werden, wenn sie mit einem KI-System interagieren (z. B. Chatbot) - KI-generierte synthetische Bilder, Audio, Video: müssen als KI-generiert gekennzeichnet sein - Ausnahme: Inhalte, die offensichtlich KI-generiert sind (Satire, Kunst), oder die ausschließlich intern verwendet werden

Drei ethische Dilemmata

Dilemma 1 — Der fiktive Kunde: Ein Marketingteam möchte eine Kundenerfolgsgeschichte auf der Website publizieren. Da der echte Kunde keine Veröffentlichung möchte, erstellen sie ein KI-generiertes Porträtfoto, erfinden einen Namen und formulieren ein Zitat, das inhaltlich auf echten Kundenfeedbacks basiert.

Analyse: Die inhaltliche Grundlage ist real; die Darstellung ist fiktiv. Das Problem: Es wird der Eindruck erweckt, ein realer Kunde habe diese Aussage gemacht. Das ist täuschend. Ethisch korrekte Alternative: Zitat als anonymisiert kennzeichnen, kein Porträtfoto oder ein offensichtlich stilisiertes Illustration-Bild verwenden.

Dilemma 2 — Der posthume Avatar: Ein Unternehmen möchte seinen verstorbenen Gründer als KI-Avatar für ein Jubiläumsvideo „sprechen lassen” — auf Basis von Archivaufnahmen, ohne Einwilligung der Angehörigen.

Analyse: Keine Einwilligung möglich (verstorben) und keine Einwilligung der Angehörigen eingeholt. Das verletzt das Persönlichkeitsrecht und post-mortale Namens- und Bildrechte. Ethisch korrekte Alternative: Originale Archivaufnahmen zeigen; Zitate als Archivmaterial kennzeichnen; keinen Avatar ohne Zustimmung der Rechtsnachfolger.

Dilemma 3 — Die unbemerkte Stimme: Eine Marketingabteilung produziert Videos mit einer TTS-Stimme, die der Stimme des beliebt-charismatischen CEOs sehr ähnelt — ohne dessen Wissen, ohne Einwilligung, aber ohne expliziten Klon.

Analyse: Kein technischer Clone, aber Täuschungsabsicht durch Ähnlichkeit. Das verletzt Transparenz- und Einwilligungsprinzip. EU AI Act Art. 50 greift, wenn die Stimme als real des CEOs verstanden werden könnte. Ethisch korrekte Alternative: Transparenz über TTS-Stimme, eigene Markenstimme entwickeln oder CEO um Einwilligung bitten.

Merksatz

Ethische Dilemmata haben selten einfache Antworten — aber die fünf Prinzipien (Transparenz, Einwilligung, Nicht-Täuschung, Verhältnismäßigkeit, Schadensbegrenzung) liefern eine strukturierte Entscheidungsgrundlage. Wer alle fünf prüft und transparent dokumentiert, hat ethisch und rechtlich sorgfältig gehandelt.

Das Drei-Stufen-Freigabemodell

Ein pragmatisches Instrument für organisationale KI-Medien-Freigabe:

Grün — Freie Nutzung ohne spezifische Freigabe: - Interne Dokumente, Präsentationen, Prototypen - KI-generierte Bilder für interne Verwendung - Meeting-Transkription (mit Einwilligung aller Teilnehmenden) - Keine personenbezogenen oder sensiblen Daten

Gelb — Nutzung mit expliziter Qualitätsprüfung und Freigabe: - Externe Kommunikation (Website, LinkedIn, Newsletter) - KI-Avatar-Videos für Schulungen (intern oder extern) - KI-generierte Bilder mit Personen für externe Nutzung - Mehrsprachige KI-Inhalte für internationale Märkte

Rot — Nutzung erfordert spezifische Genehmigung (Recht, Compliance, Führungsebene): - Personal Avatare realer Personen (biometrische Daten) - Synthetische Darstellung von Kunden, Lieferanten oder Partnern - KI-Inhalte für regulierte Kommunikation (Finanzmarkt, Medizin, Behörden) - Hybridmedien, die Realität und KI-Generierung vermischen könnten

Vertiefung — Unternehmens-Policy-Bausteine und internationaler Kontext

Mindestinhalte einer organisationalen KI-Medien-Policy: 1. Geltungsbereich: Für wen gilt die Policy (alle Mitarbeitenden / spezifische Rollen)? 2. Erlaubte Tools: Welche KI-Medien-Tools sind freigegeben, welche verboten? 3. Kennzeichnungsregeln: Wann und wie werden KI-Inhalte gekennzeichnet? 4. Freigabeprozess: Wer muss vor Veröffentlichung KI-Inhalte prüfen und freigeben? 5. Einwilligungsregeln: Klare Regeln für Personal Avatare und Voice Cloning 6. Meldepflicht: Bei erkanntem Missbrauch (Deepfakes, unbefugtes Klonen) — an wen? 7. Review-Rhythmus: Policy mindestens jährlich aktualisieren (laufende Technologieentwicklung beachten)

Internationaler Kontext: - USA: Kein föderales KI-Gesetz vergleichbar dem EU AI Act; State-Level-Gesetze für Deepfakes (z. B. Kalifornien AB 602/AB 730); Urheberrechtsfragen im Bereich Training-Daten weiterhin offen - China: Umfassende Regulierung für Deepfakes und algorithmische Empfehlungssysteme (Deepfake-Verordnung 2022) - UK: Risikobasierter Ansatz ohne EU-AI-Act-Äquivalent; ICO-Guidance zu Deepfakes

Branchen-Anwendungen

IT-Dienstleistung & Beratung

IT-Beratungsunternehmen, die KI-Medien-Tools für Kunden einsetzen oder empfehlen, tragen eine besondere Verantwortung: Sie gestalten nicht nur die eigene Praxis, sondern beeinflussen die Praxis ihrer Kunden. Eine klare interne Ethik-Policy ist daher auch ein Qualitätsmerkmal nach außen. Best Practice: Ethik-Review als Teil des Projektabschlusses für alle Projekte mit KI-Medienkomponente; öffentliches Commitment zu den fünf Prinzipien als Teil der Unternehmenspositionierung.

Industrie & Fertigung

In der Industrie ist Vertrauen — gegenüber Mitarbeitenden, Gewerkschaften, Kunden und Lieferanten — ein zentrales Asset. Transparenz beim Einsatz synthetischer Medien (z. B. Schulungsvideos mit KI-Avatar) stärkt dieses Vertrauen; versteckter Einsatz könnte es erheblich beschädigen, wenn er entdeckt wird. Betriebsräte haben in Deutschland Mitbestimmungsrechte bei der Einführung technischer Systeme (§87 BetrVG); KI-Medien-Tools für interne Kommunikation und Schulung können darunter fallen — frühzeitige Einbindung ist ratsam.

Finanzdienstleistung & Versicherung

Im streng regulierten Finanzbereich ist Ethik nicht nur moralische Pflicht, sondern regulatorische Erwartung. BaFin, EZB und europäische Aufsichtsbehörden erwarten von Finanzinstituten einen nachweisbaren Governance-Rahmen für KI. Eine KI-Medien-Policy ist Bestandteil dieses Rahmens. Ethik als Wettbewerbsvorteil: Finanzinstitute, die transparent und verantwortungsvoll mit KI umgehen, stärken das Kundenvertrauen — ein zentrales Asset in einer Branche, die auf Vertrauen basiert.

Öffentliche Verwaltung

Öffentliche Einrichtungen stehen unter besonderem Legitimationsdruck. Jeder Einsatz von KI in der Bürger-Kommunikation muss rechtlich, ethisch und politisch vertretbar sein. Das Bundesministerium des Innern empfiehlt eine transparente Kommunikation über KI-Einsatz in der Verwaltung. Für synthetische Medien gilt: Eine proaktive Offenlegungsstrategie — „Wir nutzen KI für X und Y, aber nicht für Z” — ist besser als reaktives Krisenmanagement nach einer Enthüllung.

Übung 1 — Dilemma-Analyse

Übung 1

Aufgabe: Analysieren Sie eines der drei Dilemmata (Ihrer Wahl) strukturiert mit den fünf Prinzipien.

Analyse-Schema: 1. Beschreiben Sie die Situation in eigenen Worten (3 Sätze) 2. Prüfen Sie jeden der fünf Prinzipien: Wird er eingehalten, verletzt oder ist er unklar? 3. Formulieren Sie eine klare ethische Einschätzung: Vertretbar / eingeschränkt vertretbar / nicht vertretbar 4. Entwickeln Sie eine ethisch korrekte Alternative (falls nicht vertretbar)

Zeit: 15 Minuten (Einzelarbeit, dann Austausch in Zweiergruppen)

Musterlösung / Leitfaden für Trainer:

Betonen Sie: Es gibt keine einheitlich „richtige” Antwort bei Dilemmata — aber es gibt strukturiert begründete und unbegründete Positionen. Wer alle fünf Prinzipien explizit prüft und zu einem klaren Ergebnis kommt, hat ethisch sorgfältig gearbeitet.

Übung 2 — Persönliche Grundsätze und Policy-Entwurf

Übung 2

Aufgabe: Formulieren Sie drei persönliche Grundsätze für Ihren eigenen Umgang mit synthetischen Medien — und skizzieren Sie die Grundzüge einer KI-Medien-Policy für Ihre Organisation.

Teil A — Persönliche Grundsätze (5 Min): Schreiben Sie drei Sätze: „Ich werde synthetische Medien nur einsetzen, wenn …”

Teil B — Policy-Entwurf (15 Min): Skizzieren Sie die wichtigsten Punkte einer KI-Medien-Policy für Ihre Organisation: - Geltungsbereich - Erlaubte / nicht erlaubte Tools - Kennzeichnungsregel - Freigabeprozess - Drei-Stufen-Freigabemodell (Grün / Gelb / Rot)

Teilen Sie Ihren Entwurf in der Gruppe — welche Punkte sind universell, welche organisationsspezifisch?

Zeit: 20 Minuten

Musterlösung / Leitfaden für Trainer:

Häufige Erkenntnisse: Kennzeichnungsregeln und Freigabeprozesse werden oft als wichtiger und gleichzeitig als operativ aufwendiger eingeschätzt. Betonen Sie: Policy-Einführung erfordert Change Management, nicht nur Dokumentenerstellung. Verweisen Sie auf UE 72 als praktischen Abschluss des Moduls.

Prompt-Vorlage

Prompt: Dilemma-Analyse mit KI-Unterstützung

Ich möchte ein ethisches Dilemma im Bereich synthetischer KI-Medien analysieren.



Dilemma: [DILEMMA BESCHREIBEN]



Bitte analysiere das Dilemma anhand von 5 Prinzipien:

1. Transparenz — Werden alle Beteiligten transparent informiert?

2. Einwilligung — Haben alle betroffenen Personen zugestimmt?

3. Nicht-Täuschung — Besteht ein Täuschungsrisiko?

4. Verhältnismäßigkeit — Ist der Einsatz zum Zweck verhältnismäßig?

5. Schadensbegrenzung — Welche Schäden könnten entstehen?



Gib für jeden Punkt eine klare Einschätzung und formuliere am Ende

eine ethische Gesamtbewertung sowie eine alternative Vorgehensweise,

falls das Szenario nicht vertretbar ist.

Cheatsheet — UE 71

5 Prinzipien — Schnellcheck: 1. Transparenz — Weiß das Gegenüber, dass KI im Spiel ist? 2. Einwilligung — Haben alle betroffenen Personen zugestimmt? 3. Nicht-Täuschung — Kann der Inhalt missverstanden werden? 4. Verhältnismäßigkeit — Passt der Einsatz zum Zweck? 5. Schadensbegrenzung — Was kann schiefgehen?

Drei-Stufen-Freigabemodell: - Grün: Interne Nutzung, keine personenbezogenen Daten - Gelb: Externe Kommunikation → explizite Prüfung + Freigabe - Rot: Biometrische Daten, regulierte Kommunikation → spezifische Genehmigung

EU AI Act: - Art. 5: Verbotene Praktiken (Manipulation, Social Scoring) - Art. 50: Kennzeichnungspflicht für synthetische Medien

Policy-Pflichtbausteine: Geltungsbereich · Tool-Liste · Kennzeichnung · Freigabeprozess · Einwilligungsregeln · Meldepflicht · Review-Rhythmus

Reflexionsfragen

Welches der fünf Prinzipien ist für Ihren konkreten Arbeitskontext am schwierigsten konsequent umzusetzen — und warum?

Wie würden Sie in Ihrem Team eine Diskussion über KI-Ethik-Policy anstoßen, ohne dass sie als abstrakte Pflichtübung wahrgenommen wird?

Sehen Sie Ethik im Bereich synthetischer Medien als Wettbewerbsvorteil oder als Einschränkung — und welche Argumente stützen Ihre Position?

Welche offenen ethischen Fragen zu synthetischen Medien sind für Sie noch ungelöst — und wo wären klare gesellschaftliche oder rechtliche Regeln hilfreich?

Quellen & Weiterlesen

Quelle: KI-Wissensbasis von MindsMachines, Edition Juni 2026. Vollständige Fassung mit Anhängen und Musterlösungen: als PDF anfordern.