Deepfake-Risiken und Erkennung

Lernziele

Sie kennen die vier Deepfake-Kategorien (Video, Audio, Text, Hybrid) und können deren typische Einsatzkontexte in missbräuchlicher Absicht beschreiben.

Sie identifizieren visuelle, auditive und kontextuelle Erkennungsmerkmale von Deepfakes.

Sie benennen relevante Straftatbestände (§§201, 186, 187, 263, 269 StGB, §823 BGB) und die EU AI Act-Regelungen.

Sie entwerfen ein einfaches Reaktionsprotokoll für den Fall eines vermuteten Deepfake-Angriffs.

Auf einen Blick

Worum geht es?

Die Fähigkeit, überzeugende synthetische Medien zu erstellen, hat eine Kehrseite: Dieselbe Technologie, die legitime KI-Avatare und Voice Cloning ermöglicht, kann für Täuschung, Betrug und Manipulation eingesetzt werden. Deepfakes — synthetische Medien, die eine reale Person imitieren oder eine nicht stattgefundene Situation darstellen — sind keine theoretische Bedrohung mehr. Sie sind ein reales Sicherheitsrisiko mit konkreten Schadensfällen.

Unternehmen weltweit haben durch Audio-Deepfakes (sogenannter CEO-Fraud) Millionenbeträge verloren. Politiker und Prominente wurden durch Bild- und Video-Deepfakes in peinlichen oder strafrechtlich relevanten Szenarien gezeigt. Und mit zunehmend zugänglichen Werkzeugen steigt die Wahrscheinlichkeit, dass auch Nicht-Experten Deepfakes erstellen können.

Diese Einheit ist kein Lehrgang in Kriminologie — sie gibt Ihnen praxisnahe Werkzeuge, um Deepfakes zu erkennen, auf verdächtige Situationen richtig zu reagieren, und die rechtlichen Folgen für Täterinnen und Täter zu verstehen.

Lerntext

Die vier Deepfake-Kategorien

1. Video-Deepfake: - Face Swap: Das Gesicht einer realen Person wird auf den Körper einer anderen Person im Video montiert - Reenactment / Puppeteering: Das Gesicht einer realen Person wird so manipuliert, dass es Bewegungen und Mimik einer anderen Person ausführt

2. Audio-Deepfake (Voice Clone): - Das gesprochene Wort einer realen Person wird imitiert oder gefälscht - Einsatz: CEO-Fraud-Anrufe, gefälschte Sprachnachrichten, manipulierte Telefonkonferenzen

3. Text-Fake (nicht im klassischen Sinn Deepfake, aber verwandt): - KI-generierter Text, der als Aussage einer realen Person ausgegeben wird - Gefälschte Zitate, erfundene Interviews, manipulierte Chatverläufe

4. Hybrid-Deepfake: - Kombination mehrerer Methoden: Video-Reenactment + Voice Clone + kontextualisierender Text - Höchste Täuschungsqualität; schwierigste Erkennung

Abb. 69.1 — Deepfake-Kategorien und typische Angriffsvektoren in Unternehmenskontexten

Merksatz

Der gefährlichste Deepfake ist nicht der technisch perfekte — es ist der Deepfake im richtigen Kontext. Ein mittelguter Audio-Klon des Geschäftsführers, kombiniert mit einem glaubwürdigen Handlungsdruck und dem richtigen Kanal, kann überzeugend genug für CEO-Fraud sein.

Visuelle Erkennungsmerkmale

Augenbewegungen: - Unkontrolliertes oder ausbleibendes Blinzeln (frühe Deepfakes); heute verbessert, aber noch erkennbar - Unnatürliche Augenbewegungen beim Sprechen (Blick bleibt zu starr)

Beleuchtung und Hauttöne: - Inkonsistente Beleuchtung auf Gesicht vs. Hintergrund/Körper - Unnatürliche Hauttöne, Übergangsartefakte an Haaransatz und Ohren - Flackernde oder instabile Hautstruktur

Mikrobewegungen: - Reale Menschen zeigen subtile Mikrobewegungen (leichte Kopfbewegungen, Lidbewegungen). Deepfakes sind oft zu statisch oder zeigen unnatürliche Bewegungsmuster.

Detailprobleme: - Haare: Oft unscharf oder unnatürlich animiert (besonders lockiges oder langes Haar) - Zähne: Häufig unscharf, falsche Textur, fehlende Zähne im Randbereich - Ohren: Häufig unnatürliche Form oder Übergänge - Hintergrund: Flackern oder Artefakte am Rand des Gesichts

Auditive Erkennungsmerkmale

Unnatürliche Betonung: Falsches Muster bei Satzakzenten; gleichmäßiger als natürliche Sprache

Fehlende Hintergrundakustik: Synthetische Stimmen klingen oft in einem „akustischen Vakuum” — keine Raumakustik, kein Umgebungsrauschen

Plosive-Anomalien: P-, B-, T-Laute klingen manchmal übermäßig akzentuiert oder gedämpft

Emotionale Inkonsistenz: Die Stimme klingt emotional neutral, obwohl der Inhalt emotionale Reaktion erwarten lässt

Atempausen: Kein hörbares Einatmen zwischen Sätzen; zu gleichmäßige Pausen

Kontextuelle Erkennungsmerkmale

Technische Erkennungsmerkmale werden schwieriger, je besser die Deepfake-Technologie wird. Kontextuelle Signale bleiben robust:

Ungewöhnlicher Kanal: Eine angeblich dringende Nachricht von einer Führungskraft kommt über WhatsApp statt über offizielle E-Mail oder das firmeneigene System

Extreme Dringlichkeit: Druck, sofort zu handeln, keine Zeit zu verifizieren — ein klassisches Social-Engineering-Muster

Ungewöhnlicher Inhalt: Die angebliche Nachricht passt nicht zum normalen Verhalten oder Kommunikationsstil der Person

Anfrage nach Umgehung normaler Prozesse: „Bitte buche das direkt, ohne die übliche Genehmigung” — ein starkes Warnsignal

Merksatz

Die Faustregel für CEO-Fraud-Erkennung: Dringlichkeit + ungewöhnlicher Kanal + Prozessumgehung = Verdacht. Rufen Sie immer über einen bekannten, verifizierten Kanal zurück — niemals über die in der verdächtigen Nachricht angegebene Nummer.

Erkennungstools

Wichtige Einschränkung: Kein automatisches Erkennungstool ist 100% zuverlässig. Sie sind Hilfsmittel, keine Garantie. Kontextuelle Bewertung und menschliches Urteil bleiben unverzichtbar.

Strafrecht und EU AI Act

Relevante Straftatbestände:

EU AI Act Art. 50: - Synthetische Medien, die reale Personen darstellen, müssen als KI-generiert gekennzeichnet sein - Art. 5 verbietet Systeme, die unterbewusste Manipulation oder Ausnutzung von Verletzlichkeit ermöglichen - Nicht-Kennzeichnung trotz Kennzeichnungspflicht kann zu Bußgeldern führen

Vertiefung — Organisationsmaßnahmen gegen Deepfake-Angriffe

CEO-Fraud-Angriffsmuster: 1. Angreifer analysiert öffentliche Videos, Interviews oder Sprachaufnahmen der Zielperson 2. Voice-Clone wird erstellt (1–3 Minuten Audio genügen) 3. Mitarbeitende werden über ungewöhnlichen Kanal (WhatsApp, Telefonanruf mit manipulierter Rufnummer) mit dringendem Auftrag kontaktiert 4. Sofortüberweisung oder Herausgabe von Zugangsdaten wird verlangt

Organisatorische Gegenmaßnahmen: - Rückruf-Pflicht: Bei Überweisungsanfragen über ungewöhnliche Kanäle: immer über bekannte, verifizierte Nummer zurückrufen - Kanaltreue: Finanzielle Transaktionen nur über festgelegte, offizielle Kommunikationskanäle autorisieren - Dringlichkeits-Regel: Dringliche Anfragen, die normale Prozesse umgehen wollen, immer als Warnsignal werten - Schulung: Regelmäßige Awareness-Schulung für Finanz- und Admin-Teams - Technische Maßnahmen: E-Mail-Authentifizierung (SPF, DKIM, DMARC); Mehrstufige Freigaben für Überweisungen

Branchen-Anwendungen

IT-Dienstleistung & Beratung

IT-Unternehmen und Beratungsgesellschaften sind durch ihren hohen Digitalisierungsgrad und oft flache Hierarchien ein attraktives Ziel für Audio-Deepfake-Betrug. Ein simulates Szenario: Ein Mitarbeiter im Finance erhält einen WhatsApp-Sprachanruf vom scheinbaren Managing Director mit dringender Überweisung. Gegenmaßnahmen: Klare Kommunikationsrichtlinien (keine finanziellen Transaktionen über WhatsApp), Rückruf-Pflicht über firmenbekannte Nummern, regelmäßige Awareness-Schulung für Finance-Teams.

Industrie & Fertigung

Fertigungs- und Industrieunternehmen sind vor allem durch Lieferkettenkommunikation gefährdet: Gefälschte Bestellungen, Lieferanten-Phishing oder Imitationen von Einkäufer-Stimmen für Bestelländerungen. Im Bereich der öffentlichen Unternehmenskommunikation drohen Image-Deepfakes: Gefälschte Videos von Führungskräften, die angeblich auf Arbeitsbedingungen oder Umweltfragen reagieren, können erheblichen Reputationsschaden verursachen. Maßnahme: Klares Krisenprotokoll für das Erkennen und Dementieren von Deepfake-Desinformation.

Finanzdienstleistung & Versicherung

Die Finanzbranche ist durch die Höhe möglicher Schadenssummen besonders gefährdet. Regulatorische Anforderungen (BaFin, MaRisk) verlangen ohnehin Kontrollsysteme für verdächtige Transaktionen. Deepfake-spezifische Ergänzungen: Authentifizierung bei Überweisungsanweisungen durch zweiten autorisierten Kanal; explizites Training für Front-Office-Teams zu Audio-Deepfakes; bei erkanntem Deepfake: sofortiger Kontakt mit IT-Security und Anzeige bei Strafverfolgungsbehörden.

Öffentliche Verwaltung

Behörden sind zunehmend Ziel von Desinformationskampagnen mit gefälschten Videos von Politikern oder Amtsträgern. Gegenmaßnahmen auf institutioneller Ebene: Medien-Literacy-Schulung für Kommunikationsabteilungen; schnelles Dementierungs-Protokoll bei aufgedeckten Deepfakes; Nutzung von C2PA für offiziell veröffentlichte Medien, um deren Authentizität nachweisbar zu machen.

Übung 1 — Erkennungsmerkmale anwenden

Übung 1

Aufgabe: Analysieren Sie Videobeispiele auf Deepfake-Merkmale.

Vorgehen: 1. Der Trainer stellt 2–3 kurze Videobeispiele bereit (Empfehlung: MIT Detect Fakes Beispielvideos unter detectfakes.media.mit.edu) 2. Analysieren Sie jedes Video anhand der Checkliste: - Augenbewegungen: natürlich oder auffällig? - Beleuchtung: konsistent? - Haare / Ohren / Zähne: Details auffällig? - Mikrobewegungen: natürlich? - Gesamt-Eindruck: authentisch oder verdächtig? 3. Diskutieren Sie in der Gruppe: Was hat Sie bei Ihrer Einschätzung beeinflusst?

Zeit: 20 Minuten

Musterlösung / Leitfaden für Trainer:

Betonen Sie: Selbst Experten täuschen sich bei guten Deepfakes. Das Ziel ist nicht perfekte Erkennungsrate, sondern Bewusstsein für die Möglichkeit. Kontextuelle Erkennungsmerkmale sind im Alltag oft zuverlässiger als technische.

Übung 2 — Reaktionsprotokoll entwickeln

Übung 2

Aufgabe: Entwickeln Sie ein einfaches Reaktionsprotokoll für das Szenario eines vermuteten CEO-Fraud-Angriffs per Audio-Deepfake.

Szenario: Ein Mitarbeiter im Finance-Bereich erhält einen Sprachanruf von einer unbekannten Nummer. Die Stimme klingt wie die Geschäftsführerin und fordert eine sofortige Überweisung von 45.000 Euro auf ein neues Konto.

Aufgabe: Entwickeln Sie ein Schritt-für-Schritt-Protokoll (5–7 Schritte) für den Mitarbeiter: Was tut er sofort? Wen informiert er? Wie verifiziert er die Anfrage?

Zeit: 15 Minuten (Einzel- oder Partnerarbeit, dann Vergleich in der Gruppe oder allein)

Musterlösung / Leitfaden für Trainer:

Musterschritte: 1. Anruf beenden / nicht sofort handeln. 2. Über bekannte firmeneigene Nummer oder E-Mail direkt bei der GF rückfragen. 3. IT-Security oder direkten Vorgesetzten informieren. 4. Keine Transaktion vor Verifikation. 5. Vorfall dokumentieren. 6. Bei bestätigtem Betrugsversuch: Polizei und ggf. BSI informieren. Betonen Sie: Schritt 1 (kein sofortiges Handeln) ist der wichtigste.

Prompt-Vorlage

Prompt: Deepfake-Erkennung und Plausibilitätsprüfung

Du bist ein Medienanalyst mit Spezialisierung auf synthetische Medien.

Ich beschreibe dir ein Audio- oder Videomedium. Hilf mir bei einer

strukturierten Plausibilitätsprüfung auf mögliche KI-Generierung oder

-Manipulation.



Beschreibung des Mediums:

[BESCHREIBUNG EINFÜGEN — z. B. "Eine Sprachnachricht, angeblich von unserem

Geschäftsführer, in der er eine Sofortüberweisung von 50.000 EUR anweist.

Die Stimme klingt vertraut, aber etwas unnatürlich."]



Bitte prüfe folgende Kriterien und bewerte jedes mit: auffällig / unauffällig / unklar



1. Inhaltliche Plausibilität (Ist die Botschaft organisatorisch plausibel?)

2. Kommunikationskanal (Ist dieser Kanal für diese Art Nachricht üblich?)

3. Zeitdruck-Signal (Wird Dringlichkeit erzeugt, um kritisches Denken zu umgehen?)

4. Verifikationsmöglichkeit (Lässt sich der Absender auf anderem Weg verifizieren?)

5. Technische Auffälligkeiten (Klangqualität, Sprachrhythmus, Übergänge)



Gesamtbewertung: Wahrscheinlichkeit eines Deepfakes (gering / mittel / hoch)

Empfohlene nächste Schritte: [konkrete Handlungsanweisungen]

Anwendung: Nutzen Sie diesen Prompt, wenn Sie ein verdächtiges Audio- oder Video-Medium analysieren möchten. Beachten Sie: Keine KI kann eine rechtssichere Deepfake-Erkennung garantieren. Professionelle Analyse-Tools (Hive Moderation, Microsoft Video Authenticator) ergänzen diese erste Einschätzung.

Cheatsheet — UE 69

4 Deepfake-Kategorien: Video Face Swap · Audio Voice Clone · Text-Fake · Hybrid

Erkennungsmerkmale: - Visuell: Augenbewegungen · Beleuchtung · Haare/Ohren/Zähne · Artefakte an Gesichtsrändern - Auditiv: Betonung · fehlende Raumakustik · Plosiv-Anomalien · emotionale Leere - Kontextuell: Dringlichkeit · ungewöhnlicher Kanal · Prozessumgehung

CEO-Fraud-Regel: Dringlichkeit + unbekannter Kanal + Prozessumgehung = STOPP. Immer über verifizierten Kanal zurückrufen.

Strafrecht: §263 Betrug · §187 Verleumdung · §269 Datenfälschung · §823 BGB Persönlichkeitsrecht

Erkennungstools: Deepware Scanner · Microsoft Video Authenticator · Sensity AI

EU AI Act Art. 50: Deepfake-Kennzeichnungspflicht für synthetische Personendarstellungen.

Reflexionsfragen

In welchen Situationen Ihrer beruflichen Praxis könnte ein Audio-Deepfake-Angriff am überzeugendsten wirken? Welche Schwachstelle in Ihren Prozessen würde er ausnutzen?

Wie würden Sie Ihr Team für die Deepfake-Bedrohung sensibilisieren, ohne unnötige Paranoia zu erzeugen?

Welche organisatorischen Maßnahmen (jenseits von Technik) sind die effektivsten Schutzmaßnahmen gegen CEO-Fraud?

Wie verändert das Wissen um Deepfakes Ihr Vertrauen in Videokommunikation — und wie können Unternehmen dieses Vertrauen durch Transparenz und C2PA aktiv erhalten?

Quellen & Weiterlesen

Quelle: KI-Wissensbasis von MindsMachines, Edition Juni 2026. Vollständige Fassung mit Anhängen und Musterlösungen: als PDF anfordern.