Deepfakes & KI-Imitation

Kurzfassung

• Deepfakes sind KI-generierte Audio-, Video- oder Bildinhalte, die eine echte Person imitieren. Die Kosten sind in zwei Jahren von „Hollywood-Studio" auf „kostenlose Handy-App" gefallen. Dein Ohr und dein Auge reichen nicht mehr aus — die Abwehr ist eine kleine Gewohnheit, keine bessere Erkennung.
• Der schädlichste Deepfake heute ist ein 20-Sekunden-Stimmklon eines Verwandten oder Chefs, der am Telefon nach Geld oder einem Code fragt. „Mama, ich hatte einen Autounfall, ich brauche sofort Bargeld."
• Zwei Gewohnheiten schlagen fast jeden Deepfake auf Konsumentenniveau: ein Familien-Codewort, um jede dringende Stimm- oder Video-Anfrage zu verifizieren, und ein langsamer Rückruf über die Telefonnummer, die du vorher schon hattest — niemals eine Nummer vom Bildschirm.
• Kinder von Personen des öffentlichen Lebens, Opfer früherer Datenlecks und Menschen mit viel öffentlichem Audio- oder Videomaterial — Podcaster, Führungskräfte, Influencer, Politiker — sind am stärksten gefährdet. Ihre Familien auch.
• Bildbasierter Missbrauch — nicht einvernehmliche intime Deepfakes — ist eine eigene Kategorie und braucht eine eigene Reaktion. Globale Dienste (StopNCII.org, Take It Down) können diese Bilder entfernen, ohne dass du das Bild irgendwo hochlädst.
• „Ich lasse mich nicht täuschen" ist das, was jeder Getäuschte geglaubt hat.

Was ist das?

Ein Deepfake ist jeder synthetische Medieninhalt — Audio, Bild oder Video — der eine echte Person überzeugend genug imitiert, um als echt verwendet werden zu können. Drei aktuelle Kategorien:

1. Stimmklone. Erstellt aus nur 5–10 Sekunden der Stimme einer Person — einem Podcast-Ausschnitt, einem TikTok, einer Sprachnachricht, einem YouTube-Interview, einer Zoom-Aufnahme. Der Klon kann jeden neuen Text mit der Stimme der Person lesen, mit Betonung.
2. Face-Swap- und Lip-Sync-Videos. Ein kurzes Referenzvideo des Gesichts der Zielperson wird auf den Körper einer anderen Person übertragen, oder ein bestehendes Video der Zielperson wird mit neuem Ton nachvertont. Die Qualität variiert, wird aber monatlich billiger.
3. KI-generierte Standbilder. Ein Foto einer echten Person in einem Umfeld, in dem sie nie war — manchmal intim, manchmal politisch kompromittierend, manchmal für Romance- oder Identitätsbetrug.

Diese werden hauptsächlich auf fünf Arten verwendet:

• „Familien-Notfall"-Sprachanrufe — der Enkeltrick, weiterentwickelt.
• Falsche CEO- oder Finanzchef-Anfragen an Mitarbeiter — Business-E-Mail-Compromise, weiterentwickelt.
• Romance-Betrug mit Video-„Beweis" — der Betrüger erscheint kurz in einem Anruf, um zu beweisen, dass er echt ist.
• Politische Desinformation — koordinierte Audio- oder Video-Clips vor Wahlen.
• Bildbasierter Missbrauch — intime Deepfakes, die überwiegend Frauen und Minderjährige treffen.

Die Technologie ist nicht mehr exotisch. Die Werkzeuge sind öffentlich zugänglich, meist legal zu benutzen und verbessern sich rasch. Zu denken, das passiere nur „anderen Leuten", ist derselbe Fehler wie 2015 bei Phishing.

Wie erkennt man es?

Der alte Ratschlag — „achte auf verschwommene Kanten am Kiefer, zähle die Finger" — ist heute meist überholt. Neuere Deepfake-Werkzeuge hinterlassen diese Spuren nicht mehr. Die verlässlichen Signale sind vom Artefakt zum Kontext gewandert.

Bei einem Telefonanruf:

• Die Stimme stimmt, aber das Gespräch ist flach. Die anrufende Person erwähnt keine gemeinsamen Erinnerungen, kann nicht antworten auf „worüber haben wir letztes Wochenende gesprochen", lässt sich nicht auf Details einlassen, die nur die echte Person kennen würde.
• Die Dringlichkeit ist hoch. Immer Dringlichkeit. „Erzähl es niemandem — ich bin in Schwierigkeiten."
• Die Zahlungsmethode ist ungewöhnlich. Geschenkkarten. Krypto. Überweisung auf ein unbekanntes Konto. Echte Familienmitglieder, die sich Geld leihen, bitten normalerweise nicht darum, Apple-Geschenkkarten zu schicken.
• Der Anrufer will das Gespräch vom ursprünglichen Kanal wegleiten — „ruf mich auf dieser WhatsApp-Nummer zurück, mein Telefon ist kaputt."

Bei einem Videoanruf:

• Das Gesicht bewegt sich etwas weniger als echte Gesichter — Mikroausdrücke wirken subtil unpassend.
• Die Augen folgen nicht natürlich, wenn du die Person bittest, im Raum umherzuschauen.
• Das Licht auf dem Gesicht passt nicht ganz zum Licht im Hintergrund.
• Ein einfacher Test: bitte die Person, sich seitwärts zu drehen und eine Hand langsam vor das Gesicht zu bewegen. Aktuelle Echtzeit-Deepfakes brechen daran noch — die Hand verschwindet, das Gesicht flackert, die Lippen-Synchronisation rutscht.

Bei einem Standbild:

• Umgekehrte Bildersuche durchführen. KI-generierte Gesichter haben normalerweise keine anderen Auftritte online; echte Personen schon.
• Hände und Ohren sind bei Standbildern immer noch die fehleranfälligsten Bereiche.
• Der Hintergrund ist zu sauber oder seltsam inkonsistent — ein Fenster ohne Aussicht, eine Wand ohne Schatten, ein Logo, das fast ein echtes Logo ist.

Am zuverlässigsten: Ignoriere die Artefakte. Verifiziere über einen anderen Kanal. Immer.

Was tun?

Wenn dich eine verdächtige Stimme oder ein verdächtiges Video gerade kontaktiert hat:

1. Beende das Gespräch. Höflich oder nicht. „Ich rufe dich zurück." Auflegen. Chat schliessen.
2. Verifiziere über einen bekannten Kanal. Ruf die Person auf der Nummer an, die du seit Jahren für sie hast. Wenn sie nicht antwortet, ruf ein Familienmitglied an, das wissen würde, wo sie ist. Ruf nicht die Nummer zurück, die dich gerade kontaktiert hat.
3. Verwende das Familien-Codewort. Weiter unten beschrieben. Wenn du noch keins hast, ist das der Moment, eins zu erfinden.
4. Wenn nach Geld gefragt wurde, schicke nichts — auch wenn du zu 90 % sicher bist, dass es sie war. Der 10-Prozent-Fall kann katastrophal sein; das Warten ist reversibel.
5. Wenn Dringlichkeit auf Geheimhaltung bestand — „sag es deiner Mutter nicht" — bestätigt das den Betrug. Echte Notfälle sind nicht geheim.

Wenn du den Deepfake erst danach entdeckst (Geld verschickt, Nachricht geglaubt, Bild geteilt):

1. Ruf sofort deine Bank an. Internationale Überweisungen können manchmal innerhalb von 24 Stunden zurückgeholt werden; danach viel schwieriger.
2. Sichere alles. Screenshots, Sprachnachrichten, Anrufprotokolle, Nachrichtenverläufe, Transaktionsbestätigungen. Die Fallakte zählt, auch wenn du das Geld nie wiedersiehst — sie hilft dem nächsten Opfer.
3. Melde es der Polizei. Die Cybercrime-Einheit deines Landes und die Plattform, über die der Kontakt zustande kam. In der EU meldest du auch der nationalen Datenschutzbehörde, wenn dein Bild oder deine Stimme verwendet wurde — das ist an sich schon ein Verstoss gegen den Datenschutz.
4. Informiere deinen Kreis. Dieselbe Operation zielt wahrscheinlich als Nächstes auf deine Familie und Kontakte ab — mit der Glaubwürdigkeit, die du ihnen unwissentlich verliehen hast.
5. Wenn intime Bilder involviert waren, nutze sofort einen Takedown-Dienst — siehe unten.

Richte jetzt ein Familien-Codewort ein, während alle ruhig sind.

• Ein kurzes Wort oder ein kurzer Satz, den nur euer Haushalt kennt. Kein Geburtstag, kein Haustiername (das steht in den sozialen Medien).
• „Kürbis-Sonnenuntergang", „blauer Flusskrebs", „Dienstag Yvonne". Alles, was einprägsam, aber ungoogelbar ist.
• Jeder, der mit Dringlichkeit anruft, muss das Wort nennen. Keine Ausnahmen.
• Sag es älteren Verwandten schriftlich. Manche erinnern sich unter Druck nicht an die Regel; ein Kühlschrankmagnet hilft.

Was NICHT tun?

• Verlass dich nicht auf „ich würde ihre Stimme erkennen" oder „sie sehen genauso aus wie sie". Diese Wiedererkennung ist genau das, worauf die Technologie gebaut ist.
• Diskutier nicht mit dem Deepfake. Jede Interaktion bestätigt deine Angaben und liefert mehr Stimmmaterial fürs Training.
• Poste keine Videos von Kindern mit vollem Namen und Schule. Stimme und Gesicht — die beiden Zutaten für einen Klon — werden aus öffentlichen Posts geerntet.
• Zahle keine Erpressungsgebühr für ein „Deepfake-Nacktbild" von dir oder deinem Kind. Bezahlen bestätigt ein zahlungsbereites Ziel; die Forderung kommt wieder. Sichere Beweise, meld es und nutze Takedown-Dienste.
• Versuch nicht, den Anrufer mit Fangfragen auszutricksen. Ausgeklügelte Operationen sind mit vorbereiteten Antworten geskriptet. Codewörter funktionieren besser als Rätsel.
• Vertrau biometrischer Authentifizierung — Gesicht oder Stimme — nicht für wichtige Dinge, ausser gepaart mit einem zweiten Faktor. Ein Stimmklon kann die Stimm-Authentifizierung einiger Banken überwinden; manche Gesichtserkennungssysteme werden von einem hochwertigen Video getäuscht.
• Gib dir nicht selbst die Schuld. Kluge Menschen werden damit täglich getäuscht. Die Technologie ist entwickelt, um normales Vertrauen auszunutzen.

KI zur Hilfe nutzen

Zwei Prompts zum Kopieren und Anpassen. Setze deine Situation in die Klammern. Klebe keine Passwörter oder Zwei-Faktor-Codes ein.

Einen verdächtigen Clip analysieren:

„Ich habe diesen Audio- (bzw. Video-/Bild-)Clip erhalten und bin mir nicht sicher, ob er echt oder ein Deepfake ist. Unten der Kontext — wer ihn geschickt hat, was behauptet wird, was von mir verlangt wurde. Bitte analysiere: (a) welche Warnzeichen du in der Situation siehst (nicht am Artefakt — gehen wir davon aus, dass das Medium selbst überzeugend ist), (b) welche Verifikation ich in den nächsten zehn Minuten machen könnte, um zu bestätigen oder zu widerlegen, (c) was ich konkret NICHT tun sollte, bevor ich verifiziert habe, und (d) auf einer Skala von 1–10, wie wahrscheinlich ist das ein Deepfake-Angriff, mit Begründung.

Kontext: [einfügen]"

Eine Familien-Verifikationsroutine planen:

„Ich möchte meine Familie — inklusive [Alter und Tech-Erfahrung auflisten, z. B. Teenager, meine älteren Eltern] — vor Stimmklon- und Video-Deepfake-Angriffen schützen. Bitte gib mir (a) eine einseitige Familien-Verifikationsroutine inklusive Codewort-System, das auch eine 80-jährige Person unter Stress befolgen kann, (b) die konkreten Szenarien, die ich mit jedem Familienmitglied heute Abend durchgehen sollte (der ‚Mama, ich hatte einen Autounfall'-Anruf, der ‚CEO braucht eine Notfall-Überweisung'-Anruf an meinen Partner bei der Arbeit, die ‚Ich habe dein Nacktbild und werde es an alle schicken'-E-Mail an einen Teenager), und (c) was ich an unseren Social-Media-Gewohnheiten ändern soll, um das zukünftige Risiko zu reduzieren."

Zur Erinnerung: KI kann sich bei spezifischen Landesgesetzen zu synthetischen Medien, bei der Frage, ob die Polizei einzuschalten ist, und bei den Meldewegen sicher irren. Nutze sie zur Planung; überprüfe formale Schritte mit deiner Bank, der örtlichen Polizei und der nationalen Datenschutzbehörde.

Wen anrufen?

Reihenfolge: die Plattform, auf der der Deepfake erschien, deine Bank, wenn Geld geflossen ist, Takedown-Dienste, wenn intime Bilder betroffen sind, Polizei bei kriminellem Einsatz.

Aktuelle Kontakte für dein Land mit KI finden:

„Ich bin in [dein Land]. Liste die offiziellen Anlaufstellen für einen Deepfake-Vorfall auf — die nationale Cybercrime-Meldestelle, die Datenschutzbehörde (bei unbefugter Nutzung von Bild oder Stimme), die Finanzbetrugslinie, wenn Geld geflossen ist, und jeden staatlichen oder NGO-Dienst, der sich speziell mit synthetischen Medien befasst (insbesondere bei intimem Bildmissbrauch). Gib für jede die offizielle Website und die öffentliche Telefonnummer an und sag mir, welche zuerst zu kontaktieren ist, je nachdem ob (a) Geld geflossen ist, (b) mein Bild verwendet wurde, um andere zu betrügen, (c) intime Bilder von mir oder meinem Kind erstellt oder verteilt wurden, oder (d) der Deepfake politischer oder wahlbezogener Natur ist. Zitiere die offizielle Quelle für jede Angabe. Kennzeichne, was veraltet sein könnte."

Eine kurze kuratierte Liste (für das wirklich Neueste lieber den KI-Prompt oben verwenden):

• Bildbasierter Missbrauch — globale Takedown-Dienste (das Bild NICHT hochladen):
  • StopNCII.org — generiert einen Hash auf deinem Gerät; teilnehmende Plattformen (Meta, TikTok, Reddit, OnlyFans, Pornhub, Bumble, X, mehr) blockieren übereinstimmende Uploads, ohne das Bild selbst je zu erhalten.
  • Take It Down (betrieben von NCMEC, USA) — gleiches Prinzip, speziell für unter 18-Jährige; nimmt auch Anfragen von Erwachsenen für historische Bilder an.
• Deutschland — lokale Polizei online; BSI für Bürger (bsi.bund.de).
• Österreich — Watchlist Internet (watchlist-internet.at).
• Schweiz — Nationales Zentrum für Cybersicherheit (ncsc.admin.ch); cybercrimepolice.ch.

Wann außerhalb des Chats eskalieren?

• Geld wurde geschickt und das Gespräch läuft noch — Bank-Betrugslinie in der nächsten Minute anrufen, nicht in der nächsten Stunde. Internationale Rückholfenster sind kurz.
• Ein intimer Deepfake von dir oder einem Kind wurde erstellt oder angedroht — nutze StopNCII oder Take It Down heute; parallel Polizeimeldung. Zahle keine Erpressung.
• Ein Deepfake wird verwendet, um Personen in deinem Netzwerk zu betrügen — z. B. dein Gesicht oder deine Stimme in einem gefälschten CEO-Anruf an deine Mitarbeiter — sofort HR, IT oder Anwalt informieren. Es kann eine unternehmensrechtliche Haftungsdimension bestehen.
• Ein politischer Deepfake von dir kursiert — mit deinem Kommunikationsteam oder Anwalt abstimmen, bevor du öffentlich reagierst; unkoordinierte Dementis können das Original verstärken.
• Ein Jugendlicher in deiner Familie wird mit einem KI-generierten Nacktbild sextortioniert — das ist in den meisten Ländern strafbar, auch wenn das Bild generiert und nicht echt war. NCMECs Take It Down, plus Polizei, plus Schule, wenn Gleichaltrige beteiligt sind.
• Du bist in psychischer Not — Betrug, Bildmissbrauch und Identitätsverlust können Menschen in Krisen stürzen. Schweiz: 143 (Die Dargebotene Hand). Deutschland: 116 123 (TelefonSeelsorge). Österreich: 142 (Telefonseelsorge).

Quellen & weiterführende Lektüre

• Stanford Internet Observatory — laufende öffentliche Forschung zu synthetischen Medien
• Witness.org — globale zivilgesellschaftliche Organisation für Deepfake-Reaktion und Feldtraining
• Cyber Civil Rights Initiative — Forschung zu bildbasiertem Missbrauch und Opferunterstützung
• StopNCII.org / NCMEC Take It Down — öffentliche Takedown-Infrastruktur
• EU AI Act — Bestimmungen zur Kennzeichnung synthetischer Medien
• US Federal Trade Commission — laufende Regelbildung zu Deepfake-Betrug