Deepfakes verstehen: Wenn KI Bilder, Videos und Stimmen fälscht

Deepfakes sind künstlich erzeugte oder manipulierte Medien: Videos, Fotos oder Stimmen, die so echt aussehen oder klingen, als wären sie unverändert aufgenommen worden. Das Wort setzt sich aus „deep learning" – tiefes maschinelles Lernen – und „fake" zusammen.

Früher erkannte man Fälschungen oft an wackeligen Kanten oder unnatürlichen Augen. Heute sind viele Clips aus Social Media fast nicht mehr vom Original zu unterscheiden. Deshalb lohnt es sich, die Grundlagen zu kennen – und zu wissen, wo der Fake-Checker hilft und wo nicht.

Den Begriff kurz und knapp erklären wir im Glossar: Deepfake.

Die wichtigsten Verfahren – einfach erklärt

Hinter jedem überzeugenden Deepfake steckt mindestens eine dieser Techniken. Betrüger kombinieren sie oft.

Audio-Deepfakes und Voice Cloning

Beim Voice Cloning kopiert KI eine menschliche Stimme. Aus wenigen Sekunden Aufnahme – aus Sprachnachrichten, Videos oder Social Media – erzeugt Software neue Sätze, die so klingen, als hätte die Person sie selbst gesprochen.

Im Betrug: Enkeltrick, Schockanruf oder Vishing, bei dem angeblich dein Kind, dein Chef oder die Bank am Apparat ist. Mehr dazu im Glossar Voice Cloning.

Schutz: Bei Geld- oder Datenanfragen auflegen und zurückrufen – über eine Nummer, die du selbst kennst. Codewörter in der Familie helfen.

Face-Swapping

Beim Face-Swapping wird im Video ein Gesicht durch ein anderes ersetzt. Die Mimik des Körpers bleibt, das Gesicht stammt von einer anderen Person – oder von einer KI-Vorlage.

Im Betrug: Gefälschte Statements von Politikern, Moderatoren oder Prominenten in Werbe-Clips – besonders häufig bei Krypto-Betrug und Anlagebetrug.

Merkmal: Haare, Ohren oder Hals passen manchmal nicht ganz; bei guter Qualität fällt das aber schwer auf.

Lip-Syncing

Beim Lip-Syncing werden Lippenbewegungen an eine neue Tonspur angepasst. Jemand scheint Worte zu sprechen, die er nie gesagt hat – die Stimme kann echt, geklont oder synthetisch sein.

Im Betrug: Fake-Interviews, erfundene Entschuldigungen oder Anlage-Werbung mit vertrauten Gesichtern.

Merkmal: Bei genauem Hinsehen wirken Lippen manchmal zu weich, zu schnell oder unsynchron – in komprimierten Social-Media-Clips sieht man das selten.

Puppet-Mastering

Beim Puppet-Mastering – wörtlich „Puppenspiel" – überträgt KI die Mimik und Kopfbewegungen einer steuernden Person auf ein Zielgesicht. Ein Schauspieler vor der Kamera liefert Ausdruck und Drehungen; das Zielgesicht im fertigen Video bewegt sich entsprechend.

Im Betrug: Längere, überzeugende Fake-Videos, in denen jemand „live" zu sprechen scheint – etwa in gefälschten Video-Nachrichten oder Social-Media-Werbung.

Abgrenzung: Face-Swapping tauscht vor allem das Gesicht; Puppet-Mastering steuert gesamte Gesichtsbewegung von außen.

GANs – das Prinzip dahinter

GANs steht für Generative Adversarial Networks – auf Deutsch etwa: gegenständlich lernende Netzwerke. Zwei KI-Systeme arbeiten gegeneinander:

• Der Generator erzeugt Bilder oder Videos.
• Der Prüfer versucht, Fälschungen zu erkennen.

Durch dieses gegenseitige Training werden die Ergebnisse immer realistischer. Viele frühe Deepfake-Verfahren basierten auf GANs; heute kommen zusätzlich große Sprach- und Videomodelle dazu.

Für dich: Du musst die Mathematik nicht verstehen – wichtig ist: Je besser die Technik, desto misstrauischer solltest du bei ungewöhnlichen Geldversprechen sein, auch wenn das Video perfekt wirkt.

Wo Deepfakes im Alltag auftauchen

Nicht jeder Deepfake ist Betrug. Kritisch wird es, wenn jemand Vertrauen vortäuscht, um Geld oder Daten zu bekommen:

• Krypto- und Anlagewerbung mit Prominenten-Gesichtern
• Gefälschte Nachrichten-Clips als Hoax oder Desinformation
• Voice Cloning am Telefon
• KI-Profilbilder bei Romance Scamming und Catfishing
• Fake-Produktwerbung in Social Media

Gemeinsames Muster: Erst vertrauen, dann klicken oder zahlen.

Was unser Fake-Checker kann

Der Fake-Checker auf urban-kid.de ist für Text und Kontaktdaten gebaut:

• Webadressen hinter einem Deepfake-Link prüfen
• Freitext und Behauptungen aus Posts oder Nachrichten einordnen
• E-Mail-Adressen, Telefonnummern und IP-Adressen auf Reputation prüfen

Praxis-Tipp: Auch wenn ein Video überzeugend wirkt, ist oft die verlinkte Seite der eigentliche Betrug. URL kopieren und im Fake-Checker prüfen, bevor du zahlst.

Was unser Fake-Checker nicht kann

• Kein Upload von Videos, Bildern oder Audiodateien zur Deepfake-Analyse
• Keine Live-Stimmenprüfung während eines Telefonats
• Keine Erkennung, ob ein Social-Media-Clip KI-generiert ist, wenn du nur den Link ohne Medien einreichst

Kurz: Der Fake-Checker beantwortet „Ist diese Adresse oder Nachricht verdächtig?" – nicht „Ist dieses Video echt?"

Tools zum Prüfen von Medien

Alle genannten Dienste sind Drittanbieter. Ergebnisse sind Wahrscheinlichkeiten, kein Beweis vor Gericht. Vor dem Upload sensibler Dateien die Datenschutzhinweise lesen.

Bild, Video und Audio – kostenlose Online-Detektoren

• IsThisAI – Bild-, Video- und Audio-Check inklusive Heatmap verdächtiger Bereiche
• UncovAI – Bild, Video, Text und URLs; erkennt u. a. Face-Swaps und KI-Videomodelle
• DeepFakeDetection.io – Upload ohne Registrierung, gut für Einsteiger

Stimme und professionelle Analyse

• Reality Defender – Enterprise-Detektor mit kostenlosem API-Einstieg, vor allem Audio und Bild

Browser-Erweiterung für gründliche Recherche

• InVID & WeVerify – EU-geförderte Erweiterung mit Deepfake-Modul für registrierte Nutzer
• CERTH Deepfake-Demo – mever.iti.gr/deepfake: Forschungs-Demo für Gesichter in Bildern und Videos

Bilder und Identitäten – Rückwärtssuche

• TinEye – wo ein Bild schon im Netz auftaucht
• Google Lens – ähnliche Bilder und Quellen finden

Grenzen jeder automatischen Prüfung

• Neue KI-Modelle sind Detektoren oft einen Schritt voraus
• Stark komprimierte Clips aus WhatsApp oder TikTok liefern schlechtere Ergebnisse
• Falsch-Meldungen sind möglich – echte Videos werden manchmal fälschlich als KI eingestuft
• Telefonate lassen sich live kaum sicher prüfen – Zurückrufen und Codewort schlagen jeden Detektor

So schützt du dich

1. Misstraue Geldversprechen – auch von vertraut wirkenden Gesichtern.
2. Links und Absender prüfen – mit dem Fake-Checker, Medien mit Detektoren oben.
3. Am Telefon nicht sofort zahlen – zurückrufen über bekannte Nummern.
4. Offizielle Kanäle checken – bestätigt die echte Person oder Firma die Aktion?
5. Nicht unter Druck handeln – Deepfake-Betrug lebt von Eile.

Was tun, wenn du gezahlt hast?

• Sofort stoppen – keine weiteren Gebühren
• Bank oder Krypto-Börse informieren
• Screenshots, URL und Video sichern
• Polizei – in vielen Bundesländern online über Online-Strafanzeige
• Verbraucherzentrale bei dubiosen Verträgen

Medien oder Link – beides richtig prüfen

Verdächtiges Video? Hochladen bei einem Detektor oben. Verdächtige Webadresse, Nachricht oder Telefonnummer dazu? In den Fake-Checker auf der Startseite einfügen – genau dafür ist er da.