Deepfakes erkennen: Was KI fälscht – und wie man sich nicht täuschen lässt
Ein Video zeigt einen bekannten Politiker, der eine Aussage trifft, die er nie getroffen hat. Die Stimme klingt vertraut und die Mimik wirkt echt. Selbst der Herzschlag im Halsbereich lässt sich inzwischen glaubwürdig simulieren. Noch vor wenigen Jahren verrieten fehlende Finger oder verwaschene Ohren solche Fälschungen zuverlässig. Doch aktuelle Modelle zeichnen Gesichter mittlerweile anatomisch korrekt und setzen Schatten stimmig. Die Vorstellung, Deepfakes seien an offensichtlichen Fehlern zu erkennen, entspricht damit einem Stand von vorgestern. Die Technik hat sich in kurzer Zeit so stark weiterentwickelt, dass selbst geschulte Augen an ihre Grenzen stoßen.
Die Menge an gefälschtem Material wächst dabei rasant weiter. Aus rund 500.000 Deepfake-Videos im Jahr 2023 wurden bis 2025 schätzungsweise acht Millionen. Das ist ein Zuwachs, der die Verbreitung der Werkzeuge widerspiegelt. Eine Studie aus dem Jahr 2025 fand heraus, dass nur 0,1 Prozent der Teilnehmenden sämtliche echten und gefälschten Medien korrekt zuordnen konnten. Genau diese Lücke zwischen gefühlter und tatsächlicher Erkennungsfähigkeit macht es notwendig, konkrete Methoden und Warnsignale zu kennen, bevor ein gefälschtes Video oder eine geklonte Stimme Schaden anrichten kann.
Wie Deepfakes technisch entstehen
Hinter dem Begriff „Deepfake“ steckt meist ein neuronales Netz. Dieses lernt aus großen Mengen an Bild- oder Videomaterial, wie sich ein Gesicht oder eine Stimme in unterschiedlichen Situationen verhält. Generative Adversarial Networks (GANs, zwei konkurrierende KI-Modelle) oder neuere Diffusionsmodelle erzeugen daraus neue Aufnahmen. Diese verschmelzen die reale Merkmale mit synthetischen Inhalten. Der Trainingsprozess läuft in wiederholten Schleifen ab. Hier wird ein Modell Fälschungen erzeugt und ein zweites Modell versucht dann, sie zu entlarven. Genau dieser Wettbewerb sorgt dafür, dass die Ergebnisse mit jeder Generation überzeugender werden und klassische Fehlerquellen verschwinden.
Für eine überzeugende Fälschung braucht es heute deutlich weniger Ausgangsmaterial als früher. Teilweise reichen wenige Sekunden Sprachaufnahme oder eine Handvoll Fotos aus sozialen Netzwerken. Cloud-Dienste und frei verfügbare Tools senken die technische Hürde so weit, dass auch Laien ohne Programmierkenntnisse Fälschungen produzieren können. Dadurch verschiebt sich das Problem von einer rein technischen Bedrohung hin zu einem Massenphänomen. Es kann potenziell jede Person mit einer Online-Präsenz betreffen. Die Kombination aus wachsender Rechenleistung und offen zugänglicher Software treibt diese Entwicklung weiter an.
Visuelle Auffälligkeiten, die noch verraten
Trotz der Fortschritte bleiben einige Schwachstellen bestehen, die bei genauem Hinsehen auffallen können. Übergänge zwischen Haaransatz und Stirn wirken bei manchen Fälschungen leicht unscharf. Auch Ränder von Brillen oder Schmuck kann das Modell nicht immer konsistent nachbilden. Zudem stimmen Reflexionen in den Augen nicht immer mit der Lichtquelle im Raum überein. Das wird bei ruhigem, konzentriertem Betrachten sichtbar. Bei einem verdächtigen Video hilft es, die Aufnahme in Zeitlupe oder als Einzelbilder anzusehen. Viele Artefakte (sichtbare Fehler im Bildmaterial) zeigen sich erst bei verlangsamter Wiedergabe.
Ein weiteres Indiz liegt im Blinzelverhalten und in der Synchronität von Lippenbewegung und Ton. Ältere Deepfakes blinzelten zu selten oder gar nicht. Trainingsdaten zeigten überwiegend offene Augen. Aktuelle Modelle haben diese Schwäche zwar größtenteils behoben, doch kleine Verzögerungen zwischen Wort und Mundbewegung fallen bei genauer Beobachtung weiterhin auf. Auch die Haut wirkt manchmal zu glatt oder zu gleichmäßig ausgeleuchtet. Das gilt besonders im Vergleich zu Hals und Händen, die von der Fälschung oft weniger sorgfältig bearbeitet werden.
Technische Erkennungsmethoden im Überblick
Neben der menschlichen Beobachtung setzen Forschungseinrichtungen zunehmend auf automatisierte Verfahren. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) und das Fraunhofer IOSB haben gemeinsam ein Verfahren namens „Real Or Render“ vorgestellt. Hier baut eine KI ein verdächtiges Bild nach und erlaubt durch entstehende Rekonstruktionsfehler Rückschlüsse auf eine Fälschung. Ergänzend analysieren Systeme Texturmuster und Frequenzsignaturen. Diese bleiben für das menschliche Auge unsichtbar, lassen sich in der Bilddatei aber statistisch nachweisen. Solche Verfahren erreichen auf öffentlichen Testdatensätzen Genauigkeitsraten von rund 95 bis 98 Prozent.
Bei Videos im echten Netzbetrieb sinkt diese Trefferquote allerdings deutlich, Studien beziffern die durchschnittliche Erkennungsrate bei alltäglichem Material auf etwa 82 Prozent, bei Audiofälschungen schwankt sie je nach Verfahren zwischen 65 und 90 Prozent. Explainable-AI-Methoden (Verfahren, die Entscheidungen von KI-Modellen nachvollziehbar machen) markieren zusätzlich, welche Bildregionen die Einstufung als Fälschung ausgelöst haben, was Prüfstellen und Redaktionen eine nachvollziehbare Begründung liefert. Diese Transparenz wird zunehmend wichtig, weil reine Wahrscheinlichkeitswerte ohne Erklärung im Ernstfall wenig Überzeugungskraft besitzen.
Audio-Deepfakes und Stimmenklone
Während visuelle Fälschungen viel Aufmerksamkeit erhalten, wächst die Bedrohung durch geklonte Stimmen mindestens ebenso schnell. Betrugsanrufe, bei denen sich jemand als Vorgesetzter oder Familienmitglied ausgibt, nutzen mittlerweile Stimmmodelle, die aus wenigen Sekunden öffentlich verfügbarem Audiomaterial trainiert wurden. Solche Anrufe wirken oft dringlich und emotional aufgeladen, etwa mit der Bitte um eine schnelle Überweisung wegen eines angeblichen Notfalls. Diese künstlich erzeugte Zeitnot soll verhindern, dass die angerufene Person in Ruhe nachdenkt oder Rückfragen stellt.
Erkennungssoftware für Audio analysiert dabei unter anderem die Atemgeräusche, die natürliche Sprachmelodie und minimale Unregelmäßigkeiten in der Tonhöhe, die synthetische Stimmen bislang nicht perfekt nachbilden. Bei Misstrauen kann man im Gespräch gezielt eine persönliche Frage stellen, die nur die echte Person beantworten kann, oder auf einem separaten Kanal wie einer bekannten Telefonnummer zurückrufen. Banken und Unternehmen schulen ihre Mitarbeitenden zunehmend darauf, bei ungewöhnlichen Zahlungsaufforderungen per Telefon grundsätzlich eine zweite Bestätigung einzuholen, bevor Geld fließt.
Verhaltensregeln für den Alltag
Neben technischen Hilfsmitteln hilft vor allem ein grundsätzlich skeptischer Umgang mit unerwarteten Video- oder Sprachnachrichten, besonders wenn sie starke Emotionen wie Angst, Empörung oder Zeitdruck auslösen sollen. Bevor Inhalte geteilt oder Handlungen ausgeführt werden, lohnt sich ein kurzer Blick auf die Quelle, das Veröffentlichungsdatum und ob seriöse Medien dieselbe Meldung ebenfalls aufgreifen. Eine schnelle Rückwärtssuche des Bildes oder ein Abgleich mit offiziellen Kanälen der abgebildeten Person schafft in vielen Fällen bereits Klarheit über die Echtheit einer Aufnahme.
Für Unternehmen empfiehlt sich zusätzlich ein klarer interner Prozess für sensible Anfragen, etwa bei Überweisungen, Passwortänderungen oder vertraulichen Informationen, der niemals allein auf einem Anruf oder einer Sprachnachricht beruht. Wasserzeichen und digitale Signaturen, wie sie einige Kamerahersteller und Plattformen inzwischen anbieten, sollen die Herkunft von Aufnahmen künftig zusätzlich absichern. Bis solche Standards flächendeckend etabliert sind, bleibt die Kombination aus gesundem Misstrauen, technischer Prüfung und einem zweiten Kommunikationskanal der wirksamste Schutz gegen gefälschte Inhalte.
Rechtliche Lage und Meldewege
Die missbräuchliche Verwendung fremder Gesichter oder Stimmen berührt in Deutschland mehrere Rechtsbereiche gleichzeitig, darunter das Recht am eigenen Bild, den Persönlichkeitsschutz und je nach Kontext auch strafrechtliche Tatbestände wie Verleumdung oder Betrug. Betroffene können zivilrechtlich gegen die Verbreitung vorgehen und in schwerwiegenden Fällen Strafanzeige stellen, wobei die Beweissicherung durch Screenshots, Links und Zeitstempel eine wichtige Rolle spielt. Plattformen sind zunehmend verpflichtet, gemeldete Inhalte zu prüfen und im Zweifel zu entfernen, auch wenn die Reaktionszeiten je nach Anbieter stark variieren.
Auf europäischer Ebene verlangt die KI-Verordnung künftig eine Kennzeichnungspflicht für synthetische Medien, sodass Nutzer erkennen sollen, wenn ein Inhalt ganz oder teilweise KI-generiert wurde. Betroffene einer Fälschung sollten den Inhalt zeitnah bei der Plattform melden und parallel dokumentieren, wo und wann die Aufnahme aufgetaucht ist. Verbraucherzentralen und spezialisierte Beratungsstellen bieten mittlerweile Unterstützung bei der Einordnung des Falls und bei den nächsten rechtlichen Schritten an.
Fazit zum Deepfake-Erkennen
