Zum Inhalt springen
WattWeiser

Fachkongress IT-Symposium 2026Osnabrück

Der Anruf
war nicht echt.

Ihr habt ihn gesehen. Die Stimme, das Gesicht, die vertraute Art zu sprechen. Kein Wort davon wurde so gesagt. Hier erfahrt ihr, wie wir das gebaut haben, wie nah das an einem echten Angriff ist – und was ihr ab morgen anders machen könnt.

Der Unterschied zwischen uns und einem Angreifer liegt nicht in der Technik.Er liegt in den Regeln.

Tage vom Projektstart bis zur Bühne
0
GPU-Läufe, jeder nachweislich wieder abgebaut
≈ 0
Rechenkosten in der Open Telekom Cloud
≈ 0 €
Standbild genügte für einen sprechenden Avatar
0
↓Die Geschichte in neun Kapiteln · ca. 6 Minuten

01Der Auftrag

Zeigen, wie es geht – ohne zu werden wie die, vor denen wir warnen.

Beim Fachkongress sollte niemand nur über Deepfakes reden. Ihr solltet einen erleben – mit Personen, die ihr alle kennt. Wir haben mit denselben Werkzeugen gearbeitet wie Angreifer – aber unter Regeln, die Angreifer nie einhalten würden. 19 Tage in acht Stationen:
21.10.

Regeln vor Code

Einwilligung, Kosten, Datenflüsse und Löschtermin standen fest, bevor die erste Zeile Modellcode lief.

Station 1 von 8

21.10.

Selbsttest zuerst

Alles haben wir zuerst an einer freiwilligen Testperson aus unserem Team ausprobiert – nie zuerst an anderen.

Station 2 von 8

22.–27.10.

Die Festung entsteht

Abgeschottete GPU-Umgebung in Deutschland, Rechte nach dem Minimalprinzip, Probeläufe nur mit synthetischen Daten.

Station 3 von 8

02.11.

Schriftliche Freigaben

Die Einwilligung der beteiligten Personen – für genau diese eine Vorführung und genau die freigegebenen Sätze.

Station 4 von 8

02.–04.11.

Ringen um den Mund

Rund 20 GPU-Läufe, eigenes Training, Messung Bild für Bild. Das Gesicht stimmt, der Mund noch nicht.

Station 5 von 8

05.11.

Die Abkürzung

Kommerzielle Plattform: ein Standbild, 90 Sekunden Stimme, Minuten bis zum Clip. Der Moment, der uns erschreckt hat.

Station 6 von 8

06.–09.11.

Fünf Drehbuchfassungen

Jede Änderung abgestimmt, jeder neue Satz freigegeben. Stimme, Pausen, Anrufton, Verwandlung.

Station 7 von 8

10.11.

Osnabrück

Die Vorführung live vor euch auf der Bühne – als KI-Inhalt gekennzeichnet.

Station 8 von 8

Die Technik ist für alle gleich. Die Regeln haben wir uns selbst gegeben – vor dem ersten Lauf.

02Die Festung

Eine GPU-Umgebung, die nach jedem Lauf verschwindet.

Wer mit Gesichtern und Stimmen realer Personen arbeitet, darf keine Spuren hinterlassen. In der Open Telekom Cloud in Deutschland entsteht deshalb für jeden Lauf eine eigene Umgebung – und verschwindet danach nachweislich wieder. Klickt euch durch:

Schritt 1 von 5 · Arbeitsrechner

Start

Ein Befehl startet den Lauf. Die Zugangsdaten liegen verschlüsselt im Betriebssystem, nie im Code.

Status

● Zugangsdaten aus dem Betriebssystem-Tresor

● Laufzeit-Obergrenze gesetzt

So läuft jeder der rund 20 GPU-Läufe ab.

Klingt aufwendig? Es war aufwendig. Allein die Rechte so zu schneiden, dass ein GPU-Server genau einen Speicherbereich lesen darf und sonst nichts, hat Tage gedauert. Aber nur so lässt sich belegen, dass kein Bild, kein Ton und kein Modell irgendwo liegen geblieben ist.

Infrastruktur als Code

Terraform und eine eigene Steuerung über die Cloud-API. Jede Ressource ist beschrieben, versioniert und wieder abbaubar.

Zustandsautomat

Start, Lauf, Abbau und Nachweis sind feste Zustände. Gelöscht wird nur, was die Steuerung selbst angelegt hat.

Festgeschriebene Lieferkette

Jedes Modell in fester Version, jede Gewichtsdatei per SHA-256 geprüft, Lizenzen dokumentiert. Nichts wird nachgeladen.

Freigabe-Prüfung im Code

Ist die Einwilligung abgelaufen, rendert der Server nicht. Das ist tatsächlich passiert – und war richtig so.

Messen statt Raten

Eigene Werkzeuge vermessen die Lippen Bild für Bild mit Gesichts-Landmarken und vergleichen sie mit echten Aufnahmen.

Über 500 Tests

Für Cloud-Steuerung, Bild, Ton und Schnitt. 48 Architekturentscheidungen und über 150 Nachweise sind schriftlich festgehalten.
Für die NerdsHarte FaktenServer, Netz, Modelle mit Lizenz und Status, Pipeline, Werkzeuge, Kosten.

03Das Problem

Das Gesicht war schnell da. Der Mund nicht.

Nach wenigen Tagen sprach das Gesicht. Die Identität stimmte, die Kopfbewegung auch. Aber wer genau hinsah, merkte es am Mund. Und auf einer Leinwand im Saal sieht jeder genau hin.

1

Lippensync auf eigener GPU

Ein offenes Lippensync-Modell erzeugt die ersten Clips. Gesicht und Identität: überzeugend. Der Mund: zu glatt, zu rosig, Zähne wie eine Prothese.

Gesicht ja, Mund nein

2

Eigenes Training

Wir trainieren das Modell auf die Person nach. Nach 1.000 Schritten: ruhiger, aber unschärfer. Die Messwerte werden schlechter.

Verworfen

3

Diagnose Bild für Bild

Die Ursache liegt in einem unserer eigenen Nachbearbeitungsschritte, der Lippen aus verschiedenen Bildern mischt. Gefunden durch Messung, behoben durch einen neuen Ansatz.

Ursache gefunden

4

Größere Modelle

Ein Ganzgesichts-Modell läuft auf der L4. Ein 14-Milliarden-Parameter-Modell auf einer H100 ist bis zur Durchführung vorbereitet.

Bereit – aber nicht mehr nötig

Fast echt reicht im Saal nicht. Am Telefon reicht es oft schon.

04Der Wendepunkt

Dann haben wir den Weg genommen, den ein Angreifer nehmen würde.

Parallel zur eigenen Umgebung haben wir dieselben Sätze bei kommerziellen Avatar- und Stimmplattformen erzeugt – mit gesonderter Einwilligung der Personen und dienstlicher Datenschutz-Freigabe. Das Ergebnis hat uns selbst erschreckt.

1 Bild

für einen sprechenden Foto-Avatar

≈ 90 s

Sprachprobe für einen Stimmklon

Minuten

statt Tage bis zum ersten glaubwürdigen Clip

Was wir in zwei Wochen mit eigener Infrastruktur erarbeitet hatten, lieferte eine Plattform an einem Nachmittag.

Die eigene Umgebung war deshalb nicht umsonst. Sie zeigt, wo die Grenzen offener Modelle heute liegen, und bleibt der Weg, wenn Daten Deutschland nicht verlassen dürfen. Für die Bühne aber zählte, was ein Angreifer tatsächlich nutzen würde.

05Der Feinschliff

Die letzten zehn Prozent entscheiden, ob der Saal es glaubt.

Drehbuch in fünf Fassungen

Jede Fassung mit dem Referat abgestimmt, jeder neue KI-Satz von der Person schriftlich freigegeben.

Stimme

Stimmklon aus rund 90 Sekunden Probe. Mehrere Takes je Satz, ausgewählt nach Messwerten und nach Gehör.

Der Anruf

Die Oberfläche eines Videoanrufs, wie ihr sie kennt, eigener Hintergrund, eigener Anrufton – komponiert, kein fremdes Sample.

Die Verwandlung

Vier Sekunden, in denen eine Person zur anderen wird. Der Moment, in dem ihr im Saal verstanden habt.

Offen benannt

Ein Fehler, den wir selbst gefunden haben

Ein Nachbearbeitungsschritt hat die eingebrannte KI-Kennzeichnung in einigen frühen Testclips überdeckt. Wir haben das selbst entdeckt, die betroffenen Dateien gelöscht und den Schritt so umgebaut, dass er ohne Kennzeichnung gar nicht mehr läuft. Genau dafür gibt es Nachweise und Tests.

06Der Spiegel

Gleiche Technik. Andere Regeln.

Wie nah ist das an einem echten Angriff? Sehr nah. Technisch unterscheidet sich unser Vorgehen kaum von dem eines Angreifers. Schaltet die Regeln aus und seht selbst, was übrig bleibt.

Regeln: an. Das war unsere Vorführung.

Ein Klick auf den Schalter zeigt die andere Seite.

  • Ausgangsmaterial

    Eigene Aufnahmen, mit Einwilligung gedreht.

  • Werkzeuge

    Offene Modelle und kommerzielle Plattformen.

  • Zeit

    19 Tage – der größte Teil für Sicherheit, Freigaben und Nachweise.

  • Kosten

    ≈ 13 € eigene Cloud, ≈ 45 € für Avatar- und Stimm-Plattform.

  • Einwilligung

    Schriftlich, je Satz, befristet.

  • Kennzeichnung

    In jedem Bild sichtbar.

  • Auftritt

    Vorbereitete Clips, auf der Bühne erklärt.

  • Danach

    Löschung aller Daten am 25.11.2026.

Ein Angreifer braucht keine 19 Tage. Er braucht ein öffentliches Video und einen freien Nachmittag.

07Die Folgen

Was passiert, wenn es kein Test ist.

Anweisung

Der eilige Anruf von oben

„Ich brauche die Freigabe noch heute, ich bin gleich im Termin.“ Eine Zahlung, ein Zugang, eine Ausnahme – angewiesen von einem Gesicht, das ihr alle kennt.
Desinformation

Die Aussage, die nie fiel

Ein kurzes Video einer Staatssekretärin mit einer Aussage, die sie nie gemacht hat. Verbreitet am Abend vor einer Entscheidung. Die Richtigstellung kommt zu spät.
Erpressung

Kompromat auf Bestellung

Gefälschte Aufnahmen in kompromittierenden Situationen, genutzt als Druckmittel gegen Kolleginnen und Kollegen mit Zugriff auf sensible Verfahren.
Vertrauen

Wenn nichts mehr echt sein muss

Die leiseste Folge: Auch echte Aufnahmen lassen sich als Fälschung abtun. Wer Belege braucht, muss Herkunft nachweisen können.

Das ist bereits passiert

  1. 2019Ein Energieunternehmen überweist rund 220.000 € nach einem Anruf mit geklonter Stimme des Konzernchefs.
  2. 2022Mehrere europäische Bürgermeisterinnen und Bürgermeister, darunter in Berlin, führen Videogespräche mit einem gefälschten Bürgermeister von Kiew.
  3. 2024Ein Mitarbeiter eines Ingenieurbüros in Hongkong überweist rund 25 Mio. US-Dollar – nach einer Videokonferenz, in der alle anderen Teilnehmenden Deepfakes waren.

Regeln gibt es: das Recht am eigenen Bild und Wort, das Persönlichkeitsrecht und seit August 2026 die Kennzeichnungspflicht der europäischen KI-Verordnung. Einen Angreifer hält das nicht auf – er hält sich ohnehin an keine Regeln. Schützen kann euch nur euer eigener Prozess.

08Euer Moment

Was würdet ihr tun?

Drei Situationen aus dem Arbeitsalltag. Entscheidet spontan – so, wie ihr es am Freitagnachmittag tun würdet.
Situation 1

Situation 1 von 3

Freitag, 16:40 Uhr. Eure Abteilungsleitung ruft per Video an: Eine Zahlung muss heute noch raus, sie sitzt gleich im nächsten Termin.

Situation 2

Situation 2 von 3

In einer Messenger-Gruppe kursiert ein Video der Staatssekretärin mit einer brisanten Aussage. Die ersten aus eurem Team teilen es schon.

Situation 3

Situation 3 von 3

Im Videoanruf ruckelt das Bild, der Ton ist leicht versetzt. „Schlechte Verbindung“, sagt euer Gegenüber – und bittet um Zugangsdaten.

Eure Antworten bleiben in eurem Browser. Es wird nichts gespeichert oder übertragen.

1

Rückkanal statt Bauchgefühl

Bei ungewöhnlichen Anweisungen per Anruf oder Video: auflegen und über eine bekannte Nummer zurückrufen.

2

Vier Augen, immer

Für Zahlungen, Freigaben und Zugangsdaten gilt das Vier-Augen-Prinzip – auch wenn die Leitung selbst anruft.

3

Vereinbarte Codewörter

Legt für Leitungsrunden und Krisenstäbe ein Codewort fest, das in keiner Aufnahme vorkommt.

4

Thema in die Dienstbesprechung

Wer darf was am Telefon anweisen? Klärt das, bevor es jemand anderes für euch klärt.

Auf Erkennungsmerkmale wie unscharfe Zähne oder seltsames Blinzeln solltet ihr euch nicht verlassen. Die Technik wird schneller besser, als sich Merkmale herumsprechen. Ein Rückruf über eine bekannte Nummer funktioniert dagegen immer.

09Die Regeln

Am 25. November wird alles gelöscht.

Stimmklone, Avatare, Modelle, Rohmaterial, Konten bei den Plattformen. Die Löschung wird dokumentiert.

Bis zur Löschung am 25.11.2026

  • Schriftliche Einwilligung jeder gezeigten Person – befristet und auf diese eine Vorführung begrenzt.
  • Jeder KI-erzeugte Satz einzeln freigegeben. Neue Sätze nur mit neuer Freigabe.
  • Keine öffentlich erreichbare Schnittstelle, mit der sich Stimmen oder Gesichter nachahmen lassen.
  • GPU-Server ohne Internetzugang. Einzige Ausnahme: ein Lade-Server für öffentliche Modellgewichte – ohne personenbezogene Daten, mit Prüfsummen, auf drei Stunden begrenzt.
  • Keine Gesichtsdaten, Stimmproben oder Modellgewichte in der Versionsverwaltung.
  • Kostendeckel von 50 € für die eigene Cloud, jeder Lauf im Kostenbuch.
  • Sichtbare Kennzeichnung in jeder gezeigten Sequenz.
  • Fester Löschtermin für alles Personenbezogene: 25.11.2026.
Nach dem 25. November gibt es diese Stimmen nur noch bei den Menschen, denen sie gehören.

Der Unterschied zwischen uns und einem Angreifer liegt nicht in der Technik.Er liegt in den Regeln.

Angreifer geben sich keine Regeln. Deshalb braucht eure Dienststelle eigene: Rückruf, Vier-Augen-Prinzip, Codewort. Sie kosten eine Minute.

Gebt es weiter.

Jede Kollegin und jeder Kollege, der die Regel kennt, ist ein Angriffsweg weniger. Teilt die Seite mit eurem Team – oder zeigt den QR-Code in der nächsten Dienstbesprechung.

Per E-MailLinkedIn
QR-Code zu deepfake.wattweiser.com
deepfake.wattweiser.com