Deepfake

Ein Deepfake ist erzeugter oder manipulierter Bild-, Ton- oder Videoinhalt, der existierende Personen, Objekte oder Ereignisse so nachbildet, dass er fälschlich echt wirkt. Diese Bestimmung stammt aus der europäischen KI-Verordnung und ist damit nicht nur eine Beschreibung, sondern eine rechtlich anknüpfbare Definition. EU-KI-Verordnung

Es gilt eine Offenlegungspflicht

Wer ein System betreibt, das solche Inhalte erzeugt oder verändert, muss offenlegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde. Ausnahmen gelten für Strafverfolgung und, in abgeschwächter Form, für erkennbar künstlerische, satirische oder fiktionale Werke.

Technisch unterscheidet sich ein Deepfake nicht von anderen erzeugten Medien; dieselben Verfahren erzeugen harmlose Produktbilder und täuschende Aufnahmen. Blattmann et al. Der Unterschied liegt im Bezug auf eine reale Person und in der Absicht.

So kannst du dir das vorstellen

Ein Zitat, das jemand nie gesagt hat, aber in seiner Stimme und mit seinem Gesicht. Das Medium trägt die Glaubwürdigkeit, die es früher verdient hat. Das Bild erklärt den Vertrauensverlust, es ist keine Anleitung.

Was es in der Praxis konkret bedeutet

Zwei Ebenen sind zu trennen. Als Erzeuger: Wenn dein Unternehmen synthetische Medien mit Personenbezug einsetzt, etwa Stimmen in Schulungsvideos, gehören Kennzeichnung und Einwilligung dazu. Als möglicher Betroffener: Feste Rückkanäle für Freigaben, Kennzeichnung eigener Veröffentlichungen und eine vorbereitete Reaktion für den Fall, dass ein gefälschtes Video kursiert.

Wo es verwechselt wird

Nicht jedes erzeugte Bild ist ein Deepfake; entscheidend ist der Bezug auf reale Personen oder Ereignisse und der Anschein von Echtheit. Und Erkennungswerkzeuge sind keine Lösung: Ihre Zuverlässigkeit ist begrenzt, und sie hinken neuen Verfahren hinterher.

Verwandte Begriffe

Audio Generation, Video Generation, Provenance, Liar's Dividend, Text-to-Image, EU AI Act, AI Governance.