Sicherheit, Missbrauch und Governance
AI Watermarking
Einbettung von Signalen zur Kennzeichnung KI-generierter Inhalte.
AI Watermarking bettet ein für Menschen unsichtbares Signal in erzeugte Inhalte ein, das sich maschinell nachweisen lässt. Für Text wurde ein Verfahren vorgeschlagen, das vor jedem Wort eine zufällige Teilmenge des Wortschatzes bevorzugt und dadurch ein statistisch erkennbares Muster hinterlässt, ohne die Textqualität nennenswert zu beeinträchtigen. Kirchenbauer et al.
Bei Text schwieriger als bei Bildern
Für Bilder und Video sind solche Signale robuster, weil dort mehr Daten vorhanden sind. Text verliert sein Muster leicht: Umschreiben, Übersetzen oder das Zusammenkopieren aus mehreren Quellen genügen oft.
Deshalb wird parallel der andere Weg verfolgt, nämlich die Herkunft eines Inhalts mit ihm mitzuführen, statt sie in das Material einzubetten. Dafür gibt es einen Industriestandard. C2PA
So kannst du dir das vorstellen
Das Wasserzeichen im Geldschein gegenüber dem Lieferschein in der Kiste. Das eine steckt im Material, das andere begleitet es. Beides lässt sich fälschen oder entfernen, nur auf verschiedene Weise. Das Bild erklärt die zwei Ansätze.
Was es in der Praxis bedeutet
Verlass dich nicht darauf, dass fehlende Kennzeichnung menschliche Urheberschaft beweist. Für Prüfprozesse ist ein Nachweis brauchbar, ein fehlender Nachweis aber kein Gegenbeweis.
Für eigene Inhalte ist der umgekehrte Weg interessanter: Herkunftsangaben mitzuführen, etwa bei Bildern für die Öffentlichkeitsarbeit, und intern festzuhalten, welche Teile eines Dokuments mit KI entstanden sind.
Wo es verwechselt wird
Ein Wasserzeichen ist kein Erkennungsdienst für fremde Inhalte: Es weist nur nach, was ein kooperierender Anbieter markiert hat. Und Erkennungswerkzeuge, die ohne solche Markierung arbeiten, sind bei Text unzuverlässig.
Verwandte Begriffe
Provenance, Hallucination, Responsible AI, EU AI Act, AI Governance, Synthetic Data.