Data Exfiltration

Data Exfiltration ist der unerlaubte Abfluss von Daten aus dem Bereich, in dem sie bleiben sollten. Bei KI-Anwendungen ist das eines der Ziele von eingeschleusten Anweisungen: Ein Modell, das Zugriff auf interne Inhalte hat und zugleich nach außen wirken kann, ist ein möglicher Abflusskanal. Greshake et al.

Der Weg nach draußen ist oft ein Werkzeug

Abfließen können Daten überall dort, wo ein System etwas sendet, schreibt oder abruft: eine Mail, ein Aufruf an eine fremde Schnittstelle, ein Bild, dessen Adresse Inhalte enthält, ein Eintrag in einem öffentlichen System.

Deshalb empfiehlt die Protokollspezifikation, Eingaben eines Aufrufs vor der Ausführung anzuzeigen, ausdrücklich mit dem Hinweis auf böswillige oder versehentliche Datenabflüsse. Model Context Protocol: Tools

So kannst du dir das vorstellen

Eine Mitarbeiterin mit Zugang zum Archiv und einem Faxgerät. Solange beides getrennt bleibt, passiert nichts. Wer beides hat und einer gefälschten Anweisung folgt, schickt die Akte hinaus. Das Bild erklärt die Kombination aus Zugriff und Kanal.

Was es in der Praxis bedeutet

Die wirksame Frage lautet nicht, ob ein Modell vertrauenswürdig ist, sondern welchen Weg nach draußen es überhaupt hat. Systeme, die sensible Daten lesen, sollten keine freien Netzzugriffe haben, und Empfänger oder Zieladressen sollten nicht aus verarbeiteten Inhalten übernommen werden.

Zusätzlich hilft Sichtbarkeit: Aufrufe mit ihren Argumenten anzeigen und protokollieren, damit ein ungewöhnlicher Empfänger auffällt, bevor die Übertragung läuft.

Wo es verwechselt wird

Abfluss ist nicht dasselbe wie das Speichern von Eingaben beim Anbieter: Das ist eine Frage von Verträgen und Aufbewahrung. Hier geht es um Daten, die das System selbst hinausträgt.

Verwandte Begriffe

Prompt Injection, Indirect Prompt Injection, Scoped Credentials, Sandbox, Approval Gate, Data Retention.