Slopsquatting

Slopsquatting nutzt eine Eigenheit von Codevorschlägen aus: Modelle erfinden gelegentlich Namen von Programmbibliotheken, die es nicht gibt. Wer solche Namen kennt, kann sie in den öffentlichen Paketverzeichnissen registrieren und mit Schadcode füllen. Beim nächsten Vorschlag installiert dann jemand das Paket im guten Glauben. Spracklen et al.

Aus einem Fehler wird ein Angriffsweg

Die zugrunde liegende Fehlerart ist bekannt: plausibel klingende, aber erfundene Angaben. Huang et al. Neu ist, dass diese Erfindungen wiederholbar sind. Dieselben Modelle schlagen dieselben nicht existierenden Namen immer wieder vor, was das Registrieren lohnend macht.

Der Name spielt auf das bekannte Tippfehler-Besetzen an, bei dem Angreifer auf Vertipper setzen. Hier wird nicht auf den Vertipper gesetzt, sondern auf die Erfindung des Modells.

So kannst du dir das vorstellen

Jemand fragt nach einem Fachbuch, das es nicht gibt, und bekommt vom Modell einen Titel genannt. Ein Fälscher druckt genau dieses Buch und stellt es ins Regal. Beim nächsten Mal findet der Leser es tatsächlich. Das Bild erklärt den Mechanismus, nicht die Abwehr.

Was es in der Praxis bedeutet

Für die Entwicklung heißt das: Abhängigkeiten aus Vorschlägen nicht ungeprüft installieren. Ein Blick auf Alter, Verbreitung, Herausgeber und Quellcode kostet wenig und verhindert den Fall.

Organisatorisch hilft ein eigener Paketspiegel mit geprüften Beständen und eine Liste erlaubter Abhängigkeiten. Automatisch eingerichtete Agenten, die Pakete installieren dürfen, brauchen hier besondere Aufmerksamkeit.

Wo es verwechselt wird

Der Angriff richtet sich nicht gegen das Modell, sondern gegen die Lieferkette der Software. Und es ist kein Tippfehler-Besetzen: Der Name ist keine Verwechslung, sondern eine Erfindung.

Verwandte Begriffe

Hallucination, Coding Agent, Sandbox, Provenance, Tool Allowlist.