Sovereign AI

Heißt auch Souveräne KI oder KI-Souveränität.

Anspruch auf eigene Kontrolle über Daten, Technik, Betrieb und Rechtsraum einer KI.

Sovereign AI, auf Deutsch souveräne KI, bezeichnet die Fähigkeit einer Organisation oder eines Staates, KI selbstbestimmt einzusetzen und dabei die Kontrolle über Daten, Technik und Betrieb zu behalten. Was genau gemeint ist, schwankt je nach Sprecher erheblich, daher der Marker „Uneinheitlich“. Der europäische Bewertungsrahmen für Cloud-Beschaffung unterscheidet dafür mehrere Dimensionen und abgestufte Souveränitätsniveaus; eine gesetzliche Definition jeder „souveränen KI“ ist das nicht. Europäische Kommission: Cloud Sovereignty Framework

Vier Fragen, die selten alle zugleich gemeint sind

Datensouveränität: Wer bestimmt über Verarbeitung, Zugriff, Löschung und zulässige Zwecke?
Technologische Souveränität: Wie abhängig sind wir von der Technik eines Anbieters, und wie leicht kommen wir wieder heraus?
Operative Souveränität: Können wir das System mit eigenem Wissen, Personal und eigener Dokumentation weiterbetreiben?
Rechtliche Souveränität: Welchen Rechtsordnungen und Herausgabepflichten unterliegt es?

Ein Dienst kann in Deutschland laufen und trotzdem auf einem Modell beruhen, das anderswo trainiert wurde und dessen Gewichte niemand einsehen kann. Vollständige Unabhängigkeit ist ein sehr weitgehendes Ziel: Auch ein selbst betriebenes System hängt an Hardware, Software, Modelllizenzen und Updates. Aussagekräftiger als das Etikett „souverän“ ist deshalb die Liste der konkreten Abhängigkeiten.

So kannst du dir das vorstellen

Stell dir ein Archiv mit vertraulichen Unterlagen vor. Für seine Souveränität zählt nicht nur, in welchem Land das Gebäude steht. Du willst wissen, wer die Schlüssel besitzt, wer Unterlagen einsehen darf, wer die Schließanlage wartet, ob jemand von außen Zugang erzwingen kann und ob du das Archiv weiterbetreiben oder umziehen kannst, wenn der Dienstleister ausfällt.

Bei einer KI entsprechen die Unterlagen deinen Daten, die Schlüssel den Zugriffsrechten und Verschlüsselungsschlüsseln, die Schließanlage der Infrastruktur. Das Bild zeigt das Zusammenspiel der vier Fragen, es ersetzt keine Prüfung eines konkreten Angebots.

Was „Daten verlassen die sichere Umgebung nicht“ bedeutet

Das ist eine Anforderung an die Architektur und keine Eigenschaft, die aus dem Wort „souverän“ folgt. Zuerst muss feststehen, was zur freigegebenen Umgebung gehört: ein einzelner Rechner, das Firmennetz, das eigene Rechenzentrum, eine abgegrenzte Cloud-Umgebung oder ein bestimmter Rechtsraum.

Danach zählt der ganze Verarbeitungspfad und nicht die sichtbare Chat-Oberfläche. Zu prüfen sind Ein- und Ausgaben, der Ort der eigentlichen Modellberechnung samt möglicher Ausweichdienste, angebundene Komponenten wie Dokumentenerkennung oder Suche, Betriebsdaten in Logs und Telemetrie, Zwischenspeicher und Backups, Zugriffe im Betrieb und Support sowie die Frage, ob Inhalte nur für den Auftrag verwendet werden. Eine Oberfläche im Firmennetz sagt für sich genommen nichts darüber, wo gerechnet wird.

Auch ein Fernzugriff zählt: Werden personenbezogene Daten einer Organisation in einem Drittstaat zugänglich gemacht, kann bereits das eine Drittlandübermittlung sein, ohne dass eine Datei kopiert wird. EDPB: Leitlinien 05/2021 zum Zusammenspiel von Artikel 3 und Kapitel V DSGVO

Lokal, eigenes Rechenzentrum oder Cloud

Keine der drei Betriebsformen beantwortet die Frage allein. Lokal auf einem Rechner ermöglicht Verarbeitung ohne externen KI-Dienst, lässt aber ausgehende Verbindungen, Gerätesicherheit und Modellabhängigkeiten offen. On-Premises gibt direkte Kontrolle über Infrastruktur und Betrieb und verlagert die Fragen auf Wartung, Berechtigungen, Lizenzen und externe Supportzugriffe. Eine extern betriebene Cloud kann Souveränitätsanforderungen vertraglich und technisch erfüllen, wirft dafür Fragen nach Betreiberkontrolle, Rechtsraum, Unterauftragnehmern, Schlüsselverwaltung und Wechselmöglichkeit auf.

Der Unterschied liegt also nicht bei „Cloud oder nicht“, sondern bei der tatsächlich verbleibenden Kontrolle.

Was das in der Praxis konkret bedeutet

„Wir wollen souveräne KI“ ist ein Ziel, kein Kriterium. Daraus müssen überprüfbare Anforderungen werden, und ein Angebot sollte dazu nachvollziehbare Angaben liefern statt eines Schlagworts.

Acht Fragen tragen die Entscheidung: Welche Daten darf die KI verarbeiten und wie schutzbedürftig sind sie? Welche Verarbeitungsorte und Zugriffe sind erlaubt? Welche Dienstleister und Unterauftragnehmer sind beteiligt? Welche externen Verbindungen und Ausweichmechanismen gibt es? Wer kontrolliert Berechtigungen und Schlüssel? Können wir Daten exportieren, das Modell wechseln und den Betrieb fortführen? Welche Anforderungen aus DSGVO und AI Act gelten? Und welche technischen Nachweise und vertraglichen Zusagen belegen das alles?

Wo es verwechselt wird

Souverän heißt nicht lokal. Der Betriebsort betrifft die Verarbeitung, Souveränität umfasst zusätzlich technische, operative und rechtliche Kontrolle. „In der EU gespeichert“ heißt nicht „nur aus der EU zugänglich“, und ein europäischer Anbieter hat trotzdem Unterauftragnehmer und Lieferketten. Offene Lizenzen fördern Transparenz und Anpassbarkeit, beantworten aber Hosting, Betrieb und Datenzugriff nicht. „Keine Nutzung für Training“ ist eine Aussage über den Zweck und keine über den Ort der Verarbeitung.

Auch der Firmensitz entscheidet wenig. Aus ihm folgt nicht, wohin eine Anwendung Daten übermittelt, und eine europäische Serverregion schließt einen Drittlandzugriff nicht aus. Der US CLOUD Act verpflichtet bestimmte Anbieter unter US-Gerichtsbarkeit auf Grundlage gültiger Verfahren zur Herausgabe von Daten in ihrem Besitz oder unter ihrer Kontrolle, unabhängig vom Speicherort. Ein möglicher Herausgabeanspruch ist dabei etwas anderes als eine laufende Übermittlung, und Übermittlungen in die USA sind nicht verboten: Die DSGVO verlangt dafür eine Grundlage wie einen Angemessenheitsbeschluss oder Standardvertragsklauseln.

Zuletzt ist souveräne KI keine Risikoklasse im AI Act, und lokaler Betrieb befreit nicht von dessen Pflichten. Was dort gilt, steht im eigenen Eintrag dazu.