Sicherheit, Missbrauch und Governance

EU AI Act

Heißt auch AI Act, KI-Verordnung oder Verordnung (EU) 2024/1689.

Europäische KI-Verordnung, die Pflichten nach dem Risiko einer Anwendung staffelt.

Der EU AI Act ist die europäische Verordnung über künstliche Intelligenz, Rechtsgrundlage ist die Verordnung (EU) 2024/1689. Er legt fest, welche KI-Anwendungen verboten sind, welche Anforderungen für Hochrisiko-KI gelten und wann Menschen über einen KI-Einsatz informiert werden müssen. Maßgeblich ist nicht die Technik, sondern das Risiko: Einsatzzweck, mögliche Auswirkungen und die Rolle der beteiligten Organisationen entscheiden über die Pflichten. EUR-Lex: Verordnung (EU) 2024/1689, Fassung vom 27. Juli 2026

So kannst du dir das vorstellen

Ein Fahrrad, ein Lieferwagen und ein Gefahrguttransporter nehmen alle am Verkehr teil, brauchen aber nicht dieselbe Ausstattung, Prüfung und Qualifikation. Ähnlich staffelt der AI Act: Manche Verwendungen sind verboten, Anwendungen mit hohem Gefährdungspotenzial müssen strenge Anforderungen erfüllen, bei anderen muss der KI-Einsatz erkennbar sein, und für viele alltägliche Anwendungen gelten keine besonderen Hochrisiko-Anforderungen. Das Bild erklärt die Staffelung. Die Einstufung richtet sich nach den gesetzlichen Kriterien und nicht nach einer eigenen Einschätzung wie „Diese KI erscheint uns ungefährlich“.

Vier Risikobereiche, aber keine automatische Entwarnung

Üblich ist die Erläuterung anhand von vier Bereichen: unvertretbares Risiko mit der Folge eines Verbots, hohes Risiko mit umfangreichen Anforderungen, Transparenzrisiko mit Informations- und Kennzeichnungspflichten sowie minimales Risiko ohne zusätzliche Hochrisiko-Anforderungen.

Verboten sind unter festgelegten Voraussetzungen etwa schädliche Manipulation, das Ausnutzen von Verletzlichkeiten wegen Alter oder Behinderung, bestimmte Formen von Social Scoring, das ungezielte Sammeln von Gesichtsbildern für Erkennungsdatenbanken und das Ableiten von Emotionen am Arbeitsplatz. Die Tatbestände enthalten genaue Bedingungen und enge Ausnahmen, Stichwörter allein tragen keine rechtliche Bewertung.

Hochrisiko-KI betrifft unter anderem Personalgewinnung, Bildung, kritische Infrastruktur und KI in regulierten Produkten wie der Medizintechnik. Verlangt werden dort Risikomanagement, Anforderungen an die Daten, technische Dokumentation, menschliche Aufsicht sowie angemessene Genauigkeit, Robustheit und Cybersicherheit. „Minimales Risiko“ heißt dabei nicht „keine Pflichten“: Datenschutz, allgemeine Transparenzpflichten und Maßnahmen zur KI-Kompetenz können weiter greifen.

Anbieter und Betreiber haben verschiedene Pflichten

Anbieter entwickeln ein KI-System oder lassen es entwickeln und bringen es unter eigenem Namen auf den Markt. Betreiber verwenden ein System in eigener Verantwortung außerhalb einer rein privaten Tätigkeit. Wer KI entwickelt und selbst einsetzt, hat beide Rollen. „Anbieter“ meint dabei nicht nur „Verkäufer“: Auch eine kostenlose Bereitstellung oder die Inbetriebnahme für den eigenen Einsatz kann darunter fallen.

KI-Kompetenz nach Artikel 4

Artikel 4 verlangt Maßnahmen, die KI-Kompetenz bei Mitarbeitenden und anderen im eigenen Auftrag mit KI befassten Personen fördern, abgestuft nach Vorwissen, Erfahrung, Ausbildung und Einsatzkontext. Ein bestimmtes Kompetenzniveau jeder einzelnen Person muss ausdrücklich nicht garantiert werden. Als inhaltliche Orientierung dienen Fragen wie: Welche KI wird eingesetzt, wie funktioniert sie, wo liegen Chancen und Grenzen, welche Risiken müssen Beschäftigte erkennen? Europäische Kommission: AI literacy, Fragen und Antworten

Vorgeschrieben sind weder ein bestimmter Kurs noch eine Stundenzahl, ein Zertifikat oder ein „KI-Beauftragter“. Für ein Trainingsangebot ist deshalb „unterstützt die Umsetzung von Maßnahmen zur KI-Kompetenz“ belastbar, das Versprechen „macht dein Unternehmen AI-Act-konform“ dagegen nicht.

Eigene Regeln für vielseitig einsetzbare Modelle

Für Modelle mit allgemeinem Verwendungszweck, englisch General-Purpose AI oder GPAI, gelten eigene Anforderungen an technische Dokumentation, Informationen für nachgelagerte Anbieter, eine Urheberrechtsstrategie und eine öffentliche Zusammenfassung der Trainingsinhalte. Bei systemischem Risiko kommen Modellbewertungen, Risikominderung und Vorfallmeldungen hinzu. Ein vielseitiges Sprachmodell ist dadurch noch keine Hochrisiko-Anwendung, eine damit gebaute Anwendung kann es trotzdem sein.

Fristen und was der AI Omnibus verschoben hat

In Kraft ist der AI Act seit dem 1. August 2024, anwendbar wird er gestaffelt. Seit dem 2. Februar 2025 gelten die Verbote und die Regeln zur KI-Kompetenz, seit dem 2. August 2025 wesentliche Governance-Regeln und die GPAI-Vorgaben. Am 27. Juli 2026 ist der AI Omnibus in Kraft getreten und hat die Hochrisiko-Fristen verlängert: Anhang-III-Anwendungsfälle gelten ab dem 2. Dezember 2027, produktbezogene Systeme nach Anhang I ab dem 2. August 2028. Der allgemeine Anwendungsbeginn mit den Transparenzregeln liegt auf dem 2. August 2026. Europäische Kommission: AI Omnibus enters into force

Das sind die Meilensteine, nicht jede Sonder- und Übergangsregel. Ältere Übersichten nennen noch die Fristen vor dem Omnibus.

Was das in der Praxis konkret bedeutet

Die Umsetzung beginnt mit einem Überblick über die tatsächlich eingesetzten Anwendungen, nicht mit einem Zertifikat. Erfasse die Systeme, beschreibe Einsatzzweck und Betroffene, kläre die eigene Rolle, prüfe die rechtliche Einordnung, lege Zuständigkeiten fest und behalte Datenschutz, Urheberrecht und Fristen im Blick.

Warum dabei die Funktion zählt und nicht das Etikett, zeigt ein Beispiel: Lässt die Personalabteilung eine Stellenanzeige entwerfen und prüft den Text vor der Veröffentlichung, wird noch niemand bewertet. Lässt sie Bewerbungen bewerten und in eine Rangfolge bringen, beeinflusst das den Zugang zu Beschäftigung und gehört grundsätzlich zu den Hochrisiko-Anwendungsfällen. Dass am Ende ein Mensch bestätigt, hebt die Einstufung nicht auf, denn menschliche Aufsicht ist selbst eine der Anforderungen.

Wo es verwechselt wird

Der AI Act ist nicht die neue DSGVO für KI. Beide gelten nebeneinander und regeln Verschiedenes; den Datenschutzrahmen ersetzt er nicht. Er verbietet auch keine US-Anbieter, sein Anwendungsbereich erfasst Drittstaaten ausdrücklich mit. Eine allgemeine Pflicht, alle Daten in der EU zu halten, enthält er nicht; dafür sind die DSGVO-Regeln zur Drittlandübermittlung maßgeblich. Und lokaler oder souveräner Betrieb beantwortet keine der Fragen nach Einsatzzweck, Rolle und Pflichten.

Dieser Eintrag ordnet ein. Eine verbindliche Bewertung verlangt die Prüfung von Einsatzzweck, Funktionen, Rollen und aktueller Rechtslage im Einzelfall.