Eine Frist, die nicht aufgeschoben werden kann
Die KI-Verordnung / AI Act ist keine Regulierung mehr, die am Horizont wartet. Sie ist im August 2024 in Kraft getreten und wird in Phasen angewendet — wobei der entscheidende Meilenstein für die meisten Organisationen der 2. August 2026 ist, an dem die Pflichten für Hochrisiko-KI-Systeme vollständig durchsetzbar werden. Wenn Ihr Unternehmen KI in den Bereichen Einstellung, Kreditwürdigkeitsprüfung, Zugang zu wesentlichen Diensten, kritische Infrastruktur oder Strafverfolgung einsetzt, ist dieses Datum Ihre Compliance-Frist.
Der Druck wird durch das Tempo der KI-Einführung verstärkt. Werkzeuge wurden bereichsübergreifend eingesetzt — Kundenservice-Automatisierung, Betrugserkennung, HR-Analysen, Vertragsüberprüfung — oft ohne systematische Prüfung, ob diese Einsätze in den Anwendungsbereich des AI Act fallen. Die Lücke zwischen dem, was Organisationen betreiben, und dem, was sie bewertet haben, ist für viele erheblich.
Dieser Leitfaden vermittelt Ihnen ein klares, fundiertes Verständnis des Rahmens: die Risikokategorien, die Unterscheidung zwischen Anbieter und Betreiber, die Kernpflichten, das Zusammenspiel mit der DSGVO und eine praktische Roadmap für die notwendigen Schritte.
Das wesentliche Prinzip: Der EU AI Act verbietet KI nicht. Er schafft einen verhältnismäßigen, risikobasierten Rahmen, in dem die Pflichten, denen Sie unterliegen, vollständig davon abhängen, was Ihr KI-System tut und für wen. Das Verständnis Ihrer Risikokategorie ist der Ausgangspunkt für alles andere.
Die vier Risikokategorien
Der EU AI Act ordnet KI-Systeme in vier Kategorien ein, basierend auf dem Risiko, das sie für Grundrechte, Gesundheit und Sicherheit darstellen. Ihre Pflichten — und Ihre Haftungsexposition — ergeben sich unmittelbar daraus, welche Kategorie auf Ihre Systeme zutrifft.
Verbotene KI-Praktiken
Eine kleine, aber wichtige Kategorie von KI-Anwendungen ist als unvereinbar mit den Werten der EU vollständig verboten. Zu den verbotenen Praktiken zählen: unterschwellige Manipulationstechniken, die kognitive Schwachstellen ausnutzen; die Ausnutzung spezifischer schutzbedürftiger Gruppen zur Verhaltensverzerrung; Social Scoring durch Behörden, das zu diskriminierender Behandlung führt; biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken (mit eng definierten Ausnahmen); Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen; biometrische Kategorisierung zur Ableitung sensibler Merkmale wie politischer Ansichten oder sexueller Orientierung; Predictive Policing, das sich ausschließlich auf individuelle Profilerstellung stützt; und das gezielte Scraping von Gesichtsbildern zum Aufbau von Erkennungsdatenbanken.
Verstöße können mit Bußgeldern von bis zu EUR 35 Millionen oder 7 % des weltweiten Jahresumsatzes belegt werden, je nachdem, welcher Betrag höher ist. Diese Bestimmungen galten ab dem 2. Februar 2025 — sie sind bereits in Kraft.
Hochrisiko-KI-Systeme
Hochrisiko-Systeme sind nicht verboten, unterliegen jedoch den anspruchsvollsten Pflichten des AI Act. Anhang III der Verordnung legt acht Bereiche fest, in denen KI als Hochrisiko eingestuft wird:
- Biometrie — biometrische Fernidentifizierung, Emotionserkennung, biometrische Kategorisierung, die nicht bereits verboten ist
- Kritische Infrastruktur — KI im Management von Wasser-, Gas- und Stromnetzen, digitaler Infrastruktur und Verkehr
- Bildung und Ausbildung — KI zur Bestimmung des Bildungszugangs, zur Bewertung von Lernenden oder zur Überwachung von Lernenden
- Beschäftigung und Arbeitskräftemanagement — KI im Bereich Personalbeschaffung, Kandidatenscreening, Leistungsbewertung, Arbeitszuteilung und Kündigung
- Wesentliche private und öffentliche Dienste — Kreditwürdigkeitsbewertung, Versicherungsrisikobeurteilung, Anspruchsberechtigung auf Sozialleistungen, Notfalldienstentsendung
- Strafverfolgung — KI zur Risikobewertung von Personen, Polygrapheinsatz, Verbrechensanalyse, Beweisbewertung
- Migration, Asyl und Grenzkontrolle — Risikobewertungsinstrumente, Dokumentenverifizierung, Prüfung von Anträgen
- Rechtspflege und demokratische Prozesse — KI zur Unterstützung von Gerichten und Schiedsstellen bei der Rechtsanwendung auf Sachverhalte
Für Unternehmen in Luxemburg sind die praktisch bedeutsamen Kategorien Beschäftigung, wesentliche private Dienste (Kredit und Versicherung) sowie kritische Infrastruktur. Wenn Ihre Organisation algorithmische Instrumente für Einstellungsentscheidungen, Kreditwürdigkeitsbewertungen oder Fraud-Scoring einsetzt, das Einzelpersonen wesentlich betrifft, betreiben Sie mit an Sicherheit grenzender Wahrscheinlichkeit ein Hochrisiko-KI-System.
Systeme mit begrenztem Risiko: Transparenzpflichten
Systeme, die nicht als Hochrisiko eingestuft werden, aber direkt mit Menschen interagieren — Chatbots, Deepfake-generierende Werkzeuge, KI-gestützte Inhaltssysteme — tragen Transparenzpflichten. Nutzer müssen darüber informiert werden, dass sie mit einer KI interagieren oder dass Inhalte KI-generiert sind. Anbieter von Allzweck-KI-Modellen mit systemischem Risiko unterliegen zudem zusätzlichen Pflichten nach Titel VIII des AI Act.
Systeme mit minimalem Risiko
Die große Mehrheit der KI-Anwendungen — Spam-Filter, Empfehlungssysteme, Bildklassifikatoren in nicht sensiblen Kontexten — fällt in diese Kategorie. Es gelten keine spezifischen Pflichten über das allgemeine Produktsicherheits- und Verbraucherschutzrecht hinaus. Dennoch wären Organisationen, die Systeme mit minimalem Risiko einsetzen, gut beraten, eine grundlegende Dokumentation zu pflegen, für den Fall einer Neuklassifizierung, wenn sich die regulatorische Landschaft weiterentwickelt.
Anbieter vs. Betreiber: Warum die Unterscheidung entscheidend ist
Der EU AI Act etabliert ein Lieferkettenmodell mit klar unterschiedenen Rollen und entsprechenden Pflichten. Zu verstehen, wo Ihre Organisation steht, ist unerlässlich, um genau zu wissen, was Sie tun müssen.
Ein Anbieter ist jede natürliche oder juristische Person, die ein KI-System oder ein Allzweck-KI-Modell entwickelt und es unter eigenem Namen oder Warenzeichen auf dem Markt bereitstellt oder in Betrieb nimmt — ob gegen Entgelt oder kostenlos. Anbieter von Hochrisiko-KI-Systemen tragen die schwersten Pflichten: Konformitätsbewertung, CE-Kennzeichnung, Registrierung in der EU-Datenbank und laufende Marktüberwachung.
Ein Betreiber ist jede natürliche oder juristische Person, die ein KI-System in einem professionellen Kontext unter eigener Verantwortung einsetzt. Wenn Ihr Unternehmen ein KI-gestütztes HR-Screening-Tool von einem Anbieter erwirbt und es zum Filtern von Stellenbewerbern einsetzt, sind Sie der Betreiber. Betreiber haben eigene Pflichten, die sich von denen des Anbieters unterscheiden, diese aber ergänzen.
Diese Unterscheidung ist in der Praxis bedeutsam, weil die meisten Unternehmen in Luxemburg Betreiber und keine Anbieter sind. Sie entwickeln KI möglicherweise nicht — aber wenn Sie als Hochrisiko eingestufte KI-Systeme einsetzen, fallen Sie in den Anwendungsbereich und können sich nicht einfach auf die Compliance Ihres Anbieters als Ersatz für Ihre eigene verlassen.
Zu den wesentlichen Betreiberpflichten für Hochrisiko-Systeme zählen: Umsetzung der vom Anbieter spezifizierten menschlichen Aufsichtsmaßnahmen; Überwachung des Betriebs und Meldung schwerwiegender Vorfälle; Sicherstellung, dass Eingabedaten dem Verwendungszweck des Systems entsprechen; Führung von Betriebsprotokollen, soweit technisch möglich; sowie die Information von Personen, dass sie einem Hochrisiko-KI-System unterliegen, mit Zugang zu Erklärung und menschlicher Überprüfung, soweit anwendbar. Bestimmte Betreiber im öffentlichen Interesse müssen vor dem Einsatz zudem eine Grundrechte-Folgenabschätzung durchführen.
Kernpflichten für Hochrisiko-KI-Systeme
Für Anbieter von Hochrisiko-KI-Systemen definiert der AI Act fünf ineinandergreifende Compliance-Säulen. Betreiber sind dafür verantwortlich, dass diese im Betrieb aufrechterhalten werden; Anbieter müssen sie von Anfang an im Design berücksichtigen.
Risikomanagementsystem (Artikel 9)
Ein kontinuierliches, iteratives Risikomanagementsystem ist über den gesamten Lebenszyklus des KI-Systems erforderlich — keine einmalige Überprüfung vor dem Einsatz. Es muss die Identifikation und Analyse bekannter und vorhersehbarer Risiken, deren Bewertung und Minderung sowie die Beurteilung von Restrisiken umfassen. Das System muss dokumentiert, getestet und anhand von Betriebserfahrungen aktualisiert werden.
Daten und Daten-Governance (Artikel 10)
Trainings-, Validierungs- und Testdatensätze müssen Governance-Praktiken unterliegen, die Eignung für den vorgesehenen Zweck, potenzielle Verzerrungen, demografische Vielfalt und Vollständigkeit berücksichtigen. Organisationen können Modelle nicht mit beliebig verfügbaren Daten trainieren; sie müssen nachweisen, dass die Daten zweckgeeignet waren und auf Verzerrungen überwacht wurden.
Technische Dokumentation und Aufzeichnungspflichten (Artikel 11–12)
Anbieter müssen vor dem Inverkehrbringen eines Hochrisiko-Systems eine umfassende technische Dokumentation erstellen — die den vorgesehenen Zweck, die Architektur, die in der Entwicklung verwendeten Daten, Leistungskennzahlen, Risikomaßnahmen und Pläne zur Marktüberwachung abdeckt. Betreiber müssen Betriebsprotokolle in dem technisch möglichen Umfang führen, die für die Untersuchung von Vorfällen und regulatorische Prüfungen unerlässlich sind.
Transparenz und Informationsbereitstellung (Artikel 13)
Hochrisiko-KI-Systeme müssen ausreichend transparent sein, damit Betreiber Ausgaben korrekt interpretieren können. Anbieter müssen Gebrauchsanweisungen bereitstellen, die vorgesehenen Zweck, Genauigkeitskennzahlen, bekannte Einschränkungen, Aufsichtsanforderungen und Validierungsbedingungen abdecken. Eine sinnvolle menschliche Aufsicht ist ohne diese Informationen unmöglich.
Menschliche Aufsicht (Artikel 14)
Die wohl anspruchsvollste Pflicht aus betrieblicher Sicht. Mit der Aufsicht betraute Personen müssen in der Lage sein, die Fähigkeiten und Grenzen des Systems zu verstehen, Anomalien zu überwachen und — entscheidend — befugt sein, einzugreifen, zu übersteuern oder das System zu stoppen. Ein Pro-forma-Verfahren durch eine Person ohne den Kontext oder die Befugnis, ein Ergebnis zu hinterfragen, stellt keine sinnvolle menschliche Aufsicht im Sinne des AI Act dar.
Genauigkeit, Robustheit und Cybersicherheit (Artikel 15)
Hochrisiko-KI-Systeme müssen eine für ihren vorgesehenen Zweck angemessene Genauigkeit erreichen und gegenüber Fehlern, Störungen und feindlichen Manipulationen widerstandsfähig sein. Für Cybersicherheitsteams schafft dies eine direkte Verbindung zur KI-Governance: Prompt-Injection, Model-Poisoning und Evasion-Angriffe sind regulatorische Risiken ebenso wie Sicherheitsrisiken. Sicherheitstests von KI-Systemen sind für Hochrisiko-Anwendungen keine optionale Maßnahme.
Der stufenweise Zeitplan: Wo wir jetzt stehen
Der EU AI Act gilt in Etappen, nicht auf einen Schlag. Das Verständnis des Zeitplans verhindert sowohl verfrühte Panik als auch gefährliche Selbstzufriedenheit.
- 1. August 2024: Der AI Act ist in Kraft getreten.
- 2. Februar 2025: Verbotene KI-Praktiken und Governance-Pflichten für Allzweck-KI-Modelle wurden anwendbar.
- 2. August 2026: Die wichtigsten Pflichten für Hochrisiko-KI-Systeme aus Anhang III werden anwendbar — die primäre Frist für die meisten Unternehmen.
- 2. August 2027: Pflichten für Hochrisiko-KI-Systeme, die in Produkte eingebettet sind, die bereits unter EU-Produktsicherheitsrecht (Anhang I) fallen, werden anwendbar.
Da der August 2026 nun unmittelbar bevorsteht, ist der Aufbau eines compliant-Programms von Grund auf in den letzten Wochen vor der Durchsetzung keine tragfähige Strategie.
EU AI Act und DSGVO: Komplementär, nicht redundant
Viele KI-Compliance-Fragen liegen an der Schnittstelle von AI Act und DSGVO, und zu verstehen, wie die beiden Rahmenwerke zusammenwirken, ist unerlässlich, um sowohl Lücken als auch doppelten Aufwand zu vermeiden.
DSGVO und EU AI Act sind komplementäre Rahmenwerke, keine Alternativen. Beide gelten gleichzeitig für KI-Systeme, die personenbezogene Daten verarbeiten — in der Praxis die Mehrheit der Hochrisiko-KI-Systeme. In Luxemburg können sowohl die nationale AI-Act-Aufsichtsbehörde als auch die CNPD Zuständigkeit für denselben Einsatz haben.
Drei DSGVO-Bestimmungen sind von besonderer Relevanz:
- Artikel 22 gibt Einzelpersonen das Recht, nicht ausschließlich automatisierten Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung unterworfen zu werden. Betreiber von Hochrisiko-KI-Systemen müssen sicherstellen, dass die Garantien aus Artikel 22 — menschliche Überprüfung, Recht auf Erläuterung, Widerspruchsrecht — operativ umgesetzt sind und nicht nur in einer Datenschutzerklärung stehen.
- Artikel 35 (DSFA): Automatisierte Entscheidungsfindung mit erheblichen Auswirkungen und groß angelegte Verarbeitung sensibler Daten lösen beide DSFA-Anforderungen aus. Wenn Ihr KI-System Hochrisiko ist, werden Sie mit an Sicherheit grenzender Wahrscheinlichkeit eine DSFA benötigen. Die beiden Bewertungen weisen erhebliche analytische Überschneidungen auf — Risikoidentifizierung, Notwendigkeit und Verhältnismäßigkeit, Schutzmaßnahmen — und sollten sich gegenseitig informieren, anstatt als völlig parallele Übungen zu laufen.
- Datensparsamkeit und Zweckbindung (Artikel 5–6) schränken die durch Artikel 10 des AI Act geforderte Daten-Governance unmittelbar ein. Trainingsdatensätze, die übermäßige oder zweckentfremdete personenbezogene Daten enthalten, schaffen gleichzeitige DSGVO- und AI-Act-Exposition.
Die Implikation für Organisationen in Luxemburg: KI-Governance und Datenschutz-Governance müssen integriert werden. Ihr bestehendes DSGVO-Programm — DSFAs, Verzeichnisse nach Artikel 30, Rechtsgrundlagenprüfungen — ist eine Grundlage, reicht aber allein nicht aus.
Sanktionen und Durchsetzung
Der EU AI Act wird auf EU-Ebene durch das EU AI Office und in den einzelnen Mitgliedstaaten durch nationale zuständige Behörden durchgesetzt. Luxemburg hat seine nationale Behörde benannt, die neben der CNPD tätig ist, wenn KI-Systeme auch personenbezogene Daten verarbeiten.
Sanktionen sind nach Schwere gestaffelt. Verstöße gegen verbotene Praktiken können mit Bußgeldern von bis zu EUR 35 Millionen oder 7 % des weltweiten Jahresumsatzes geahndet werden. Nicht-Konformität mit Hochrisiko-Systempflichten kann Bußgelder von bis zu EUR 15 Millionen oder 3 % des Umsatzes nach sich ziehen. Die Bereitstellung unrichtiger oder irreführender Informationen gegenüber Behörden kann zu Bußgeldern von bis zu EUR 7,5 Millionen oder 1 % des Umsatzes führen. Für KMU und Start-ups sieht die Verordnung eine verhältnismäßige Anwendung vor, die inhaltlichen Pflichten gelten jedoch gleichermaBen.
Eine praktische Roadmap: Was jetzt zu tun ist
Für Organisationen, die ihre AI-Act-Compliance-Journey noch nicht begonnen haben — oder begonnen haben, aber kein strukturiertes Programm vorweisen können — bietet die folgende Abfolge eine umsetzbare Roadmap.
Schritt 1: KI-Inventar
Erstellen Sie ein strukturiertes Inventar aller im gesamten Unternehmen eingesetzten KI-Systeme. Gehen Sie über IT-verwaltete Tools hinaus — KI ist in SaaS-Plattformen, Abteilungswerkzeuge und Anbieter-APIs eingebettet. Erfassen Sie, was jedes System tut, den Anbieter, die verarbeiteten Daten und die informierten Entscheidungen.
Schritt 2: Risikoklassifizierung
Wenden Sie das Klassifizierungsrahmenwerk des AI Act auf jedes System an. Ist es verboten? Fällt es in einen Hochrisiko-Bereich nach Anhang III? Löst es Transparenzpflichten aus? Viele Systeme werden in die minimale Risikokategorie fallen und nur eine grundlegende Dokumentation erfordern. Hochrisiko-Systeme erfordern einen eigenen Compliance-Workstream.
Schritt 3: Rollenbestimmung
Bestätigen Sie für jedes Hochrisiko-System, ob Ihre Organisation der Anbieter, der Betreiber oder beides ist. Wenn Sie Betreiber eines Drittanbietersystems sind, beschaffen Sie sich die technische Dokumentation und die Konformitätsbewertung des Anbieters. Ein Anbieter, der keine angemessene Dokumentation liefern kann, ist selbst ein Compliance-Risiko.
Schritt 4: KI-Governance-Rahmen
Etablieren Sie eine interne Governance, die Ihrem KI-Footprint entspricht: eine KI-Richtlinie, die akzeptable Nutzung und verbotene Praktiken darlegt; eine dedizierte KI-Compliance-Funktion oder einen Ausschuss mit klarer Verantwortlichkeit; dokumentierte Verfahren für das Onboarding von KI-Systemen, Risikobewertung, Überwachung und Außerbetriebnahme; sowie einen Incident-Response-Prozess, der die Meldepflichten gemäß AI Act abdeckt.
Schritt 5: Anbieter-Due-Diligence
Behandeln Sie KI-Compliance als eine Standardfrage des Lieferantenmanagements neben Cybersicherheit und Datenschutz. Fragen Sie Anbieter direkt: Ist dieses System gemäß AI Act hochriskant? Wurde die Konformitätsbewertung abgeschlossen? Können Sie die technische Dokumentation nach Artikel 11 liefern? Was sind die validierten Genauigkeitsbedingungen? Anbieter, die diese Fragen nicht mit Belegen beantworten können, stellen ein Compliance-Risiko dar.
Schritt 6: Integration von DSFA und KI-Risikobewertung
Koordinieren Sie für Hochrisiko-KI-Systeme, die auch personenbezogene Daten verarbeiten — was auf die meisten zutrifft — Ihre AI-Act-Risikomanagement-Dokumentation mit Ihrem DSGVO-DSFA-Prozess. Binden Sie Ihren Datenschutzbeauftragten frühzeitig ein. Die Überschneidungen bei Daten-Governance, Notwendigkeitsprüfungen und Rechtsschutzmaßnahmen machen eine integrierte Dokumentation sowohl effizienter als auch kohärenter.
Schritt 7: Umsetzung der menschlichen Aufsicht
Behandeln Sie menschliche Aufsicht nicht als bloße Richtlinienaussage. Ordnen Sie jedes Hochrisiko-KI-System bestimmten Personen zu, die für die Aufsicht verantwortlich sind, stellen Sie sicher, dass diese die Schulung haben, Ausgaben zu interpretieren und Anomalien zu erkennen, und vergewissern Sie sich, dass sie die Befugnis und die praktischen Mittel haben, in das System einzugreifen oder es zu stoppen. Führen Sie Testszenarien durch, um zu bestätigen, dass der Aufsichtsprozess tatsächlich funktioniert.
Schritt 8: Laufende Überwachung
AI-Act-Compliance ist kein Projekt mit einem Enddatum. Hochrisiko-KI-Systeme müssen während ihrer gesamten Betriebsdauer überwacht werden. Etablieren Sie einen Überwachungsrhythmus, definieren Sie, was einen meldepflichtigen Vorfall darstellt, und bauen Sie eine Rückkopplungsschleife zwischen Betriebserfahrung und Risikomanagement-Dokumentation auf.
Die Luxemburger Dimension
Luxemburgs Finanzdienstleistungszentrum — das Fondsadministration, Bankwesen, Versicherungen und Zahlungsdienstleistungen umfasst — bedeutet, dass mehrere Hochrisiko-KI-Bereiche lokal unmittelbar relevant sind: Kreditwürdigkeitsbewertung, Versicherungsrisikobeurteilung und Fondsmanagement-Analysen. Organisationen, die bereits DSGVO-Fragen mit der CNPD navigieren und DORA sowie NIS2 mit der CSSF bearbeiten, werden die strukturellen Grundlagen als vertraut empfinden. Risikobewertung, Dokumentation, Governance und Third-Party-Due-Diligence sind konsistente Themen in all diesen Rahmenwerken. Die Compliance-Infrastruktur, die Sie bereits aufgebaut haben, ist nicht verschwendet — sie ist das Fundament, auf dem KI-Governance aufgebaut werden muss.
Wie ObsidianCorps helfen kann
ObsidianCorps arbeitet mit Unternehmen in Luxemburg und der EU zusammen, die KI-Governance neben ihren übergreifenden Cybersicherheits- und Compliance-Verpflichtungen navigieren. Unsere Beratungspraxis umfasst Prüfungen zur AI-Act-Anwendbarkeit, KI-Inventar und -Klassifizierung, KI-Risikomanagement-Dokumentation, Anbieter-Due-Diligence-Rahmen und die Integration von KI-Governance in bestehende DSGVO- und Informationssicherheitsprogramme.
Wenn Sie der Frist des 2. August 2026 mit Lücken in Ihrer KI-Compliance-Postur gegenüberstehen, ist jetzt der richtige Zeitpunkt für eine strukturierte Bewertung. Kontaktieren Sie uns, um zu besprechen, wo Ihre Organisation steht und wie eine verhältnismäßige, wirksame Reaktion für Ihren spezifischen KI-Footprint aussieht.
