Der AI Act (Verordnung (EU) 2024/1689, offiziell „Verordnung zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz") ist die weltweit erste umfassende KI-Regulierung. Diese Seite konzentriert sich auf die für viele Unternehmen wichtigste Cybersicherheits-Vorschrift darin: Art. 15, der Hochrisiko-KI-Systeme zu einem angemessenen Niveau an Genauigkeit, Robustheit und Cybersicherheit verpflichtet. Sie erfahren, wer betroffen ist, welche technischen Anforderungen gelten, wie sich der Zeitplan durch die „Digital-Omnibus"-Reform 2026 verschoben hat – und wie sich Art. 15 zu den NIS2-Pflichten Ihres Unternehmens verhält.
Was ist der AI Act – und was regelt Art. 15?
Der AI Act trat am 1. August 2024 in Kraft und ist – anders als die NIS2-Richtlinie – eine Verordnung: Er gilt unmittelbar in allen EU-Mitgliedstaaten, ohne dass es einer nationalen Umsetzung bedarf. Seine Pflichten gelten jedoch nicht auf einen Schlag, sondern gestaffelt in mehreren Phasen und folgen einem risikobasierten Ansatz: KI-Praktiken mit „unannehmbarem Risiko" sind vollständig verboten, „Hochrisiko"-Systeme unterliegen einem umfangreichen Pflichtenkatalog (Kapitel III), Systeme mit „begrenztem Risiko" treffen nur Transparenzpflichten, und der große Rest gilt als „minimales Risiko" und bleibt weitgehend unreguliert. Art. 15 ist Teil des Pflichtenkatalogs für Hochrisiko-KI-Systeme und verlangt, dass solche Systeme „so konzipiert und entwickelt werden, dass sie ein angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit erreichen und in dieser Hinsicht während ihres gesamten Lebenszyklus beständig funktionieren". Konkret bedeutet das: Ein Hochrisiko-KI-System muss widerstandsfähig gegen Versuche unbefugter Dritter sein, seine Nutzung, seine Ausgaben oder seine Leistung durch Ausnutzung von Schwachstellen zu verändern. Die technischen Lösungen müssen dabei den jeweiligen Umständen und Risiken angemessen sein – der AI Act schreibt keine starre Checkliste vor, sondern verlangt eine begründete, risikoproportionale Umsetzung.
In der Praxis bezieht sich das auf KI-spezifische Angriffsarten, die klassische IT-Sicherheitskonzepte nicht abdecken, u. a.:
- Data Poisoning: gezielte Manipulation der Trainingsdaten, um das Verhalten des Modells zu verfälschen.
- Model Poisoning: Manipulation des Modells selbst oder seines Trainingsprozesses, etwa bei föderiertem Lernen.
- Adversarial Examples / Evasion Attacks: gezielt präparierte Eingaben, die eine Fehlklassifikation erzwingen, ohne dass ein Mensch die Manipulation bemerkt.
- Vertraulichkeitsangriffe wie Model Extraction (Nachbau des Modells über seine Ausgaben) oder Model Inversion (Rückschluss auf sensible Trainingsdaten).
Wer ist von Art. 15 betroffen?
Die Pflicht trifft in erster Linie Anbieter (Hersteller) von Hochrisiko-KI-Systemen, da sie für Design und Entwicklung verantwortlich sind – unabhängig davon, ob sie in der EU niedergelassen sind: Der AI Act gilt auch für Anbieter außerhalb der EU, deren KI-System in der EU auf den Markt gebracht oder deren Ausgabe in der EU genutzt wird. Betreiber (Deployer), die ein solches System einsetzen, treffen ergänzende, aber eigenständige Pflichten aus Art. 26 AI Act, etwa zur laufenden Überwachung des Betriebs und zur Sicherstellung geeigneter Eingabedaten. Als Hochrisiko gelten zwei Gruppen von Systemen:
- Anhang-III-Anwendungsfälle: acht klar umrissene Bereiche, u. a. biometrische Identifizierung und Kategorisierung, Betrieb und Steuerung kritischer digitaler Infrastruktur (z. B. Wasser-, Gas-, Wärme- oder Stromversorgung), Bildung und Berufsausbildung, Beschäftigung und Personalmanagement, Zugang zu essenziellen privaten und öffentlichen Diensten, Strafverfolgung, Migration/Asyl/Grenzkontrolle sowie Rechtspflege und demokratische Prozesse.
- Sicherheitsbauteile nach Anhang I: KI-Systeme, die als Sicherheitskomponente in Produkten verbaut sind, die bereits einer EU-Produktsicherheitsregulierung unterliegen – etwa Medizinprodukte, Maschinen, Spielzeug oder Aufzüge.
Besonders relevant für NIS2-pflichtige Unternehmen: „Betrieb kritischer Infrastruktur" ist explizit einer der acht Anhang-III-Bereiche. Wer KI zur Steuerung von Energie-, Wasser- oder Verkehrsnetzen einsetzt, muss also womöglich sowohl NIS2- als auch AI-Act-Pflichten gleichzeitig erfüllen. Anbieter von Hochrisiko-Systemen müssen zudem, sobald die jeweilige Frist greift, ein Konformitätsbewertungsverfahren durchlaufen, eine CE-Kennzeichnung anbringen und das System vor Inbetriebnahme in der EU-Datenbank für Hochrisiko-KI-Systeme registrieren – Art. 15 ist dabei nur eine von mehreren inhaltlichen Anforderungen, die im Rahmen dieser Konformitätsbewertung nachzuweisen sind.
Zeitplan: Die Verschiebung durch den „Digital Omnibus" 2026
Der ursprüngliche Fahrplan sah vor, dass die Hochrisiko-Pflichten (Art. 8-15) ab dem 2. August 2026 gelten – also nahezu zeitgleich mit dem „heutigen" Stand dieser Seite. Die EU-Kommission hatte bereits im November 2025 ein Vereinfachungspaket vorgeschlagen, weil zentrale harmonisierte Normen, Leitlinien und die technische Infrastruktur der Kommission (u. a. die EU-Datenbank für Hochrisiko-Systeme) zu diesem Zeitpunkt noch nicht vollständig vorlagen und Wirtschaftsverbände vor einer Anwendung ohne ausgereifte Umsetzungshilfen gewarnt hatten. Nach Verhandlungen zwischen Parlament, Rat und Kommission wurde der Zeitplan im Sommer 2026 per Änderungsverordnung angepasst, dem sogenannten „Digital Omnibus" (Verordnung (EU) 2026/1744). Das Europäische Parlament stimmte der Einigung am 16. Juni 2026 zu, der Rat am 29. Juni 2026; die Verordnung wurde am 24. Juli 2026 im Amtsblatt veröffentlicht und trat am 27. Juli 2026 in Kraft – nur wenige Tage vor der ursprünglichen Frist.
| Pflicht | Ursprüngliches Datum | Status seit Digital Omnibus |
|---|---|---|
| Verbotene KI-Praktiken (Art. 5) | 2. Februar 2025 | unverändert in Kraft |
| Pflichten für KI-Modelle mit allgemeinem Verwendungszweck (GPAI, Art. 51-55) | 2. August 2025 | unverändert in Kraft |
| Hochrisiko-Pflichten für Anhang-III-Systeme (u. a. Art. 15) | 2. August 2026 | verschoben auf 2. Dezember 2027 |
| Hochrisiko-Pflichten für als Sicherheitsbauteil eingebettete Anhang-I-Systeme | 2. August 2027 | verschoben auf 2. August 2028 |
| Kennzeichnungspflicht für KI-generierte Inhalte (Art. 50) | 2. August 2026 | verschoben auf 2. Dezember 2026 |
Wichtig für die Praxis: Die Verbote nach Art. 5 und die GPAI-Pflichten gelten bereits unverändert seit 2025. Nur die Hochrisiko-Pflichten – und damit Art. 15 – wurden verschoben. Unternehmen sollten die zusätzliche Zeit dennoch nicht ungenutzt verstreichen lassen: Kundenanforderungen, Ausschreibungen und die eigene Lieferkette verlangen technische Robustheit häufig schon vor Ablauf gesetzlicher Mindestfristen, und die Vorbereitung – Risikoanalysen, technische Dokumentation, Testverfahren – braucht erfahrungsgemäß mehr Zeit als geplant.
Sanktionen bei Verstößen
Art. 99 AI Act sieht ein dreistufiges Bußgeldsystem vor, das von der Verschiebung der Hochrisiko-Fristen unberührt bleibt:
- Verbotene KI-Praktiken (Art. 5): bis zu 35 Mio. € oder 7 % des weltweiten Jahresumsatzes – je nachdem, welcher Betrag höher ist.
- Sonstige Pflichtverstöße, einschließlich Hochrisiko-Anforderungen wie Art. 15: bis zu 15 Mio. € oder 3 % des weltweiten Jahresumsatzes.
- Fehlerhafte oder irreführende Auskünfte gegenüber Behörden: bis zu 7,5 Mio. € oder 1 % des weltweiten Jahresumsatzes.
Für KMU und Start-ups gilt jeweils der niedrigere der beiden Beträge (Prozentsatz oder Festbetrag) als Obergrenze.
Verhältnis zu NIS2
NIS2 und AI Act Art. 15 setzen an unterschiedlichen Stellen an, gelten aber häufig parallel. NIS2 Art. 21 verlangt von der betroffenen Organisation ein organisationsweites Risikomanagement – dazu zählt auch Maßnahme 5, „Sicherheit bei Erwerb, Entwicklung und Wartung", die sich naturgemäß auf Beschaffung und Betrieb von KI-Systemen erstreckt (siehe dazu unser IT-Sicherheitsrichtlinien Kit →). AI Act Art. 15 setzt technisch tiefer an: Er verlangt, dass das KI-System selbst robust und cybersicher entwickelt ist. Weil „Betrieb kritischer Infrastruktur" explizit einer der Anhang-III-Hochrisikobereiche ist, kann eine NIS2-pflichtige Organisation, die KI zur Steuerung solcher Infrastruktur einsetzt, gleichzeitig NIS2-Betreiberpflichten und AI-Act-Hochrisikopflichten erfüllen müssen. Einen vollständigen Überblick über alle EU-Cybersicherheitsregulierungen bietet unser EU Cyber-Regulierung Wiki.
Praktische nächste Schritte
- Prüfen, ob eingesetzte oder entwickelte KI-Systeme unter Anhang III oder Anhang I des AI Act fallen.
- Bei Hochrisiko-Einstufung: Rollen klären – Anbieter (Art. 15-Pflichten) oder Betreiber (Art. 26-Pflichten)?
- Technische Robustheits- und Cybersicherheitsmaßnahmen dokumentieren, auch wenn die formale Frist erst 2027/2028 greift.
- KI-Beschaffung und -Entwicklung in das bestehende NIS2-Risikomanagement (Art. 21, Maßnahme 5) integrieren, siehe IT-Sicherheitsrichtlinien Kit.
- Entwicklungen bei harmonisierten Normen und Leitlinien der EU-Kommission zu Art. 15 beobachten, etwa über die EU-KI-Büro-Seite.
Häufig gestellte Fragen zum AI Act & Art. 15
Der AI Act ist eine Verordnung (Regulation (EU) 2024/1689) und gilt damit unmittelbar in allen EU-Mitgliedstaaten, ohne dass es wie bei NIS2 einer nationalen Umsetzung bedarf. Einzelne Durchführungsfragen (z. B. Marktüberwachungsbehörden) regeln die Mitgliedstaaten dennoch national.
Hochrisiko-Systeme sind zum einen KI-Anwendungen aus den acht Bereichen von Anhang III, u. a. Biometrie, Betrieb kritischer Infrastruktur, Bildung, Beschäftigung, Zugang zu essenziellen Diensten, Strafverfolgung, Migration und Rechtspflege. Zum anderen zählen dazu KI-Systeme, die als Sicherheitsbauteil in Produkten verbaut sind, die bereits einer EU-Produktsicherheitsregulierung nach Anhang I unterliegen, etwa Medizinprodukte oder Maschinen.
Ursprünglich sollten die Hochrisiko-Pflichten ab dem 2. August 2026 gelten. Durch die Digital-Omnibus-Reform (Verordnung (EU) 2026/1744, in Kraft seit 27. Juli 2026) wurde dieser Termin auf den 2. Dezember 2027 für Anhang-III-Systeme und auf den 2. August 2028 für als Sicherheitsbauteil eingebettete Systeme nach Anhang I verschoben.
Verstöße gegen die Pflichten für Hochrisiko-KI-Systeme, einschließlich Art. 15, können mit Bußgeldern bis zu 15 Mio. Euro oder 3 % des weltweiten Jahresumsatzes geahndet werden – je nachdem, welcher Betrag höher ist. Für verbotene KI-Praktiken drohen bis zu 35 Mio. Euro oder 7 %, für fehlerhafte Auskünfte an Behörden bis zu 7,5 Mio. Euro oder 1 %.
Beide Regelwerke gelten parallel und ergänzen sich: NIS2 Art. 21 verlangt von der betroffenen Organisation ein organisationsweites Risikomanagement, das auch den Einsatz von KI-Systemen einschließt (u. a. Maßnahme 5, Sicherheit bei Erwerb, Entwicklung und Wartung). Der AI Act Art. 15 verlangt zusätzlich, dass das KI-System selbst – technisch – robust und cybersicher entwickelt ist. Eine NIS2-pflichtige Organisation, die KI zur Steuerung kritischer Infrastruktur einsetzt, kann so gleichzeitig als Betreiber unter NIS2 und als Anbieter oder Betreiber eines Hochrisiko-KI-Systems unter den AI Act fallen.