Der EU AI Act einfach erklärt: Risikostufen, Fristen und Compliance

Die meisten Unternehmen haben bereits mehr künstliche Intelligenz im Einsatz, als ein einzelnes Team von Anfang bis Ende überblicken kann. Ein Kundensupport-Workflow ruft möglicherweise ein Modell eines Drittanbieters auf, ein Betrugssystem bewertet Transaktionen, ein Recruiting-Tool stuft Bewerber:innen ein und ein Produktivitätsassistent fasst Dokumente zusammen, die regulierte Daten enthalten. Jedes System hat höchstwahrscheinlich irgendwo eine:n Eigentümer:in, einen Anbieterdatensatz und eine Sicherheitsüberprüfung, aber diese Aufzeichnungen befinden sich oft an unterschiedlichen Orten und beantworten unterschiedliche Fragen.

Der EU AI Act wirft eine spezifische Frage in Bezug auf KI-Systeme auf: Kann das Unternehmen nachweisen, was jedes System tut, welche Rolle das Unternehmen spielt, welche Risikostufe gilt und welche Kontrollen jeweils erforderlich sind?

Die Vorbereitung auf den EU AI Act beginnt mit KI-Governance und einer Beweiskette. Das Gesetz ist in seiner Form juristisch, in der Praxis jedoch operativ. Es verlangt von Unternehmen, KI-Systeme mit den Daten, Modellen, Dokumentationen, Protokollen, der menschlichen Aufsicht und den Vorfallprozessen zu verknüpfen, die belegen, dass sie verantwortungsvoll genutzt werden – insbesondere dann, wenn diese Systeme Auswirkungen auf Beschäftigung, Kreditvergabe, Bildungswesen, kritische Infrastrukturen, Strafverfolgung oder andere Entscheidungen mit großen Auswirkungen haben.

Der EU AI Act ist das weltweit erste umfassende rechtliche KI-Framework. Er ist am 1. August 2024 in Kraft getreten und wird in Phasen angewendet. Verbotene Praktiken, KI-Kompetenz und Verpflichtungen für Allzweck-KI sind bereits anwendbar. Basierend auf den aktuellen Zeitplänen werden die meisten Verpflichtungen für Hochrisiko-KI voraussichtlich ab 2026 gelten, mit einigen verlängerten Übergangsfristen bis 2027–2028. Das politische Ziel ist eine menschenzentrierte KI: Systeme, die produktiv genutzt werden können, jedoch mit Schutzmaßnahmen für Sicherheit, Grundrechte, Transparenz und Rechenschaftspflicht. 

Der Geltungsbereich ist weiter gefasst, als viele Unternehmen zunächst annehmen. Das Gesetz kann für Anbieter, Betreiber, Importeure und Händler außerhalb der EU gelten, wenn ein KI-System auf dem EU-Markt in Verkehr gebracht wird oder wenn die von dem System erzeugten Ergebnisse in der EU verwendet werden. Ein in den USA ansässiges Unternehmen, das ein KI-gestütztes Produkt nach Europa verkauft, ein KI-System zur Bewertung von EU-Bürger:innen verwendet oder von einem Nicht-EU-Modell abhängig ist, dessen Ergebnisse sich auf Personen in der EU auswirken, muss möglicherweise dennoch seine Verpflichtungen prüfen.

Das Gesetz verwendet ein risikobasiertes Framework. Einige KI-Praktiken sind gänzlich verboten, einige Hochrisiko-KI-Systeme unterliegen detaillierten Verpflichtungen und viele Anwendungen mit geringerem Risiko bleiben weitgehend verfügbar, vorbehaltlich von Transparenzregeln oder freiwilligen Verhaltenskodizes. Es unterscheidet zudem zwischen Anbietern und Betreibern. Ein Anbieter entwickelt ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck und bringt es unter seinem eigenen Namen oder seiner eigenen Marke auf den Markt oder nimmt es in Betrieb. Ein Betreiber verwendet ein KI-System unter eigener Verantwortung, ausgenommen für den persönlichen, nicht beruflichen Gebrauch.

Für die meisten Unternehmen besteht eine wichtige praktische Erkenntnis darin, zu verstehen, welche KI-Systeme im Einsatz sind, diese nach Risiko zu klassifizieren, ihre Funktionsweise zu dokumentieren, die für die Aufsicht erforderlichen Nachweise aufzubewahren und sicherzustellen, dass Hochrisikosysteme die erforderliche Konformitätsbewertung bestehen, bevor sie auf dem EU-Markt bereitgestellt oder in Betrieb genommen werden.

Der EU AI Act teilt KI-Systeme in vier Hauptrisikokategorien ein: unannehmbares Risiko, hohes Risiko, begrenztes Risiko und minimales Risiko. Die Kategorie ist wichtig, da sie bestimmt, ob das System verboten ist, Hochrisikoverpflichtungen unterliegt, unter Transparenzpflichten fällt oder weitgehend von obligatorischen Kontrollen ausgenommen ist.

Der EU AI Act fügt ein separates Regelwerk für KI-Modelle mit allgemeinem Verwendungszweck (GPAI) hinzu, einschließlich Basismodellen, die eine breite Palette von nachgelagerten Tasks ausführen können. Dieses Regelwerk baut auf den Risikostufen auf, da ein Modell mit allgemeinem Verwendungszweck in viele verschiedene KI-Systeme integriert werden kann, von denen einige ein geringes und andere ein hohes Risiko aufweisen.

Zu den grundlegenden GPAI-Verpflichtungen gehören:

• Pflege der technischen Dokumentation

• Bereitstellung von Informationen für nachgelagerte Anbieter, die erforderlich sind, um das Modell verantwortungsvoll zu integrieren

• Umsetzung einer Richtlinie zur Einhaltung des EU-Urheberrechts

• Veröffentlichung einer Zusammenfassung der Inhalte, die zum Trainieren des Modells verwendet wurden

Für GPAI-Modelle mit systemischem Risiko gehen die Verpflichtungen noch weiter. Das Gesetz verwendet einen Schwellenwert für Rechenressourcen – derzeit 10^25 Gleitkommaoperationen – als einen Indikator dafür, dass ein Modell ein systemisches Risiko darstellen könnte. Von den Anbietern dieser Modelle wird erwartet, dass sie Modellevaluierungen durchführen, Adversarial Testing durchführen und dokumentieren, systemische Risiken bewerten und mindern, schwerwiegende Vorfälle verfolgen und melden sowie angemessene Cybersicherheitsvorkehrungen für das Modell und seine physische Infrastruktur aufrechterhalten.

Betreiber in Unternehmen sollten die GPAI-Dokumentation als Anforderung für Beschaffung und Governance behandeln. Ein Unternehmen, das ein Modell eines Drittanbieters lizenziert oder integriert, wird möglicherweise nicht automatisch zum Modellanbieter, benötigt aber dennoch ausreichend nachgelagerte Dokumentation, um die zulässige Nutzung, Einschränkungen, Integrationsbedingungen, Risikokontrollen und Erwartungen an die Meldung von Vorfällen zu verstehen. Bei Hochrisiko-Anwendungsfällen wird diese Dokumentation Teil der Beweiskette für das KI-System, das um das Modell herum aufgebaut ist.

In der Praxis bedeutet dies, dass Modellevaluierung und Red Teaming nicht mehr nur Forschungs- oder Sicherheitsübungen sind. Sie sind wesentliche Kontrollen der Supply Chain. Teams aus den Bereichen Beschaffung, Recht, Sicherheit, Data Governance und KI-Plattformen müssen wissen, was der Modellanbieter offenlegen wird, was das Unternehmen selbst testen wird und wie modellbezogene Risiken nach der Bereitstellung verfolgt werden.

Der EU AI Act gilt in Phasen. Der aktuelle gesetzliche Zeitplan ist die Grundlage für die Unternehmensplanung, auch wenn politische Entscheidungsträger weiterhin über mögliche Anpassungen bei der Umsetzung debattieren.

• 1. August 2024: Der EU AI Act tritt in Kraft.

• 2. Februar 2025: Verbotene KI-Praktiken und Verpflichtungen zur KI-Kompetenz finden Anwendung.

• 2. August 2025: Governance-Regeln und Verpflichtungen für GPAI-Modelle finden Anwendung.

• 2. August 2026: Die meisten Pflichten sollen in Kraft treten, einschließlich der Regeln für hochriskante KI-Systeme nach Anhang III.

• 2. August 2027: Hochrisiko-KI-Systeme, die in regulierte Produkte nach Anhang I eingebettet sind, sollen vollständig in den Geltungsbereich fallen.

Der Zeitplan bleibt politisch in Bewegung. Branchenverbände haben eine Verzögerung gefordert und argumentieren, dass Unternehmen mehr Orientierung und mehr Zeit für die Umsetzung benötigen. Snowflake Principal Data Strategist Jennifer Belissent merkt an, dass „die Forderungen der Branche nach einer Verzögerung bei der Umsetzung des EU AI Acts laut waren“, argumentiert aber auch, dass Unternehmen nicht warten sollten, denn „der wahre Treiber von KI und Data Governance ist bereits vorhanden. Kund:innen fordern sie.“

Dies ist ein gängiger Planungsansatz für die meisten Unternehmen. Auch wenn sich einige Details der Umsetzung noch ändern, fordern Kund:innen, Aufsichtsbehörden, Vorstände und Geschäftspartner:innen bereits KI-Inventare, Risikoklassifizierungen, Modelldokumentationen, Data Lineage, Vorfallprozesse und Nachweise darüber, dass KI-Systeme mit großen Auswirkungen kontrolliert werden.

Der EU AI Act sieht Schweregrade für Geldbußen vor. Die Mitgliedstaaten sind für Strafvorschriften und Durchsetzungsmaßnahmen verantwortlich, aber das Gesetz legt Höchstbeträge für Geldbußen fest, die an die Art des Verstoßes gebunden sind.

Das Gesetz weist die Mitgliedstaaten zudem an, die Interessen von kleinen und mittleren Unternehmen (KMU) sowie Start-ups zu berücksichtigen, und für diese kleineren Unternehmen gelten niedrigere Obergrenzen für Geldbußen. Die Höhe der Geldbuße kann von Faktoren wie Art, Schwere und Dauer des Verstoßes, der Größe des Unternehmens, früheren Verstößen und dem Grad der Zusammenarbeit mit den Behörden abhängen.

Für Unternehmensteams ist die Strafentabelle nur ein Teil der Risikokalkulation. Ungenügend kontrollierte KI kann auch zu Vertrauensproblemen bei Kund:innen, vertraglichen Reibungen, Datenschutzrisiken, Sicherheitsbedenken und Verzögerungen bei der Einführung KI-gestützter Produkte auf dem EU-Markt führen.

Ein effektiver Ansatz für die KI-Compliance besteht darin, die Anforderungen des Gesetzes in operative Artefakte umzuwandeln. Eine Richtlinie, die besagt, dass KI kontrolliert sein muss, reicht nicht aus – Teams benötigen Aufzeichnungen, Kontrollen und Überprüfungswege, die zeigen, wie jedes System klassifiziert, getestet, genehmigt und überwacht wurde.

Beginnen Sie mit einem KI-Inventar

Erfassen Sie jedes KI-System, das im Einsatz oder in der Entwicklung ist, einschließlich intern entwickelter Modelle, KI-Dienste von Drittanbietern, eingebetteter KI-Funktionen in SaaS-Anwendungen und universeller KI-Modelle, die über APIs genutzt werden. Jeder Inventareintrag sollte Systemeigentümer:in, Anbieter, Betreiber, den beabsichtigten Zweck, die betroffenen Nutzer:innen, die Dateneingaben, die Präsenz auf dem EU-Markt, die Modellabhängigkeiten, die Integrationspunkte und die Frage ausweisen, ob das System Personen in der EU betrifft.

Klassifizieren Sie jedes System nach den Risikostufen

Ein KI-Chatbot, der für den internen Wissensabruf verwendet wird, kann Bedenken hinsichtlich Transparenz und Zugriffskontrolle aufwerfen, während ein KI-System, das zur Einstufung von Bewerber:innen verwendet wird, in einen Hochrisikobereich nach Anhang III fallen kann. Die Klassifizierung sollte keine einmalige Aufgabe sein, sondern überprüft werden, wenn sich der Zweck, die Daten, die Nutzergruppe oder der Bereitstellungskontext des Systems ändern.

Beginnen Sie mit hohem Risiko

Erstellen Sie für Hochrisikokandidaten frühzeitig die sechs zentralen Nachweisartefakte:

• Risikomanagementsystem: Dokumentieren Sie bekannte und vernünftigerweise vorhersehbare Risiken, Minderungsmaßnahmen, Entscheidungen zum Restrisiko und den Überprüfungsrhythmus.

• Data-Governance-Verfahren: Erfassen Sie Datenquellen, Datenqualitätsprüfungen, Repräsentativitätsbewertungen, Bias-Kontrollen, Lineage, Aufbewahrungsregeln und Zugriffsrichtlinien.

• Technische Dokumentation: Pflegen Sie die Systembeschreibung, Modelllogik, den beabsichtigten Zweck, die Performance-Eigenschaften, Einschränkungen, Validierungsergebnisse und die Bereitstellungsarchitektur.

• Ereignisprotokolle: Bewahren Sie Protokolle auf, die Überwachung, Audits, Vorfalluntersuchungen und Post-Market-Reviews unterstützen können.

• Konzept für die menschliche Aufsicht: Definieren Sie, wo Menschen Systemausgaben überprüfen, überschreiben, anhalten oder eskalieren, und stellen Sie sicher, dass die Prüfer:innen über die für das Handeln erforderlichen Informationen verfügen.

• Maßnahmen für Genauigkeit und Cybersicherheit: Dokumentieren Sie Performance-Ziele, Robustheitstests, Adversarial Testing, Schwachstellenmanagement und Sicherheitskontrollen.

Fordern Sie GPAI-Dokumentation an

Fordern Sie bei GPAI vor der Integration das Dokumentationspaket der Modellanbieter an. Beschaffungsteams sollten nach technischer Dokumentation, Leitfäden für die nachgelagerte Integration, Richtlinien zur zulässigen Nutzung, Informationen zu Urheberrechtsrichtlinien, Zusammenfassungen der Trainingsdaten (sofern erforderlich) und Verpflichtungen zur Meldung von Vorfällen fragen. Diese Materialien sollten an den Datensatz des KI-Systems angehängt und nicht separat in einem Vertragsordner gespeichert werden, den bei einem Audit niemand findet.

Ordnen Sie die Kontrollen des EU AI Act bestehenden Verpflichtungen zu 

Viele Unternehmen verfügen bereits über Datenschutz-Folgenabschätzungen gemäß DSGVO, DORA-Kontrollen für die operationelle Resilienz, NIS2-Cybersicherheitskontrollen, branchenspezifische Verfahren für das Modell-Risikomanagement oder Anforderungen an die Softwarevalidierung. Das Ziel ist nicht, diese Prozesse unter einem neuen KI-Label neu aufzubauen, sondern zuzuordnen, wo bestehende Kontrollen bereits einen Teil des Nachweisbedarfs des AI Act erfüllen. Anschließend können Lücken bei der Risikoklassifizierung, GPAI-Dokumentation, Transparenzhinweisen, Konformitätsbewertung, Post-Market-Überwachung und Vorfallsmeldung geschlossen werden.

Erstellen Sie Runbooks für die Meldung von Vorfällen vor dem 2. August 2026 

Teams sollten wissen, was als schwerwiegender Vorfall gilt, wer ihn untersucht, welche Protokolle und Dokumentationen erforderlich sind, wie Rechts- und Compliance-Teams benachrichtigt werden und wie Korrekturmaßnahmen erfasst werden. Wenn man wartet, bis ein Hochrisikosystem in der Produktion ausfällt, hängt die Reaktion zu sehr von informeller Koordination ab.

Erfahren Sie, was zwei Top-Führungskräfte von Snowflake, EVP of Product Christian Kleinerman und Principal Data Strategist Jennifer Belissent, über generative KI und Ethik zu sagen haben.

Die Vorbereitung auf den EU AI Act hängt davon ab, zu wissen, welche Daten- und KI-Assets existieren, wie sie verwaltet werden, wer darauf zugreifen kann und welche Nachweise bei der Überprüfung eines Systems erbracht werden können. Snowflake kann dieses Fundament unterstützen, indem es Unternehmen dabei hilft, KI-Governance mit derselben Plattform zu verknüpfen, auf der sich bereits kontrollierte Daten, Metadaten, Richtlinien und Protokolle befinden.

Snowflake Horizon Catalog bietet Discovery- und Governance-Kontext für Daten- und KI-Assets, einschließlich Metadaten wie Lineage, semantische Ansichten und den zugehörigen Nutzungskontext. Für die Vorbereitung auf den AI Act ist das wichtig, da ein KI-Inventar nur dann nützlich ist, wenn Teams ein System mit den Tabellen, Ansichten, Features, Modellen, Richtlinien und Eigentümer:innen verknüpfen können, von denen es abhängt.

Das Snowflake Compliance Center hilft Teams dabei, Sicherheitsrisiken in Snowflake-Konten durch scannerbasierte Erkenntnisse, proaktive Benachrichtigungen und Transparenz auf Kontoebene zu bewerten, zu überwachen und zu reduzieren. Die Datensicherheitsfunktion im Compliance Center kann bestimmte Kategorien sensibler Daten datenbankübergreifend automatisch klassifizieren, regulierte und Hochrisikokategorien wie PII, PCI-Daten und geschützte Gesundheitsinformationen identifizieren und anzeigen, ob Maskierungsrichtlinien diese bereits schützen.

Die Zugriffskontrollen und Richtlinienfunktionen von Snowflake können auch Nachweise für die KI-Governance unterstützen. Rollenbasierte Zugriffskontrolle (RBAC), Maskierungsrichtlinien, Row Access Policies und die Access History helfen Teams dabei, nachzuweisen, wer Zugriff auf sensible Daten hatte, welche Richtlinien angewendet wurden und wie die Daten verwendet wurden. Diese Aufzeichnungen ersetzen keine rechtliche Analyse oder Konformitätsbewertung, aber sie können die Workflows für Protokollierung, menschliche Aufsicht, Data Governance und Audit-Nachweise unterstützen, die Unternehmen im Zusammenhang mit regulierten KI-Systemen benötigen.

Die ISO/IEC 42001-Zertifizierung von Snowflake ist ein weiteres Signal für Vertrauenswürdigkeit. Die Zertifizierung erfolgte nach einem unabhängigen Audit des KI-Managementsystems durch Dritte und unterstützt Transparenz, Verantwortlichkeit und Vertrauen in die KI-Praktiken von Snowflake.

Der EU AI Act macht KI-Governance zur Pflicht. Ein Unternehmen muss wissen, welche KI-Systeme es einsetzt, welche Rolle es bei jedem System spielt, von welchen Daten und Modellen das System abhängt, wie das Risiko klassifiziert wurde, wo Menschen eingreifen können und welche Nachweise vorliegen, wenn eine Aufsichtsbehörde, Kund:innen oder interne Prüfer:innen danach fragen.

Diese Arbeit ist einfacher, wenn sie auf Governance-Mustern aufbaut, die das Unternehmen bereits verwendet: Inventare, Zugriffskontrollen, Lineage, Dokumentation, Überwachung, Reaktion auf Vorfälle und Audit-Nachweise. Das Gesetz fügt KI-spezifische Verpflichtungen hinzu, insbesondere für Hochrisikosysteme und Allzweck-KI (General-Purpose AI), verlangt jedoch nicht, dass Teams bei null anfangen. Der beste Weg besteht darin, die KI-Vorbereitung mit den Kontrollen zu verknüpfen, die bereits für die Verwaltung von Daten, Sicherheit, Datenschutz und operationeller Resilienz verwendet werden, und dann die Lücken zu schließen, bevor die Durchsetzung die wichtigsten Systeme erreicht.