ISO/IEC 42001:2023 erklärt: Anforderungen, Kontrollen und Zertifizierung

Viele KI-Governance-Programme sind richtlinienorientiert und prozessschwach. Wenn Modelle von der Entwicklung in die Produktion übergehen, eine neue Datenquelle hinzugefügt wird oder ein Anbieter ein Feature aktualisiert, greifen die Kontrollen, die bei der Bereitstellung angemessen erschienen, schnell zu kurz – und es gibt keinen integrierten Mechanismus, um diese Lücke zu schließen.

ISO/IEC 42001:2023 ist der erste internationale Standard für ein KI-Managementsystem und bietet Unternehmen dieses Betriebsmodell. Er legt fest, wie Unternehmen die Prozesse zur Steuerung von KI-Systemen etablieren, implementieren, aufrechterhalten und kontinuierlich verbessern können – und macht KI-Governance von einem Dokument zu einem auditierbaren Managementsystem mit definierten Verantwortlichkeiten, Risikobehandlung, Prüfzyklen und Nachweisanforderungen.

ISO/IEC 42001:2023 ist ein internationaler Standard, der Anforderungen an ein Managementsystem für künstliche Intelligenz (AIMS) festlegt. Ein AIMS ist die Gesamtheit der Richtlinien, Rollen, Prozesse, Kontrollen und dokumentierten Informationen, die ein Unternehmen zur Steuerung der Entwicklung, Bereitstellung oder Nutzung von KI-Systemen verwendet.

Der im Dezember 2023 von ISO/IEC JTC 1/SC 42 veröffentlichte Standard gilt branchenübergreifend und für verschiedene Arten von KI-Systemen, einschließlich prädiktivem ML, generativer KI und Agentensystemen. Er kann auf Unternehmen angewendet werden, die KI-Produkte anbieten, KI-Systeme in Geschäftsprozessen einsetzen oder KI-Systeme in Produktionsumgebungen nutzen.

ISO/IEC 42001 folgt der harmonisierten Struktur, die auch von anderen ISO-Managementsystemstandards wie ISO 27001 und ISO 9001 verwendet wird. Dies ist von Vorteil, da Unternehmen mit einem bereits ausgereiften Managementsystem oft auf vertraute Praktiken zurückgreifen können – wie die Definition des Anwendungsbereichs, die Zuweisung von Führungsverantwortung, die Pflege dokumentierter Informationen, die Durchführung interner Audits, die Überprüfung der Performance und die Förderung kontinuierlicher Verbesserungen.

Der Standard umfasst auch die Kontrollen in Anhang A, die KI-spezifische Governance-Themen wie KI-Richtlinien, interne Organisation, Ressourcen, Folgenabschätzungen, Lebenszyklusprozesse, Daten, Informationen für interessierte Parteien, die Nutzung von KI-Systemen und Beziehungen zu Dritten behandeln. Wie bei ISO 27001 basieren die Kontrollen in Anhang A auf der Anwendbarkeit, sodass Unternehmen in einer Erklärung zur Anwendbarkeit dokumentieren, welche Kontrollen gelten und warum.

ISO/IEC 42001 bietet Unternehmen eine Möglichkeit zu zeigen, dass KI-Governance in der Praxis funktioniert und nicht nur beschrieben wird. Diese Unterscheidung ist wichtig, wenn Kunden, Aufsichtsbehörden, Vorstände oder Beschaffungsteams fragen, wie ein Unternehmen die von ihm entwickelten oder genutzten KI-Systeme kontrolliert.

Bestätigung durch Dritte

Die Zertifizierung gibt Unternehmen die unabhängige Gewissheit, dass ihr AIMS die Anforderungen des Standards erfüllt. ISO beschreibt die Zertifizierung als schriftliche Zusicherung einer unabhängigen Stelle, dass ein Produkt, eine Dienstleistung oder ein System bestimmte Anforderungen erfüllt. Für KI-Teams kann dies dabei helfen, Praktiken für verantwortungsvolle KI nachzuweisen, ohne proprietäre Modelldetails, interne Architekturen oder sensible Kundendaten preiszugeben.

Unterstützung bei der Beschaffung

Da Unternehmenskäufer Fragen zur KI-Governance in RFPs und Risikobewertungen von Anbietern aufnehmen, bietet die ISO 42001 Anbietern und Anwendern einen anerkannten Standard, auf den sie sich beziehen können. Ein Zertifikat beantwortet nicht jede technische Frage, aber es kann Unklarheiten darüber verringern, ob die Organisation über formelle KI-Governance-Prozesse, Prüfzyklen und Managementaufsicht verfügt.

Regulatorische Ausrichtung

Die ISO 42001 ist freiwillig, aber ihre Managementsystemstruktur entspricht weitgehend den aufkommenden regulatorischen Erwartungen an KI. Der EU AI Act verlangt von Anbietern von Hochrisiko-KI-Systemen, dokumentierte Qualitätsmanagementsysteme, Risikomanagementsysteme und Prozesse zur Überwachung nach dem Inverkehrbringen aufrechtzuerhalten. Die ISO 42001 kann eine strukturierte Grundlage bieten, die Organisationen nutzen können, um KI-Compliance-Bemühungen zu unterstützen – die Richtlinien, Verfahren und Nachweise, die diese Verpflichtungen erfordern.

Betriebsrhythmus

KI-Governance braucht einen Rhythmus. Risikobewertungen veralten, Daten ändern sich, das Modellverhalten weicht ab und geschäftliche Anwendungsfälle erweitern sich. Die ISO 42001 formalisiert diesen Rhythmus durch Planung, Performance-Bewertung, interne Audits, Managementbewertung, Korrekturmaßnahmen und kontinuierliche Verbesserung.

Kundenvertrauen

Die Zertifizierung nach ISO/IEC 42001 ist für Kunden ein Beweis für das Engagement einer Organisation für Transparenz, Rechenschaftspflicht und Vertrauen in KI-Sicherheitspraktiken. Snowflake hat beispielsweise nach einem unabhängigen Audit durch Dritte die Zertifizierung nach ISO/IEC 42001 erhalten, und Kunden können über das Snowflake Compliance Center auf die entsprechenden Auditnachweise zugreifen.

Die ISO/IEC 42001 gilt für Organisationen, die KI-Systeme bereitstellen, entwickeln, einsetzen oder nutzen. Das KI-Risiko liegt nicht nur bei den Modellentwicklern. Es kann auch entstehen, wenn ein Unternehmen ein KI-gestütztes SaaS-Produkt konfiguriert, ein KI-System in einen Workflow integriert, es mit sensiblen Daten verbindet oder seine Ausgaben für Entscheidungen nutzt, die sich auf Kunden, Mitarbeiter oder den Betrieb auswirken.

Der Standard ist für verschiedene Arten von Organisationen relevant:

• Anbieter entwickeln KI-Systeme, KI-gestützte Produkte oder KI-Dienste, die von anderen genutzt werden. Ein Anbieter könnte ein Betrugserkennungsmodell, einen GenAI-Assistenten, ein Computer-Vision-System oder eine in ein größeres Produkt eingebettete KI-Anwendung entwickeln.

• Betreiber setzen KI-Systeme ein. Ein Betreiber könnte einen von einem Anbieter bereitgestellten KI-Dienst konfigurieren, ihn in interne Systeme integrieren, ihn mit kontrollierten Daten verbinden oder den Workflow definieren, in dem sich Mitarbeiter auf KI-Ausgaben verlassen.

• Nutzer betreiben KI-Systeme in Produktionskontexten. In der Praxis können dies Geschäftsteams, Behörden, regulierte Organisationen und interne Abteilungen sein, die KI für Analysen, Automatisierung, Entscheidungsunterstützung oder die Erstellung von Inhalten nutzen.

Die ISO 42001 ist branchenunabhängig, aber eine frühzeitige Einführung ist besonders für Behörden, regulierte Branchen und KI-Produktunternehmen relevant, da sie häufig strengeren Anforderungen an dokumentierte Kontrollen, Beschaffungsnachweise und vertretbare Governance-Prozesse ausgesetzt sind.

Die ISO/IEC 42001 folgt der harmonisierten Struktur, die von ISO-Managementsystemstandards verwendet wird. Die Abschnitte 1 bis 3 definieren den Anwendungsbereich, normative Verweisungen sowie Begriffe und Definitionen; die Abschnitte 4 bis 10 spezifizieren die Anforderungen an das Managementsystem, die eine Organisation implementieren und aufrechterhalten muss.

Abschnitte 1–3: Anwendungsbereich, Verweisungen und Definitionen

Die einleitenden Abschnitte legen fest, was der Standard abdeckt, welche Verweisungen gelten und wie Schlüsselbegriffe definiert sind. Für KI-Governance-Programme ist dieses gemeinsame Vokabular wichtig, da Geschäfts-, Rechts-, Data Science-, Entwicklungs- und Sicherheitsteams dieselben Wörter oft unterschiedlich verwenden. Der Standard bietet diesen Teams einen gemeinsamen Bezugspunkt für das AIMS.

Abschnitt 4: Kontext der Organisation

Abschnitt 4 verlangt von der Organisation, die internen und externen Faktoren zu verstehen, die sich auf ihr KI-Managementsystem auswirken. Dazu gehören die Bedürfnisse der Stakeholder, rechtliche und regulatorische Erwartungen, KI-Anwendungsfälle, organisatorische Grenzen und der Anwendungsbereich des AIMS.

In der Praxis muss ein Unternehmen wissen, welche KI-Systeme unter das AIMS fallen, welche Teams für sie verantwortlich sind, auf welche Datenquellen sie sich stützen und welche externen Parteien von ihren Ausgaben betroffen sind.

Abschnitt 5: Führung

Abschnitt 5 befasst sich mit dem Engagement der Führungsebene, der KI-Richtlinie, Rollen, Verantwortlichkeiten und Befugnissen. Er verlangt von Führungskräften, die KI-Governance zu einem Teil des Managementsystems der Organisation zu machen, anstatt zu einem Nebenprozess, der nur in der Verantwortung technischer Teams liegt.

Das bedeutet in der Regel, verantwortliche Eigentümer zu benennen, eine KI-Richtlinie zu genehmigen, Verantwortlichkeiten zwischen Geschäfts- und Technikteams abzustimmen und sicherzustellen, dass Personen mit Governance-Verpflichtungen die Befugnis haben, diese auszuführen.

Abschnitt 6: Planen

Abschnitt 6 behandelt die Planung, einschließlich KI-Risikobewertung, KI-Risikobehandlung und KI-Zielen. Unternehmen müssen Risiken und Chancen identifizieren, entscheiden, wie sie diese angehen, und messbare Ziele für das AIMS definieren.

Eine Risikobewertung könnte Datenqualität, Modell-Performance, Erklärbarkeit, menschliche Aufsicht, Sicherheit, Datenschutz, algorithmic Bias, operative Resilienz oder nachgelagerte Auswirkungen untersuchen. Der Risikobehandlungsplan verknüpft diese Risiken dann mit Kontrollen, Verantwortlichen und Nachweisen.

Abschnitt 7: Support

Abschnitt 7 konzentriert sich auf die Ressourcen, die für den Betrieb des AIMS erforderlich sind: Kompetenz, Bewusstsein, Kommunikation und dokumentierte Information. Eine Richtlinie reicht nicht aus, wenn Modellverantwortliche nicht wissen, wann sie eine Folgenabschätzung durchführen müssen, Prüfer erforderliche Nachweise nicht finden können oder Geschäftsanwender die akzeptable KI-Nutzung nicht verstehen.

In diesem Abschnitt definieren Organisationen Schulungen, Dokumentationspraktiken, Kommunikationskanäle und die Aufzeichnungen, die die Governance-Aktivität belegen.

Abschnitt 8: Betrieb

Abschnitt 8 befasst sich mit der betrieblichen Planung und Steuerung von KI-Systemen. Hier werden Lebenszyklusprozesse konkret: Anforderungen, Designentscheidungen, Datenaufbereitung, Verifizierung und Validierung, Bereitstellungskontrollen, Betrieb, Überwachung und Außerbetriebnahme.

Beispielsweise benötigt eine Organisation möglicherweise einen dokumentierten Prozess für die Genehmigung eines Modells vor der Produktion, die Änderung seiner Dateneingaben, die Ausweitung seiner Nutzung auf eine neue Zielgruppe oder seine Außerbetriebnahme, wenn es die Richtlinien- oder Performance-Erwartungen nicht mehr erfüllt.

Abschnitt 9: Performance-Bewertung

Abschnitt 9 fordert Überwachung, Messung, Analyse, Bewertung, internes Audit und Managementbewertung. Die Organisation muss wissen, ob das AIMS funktioniert und ob die Governance-Kontrollen weiterhin zu den KI-Systemen der Organisation passen.

Dies kann Kontrolltests, Auditfeststellungen, Ergebnisse der Modellüberwachung, Vorfalltrends, den Status der Risikobehandlung und Aufzeichnungen der Managementbewertung umfassen.

Abschnitt 10: Verbesserung

Abschnitt 10 behandelt Nichtkonformität, Korrekturmaßnahmen und fortlaufende Verbesserung. Wenn eine Auditfeststellung, ein Vorfall, ein Überwachungsproblem oder ein Prozessfehler auftritt, muss die Organisation strukturiert reagieren.

Diese Reaktion umfasst typischerweise die Untersuchung des Problems, die Behebung des unmittelbaren Problems, die Bekämpfung der Grundursachen und die Aktualisierung des AIMS, damit derselbe Fehler weniger wahrscheinlich erneut auftritt.

Anhang A enthält 38 KI-spezifische Kontrollen, die in Kontrollkategorien gruppiert sind. Diese Kontrollen helfen Organisationen, von Managementsystemanforderungen zu betrieblichen Praktiken überzugehen, sind jedoch nicht in jedem Kontext automatisch obligatorisch. Unternehmen bewerten die Anwendbarkeit und dokumentieren ihre Begründung in einer Erklärung zur Anwendbarkeit.

A.2: KI-Richtlinien

A.2 behandelt KI-Richtlinien, einschließlich der Art und Weise, wie die Organisation Erwartungen an verantwortungsvolle KI definiert, Rollen zuweist und die Beschaffung angeht. Eine Richtlinie sollte spezifisch genug sein, um Entscheidungen über die KI-Entwicklung und -Nutzung zu leiten, einschließlich der Frage, wer ein KI-System genehmigen kann, welche Risikokriterien gelten und wie KI-Systeme von Drittanbietern überprüft werden.

A.3: Interne Organisation

A.3 konzentriert sich auf die Governance-Struktur, Berichtslinien und Ressourcenzuweisung. KI-Governance erstreckt sich oft über Geschäftsverantwortliche, Datenteams, Rechtsabteilung, Compliance, Sicherheit, Datenschutz, Beschaffung und Plattformteams, sodass das Kontrollziel darin besteht, Verantwortlichkeiten sichtbar zu machen, bevor ein Problem auftritt.

A.4: Ressourcen für KI-Systeme

A.4 befasst sich mit den Ressourcen, die für die Entwicklung, Bereitstellung und den Betrieb von KI-Systemen erforderlich sind, einschließlich Daten, Tools, Infrastruktur, Systemressourcen und menschlicher Aufsicht. Für ein Produktions-KI-System kann dies genehmigte Datasets, Modellentwicklungsumgebungen, Überwachungstools, Überprüfungs-Workflows und Eskalationspfade umfassen.

A.5: Bewertung der Auswirkungen von KI-Systemen

A.5 behandelt Folgenabschätzungen. Diese Bewertungen helfen Organisationen zu evaluieren, wie sich ein KI-System vor und nach der Bereitstellung auf Einzelpersonen, Gruppen, Geschäftsprozesse oder externe Stakeholder auswirken könnte.

Eine Folgenabschätzung könnte untersuchen, ob ein KI-System den Zugang zu einem Dienst beeinflusst, Empfehlungen generiert, die sich auf Menschen auswirken, sensible Attribute verarbeitet oder eine operative Abhängigkeit in einem kritischen Workflow schafft.

A.6: Lebenszyklus von KI-Systemen

A.6 behandelt Lebenszyklusprozesse, einschließlich Anforderungen, Design, Verifizierung, Validierung, Bereitstellung, Betrieb und Außerbetriebnahme. Die Kontrollkategorie spiegelt eine grundlegende Governance-Realität wider: Das KI-Risiko ändert sich, wenn Systeme verschiedene Phasen durchlaufen.

Ein Modell, das in der Entwicklung akzeptabel erscheint, kann sich anders verhalten, nachdem es mit Live-Daten verbunden wird, neue Prompts erhält, eine breitere Nutzerbasis bedient oder Teil eines automatisierten Workflows wird.

A.7: Daten für KI-Systeme

A.7 befasst sich mit der Datenerfassung, -qualität, -herkunft und -aufbereitung. Diese Kontrollen sind besonders wichtig, da KI-Systeme oft Risiken aus ihren Daten erben. Wenn einem Trainingsdataset, Prompt-Kontext, einer Feature-Tabelle oder einem Retrieval-Korpus die Eigentümerschaft, Abstammung, Qualitätsprüfungen oder Nutzungsbeschränkungen fehlen, kann es schwierig werden, der Ausgabe des Modells zu vertrauen oder sie zu verteidigen.

Starke Kontrollen in dieser Kategorie erfordern in der Regel, dass Teams dokumentieren, woher die Daten stammen, welche Transformationen angewendet wurden, welche Qualitätsschwellenwerte gelten und welche Nutzungsbeschränkungen den Daten in KI-Workflows folgen.

A.8: Informationen für interessierte Parteien

A.8 behandelt Informationen, die interessierten Parteien zur Verfügung gestellt werden, einschließlich Dokumentation, Kommunikation und Berichterstattung. Abhängig vom KI-System können diese Parteien Kunden, Aufsichtsbehörden, interne Prüfer, Geschäftsanwender, Auditoren oder Personen umfassen, die von den Ausgaben des Systems betroffen sind.

Diese Kategorie kann Modelldokumentation, Benutzeranweisungen, Risikooffenlegungen, bekannte Einschränkungen, Überwachungsberichte und Prozesse zur Vorfallkommunikation umfassen.

A.9: Nutzung von KI-Systemen

A.9 konzentriert sich auf die verantwortungsvolle Nutzung und Außerbetriebnahme. Unternehmen benötigen Prozesse, die regeln, wie KI-Systeme nach ihrer Inbetriebnahme genutzt werden, einschließlich akzeptabler Nutzung, Benutzerverantwortlichkeiten, Überwachungserwartungen und Kriterien für die Außerbetriebnahme.

Dies ist wichtig für generative KI und agentische Systeme, bei denen dieselbe zugrunde liegende Fähigkeit in verschiedenen Workflows mit unterschiedlichen Risikoprofilen eingesetzt werden kann.

A.10: Beziehungen zu Dritten und Kunden

A.10 befasst sich mit den Verantwortlichkeiten von Lieferanten und Kunden. KI-Systeme sind oft von externen Modellen, SaaS-Produkten, Datenanbietern, Integrationspartnern oder nachgelagerten Kunden abhängig. Die Kontrollen helfen zu klären, wer wofür verantwortlich ist, welche Nachweise erforderlich sind und wie Änderungen an Diensten von Drittanbietern überprüft werden.

Die ISO/IEC 42001-Zertifizierung folgt dem bekannten Zertifizierungspfad für Managementsysteme, der auch für andere ISO-Standards verwendet wird. Die Details variieren je nach Organisation, Anwendungsbereich und Zertifizierungsstelle, aber die meisten Programme durchlaufen dieselbe grundlegende Abfolge.

• Bereitschafts- oder Lückenanalyse: Die Organisation bewertet die aktuellen KI-Governance-Praktiken anhand der Anforderungen der ISO 42001. Dabei werden in der Regel fehlende Definitionen des Anwendungsbereichs, undokumentierte Verantwortlichkeiten, inkonsistente Risikobewertungen, schwache Lebenszykluskontrollen oder unzureichende Auditnachweise identifiziert.

• AIMS-Aufbau: Die Organisation richtet das AIMS ein oder aktualisiert es. Dies umfasst Richtlinien, Verfahren, Risikobewertungen, Folgenabschätzungen, Lebenszykluskontrollen, Dokumentationspraktiken, Schulungen, Berichterstattung und eine Erklärung zur Anwendbarkeit für die Kontrollen in Anhang A.

• Internes Audit: Vor dem Zertifizierungsaudit führt die Organisation ein internes Audit durch, um zu testen, ob das AIMS die Anforderungen erfüllt und ob die Kontrollen wie beschrieben funktionieren.

• Zertifizierungsaudit Stufe 1: Die Zertifizierungsstelle überprüft die Bereitschaft, den Anwendungsbereich und die Dokumentation. Das Ziel ist es, festzustellen, ob die Organisation auf das Implementierungsaudit vorbereitet ist.

• Zertifizierungsaudit Stufe 2: Der Auditor überprüft, ob das AIMS implementiert ist und funktioniert. Dies kann Interviews, die Überprüfung von Nachweisen, Stichproben, Kontrolltests und die Untersuchung von Aufzeichnungen der Managementbewertung umfassen.

• Überwachungsaudits und Rezertifizierung: Die Zertifizierung ist kein einmaliges Ereignis. Unternehmen unterziehen sich in der Regel jährlichen Überwachungsaudits und einer Rezertifizierung alle drei Jahre, was das Modell der kontinuierlichen Verbesserung des Standards stärkt.

Unternehmen können mit akkreditierten Zertifizierungsstellen wie BSI, Schellman, A-LIGN, Mazars, TÜV oder DNV zusammenarbeiten, abhängig von Standort, Anwendungsbereich und Verfügbarkeit. Die Zeit bis zur Zertifizierung variiert stark, aber viele Organisationen sollten mit einem Aufwand von 6 bis 18 Monaten rechnen, wobei kürzere Zeitpläne wahrscheinlicher sind, wenn sie bereits ausgereifte ISO 27001-, ISO 9001- oder ähnliche Managementsysteme betreiben.

ISO 42001 ersetzt nicht jedes KI-Governance-Framework oder jede gesetzliche Verpflichtung. Es funktioniert am besten, wenn Organisationen verstehen, wofür es entwickelt wurde: ein zertifizierbares KI-Managementsystem zu etablieren.

Viele Organisationen werden diese Frameworks zusammen verwenden. Ein Team könnte NIST KI RMF verwenden, um die KI-Risikoanalyse zu strukturieren, ISO/IEC 23894, um Risikomanagement-Praktiken zu vertiefen, ISO/IEC 22989, um das Vokabular abzustimmen, und ISO 42001, um das AIMS zu etablieren, das diese Praktiken wiederholbar und auditierbar macht.

Snowflake ist nach ISO/IEC 42001 zertifiziert, was bedeutet, dass ein akkreditierter Dritter das AIMS von Snowflake anhand der Anforderungen des Standards für verantwortungsvolle KI-Governance auditiert hat und Auditnachweise für Kunden über das Compliance Center von Snowflake verfügbar sind.

Für Kunden, die ihre eigenen ISO 42001-Programme aufbauen, kann eine zertifizierte Plattform Aspekte der Kontrollumgebung für Daten- und KI-Governance unterstützen. Sie zertifiziert nicht das eigene AIMS eines Kunden, da jede Organisation weiterhin Eigentümer ihrer KI-Anwendungsfälle, Risikobewertungen, Folgenabschätzungen, Richtlinien und operativen Entscheidungen ist. Es kann Organisationen jedoch dabei helfen, Nachweise darüber zu organisieren, dass Kerndaten- und Infrastrukturkontrollen gesteuert, dokumentiert und auditierbar sind.

Snowflake-Funktionen können mehrere Kontrollbereiche aus Anhang A unterstützen:

Snowflake Horizon Catalog wurde entwickelt, um umfassende Nachverfolgbarkeit und Transparenz zu bieten und Teams dabei zu helfen, Daten, Apps und Modelle mit Metadaten, Lineage, Access History, Klassifizierung, Tagging und Richtliniendurchsetzung zu steuern. Horizon ist eine Möglichkeit, Data Governance über Snowflake und externen Speicher hinweg zu verwalten, wobei die Funktionen Access History und Time Travel die Überprüfung vergangener Aktivitäten und Datenzustände unterstützen. Diese Funktionen sind relevant für die Kontrollen in Anhang A für KI-Daten, Lebenszyklusdokumentation, Zugriffs-Governance und Berichterstattung.

Cortex Guard unterstützt eine sicherere Nutzung von KI-Systemen, indem es hilft, potenziell unsichere LLM-Eingaben und -Ausgaben zu filtern, was Kontrollen im Zusammenhang mit menschlicher Aufsicht, verantwortungsvoller Nutzung und den Benutzern bereitgestellten Informationen unterstützen kann.

Model Registry hilft Teams bei der Verwaltung von Modell-Lebenszyklus-Metadaten, Versionen und Bereitstellungskontexten, was Kontrollen für Lebenszyklus-Governance, Dokumentation und operative Überprüfung unterstützt.

Zusammen helfen diese Funktionen Organisationen dabei, Governance an die Objekte zu binden, von denen KI-Systeme abhängen – Datasets, Modelle, Richtlinien, Lineage-Pfade, Access History, Dokumentation und Nutzungssignale. Dies ist besonders wichtig für ISO 42001, da die Zertifizierung von Nachweisen abhängt. Ein Team muss nicht nur nachweisen können, dass eine Richtlinie existiert, sondern auch, dass die relevanten Kontrollen angewendet, überprüft und im Laufe der Zeit verbessert werden.

ISO 42001 bietet Organisationen einen praktischen Weg, KI-Governance vom Prinzip zum Prozess zu überführen. Ein Team muss immer noch entscheiden, welche KI-Systeme im Geltungsbereich liegen, wem sie gehören, welche Risiken von Bedeutung sind, welche Kontrollen gelten und welche Nachweise belegen, dass diese Kontrollen funktionieren. Aber der Standard bietet die Struktur, um diese Entscheidungen konsistent zu treffen. 

Wenn ein KI-System auf kontrollierte Daten, einen dokumentierten Modell-Lebenszyklus, definierte menschliche Aufsicht, Lieferantenkontrollen, Folgenabschätzungen, Überwachung und Korrekturmaßnahmen angewiesen ist, wird Governance zu einem Teil der Funktionsweise des Systems. Das ist der Wert von ISO 42001 – es gibt KI-Programmen ein Managementsystem, das überprüft, auditiert und verbessert werden kann, während sich Technologie, Organisation und regulatorisches Umfeld weiter verändern.