La norme ISO/IEC 42001:2023 décryptée : exigences, contrôles et certification

Nombre de programmes de gouvernance de l’IA privilégient les politiques, mais manquent de processus solides. Lorsqu’un modèle passe du développement à la production, qu’une nouvelle source de données est intégrée ou qu’un prestataire met à jour une feature, les contrôles en place au moment du déploiement ne suffisent plus. Et aucun mécanisme intégré ne permet de détecter ces écarts.

ISO/IEC 42001:2023 est la première norme internationale consacrée à un système de management de l’IA, et elle fournit aux organisations ce modèle opérationnel. Elle précise comment les organisations peuvent établir, mettre en œuvre, maintenir et améliorer en continu les processus utilisés pour gouverner les systèmes d’IA, transformant ainsi la gouvernance de l’IA, d’un simple document, en un système de management auditable, fondé sur des responsabilités définies, une gestion des risques, des audits réguliers et des preuves documentées.

ISO/IEC 42001:2023 est une norme internationale qui spécifie les exigences applicables à un système de management de l’intelligence artificielle (artificial intelligence management system, AIMS). Un AIMS regroupe les politiques, rôles, processus, contrôles et informations documentées qu’une organisation utilise pour gouverner le développement, la fourniture ou l’utilisation de systèmes d’IA.

Publiée en décembre 2023 par l’ISO/IEC JTC 1/SC 42, cette norme s’applique à tous les secteurs et types de systèmes d’IA, notamment le ML prédictif, l’IA générative et les systèmes agentiques. Elle peut s’appliquer aux organisations qui fournissent des produits d’IA, déploient des systèmes d’IA dans des processus business ou utilisent des systèmes d’IA dans des contextes de production.

ISO/IEC 42001 suit la structure harmonisée utilisée par d’autres normes ISO de systèmes de management, notamment ISO 27001 et ISO 9001. C’est un avantage, car les organisations qui disposent déjà d’une certaine maturité en matière de systèmes de management peuvent souvent réutiliser des pratiques familières : définir le périmètre, attribuer des responsabilités claires à la direction, maintenir une documentation à jour, mener des audits internes, évaluer les performances et piloter l’amélioration continue.

La norme inclut également les contrôles de l’Annexe A, qui couvrent des sujets de gouvernance propres à l’IA, notamment les politiques d’IA, l’organisation interne, les ressources, les évaluations d’impact, les processus de cycle de vie, les données, l’information destinée aux parties intéressées, l’utilisation des systèmes d’IA et les relations avec les tiers. Comme ISO 27001, les contrôles de l’Annexe A reposent sur l’applicabilité : les organisations documentent les contrôles applicables et les raisons de leur application dans une Déclaration d’applicabilité.

ISO/IEC 42001 donne aux organisations un moyen de démontrer que leur gouvernance de l’IA fonctionne réellement, au-delà des intentions affichées. Cette distinction compte lorsque les clients, les régulateurs, les conseils d’administration ou les équipes achats demandent comment une organisation contrôle les systèmes d’IA qu’elle développe ou utilise.

Attestation par un tiers

La certification donne aux organisations l’assurance indépendante que leur AIMS répond aux exigences de la norme. L’ISO décrit la certification comme l’assurance écrite, fournie par un organisme indépendant, qu’un produit, un service ou un système répond à des exigences spécifiques. Pour les équipes IA, cela peut aider à démontrer des pratiques d’IA responsable sans exposer les détails de modèles propriétaires, les architectures internes ou les données clients sensibles.

Impact sur la décision d’achat

Les responsables des achats dans les entreprise se préoccupent de plus en plus des questions de gouvernance de l’IA lors des appels d’offres et de l'évaluation des risques liés aux prestataires. La norme ISO 42001 offre aux fournisseurs et aux déployeurs une norme reconnue à citer. Un certificat ne répond pas à toutes les questions techniques, mais il peut lever l’ambiguïté sur l’existence de processus formels de gouvernance de l’IA, de cycles d’audit et d’une supervision managériale.

Alignement réglementaire

ISO 42001 est volontaire, mais la structure de son système de management s’aligne étroitement sur les attentes réglementaires émergentes en matière d’IA. Le règlement européen sur l’IA (EU AI Act) impose aux fournisseurs de systèmes d’IA à haut risque de maintenir des systèmes documentés de management de la qualité, de gestion des risques et de surveillance après commercialisation. ISO 42001 peut offrir aux organisations un socle structuré pour soutenir leurs démarches de conformité en matière d’IA : politiques, procédures et preuves exigées par ces obligations.

Rythme opérationnel

La gouvernance de l’IA exige un rythme clair. Les évaluations des risques vieillissent, les données évoluent, le comportement des modèles dérive et les cas d’usage business se multiplient. ISO 42001 formalise ce rythme grâce à la planification, à l’évaluation de la performance, à l’audit interne, à la revue de direction, aux actions correctives et à l’amélioration continue.

Confiance des clients

La certification ISO/IEC 42001 apporte aux clients la preuve de l’engagement d’une organisation en faveur de la transparence, de la responsabilité et de la confiance dans les pratiques de sécurité de l’IA. Par exemple, Snowflake a obtenu la certification ISO/IEC 42001 à l’issue d’un audit indépendant réalisé par un tiers, et les clients peuvent accéder aux preuves d’audit associées via le centre de conformité de Snowflake.

ISO/IEC 42001 s’applique aux organisations qui fournissent, développent, déploient ou utilisent des systèmes d’IA. Le risque lié à l’IA ne concerne pas seulement les développeurs de modèles. Il peut aussi apparaître lorsqu’une unité business configure un produit SaaS intégrant l’IA, intègre un système d’IA dans un workflow, le connecte à des données sensibles ou utilise ses résultats pour prendre des décisions qui affectent les clients, les employés ou les opérations.

La norme concerne plusieurs types d’organisations :

• Les fournisseurs développent des systèmes d’IA, des produits intégrant l’IA ou des services d’IA utilisés par d’autres. Un fournisseur peut créer un modèle de détection de la fraude, un assistant d’IA générative, un système de vision par ordinateur ou une application d’IA intégrée à un produit plus large.

• Les déployeurs mettent des systèmes d’IA en service. Un déployeur peut configurer un service d’IA fourni par un prestataire, l’intégrer à des systèmes internes, le connecter à des données gouvernées ou définir le workflow dans lequel les employés s’appuient sur les résultats de l’IA.

• Les utilisateurs exploitent des systèmes d’IA dans des contextes de production. Dans la pratique, cela peut inclure des équipes business, des organismes du secteur public, des organisations réglementées et des fonctions internes qui utilisent l’IA pour l’analyse, l’automatisation, l’aide à la décision ou la génération de contenu.

ISO 42001 est indépendante du secteur, mais son adoption précoce est particulièrement pertinente pour les organisations du secteur public, les secteurs réglementés et les entreprises spécialisées dans les produits d’IA, car ces acteurs doivent souvent répondre à des exigences plus fortes en matière de contrôles documentés, d’éléments probants pour les achats et de processus de gouvernance défendables.

ISO/IEC 42001 suit la structure harmonisée utilisée par les normes ISO relatives aux systèmes de management. Les articles 1 à 3 définissent le domaine d’application, les références normatives, ainsi que les termes et définitions ; les articles 4 à 10 précisent les exigences du système de management qu’une organisation doit mettre en œuvre et maintenir.

Articles 1 à 3 : domaine d’application, références et définitions

Les articles d’ouverture établissent ce que couvre la norme, les références applicables et la définition des termes clés. Pour les programmes de gouvernance de l’IA, ce vocabulaire commun est essentiel, car les équipes business, juridiques, de data science, d’ingénierie et de sécurité emploient souvent les mêmes mots différemment. La norme donne à ces équipes un point de référence partagé pour l’AIMS.

Article 4 : contexte de l’organisation

L’article 4 exige que l’organisation comprenne les facteurs internes et externes qui influent sur son système de management de l’IA. Cela inclut les besoins des parties prenantes, les attentes juridiques et réglementaires, les cas d’usage de l’IA, les frontières organisationnelles et le périmètre de l’AIMS.

Concrètement, une entreprise doit savoir quels systèmes d’IA relèvent de l’AIMS, quelles équipes en sont responsables, sur quelles sources de données ils s’appuient et quelles parties externes sont affectées par leurs résultats.

Article 5 : leadership

L’article 5 traite de l’engagement de la direction, de la politique d’IA, des rôles, des responsabilités et des autorités. Il impose aux dirigeants de faire de la gouvernance de l’IA une composante du système de management de l’organisation, plutôt qu’un processus parallèle porté uniquement par les équipes techniques.

Cela signifie généralement désigner des responsables tenus de rendre des comptes, approuver une politique d’IA, aligner les responsabilités entre équipes business et techniques, et veiller à ce que les personnes ayant des obligations de gouvernance disposent de l’autorité nécessaire pour les remplir.

Article 6 : planification

L’article 6 couvre la planification, notamment l’évaluation et le traitement des risques liés à l’IA, ainsi que les objectifs en matière d’IA. Les entreprises doivent identifier les risques et les opportunités, décider comment les traiter et définir des objectifs mesurables pour l’AIMS.

Une évaluation des risques peut examiner la qualité des données, les performances des modèles, l’explicabilité, la supervision humaine, la sécurité, la confidentialité, les biais algorithmiques, la résilience opérationnelle ou les impacts en aval. Le plan de traitement des risques relie ensuite ces risques aux contrôles, aux responsables et aux preuves.

Article 7 : support

L’article 7 se concentre sur les ressources nécessaires au fonctionnement de l’AIMS : compétences, sensibilisation, communication et informations documentées. Une politique ne suffit pas si les propriétaires de modèles ne savent pas quand réaliser une analyse d’impact, si les réviseurs ne trouvent pas les preuves requises ou si les utilisateurs métier ne comprennent pas les usages acceptables de l’IA.

C’est dans cet article que les entreprises définissent les formations, les pratiques de documentation, les canaux de communication et les enregistrements qui attestent l’activité de gouvernance.

Article 8 : Fonctionnement

L’article 8 traite de la planification et du contrôle opérationnels des systèmes d’IA. C’est ici que les processus de cycle de vie deviennent concrets : exigences, décisions de conception, préparation des données, vérification et validation, contrôles de déploiement, exploitation, surveillance et mise hors service.

Par exemple, une entreprise peut avoir besoin d’un processus documenté pour approuver un modèle avant la production, modifier ses entrées de données, étendre son utilisation à une nouvelle population ou le retirer lorsqu’il ne répond plus aux exigences de politique ou de performance.

Article 9 : Évaluation des performances

L’article 9 impose aux organisations de surveiller, mesurer, analyser et évaluer les performances de leur système de management, tout en réalisant des audits internes et des revues de direction afin d’en garantir l’efficacité. L’entreprise doit savoir si l’AIMS fonctionne et si les contrôles de gouvernance restent adaptés à ses systèmes d’IA.

Cela peut inclure les résultats des tests de contrôle, les constats d’audit, les résultats de la supervision des modèles, les tendances observées en matière d’incidents, l’état des mesures de traitement des risques ainsi que les comptes rendus des revues de direction.

Article 10 : Amélioration

L’article 10 couvre les non-conformités, les actions correctives et l’amélioration continue. Lorsqu’un constat d’audit, un incident, un problème identifié par les activités de surveillance ou une défaillance de processus survient, l’organisation doit y répondre de manière structurée.

Cette réponse consiste généralement à enquêter sur l’incident, à corriger le problème immédiat, à en traiter les causes profondes et à mettre à jour l’AIMS afin de réduire le risque qu’une défaillance similaire ne se reproduise.

L’annexe A fournit 38 contrôles spécifiques à l’IA, regroupés par catégories de contrôle. Ces contrôles aident les entreprises à passer des exigences du système de management aux pratiques opérationnelles, mais ils ne sont pas automatiquement obligatoires dans tous les contextes. Les entreprises évaluent l’applicabilité et documentent leur justification dans une déclaration d’applicabilité.

A.2 : Politiques d’IA

L’annexe A.2 est consacrée aux politiques relatives à l’IA. Elle précise notamment comment l’organisation formalise ses engagements en matière d’IA responsable, répartit les rôles et responsabilités et prend en compte les exigences liées aux achats et aux fournisseurs. Une politique doit être suffisamment précise pour guider les décisions sur le développement et l’utilisation de l’IA, notamment déterminer qui peut approuver un système d’IA, quels critères de risque s’appliquent et comment les systèmes d’IA tiers sont examinés.

A.3 : Organisation interne

L’annexe A.3 porte sur la structure de gouvernance, les lignes de reporting et l’allocation des ressources. La gouvernance de l’IA mobilise souvent des responsables business, des équipes data, les services juridique, conformité, sécurité, confidentialité et achats, ainsi que les équipes plateforme. L’objectif de contrôle consiste donc à rendre la responsabilité visible avant qu’un problème n’apparaisse.

A.4 : Ressources pour les systèmes d’IA

L’annexe A.4 traite des ressources nécessaires pour développer, déployer et exploiter des systèmes d’IA, notamment les données, les outils, l’infrastructure, les ressources système et la supervision humaine. Pour un système d’IA en production, cela peut inclure des jeux de données approuvés, des environnements de développement de modèles, des outils de surveillance, des workflows de revue et des processus de remontée.

A.5 : Évaluation des impacts des systèmes d’IA

L’annexe A.5 couvre les analyses d’impact. Ces évaluations aident les entreprises à déterminer comment un système d’IA pourrait affecter des individus, des groupes, des processus business ou des parties prenantes externes avant et après le déploiement.

Une analyse d’impact peut examiner si un système d’IA influence l’accès à un service, produit des recommandations qui affectent des personnes, traite des attributs sensibles ou crée une dépendance opérationnelle dans un workflow stratégique.

A.6 : Cycle de vie des systèmes d’IA

L’annexe A.6 couvre les processus de cycle de vie, notamment les exigences, la conception, la vérification, la validation, le déploiement, l’exploitation et la mise hors service. Cette catégorie de contrôle reflète une réalité fondamentale de la gouvernance : le risque lié à l’IA évolue à mesure que les systèmes franchissent les différentes étapes.

Un modèle qui semble acceptable en phase de développement peut se comporter différemment une fois connecté à des données actualisées, lorsqu’il reçoit de nouveaux prompts, sert une base d’utilisateurs plus large ou intègre un workflow automatisé.

A.7 : Données pour les systèmes d’IA

L’annexe A.7 traite de l’acquisition, de la qualité, de la provenance et de la préparation des données. Ces contrôles sont particulièrement importants, car les systèmes d’IA héritent souvent des risques associés à leurs données. Si un jeu d’entraînement, un contexte de prompt, une table de features ou un corpus de récupération ne dispose pas d’un propriétaire identifié, d’une traçabilité, de contrôles qualité ou de contraintes d’utilisation, il peut devenir difficile de faire confiance aux sorties du modèle ou de les justifier.

Des contrôles solides dans cette catégorie exigent généralement que les équipes documentent l’origine des données, les transformations appliquées, les seuils de qualité requis et les restrictions d’usage qui accompagnent les données dans les workflows d’IA.

A.8 : Informations destinées aux parties intéressées

L’annexe A.8 couvre les informations fournies aux parties intéressées, notamment la documentation, la communication et le reporting. Selon le système d’IA, ces parties peuvent inclure des clients, des autorités de régulation, des réviseurs internes, des utilisateurs métier, des auditeurs ou des personnes affectées par les sorties du système.

Cette catégorie peut inclure la documentation du modèle, les consignes utilisateur, les informations sur les risques, les limites connues, les rapports de surveillance et les processus de communication des incidents.

A.9 : Utilisation des systèmes d’IA

L’annexe A.9 porte sur l’utilisation responsable et la mise hors service. Les entreprises doivent mettre en place des processus qui gouvernent l’utilisation des systèmes d’IA après leur mise en production, y compris l’usage acceptable, les responsabilités des utilisateurs, les attentes en matière de surveillance et les critères de retrait.

C’est essentiel pour l’IA générative et les systèmes agentiques, où une même capacité sous-jacente peut être utilisée dans différents workflows, avec des profils de risque distincts.

A.10 : Relations avec les tiers et les clients

L’annexe A.10 traite des responsabilités des fournisseurs et des clients. Les systèmes d’IA dépendent souvent de modèles externes, de produits SaaS, de fournisseurs de données, de partenaires d’intégration ou de clients en aval. Ces contrôles aident à clarifier qui est responsable de quoi, quelles preuves sont exigées et comment les changements apportés aux services tiers sont examinés.

La certification ISO/IEC 42001 suit le parcours de certification des systèmes de management, bien connu dans les autres normes ISO. Les détails varient selon l’entreprise, le périmètre et l’organisme de certification, mais la plupart des programmes suivent la même séquence de base.

• Évaluation de préparation ou analyse des écarts : L’entreprise évalue ses pratiques actuelles de gouvernance de l’IA au regard des exigences de la norme ISO 42001. Cette étape met généralement en évidence des définitions de périmètre manquantes, des responsabilités non documentées, des évaluations des risques incohérentes, des contrôles du cycle de vie insuffisants ou des preuves d’audit trop limitées.

• Mise en place de l’AIMS : L’entreprise met en place ou met à jour l’AIMS. Cela comprend les politiques, les procédures, les évaluations des risques, les analyses d’impact, les contrôles du cycle de vie, les pratiques de documentation, les programmes de formation, le reporting et la déclaration d’applicabilité des contrôles de l’annexe A.

• Audit interne : Avant l’audit de certification, l’entreprise réalise un audit interne pour vérifier si l’AIMS répond aux exigences et si les contrôles fonctionnent comme décrit.

• Audit de certification de phase 1 : L’organisme de certification examine la préparation, le périmètre et la documentation. L’objectif est de déterminer si l’entreprise est prête pour l’audit de mise en œuvre.

• Audit de certification de phase 2 : L’auditeur vérifie que l’AIMS est mis en œuvre et opérationnel. Cela peut inclure des entretiens, une revue des preuves, un échantillonnage, des tests de contrôle et l’examen des enregistrements de revue de direction.

• Audits de surveillance et recertification : La certification n’est pas un événement unique. Les entreprises font généralement l’objet d’audits de surveillance annuels et d’une recertification tous les trois ans, ce qui renforce le modèle d’amélioration continue de la norme.

Les entreprises peuvent travailler avec des organismes de certification accrédités tels que BSI, Schellman, A-LIGN, Mazars, TÜV ou DNV, selon la zone géographique, le périmètre et la disponibilité. Le délai d’obtention de la certification varie fortement, mais de nombreuses entreprises doivent prévoir un projet de 6 à 18 mois. Les calendriers sont souvent plus courts lorsqu’elles exploitent déjà des systèmes de management matures ISO 27001, ISO 9001 ou similaires.

La norme ISO 42001 ne remplace pas tous les frameworks de gouvernance de l’IA ni toutes les obligations légales. Elle est la plus efficace lorsque les entreprises comprennent sa finalité : établir un système de management de l’IA certifiable.

De nombreuses organisations utiliseront ces frameworks ensemble. Une équipe peut utiliser l’AI RMF du NIST pour structurer l’analyse des risques liés à l’IA, ISO/IEC 23894 pour approfondir les pratiques de gestion des risques, ISO/IEC 22989 pour aligner le vocabulaire et ISO 42001 pour mettre en place l’AIMS qui rend ces pratiques répétables et auditables.

Snowflake est certifié ISO/IEC 42001, ce qui signifie qu’un tiers accrédité a audité l’AIMS de Snowflake au regard des exigences de la norme en matière de gouvernance responsable de l’IA, et que les preuves d’audit sont disponibles pour les clients via Snowflake Compliance Center.

Pour les clients qui créent leurs propres programmes ISO 42001, une plateforme certifiée peut soutenir certains aspects de l’environnement de contrôle de la gouvernance des données et de l’IA. Elle ne certifie pas l’AIMS du client, car chaque organisation reste responsable de ses cas d’usage de l’IA, de ses évaluations des risques, de ses évaluations d’impact, de ses politiques et de ses décisions opérationnelles. Mais elle peut aider les organisations à structurer les preuves montrant que les contrôles fondamentaux des données et de l’infrastructure sont gouvernés, documentés et auditables.

Les fonctionnalités de Snowflake peuvent soutenir plusieurs domaines de contrôle de l’Annexe A :

Snowflake Horizon Catalog est conçu pour offrir une traçabilité et une visibilité étendues, afin d’aider les équipes à gouverner les données, les applications et les modèles grâce aux métadonnées, à la traçabilité des données, à l’historique des accès, à la classification, à l’étiquetage et à l’application des politiques. Horizon permet de gérer la gouvernance des données dans Snowflake et les stockages externes, avec les fonctionnalités Access History et Time Travel pour faciliter l’examen des activités passées et des états des données. Ces fonctionnalités sont pertinentes pour les contrôles de l’Annexe A liés aux données d’IA, à la documentation du cycle de vie, à la gouvernance des accès et au reporting.

Cortex Guard favorise une utilisation plus sûre des systèmes d’IA en aidant à filtrer les entrées et sorties de LLM potentiellement dangereuses, ce qui peut soutenir les contrôles liés à la supervision humaine, à l’utilisation responsable et aux informations fournies aux utilisateurs.

Model Registry aide les équipes à gérer les métadonnées du cycle de vie des modèles, les versions et le contexte de déploiement, ce qui soutient les contrôles de gouvernance du cycle de vie, de documentation et de revue opérationnelle.

Ensemble, ces fonctionnalités aident les organisations à associer la gouvernance aux objets dont dépendent les systèmes d’IA : jeux de données, modèles, politiques, cheminements de traçabilité, historique des accès, documentation et signaux d’utilisation. C’est particulièrement important pour ISO 42001, car la certification repose sur des preuves. Une équipe doit pouvoir démontrer non seulement qu’une politique existe, mais aussi que les contrôles adaptés sont appliqués, revus et améliorés au fil du temps.

ISO 42001 offre aux organisations un moyen concret de faire passer la gouvernance de l’IA du principe au processus. Une équipe doit encore déterminer quels systèmes d’IA entrent dans le périmètre, qui en est responsable, quels risques comptent, quels contrôles s’appliquent et quelles preuves démontrent que ces contrôles fonctionnent. Mais la norme fournit la structure nécessaire pour prendre ces décisions de manière cohérente. 

Lorsqu’un système d’IA s’appuie sur des données gouvernées, un cycle de vie des modèles documenté, une supervision humaine définie, des contrôles fournisseurs, des évaluations d’impact, une surveillance et des actions correctives, la gouvernance fait partie du fonctionnement même du système. C’est toute la valeur d’ISO 42001 : elle dote les programmes d’IA d’un système de management qui peut être revu, audité et amélioré à mesure que la technologie, l’organisation et l’environnement réglementaire évoluent.