Le règlement européen sur l’IA expliqué : niveaux de risque, échéances et conformité

La plupart des entreprises utilisent déjà plus de systèmes d’intelligence artificielle qu’une seule équipe ne peut en suivre de bout en bout. Un workflow de support client peut appeler un modèle tiers, un système antifraude peut noter des transactions, un outil de recrutement peut classer des candidats et un assistant de productivité peut résumer des documents contenant des données réglementées. Chaque système dispose probablement d’un propriétaire, d’une fiche fournisseur et d’une revue de sécurité quelque part. Mais ces informations sont souvent dispersées et ne répondent pas aux mêmes questions.

Le règlement européen sur l’IA pose une question très concrète sur les systèmes d’IA : l’organisation peut-elle démontrer ce que fait chaque système, le rôle qu’elle joue, le niveau de risque applicable et les contrôles requis pour chacun ?

La préparation au règlement européen sur l’IA commence par la gouvernance de l’IA et par une piste de preuves. Le règlement est juridique dans sa forme, mais opérationnel dans son application. Il demande aux entreprises de relier les systèmes d’IA aux données, modèles, documentations, journaux, mécanismes de surveillance humaine et processus de gestion des incidents qui prouvent une utilisation responsable, en particulier lorsque ces systèmes touchent à l’emploi, au crédit, à l’éducation, aux infrastructures critiques, aux forces de l’ordre ou à d’autres décisions à fort impact.

Le règlement européen sur l’IA est le premier cadre de l’IA juridique complet au monde. Il est entré en vigueur le 1er août 2024 et s’applique par étapes. Les pratiques interdites, les obligations de maîtrise de l’IA et les obligations relatives à l’IA à usage général sont déjà applicables. Selon le calendrier actuel, la plupart des obligations liées à l’IA à haut risque devraient s’appliquer à partir de 2026, avec certaines périodes de transition prolongées jusqu’en 2027-2028. L’objectif politique est une IA centrée sur l’humain : des systèmes utilisables de façon productive, avec des garanties en matière de sécurité, de droits fondamentaux, de transparence et de responsabilité. 

Son champ d’application est plus large que beaucoup d’organisations ne l’imaginent au départ. Le règlement peut s’appliquer aux fournisseurs, déployeurs, importateurs et distributeurs situés hors de l’UE lorsqu’un système d’IA est mis sur le marché de l’UE ou lorsque le résultat produit par ce système est utilisé dans l’UE. Une entreprise basée aux États-Unis qui vend en Europe un produit intégrant de l’IA, utilise un système d’IA pour évaluer des résidents de l’UE ou s’appuie sur un modèle non européen dont les résultats ont un impact sur des personnes dans l’UE peut donc devoir évaluer ses obligations.

Le règlement repose sur une approche fondée sur les risques. Certaines pratiques d’IA sont purement interdites, certains systèmes d’IA à haut risque sont soumis à des obligations détaillées et de nombreux usages à risque plus faible restent largement autorisés, sous réserve de règles de transparence ou de codes de conduite volontaires. Il distingue également les fournisseurs et les déployeurs. Un fournisseur développe un système d’IA ou un modèle d’IA à usage général, puis le met sur le marché ou le met en service sous son propre nom ou sa propre marque. Un déployeur utilise un système d’IA sous sa propre autorité, sauf dans le cadre d’un usage personnel non professionnel.

Pour la plupart des entreprises, l’enjeu pratique est clair : savoir quels systèmes d’IA sont utilisés, les classer par niveau de risque, documenter leur fonctionnement, conserver les preuves nécessaires à la supervision et s’assurer que les systèmes à haut risque peuvent réussir l’évaluation de conformité requise avant leur mise sur le marché de l’UE ou leur mise en service.

Le règlement européen sur l’IA répartit les systèmes d’IA en quatre grandes catégories de risque : risque inacceptable, risque élevé, risque limité et risque minimal. Cette catégorie est déterminante : elle indique si le système est interdit, soumis aux obligations applicables aux systèmes à haut risque, couvert par des obligations de transparence ou largement hors du champ des contrôles obligatoires.

Le règlement européen sur l’IA ajoute un régime distinct pour les modèles d’IA à usage général (General-Purpose AI, GPAI), y compris les modèles de fondation capables d’exécuter un large éventail de tâches en aval. Ce régime s’ajoute aux niveaux de risque, car un modèle à usage général peut être intégré à de nombreux systèmes d’IA, certains à faible risque et d’autres à haut risque.

Les obligations de base pour les modèles GPAI incluent :

• Tenir à jour une documentation technique

• Fournir aux fournisseurs en aval les informations nécessaires pour intégrer le modèle de manière responsable

• Mettre en œuvre une politique de conformité au droit d’auteur de l’UE

• Publier un résumé du contenu utilisé pour entraîner le modèle

Pour les modèles GPAI présentant un risque systémique, les obligations vont plus loin. Le règlement utilise un seuil de calcul, actuellement 10^25 opérations en virgule flottante, comme l’un des indicateurs qu’un modèle peut présenter un risque systémique. Les fournisseurs de ces modèles sont censés réaliser des évaluations de modèles, mener et documenter des tests adversariaux, évaluer et atténuer les risques systémiques, suivre et signaler les incidents graves, et maintenir des protections de cybersécurité adéquates pour le modèle et son infrastructure physique.

Les déployeurs en entreprise doivent traiter la documentation GPAI comme une exigence d’achat et de gouvernance. Une entreprise qui concède sous licence ou intègre un modèle tiers ne devient pas automatiquement le fournisseur du modèle. Mais elle doit disposer d’une documentation en aval suffisante pour comprendre les usages acceptables, les limites, les contraintes d’intégration, les contrôles des risques et les attentes en matière de signalement des incidents. Pour les cas d’usage à haut risque, cette documentation devient une partie de la chaîne de preuves du système d’IA construit autour du modèle.

En pratique, l’évaluation des modèles et le red teaming ne relèvent plus uniquement de la recherche ou de la sécurité. Ce sont des contrôles essentiels de la chaîne d’approvisionnement. Les équipes achats, juridique, sécurité, gouvernance des données et plateformes d’IA doivent savoir ce que le fournisseur du modèle communiquera, ce que l’entreprise testera elle-même et comment les risques liés au modèle seront suivis après le déploiement.

Le règlement européen sur l’IA s’applique par étapes. Le calendrier légal actuel constitue la base de planification des entreprises, même si les responsables politiques continuent de débattre d’éventuels ajustements de mise en œuvre.

• 1er août 2024 : Le règlement européen sur l’IA est entré en vigueur.

• 2 février 2025 : Les pratiques d’IA interdites et les obligations de maîtrise de l’IA ont commencé à s’appliquer.

• 2 août 2025 : Les règles de gouvernance et les obligations relatives aux modèles GPAI ont commencé à s’appliquer.

• 2 août 2026 : La plupart des obligations devraient s’appliquer, y compris les règles relatives à l’IA à haut risque pour les systèmes de l’annexe III.

• 2 août 2027 : Les systèmes d’IA à haut risque intégrés à des produits réglementés au titre de l’annexe I devraient entrer pleinement dans le champ d’application.

Le calendrier reste politiquement sensible. Des groupes sectoriels ont demandé un report, estimant que les entreprises ont besoin de davantage de précisions et de temps pour se mettre en conformité. Jennifer Belissent, Principal Data Strategist chez Snowflake, souligne que « les appels du secteur à reporter la mise en œuvre du règlement européen sur l’IA ont été nombreux », mais estime aussi que les entreprises ne doivent pas attendre, car « le véritable moteur de la gouvernance de l’IA et des données est déjà en place. Les clients l’exigent. »

C’est une approche de planification courante pour la plupart des entreprises. Même si certains détails de mise en œuvre évoluent, les clients, régulateurs, conseils d’administration et partenaires commerciaux demandent déjà des inventaires d’IA, des classifications des risques, une documentation des modèles, la traçabilité des données, des processus de gestion des incidents et des preuves que les systèmes d’IA à fort impact sont gouvernés.

Le règlement européen sur l’IA prévoit plusieurs niveaux de gravité pour les amendes administratives. Les États membres sont responsables des règles de sanction et des mesures d’application, mais le règlement fixe des plafonds d’amende en fonction du type d’infraction.

Le règlement demande également aux États membres de tenir compte des intérêts des petites et moyennes entreprises (PME) et des startups, avec des plafonds d’amende inférieurs pour ces structures. L’importance de l’amende peut dépendre de facteurs tels que la nature, la gravité et la durée de l’infraction, la taille de l’organisation, les infractions antérieures et le degré de coopération avec les autorités.

Pour les équipes en entreprise, le barème des sanctions n’est qu’un élément du calcul du risque. Une IA mal gouvernée peut aussi entraîner des problèmes de confiance client, des frictions contractuelles, une exposition en matière de confidentialité, des préoccupations de sécurité et des retards dans le lancement de produits intégrant de l’IA sur le marché de l’UE.

Une approche efficace de la conformité de l’IA consiste à transformer les exigences du règlement en artefacts opérationnels. Une politique indiquant que l’IA doit être gouvernée ne suffit pas. Les équipes ont besoin d’enregistrements, de contrôles et de circuits de validation qui montrent comment chaque système a été classé, testé, approuvé et surveillé.

Commencez par un inventaire de l’IA

Recensez chaque système d’IA utilisé ou en cours de développement, y compris les modèles créés en interne, les services d’IA tiers, les fonctionnalités d’IA intégrées aux applications SaaS et les modèles d’IA à usage général utilisés via des API. Chaque enregistrement d’inventaire doit identifier le propriétaire du système, le fournisseur, le déployeur, la finalité prévue, les utilisateurs concernés, les données d’entrée, l’exposition au marché de l’UE, les dépendances de modèle, les points d’intégration et le fait que le système ait ou non un impact sur des personnes dans l’UE.

Classez chaque système selon les niveaux de risque

Un chatbot d’IA utilisé pour la recherche de connaissances interne peut soulever des enjeux de transparence et de contrôle d’accès, tandis qu’un système d’IA utilisé pour classer des candidats à un emploi peut relever d’un domaine à haut risque de l’annexe III. La classification ne doit pas être une tâche ponctuelle. Elle doit être réexaminée lorsque la finalité du système, les données, la population d’utilisateurs ou le contexte de déploiement évoluent.

Commencez par le risque le plus élevé

Pour les systèmes potentiellement à haut risque, constituez rapidement les six artefacts de preuve essentiels :

• Système de gestion des risques : Documentez les risques connus et raisonnablement prévisibles, les mesures d’atténuation, les décisions relatives au risque résiduel et la cadence de revue.

• Procédures de gouvernance des données : Consignez les sources de données, les contrôles de qualité des données, les évaluations de représentativité, les contrôles des biais, la traçabilité, les règles de conservation et les politiques d’accès.

• Documentation technique : Tenez à jour la description du système, la logique du modèle, la finalité prévue, les caractéristiques de performance, les limites, les résultats de validation et l’architecture de déploiement.

• Journaux d’événements : Conservez les journaux capables de soutenir la surveillance, l’audit, l’enquête sur les incidents et la revue après mise sur le marché.

• Dispositif de surveillance humaine : Définissez le ou les systèmes grâce auxquels les humains examinent, remplacent, suspendent ou font remonter les sorties du système, et assurez-vous que les vérificateurs disposent des informations nécessaires pour agir.

• Mesures d’exactitude et de cybersécurité : Documentez les objectifs de performance, les tests de robustesse, les tests adversariaux, la gestion des vulnérabilités et les contrôles de sécurité.

Exigez la documentation des GPAI

Pour les modèles de GPAI, exigez des fournisseurs une documentation complète avant de les intégrer. Les équipes achats doivent demander la documentation technique, les instructions d’intégration en aval, les politiques d’usage acceptable, les informations sur la politique de droit d’auteur, les résumés des données d’entraînement lorsque cela est requis et les engagements de signalement des incidents. Ces éléments doivent être rattachés à l’enregistrement du système d’IA, et non stockés à part dans un dossier contractuel introuvable au moment d’un audit.

Mappez les contrôles du règlement européen sur l’IA avec les obligations existantes 

De nombreuses organisations disposent déjà d’analyses d’impact relatives à la protection des données (AIPD) au titre du RGPD, de contrôles de résilience opérationnelle DORA, de contrôles de cybersécurité NIS2, de procédures de gestion des risques liés aux modèles propres à leur secteur ou d’exigences de validation logicielle. L’objectif n’est pas de recréer ces processus sous une nouvelle étiquette « IA », mais de s’appuyer sur les contrôles déjà en place lorsqu’ils répondent aux exigences de preuve du règlement sur l’IA, puis de compléter le dispositif afin de couvrir les aspects qui ne le sont pas encore : classification des risques, documentation des modèles d’IA à usage général (GPAI), obligations de transparence, évaluation de la conformité, surveillance après la mise sur le marché et signalement des incidents.

Établissez des runbooks de signalement des incidents avant le 2 août 2026 

Les équipes doivent savoir ce qui constitue un incident grave, qui est chargé de l’enquête, quels journaux et documents doivent être conservés, à quel moment les équipes juridiques et conformité doivent être informées, et comment consigner les mesures correctives. Attendre qu’un système à haut risque échoue en production rend la réponse beaucoup trop dépendante d’une coordination informelle.

Découvrez ce que deux cadres dirigeants de Snowflake, Christian Kleinerman, EVP of Product, et Jennifer Belissent, Principal Data Strategist, pensent de l’IA générative et de l’éthique. 

La préparation au règlement européen sur l’IA exige de savoir quels actifs de données et d’IA existent, comment ils sont gouvernés, qui peut y accéder et quelles preuves peuvent être produites lorsqu’un système est examiné. Snowflake peut soutenir cette base en aidant les organisations à connecter la gouvernance de l’IA à la même plateforme que celle où résident déjà les données gouvernées, les métadonnées, les politiques et les journaux.

Snowflake Horizon Catalog fournit un contexte de découverte et de gouvernance pour les actifs de données et d’IA, notamment des métadonnées telles que la traçabilité, les vues sémantiques et le contexte d’usage associé. Pour la préparation au règlement sur l’IA, c’est essentiel : un inventaire de l’IA n’a de valeur que si les équipes peuvent relier un système aux tables, vues, fonctionnalités, modèles, politiques et propriétaires dont il dépend.

Le Compliance Center de Snowflake aide les équipes à évaluer, surveiller et réduire les risques de sécurité dans les comptes Snowflake grâce à des résultats issus de scanners, des notifications proactives et une visibilité au niveau du compte. La fonctionnalité Data Security du Compliance Center peut classer automatiquement certaines catégories de données sensibles dans les bases de données, identifier des catégories réglementées et à haut risque comme les données PII, les données PCI et les informations de santé protégées, et indiquer si des politiques de masquage les protègent déjà.

Les contrôles d’accès et les fonctionnalités de politiques de Snowflake peuvent aussi étayer les preuves de gouvernance de l’IA. Le Contrôle d’accès basé sur les rôles (RBAC), les politiques de masquage, les politiques d’accès aux lignes et l’historique des accès aident les équipes à démontrer qui a eu accès aux données sensibles, quelles politiques s’appliquaient et comment les données ont été utilisées. Ces enregistrements ne remplacent ni l’analyse juridique ni l’évaluation de conformité, mais ils peuvent soutenir les workflows de journalisation, de surveillance humaine, de gouvernance des données et de preuves d’audit dont les entreprises ont besoin autour des systèmes d’IA réglementés.

La certification ISO/IEC 42001 de Snowflake ajoute un autre signal de confiance. Cette certification fait suite à un audit tiers indépendant de son système de management de l’IA et soutient la transparence, la responsabilité et la confiance dans les pratiques d’IA de Snowflake.

Le règlement européen sur l’IA fait de la gouvernance de l’IA une exigence. Une entreprise doit savoir quels systèmes d’IA elle utilise, quel rôle elle joue pour chaque système, de quelles données et de quels modèles le système dépend, comment le risque a été classé, où l’humain peut intervenir et quelles preuves existent lorsqu’un régulateur, un client ou un réviseur interne demandent des garanties.

Ce travail est plus simple lorsqu’il s’appuie sur les modèles de gouvernance déjà utilisés par l’organisation : inventaires, contrôles d’accès, traçabilité, documentation, surveillance, réponse aux incidents et preuves d’audit. Le règlement ajoute des obligations propres à l’IA, en particulier pour les systèmes à haut risque et l’IA à usage général, mais il n’oblige pas les équipes à repartir de zéro. La meilleure approche consiste à connecter la préparation à l’IA aux contrôles déjà utilisés pour gouverner les données, la sécurité, la confidentialité et la résilience opérationnelle, puis à combler les écarts avant que l’application du règlement ne touche les systèmes les plus critiques.