ISO/IEC 42001:2023: requisiti, controlli e certificazione

Molti programmi di governance dell’AI privilegiano le policy, ma hanno processi deboli. Quando i modelli passano dallo sviluppo alla produzione, viene aggiunta una nuova sorgente dati o un fornitore aggiorna una feature, i controlli che sembravano adeguati al momento del deployment diventano rapidamente insufficienti e non esiste un meccanismo integrato per rilevare la lacuna.

La norma ISO/IEC 42001:2023 è il primo standard internazionale per i sistemi di gestione dell’AI e fornisce alle organizzazioni il modello operativo necessario. Specifica come le organizzazioni possono definire, implementare, mantenere e migliorare continuamente i processi utilizzati per governare i sistemi di IA, trasformando la governance dell’AI da semplice documento a sistema di gestione verificabile, con responsabilità definite, trattamento dei rischi, cicli di audit e requisiti relativi alle evidenze.

La norma ISO/IEC 42001:2023 è uno standard internazionale che specifica i requisiti di un sistema di gestione dell’intelligenza artificiale (AIMS). Un sistema di gestione dell’intelligenza artificiale (AIMS) è l’insieme di policy, ruoli, processi, controlli e informazioni documentate che un’organizzazione utilizza per governare lo sviluppo, la fornitura o l’uso dei sistemi di IA.

Pubblicata nel dicembre 2023 dall’ISO/IEC JTC 1/SC 42, la norma si applica a diversi settori e tipi di sistemi di IA, tra cui il machine learning predittivo, l’AI generativa e i sistemi agentici. Può essere applicato alle organizzazioni che forniscono prodotti di AI, implementano sistemi di IA nei processi aziendali o utilizzano sistemi di IA in contesti di produzione.

ISO/IEC 42001 adotta la struttura armonizzata utilizzata da altre norme ISO per i sistemi di gestione, tra cui ISO 27001 e ISO 9001. Questo approccio è vantaggioso perché le organizzazioni con sistemi di gestione già maturi possono spesso riutilizzare pratiche consolidate: definire l’ambito, assegnare le responsabilità alla leadership, mantenere informazioni documentate, condurre audit interni, esaminare le performance e promuovere il miglioramento continuo.

La norma include anche i controlli dell’Appendice A, che riguardano temi specifici della governance dell’AI, come le policy sull’AI, l’organizzazione interna, le risorse, le valutazioni d’impatto, i processi del ciclo di vita, i dati, le informazioni per le parti interessate, l’uso dei sistemi di IA e i rapporti con terze parti. Come in ISO 27001, l’adozione dei controlli dell’Appendice A dipende dalla loro applicabilità; le organizzazioni documentano quindi quali controlli si applicano e per quale motivo mediante una Dichiarazione di applicabilità.

La norma ISO/IEC 42001 consente alle organizzazioni di dimostrare che la governance dell’AI è attuata concretamente e non solo descritta. Questa distinzione è importante quando clienti, autorità di regolamentazione, consigli di amministrazione o team responsabili degli acquisti chiedono come un’organizzazione controlla i sistemi di IA che sviluppa o utilizza.

Attestazione di terze parti

La certificazione fornisce alle organizzazioni una garanzia indipendente che il loro AIMS soddisfa i requisiti della norma. L’ISO definisce la certificazione come una garanzia scritta, rilasciata da un organismo indipendente, che un prodotto, un servizio o un sistema soddisfa requisiti specifici. Per i team che si occupano di AI, ciò consente di dimostrare l’adozione di pratiche di AI responsabile senza esporre dettagli proprietari dei modelli, architetture interne o dati sensibili dei clienti.

Supporto al procurement

Con l’inserimento di domande sulla governance dell’AI nelle richieste di offerta e nelle valutazioni del rischio dei fornitori, ISO 42001 offre a fornitori e deployer una norma standard a cui fare riferimento. Una certificazione non risponde a ogni domanda tecnica, ma riduce l’incertezza sulla presenza di processi formali di governance dell’AI, cicli di audit e supervisione da parte della direzione.

Allineamento normativo

L’adozione di ISO 42001 è volontaria, ma la struttura del suo sistema di gestione è strettamente allineata alle nuove aspettative normative in materia di AI. L’AI Act dell’Unione europea impone ai fornitori di sistemi di IA ad alto rischio di mantenere sistemi documentati di gestione della qualità e dei rischi, nonché processi di monitoraggio successivo all’immissione sul mercato. ISO 42001 offre una base strutturata che le organizzazioni possono utilizzare per sostenere le iniziative di compliance dell’AI: le policy, le procedure e le evidenze richieste da tali obblighi.

Cadenza operativa

La governance dell’AI richiede una cadenza regolare. Le valutazioni dei rischi diventano obsolete, i dati cambiano, il comportamento dei modelli varia e i casi d’uso aziendali si ampliano. ISO 42001 formalizza questa cadenza mediante pianificazione, valutazione delle prestazioni, audit interno, riesame della direzione, azioni correttive e miglioramento continuo.

Fiducia dei clienti

La certificazione ISO/IEC 42001 dimostra ai clienti l’impegno di un’organizzazione verso trasparenza, responsabilità e fiducia nelle pratiche di sicurezza dell’AI. Ad esempio, Snowflake ha ottenuto la certificazione ISO/IEC 42001 a seguito di un audit indipendente condotto da terzi, e i clienti possono accedere alle relative evidenze di audit tramite il Compliance Center Snowflake.

ISO/IEC 42001 si applica alle organizzazioni che forniscono, sviluppano, implementano o utilizzano sistemi di IA. Il rischio legato all’AI non riguarda soltanto chi sviluppa i modelli. Può emergere anche quando un’azienda configura un prodotto SaaS con funzionalità AI, integra un sistema di IA in un workflow, lo collega a dati sensibili o ne usa gli output per decisioni che incidono su clienti, dipendenti o attività operative.

La norma è rilevante per diversi tipi di organizzazioni:

• I fornitori sviluppano sistemi di IA, prodotti con funzionalità AI o servizi AI destinati all’uso da parte di terzi. Un fornitore può sviluppare un modello di rilevamento delle frodi, un assistente di Gen AI, un sistema di computer vision o un’applicazione AI integrata in un prodotto più ampio.

• I deployer mettono in uso i sistemi di IA. Un deployer può configurare un servizio AI fornito da un vendor, integrarlo con i sistemi interni, collegarlo a dati governati o definire il workflow in cui il personale utilizza gli output dell’AI.

• Gli utenti utilizzano sistemi di IA in ambienti di produzione. In pratica, possono essere team aziendali, enti pubblici, organizzazioni regolamentate e funzioni interne che usano l’AI per analisi, automazione, supporto decisionale o generazione di contenuti.

ISO 42001 è indipendente dal settore, ma la sua adozione anticipata è particolarmente rilevante per organizzazioni del settore pubblico, settori regolamentati e aziende che sviluppano prodotti AI, spesso soggetti a requisiti più rigorosi in materia di controlli documentati, evidenze per il procurement e processi di governance giustificabili.

ISO/IEC 42001 segue la struttura armonizzata adottata dalle norme ISO sui sistemi di gestione. Le clausole da 1 a 3 definiscono l’ambito di applicazione, i riferimenti normativi, i termini e le definizioni; le clausole da 4 a 10 specificano i requisiti del sistema di gestione che un’organizzazione deve implementare e mantenere.

Clausole 1–3: Scopo e campo di applicazione, riferimenti normativi, termini e definizioni

Le clausole iniziali stabiliscono l’ambito della norma, i riferimenti applicabili e le definizioni dei termini principali. Nei programmi di governance dell’AI, questo vocabolario comune è importante perché i team delle aree business, legale, data science, ingegneria e sicurezza spesso attribuiscono significati diversi agli stessi termini. La norma offre a questi team un riferimento condiviso per l’AIMS.

Clausola 4: Contesto dell’organizzazione

La clausola 4 richiede all’organizzazione di comprendere i fattori interni ed esterni che influiscono sul suo sistema di gestione dell’AI. Sono inclusi le esigenze degli stakeholder, le aspettative legali e normative, i casi d’uso di AI, i confini organizzativi e l’ambito di applicazione dell’AIMS.

In termini pratici, un’azienda deve sapere quali sistemi di IA rientrano nell’AIMS, quali team ne sono responsabili, da quali fonti dati dipendono e quali soggetti esterni sono interessati dai loro output.

Clausola 5: Leadership

La clausola 5 riguarda l’impegno della leadership, la policy sull’AI, i ruoli, le responsabilità e le autorità. Richiede all’alta dirigenza di integrare la governance dell’AI nel sistema di gestione dell’organizzazione, anziché trattarla come un processo secondario affidato soltanto ai team tecnici.

In genere, ciò significa nominare responsabili a cui rendere conto, approvare una policy sull’AI, allineare le responsabilità tra team aziendali e tecnici, e garantire che chi ha obblighi di governance disponga dell’autorità necessaria per adempierli.

Clausola 6: Pianificazione

La clausola 6 riguarda la pianificazione, comprese la valutazione e il trattamento dei rischi legati all’AI e la definizione degli obiettivi per l’AI. Le organizzazioni devono identificare rischi e opportunità, decidere come affrontarli e definire obiettivi misurabili per l’AIMS.

Una valutazione dei rischi può esaminare la qualità dei dati, le prestazioni del modello, la spiegabilità, la supervisione umana, la sicurezza, la privacy, il bias algoritmico, la resilienza operativa o l’impatto a valle. Il piano di trattamento dei rischi collega quindi tali rischi a controlli, responsabili ed evidenze.

Clausola 7: Supporto

La clausola 7 riguarda le risorse necessarie per gestire l’AIMS: competenze, consapevolezza, comunicazione e informazioni documentate. Una policy non basta se i responsabili dei modelli non sanno quando eseguire una valutazione d’impatto, chi svolge le revisioni non trova le evidenze richieste o gli utenti business non comprendono le modalità d’uso accettabili dell’AI.

In questa clausola, le organizzazioni definiscono la formazione, le pratiche di documentazione, i canali di comunicazione e le registrazioni che attestano le attività di governance.

Clausola 8: Attività operative

La clausola 8 riguarda la pianificazione e il controllo operativi dei sistemi di IA. In questa fase, i processi del ciclo di vita diventano concreti: requisiti, decisioni di progettazione, preparazione dei dati, verifica e convalida, controlli sulla distribuzione, operatività, monitoraggio e dismissione.

Ad esempio, un’organizzazione può aver bisogno di un processo documentato per approvare un modello prima della messa in produzione, modificarne gli input di dati, estenderne l’uso a una nuova popolazione o dismetterlo quando non soddisfa più le aspettative definite dalla policy o in termini di prestazioni.

Clausola 9: Valutazione delle prestazioni

La clausola 9 richiede monitoraggio, misurazione, analisi, valutazione, audit interno e riesame della direzione. L’organizzazione deve sapere se l’AIMS funziona e se i controlli di governance restano adeguati ai propri sistemi di IA.

Ciò può includere test dei controlli, risultanze degli audit, risultati del monitoraggio dei modelli, tendenze degli incidenti, stato del trattamento dei rischi e registrazioni dei riesami della direzione.

Clausola 10: Miglioramento

La clausola 10 riguarda le non conformità, le azioni correttive e il miglioramento continuo. Quando emerge una risultanza di audit, un incidente, un problema di monitoraggio o un malfunzionamento di processo, l’organizzazione deve rispondere in modo strutturato.

In genere, la risposta comprende l’analisi del problema, la correzione immediata, la risoluzione delle cause profonde e l’aggiornamento dell’AIMS per ridurre la probabilità che lo stesso malfunzionamento si ripeta.

L’Appendice A definisce 38 controlli specifici per l’AI, raggruppati in categorie. Questi controlli aiutano le organizzazioni a tradurre i requisiti del sistema di gestione in pratiche operative, ma non sono automaticamente obbligatori in ogni contesto. Le organizzazioni ne valutano l’applicabilità e documentano le proprie motivazioni in una Dichiarazione di applicabilità.

A.2: Politiche relative all’AI

La sezione A.2 riguarda le policy sull’AI, compreso il modo in cui l’organizzazione definisce le aspettative per un’AI responsabile, assegna i ruoli e gestisce gli approvvigionamenti. Una policy deve essere sufficientemente specifica da orientare le decisioni sullo sviluppo e sull’uso dell’AI, indicando chi può approvare un sistema di IA, quali criteri di rischio si applicano e come vengono esaminati i sistemi di IA di terze parti.

A.3: Organizzazione interna

La sezione A.3 riguarda la struttura di governance, le linee gerarchiche e l’allocazione delle risorse. La governance dell’AI coinvolge spesso responsabili business, team di dati, funzioni legali, compliance, sicurezza, privacy, approvvigionamenti e team di piattaforma. L’obiettivo del controllo è quindi rendere chiare le responsabilità prima che emerga un problema.

A.4: Risorse per i sistemi di AI

La sezione A.4 riguarda le risorse necessarie per sviluppare, distribuire e gestire i sistemi di IA, inclusi dati, strumenti, infrastruttura, risorse di sistema e supervisione umana. Per un sistema di IA in produzione, queste risorse possono includere set di dati approvati, ambienti di sviluppo dei modelli, strumenti di monitoraggio, workflow di revisione e percorsi di escalation.

A.5: Valutazione degli impatti dei sistemi di AI

La sezione A.5 riguarda le valutazioni d’impatto. Queste valutazioni consentono alle organizzazioni di determinare in che modo un sistema di IA potrebbe influire su persone, gruppi, processi aziendali o stakeholder esterni prima e dopo la distribuzione.

Una valutazione d’impatto può esaminare se un sistema di IA influenza l’accesso a un servizio, produce raccomandazioni che incidono sulle persone, tratta attributi sensibili o crea una dipendenza operativa in un workflow critico.

A.6: Ciclo di vita dei sistemi di AI

La sezione A.6 riguarda i processi del ciclo di vita, inclusi requisiti, progettazione, verifica, convalida, distribuzione, operatività e dismissione. La categoria di controllo riflette una realtà fondamentale della governance: il rischio legato all’AI cambia man mano che i sistemi attraversano le diverse fasi.

Un modello che appare accettabile durante lo sviluppo può comportarsi diversamente dopo la connessione a dati live, quando riceve nuovi prompt, serve una base utenti più ampia o entra a far parte di un workflow automatizzato.

A.7: Dati per i sistemi di AI

La sezione A.7 riguarda l’acquisizione, la qualità, la provenienza e la preparazione dei dati. Questi controlli sono particolarmente importanti perché i sistemi di IA spesso ereditano i rischi dai propri dati. Se un set di addestramento, il contesto di un prompt, una tabella di feature o un corpus di recupero non dispone di una titolarità definita, del data lineage, di controlli di qualità o di vincoli di utilizzo, l’output del modello può diventare difficile da considerare affidabile o da giustificare.

Controlli solidi in questa categoria richiedono in genere di documentare la provenienza dei dati, le trasformazioni applicate, le soglie di qualità previste e le restrizioni d’uso che accompagnano i dati nei workflow di AI.

A.8: Informazioni per le parti interessate

La sezione A.8 riguarda le informazioni fornite alle parti interessate, tra cui documentazione, comunicazioni e reporting. A seconda del sistema di IA, le parti interessate possono includere clienti, autorità di regolamentazione, revisori interni, utenti aziendali, auditor o persone interessate dagli output del sistema.

Questa categoria può includere la documentazione del modello, le istruzioni per gli utenti, le informative sui rischi, le limitazioni note, i report di monitoraggio e i processi di comunicazione degli incidenti.

A.9: Uso dei sistemi di AI

La sezione A.9 riguarda l’utilizzo responsabile e la dismissione dei sistemi di IA. Le organizzazioni devono adottare processi che regolino l’utilizzo dei sistemi di IA dopo la messa in produzione, inclusi gli usi accettabili, le responsabilità degli utenti, i requisiti di monitoraggio e i criteri di dismissione.

Questo aspetto è importante per la Gen AI e i sistemi agentici, nei quali la stessa capacità di base può essere utilizzata in workflow diversi con profili di rischio differenti.

A.10: Relazioni con terze parti e clienti

La sezione A.10 riguarda le responsabilità di fornitori e clienti. I sistemi di IA dipendono spesso da modelli esterni, prodotti SaaS, fornitori di dati, partner di integrazione o clienti downstream. I controlli chiariscono la ripartizione delle responsabilità, le evidenze richieste e le modalità di revisione delle modifiche ai servizi di terze parti.

La certificazione ISO/IEC 42001 segue il consolidato percorso di certificazione dei sistemi di gestione utilizzato per altre norme ISO. I dettagli variano in base all’organizzazione, all’ambito di applicazione e all’organismo di certificazione, ma la maggior parte dei programmi segue la stessa sequenza di base.

• Analisi della maturità o delle lacune: l’organizzazione valuta le proprie pratiche di governance dell’AI rispetto ai requisiti della norma ISO 42001. Questa analisi individua in genere ambiti di applicazione non definiti, responsabilità non documentate, valutazioni dei rischi incoerenti, controlli del ciclo di vita inadeguati o evidenze di audit insufficienti.

• Implementazione dell’AIMS: l’organizzazione istituisce o aggiorna l’AIMS. Ciò include policy, procedure, valutazioni dei rischi, valutazioni d’impatto, controlli del ciclo di vita, pratiche di documentazione, formazione, reporting e una Dichiarazione di applicabilità per i controlli dell’Allegato A.

• Audit interno: prima dell’audit di certificazione, l’organizzazione esegue un audit interno per verificare se l’AIMS soddisfa i requisiti e se i controlli funzionano come descritto.

• Audit di certificazione di fase 1: l’organismo di certificazione esamina la maturità, l’ambito di applicazione e la documentazione. L’obiettivo è stabilire se l’organizzazione è pronta per l’audit di implementazione.

• Audit di certificazione di fase 2: l’auditor verifica che l’AIMS sia implementato e operativo. Le attività possono includere interviste, esame delle evidenze, campionamento, verifica dei controlli e analisi della documentazione relativa al riesame della direzione.

• Audit di sorveglianza e ricertificazione: la certificazione non è un evento una tantum. In genere, le organizzazioni sono sottoposte ad audit di sorveglianza annuali e a ricertificazione ogni tre anni, rafforzando così il modello di miglioramento continuo previsto dalla norma.

Le organizzazioni possono rivolgersi a organismi di certificazione accreditati come BSI, Schellman, A-LIGN, Mazars, TÜV o DNV, a seconda dell’area geografica, dell’ambito di applicazione e della disponibilità. I tempi per ottenere la certificazione variano notevolmente, ma molte organizzazioni devono prevedere un percorso di 6–18 mesi. I tempi possono essere più brevi se dispongono già di sistemi di gestione maturi basati sulle norme ISO 27001, ISO 9001 o su norme analoghe.

La norma ISO 42001 non sostituisce ogni framework di governance dell’AI né gli obblighi di legge. Risulta più efficace quando le organizzazioni ne comprendono la finalità: istituire un sistema di gestione per l’AI certificabile.

Molte organizzazioni utilizzano questi framework congiuntamente. È possibile utilizzare l’AI RMF del NIST per strutturare l’analisi dei rischi dell’AI, ISO/IEC 23894 per approfondire le pratiche di gestione dei rischi, ISO/IEC 22989 per uniformare il vocabolario e ISO 42001 per definire l’AIMS che rende tali pratiche ripetibili e verificabili tramite audit.

Snowflake ha ottenuto la certificazione ISO/IEC 42001: una terza parte accreditata ha sottoposto ad audit l’AIMS Snowflake rispetto ai requisiti della norma per una governance responsabile dell’AI, e le evidenze dell’audit sono disponibili per i clienti tramite il Compliance Center Snowflake.

Per i clienti che sviluppano un proprio programma ISO 42001, una piattaforma certificata supporta alcuni aspetti dell’ambiente di controllo della governance dei dati e dell’AI. La piattaforma non certifica l’AIMS del cliente, perché ogni organizzazione resta responsabile dei propri casi d’uso di AI, delle valutazioni dei rischi e degli impatti, delle policy e delle decisioni operative. Consente però alle organizzazioni di raccogliere evidenze che dimostrino che i controlli fondamentali su dati e infrastruttura sono governati, documentati e verificabili tramite audit.

Le funzionalità Snowflake supportano diverse aree di controllo dell’Appendice A:

Snowflake Horizon Catalog offre un’ampia tracciabilità e visibilità, consentendo di governare dati, app e modelli mediante metadati, data lineage, cronologia degli accessi, classificazione, tagging e applicazione delle policy. Horizon consente di gestire la governance dei dati nell’ambiente Snowflake e nello storage esterno; le funzionalità Access History e Time Travel supportano il riesame delle attività passate e degli stati precedenti dei dati. Queste funzionalità sono pertinenti ai controlli dell’Appendice A relativi ai dati per l’AI, alla documentazione del ciclo di vita, alla governance degli accessi e alla reportistica.

Cortex Guard supporta un uso più sicuro dei sistemi di IA filtrando input e output degli LLM potenzialmente non sicuri, e contribuisce così ai controlli relativi alla supervisione umana, all’uso responsabile e alle informazioni fornite agli utenti.

Model Registry consente di gestire i metadati del ciclo di vita dei modelli, le versioni e il contesto di deployment, supportando i controlli relativi alla governance del ciclo di vita, alla documentazione e al riesame operativo.

Nel complesso, queste funzionalità consentono alle organizzazioni di applicare la governance agli oggetti da cui dipendono i sistemi di IA: set di dati, modelli, policy, percorsi di data lineage, cronologia degli accessi, documentazione e segnali di utilizzo. Questo aspetto è particolarmente importante per ISO 42001, perché la certificazione dipende dalle evidenze. Occorre dimostrare non solo l’esistenza di una policy, ma anche che i controlli pertinenti siano applicati, riesaminati e migliorati nel tempo.

ISO 42001 offre alle organizzazioni un metodo pratico per trasformare la governance dell’AI da principio a processo. Occorre comunque decidere quali sistemi di IA rientrino nell’ambito di applicazione, chi ne sia responsabile, quali rischi siano rilevanti, quali controlli si applichino e quali evidenze ne dimostrino l’efficacia. La norma fornisce però la struttura necessaria per prendere tali decisioni in modo coerente. 

Quando un sistema di IA si basa su dati governati, un ciclo di vita del modello documentato, una supervisione umana definita, controlli sui fornitori, valutazioni d’impatto, monitoraggio e azioni correttive, la governance diventa parte del funzionamento del sistema. Il valore di ISO 42001 consiste nel fornire ai programmi di AI un sistema di gestione che può essere riesaminato, sottoposto ad audit e migliorato con l’evoluzione della tecnologia, dell’organizzazione e del contesto normativo.