Compliance dell’AI: le normative e come renderle operative

La compliance dell’AI parte da una domanda apparentemente semplice: per questo modello, assistente, sistema di scoring o workflow automatizzato, quali regole si applicano e quali prove dimostrano che sono state rispettate?

Rispondere diventa sempre più difficile con l’impiego dell’AI nelle decisioni sul credito, nei workflow clinici, nella selezione del personale, nel rilevamento delle frodi, nell’assistenza clienti e negli strumenti interni per la produttività. Un modello può utilizzare dati di addestramento provenienti da un sistema, record dei clienti provenienti da un altro, output di un fornitore di foundation model e una fase di approvazione umana eseguita in un’applicazione separata. Ogni parte di questa catena può generare un obbligo normativo, un requisito previsto da una policy interna o una questione di audit a cui sarà necessario rispondere in seguito.

I programmi di compliance dell’AI consentono alle organizzazioni di gestire questa complessità prima che un audit o la revisione di un incidente impongano di affrontarla. Collegano leggi e standard ai controlli, associano tali controlli alle prove e mantengono aggiornate le prove quando cambiano modelli, dati, fornitori e casi d’uso.

La compliance dell’AI è la disciplina che garantisce che i sistemi AI, e il ciclo di vita utilizzato per svilupparli e gestirli, siano conformi alle leggi, alle normative, agli standard di settore e alle policy interne applicabili. Comprende i controlli utilizzati da un’organizzazione per dimostrare che un sistema AI è stato progettato, testato, distribuito, monitorato e sottoposto a revisione nel rispetto dei relativi obblighi normativi.

La compliance dell’AI è quindi correlata a diverse discipline affini, ma se ne distingue:

• la governance dell’AI definisce il modello operativo: chi è responsabile di un caso d’uso dell’AI, chi lo approva, chi può sospenderlo e come avviene l’escalation delle decisioni.
• L’etica dell’AI definisce i principi: equità, trasparenza, responsabilità, privacy, sicurezza e supervisione umana.
• La gestione del rischio dell’AI definisce la metodologia: come l’organizzazione identifica, misura, assegna priorità e mitiga i rischi legati all’AI.
• La compliance dell’AI dimostra la conformità: quali regole si applicano, quali controlli le soddisfano e quali prove di audit supportano l’attestazione dei controlli.

Un programma di compliance dell’AI parte in genere da elementi concreti, non da principi astratti: un inventario dell’AI, una scheda del modello, un riepilogo dei dati di addestramento, una persona responsabile del sistema, una policy di accesso, una dashboard di monitoraggio e un registro delle approvazioni. Questi elementi dimostrano se un sistema è stato classificato correttamente, se l’AI ad alto rischio è stata sottoposta alla revisione appropriata, se la supervisione umana è effettiva e se il monitoraggio successivo alla distribuzione viene realmente eseguito.

Le organizzazioni operano in genere in un contesto normativo articolato su più livelli: norme generali sull’AI, disposizioni sulla privacy, orientamenti di vigilanza settoriali, requisiti di sicurezza dei prodotti, diritto del lavoro, norme a tutela dei consumatori e policy interne sui rischi.

AI Act dell’Unione europea

L’AI Act dell’Unione europea è ampiamente considerato uno dei framework normativi specifici per l’AI più completi attualmente in vigore. Adotta una struttura basata su livelli di rischio che distingue tra pratiche di AI vietate, sistemi di AI ad alto rischio, sistemi a rischio limitato, modelli di AI per finalità generali e utilizzi a rischio inferiore. L’AI Act ha inoltre portata extraterritoriale: può applicarsi a fornitori e deployer al di fuori dell’UE quando i sistemi di AI o i relativi output sono immessi sul mercato dell’UE o utilizzati al suo interno.

L’AI Act si applica in più fasi: i divieti e i requisiti di alfabetizzazione in materia di AI sono entrati in vigore a febbraio 2025, gli obblighi per l’AI per finalità generali ad agosto 2025, mentre l’attuazione più ampia proseguirà fino al 2 agosto 2027.

Per i sistemi di AI ad alto rischio, la compliance può richiedere gestione del rischio, governance dei dati, documentazione tecnica, registrazione degli eventi, trasparenza, sorveglianza umana, accuratezza, robustezza, cybersecurity e, in alcuni casi, una valutazione della conformità con il coinvolgimento di un organismo notificato.

Le organizzazioni che sviluppano o forniscono sistemi di AI ad alto rischio devono in genere predisporre un fascicolo tecnico che documenti come il sistema è stato progettato, testato e descritto. Le organizzazioni che utilizzano questi sistemi devono in genere fornire prove che dimostrino come il sistema viene implementato, chi ne esamina gli output, come viene monitorato e come vengono inoltrate le segnalazioni dei problemi.

Regolamento generale sulla protezione dei dati (GDPR)

Il GDPR (Regolamento Generale sulla Protezione dei Dati, RGPD) si applica già a molti sistemi di AI che trattano dati personali, anche quando tali sistemi non sono disciplinati da una normativa autonoma sull’AI. L’articolo 22 disciplina determinati diritti relativi ai processi decisionali automatizzati, compresa la profilazione, quando le decisioni producono effetti giuridici o incidono in modo analogo significativamente sulle persone. L’articolo 35 richiede una valutazione d’impatto sulla protezione dei dati (DPIA) quando il trattamento può presentare un rischio elevato per le persone, ad esempio in caso di profilazione su larga scala, trattamento di dati sensibili o uso di nuove tecnologie.

In pratica, la conformità al GDPR spesso affianca quella specifica per l’AI. Una banca che usa l’intelligenza artificiale per le decisioni creditizie può dover valutare il caso d’uso in base alle disposizioni dell’AI Act dell’Unione europea sui sistemi ad alto rischio e, al contempo, completare una DPIA, documentare la base giuridica, applicare controlli degli accessi e dimostrare che i dati personali sono stati trattati nel rispetto dei requisiti di limitazione delle finalità, minimizzazione e conservazione.

Norme federali e statali degli Stati Uniti

L’AI Risk Management Framework La compliance dell’AI resta un mosaico di leggi e regolamenti. A livello federale, l’indirizzo politico è cambiato rispetto all’ordine esecutivo del 2023 sull’AI sicura, protetta e affidabile. A gennaio 2025, l’Executive Order 14179, “Removing Barriers to American Leadership in Artificial Intelligence”, ha revocato alcune policy precedenti sull’AI e incaricato l’amministrazione di riesaminare e modificare le misure in contrasto con i suoi obiettivi in materia di AI.

Questo cambiamento a livello federale non ha tuttavia ridotto la pressione normativa. Le organizzazioni devono continuare a gestire gli orientamenti delle agenzie federali, le attività di applicazione delle norme e i requisiti statali. L’AI Risk Management Framework del National Institute of Standards and Technology (NIST) resta un framework volontario ampiamente utilizzato per gestire i rischi dell’AI, mentre le autorità di regolamentazione settoriali continuano ad applicare i poteri esistenti ai sistemi basati sull’AI.

A livello statale e locale, diverse norme sono diventate importanti punti di riferimento:

• Colorado AI Act / ADMT: il Colorado AI Act del 2024 è stato abrogato e sostituito dalla legge SB26-189, firmata il 14 maggio 2026. La nuova legge limita l’ambito del framework alle tecnologie decisionali automatizzate (ADMT) utilizzate per influire in modo sostanziale su decisioni rilevanti, continuando ad affrontare i problemi di bias algoritmico mediante obblighi di trasparenza, informazione, rettifica, ricorso e revisione umana. In generale, l’entrata in vigore degli obblighi applicabili è prevista per il 1° gennaio 2027; ulteriori dettagli attuativi sono attesi dalla normazione del procuratore generale del Colorado.
• Local Law 144 della città di New York: La città di New York disciplina gli strumenti decisionali automatizzati per l’impiego, prevedendo, per gli utilizzi lavorativi interessati, requisiti relativi agli audit sui bias e all’informazione.
• Norme della California sui processi decisionali automatizzati: La California ha adottato le norme attuative definitive del California Consumer Privacy Act (CCPA) in materia di tecnologie decisionali automatizzate, valutazioni del rischio e audit di cybersecurity. Le norme sono entrate in vigore il 1° gennaio 2026, con scadenze di conformità graduali per alcuni requisiti.

Norme sull’AI specifiche per settore

La compliance dell’AI dipende in larga misura dal contesto settoriale. Nei settori regolamentati, i sistemi di AI sono spesso valutati nell’ambito dei framework di vigilanza esistenti, anziché esclusivamente in base a norme specifiche per l’AI.

• Nel settore bancario, gli orientamenti sulla gestione del rischio di modello definiscono da tempo le modalità con cui gli istituti convalidano i modelli, documentano le ipotesi e mantengono la governance. Negli Stati Uniti, gli orientamenti della Federal Reserve sul rischio di modello pongono l’accento su sviluppo, implementazione, utilizzo, convalida, controlli, compliance e supervisione da parte del consiglio di amministrazione e dell’alta dirigenza. Nel 2026, le agenzie bancarie federali hanno inoltre pubblicato orientamenti aggiornati sulla gestione del rischio di modello, basati su un approccio proporzionato al rischio. In Italia e nell'Unione Europea, i principali framework di riferimento per la gestione del rischio di modello includono la Guida BCE sui modelli interni, gli Orientamenti EBA sulla governance interna (GL/2021/05) e il quadro regolamentare CRR/CRD.
• Negli Stati Uniti nel settore sanitario l’HIPAA può applicarsi quando i sistemi di AI trattano informazioni sanitarie protette, mentre la vigilanza della FDA può essere pertinente quando l’AI fa parte di un Software as a Medical Device (SaMD) o di un dispositivo medico basato sull’AI. La FDA mantiene un elenco dei dispositivi medici basati sull’AI autorizzati alla commercializzazione negli Stati Uniti, a conferma del ruolo crescente dell’AI nei prodotti medici regolamentati. In Italia, la protezione dei dati sanitari è disciplinata dal GDPR (Regolamento UE 2016/679) e dal Codice in materia di protezione dei dati personali (D.Lgs. 196/2003) con il Garante per la protezione dei dati personali quale autorità di supervisione. I dati sanitari rientrano nelle categorie particolari di dati personali, soggette a requisiti rafforzati di consenso, sicurezza e minimizzazione.
• Nel settore assicurativo, il bollettino modello della National Association of Insurance Commissioners statunitense definisce le aspettative sulle modalità con cui le compagnie assicurative governano i sistemi di AI e descrive le informazioni che le autorità possono richiedere durante un’indagine o un’ispezione. In Italia e nell'Unione Europea, la vigilanza sull'uso dell'AI nel settore assicurativo è guidata da EIOPA, che ha pubblicato l'Opinion on AI Governance and Risk Management (agosto 2025, EIOPA-BoS-25-360), definendo aspettative su governance dei dati, spiegabilità, equità e supervisione umana dei sistemi di AI. In Italia, IVASS ha condotto un'indagine sull'utilizzo degli algoritmi di machine learning nelle compagnie assicurative (2023) e ha emesso una comunicazione al mercato sulla resilienza operativa digitale e i modelli avanzati di AI (luglio 2026). Con l'entrata in vigore dell'AI Act (Regolamento UE 2024/1689), IVASS è designata quale autorità di vigilanza del mercato per i sistemi di AI ad alto rischio nell'ambito dei servizi assicurativi alla clientela.
• Nei servizi finanziari e nelle comunicazioni delle società quotate, la SEC ha indicato che le dichiarazioni sull’AI devono essere accurate e comprovabili. Nel 2024, la SEC ha accusato due consulenti d’investimento di aver rilasciato dichiarazioni false e fuorvianti sull’uso dell’AI, ricordando che la compliance dell’AI comprende anche il marketing, le comunicazioni societarie e le dichiarazioni rivolte alla clientela. In Italia, la CONSOB vigila sulle comunicazioni delle società quotate e dei soggetti che prestano servizi di investimento ai sensi del Regolamento UE sugli abusi di mercato (MAR, Reg. UE 596/2014) e della direttiva MiFID II, che impone requisiti di correttezza, chiarezza e non ingannevolezza nelle comunicazioni alla clientela. Dichiarazioni false o fuorvianti sull'utilizzo dell'AI da parte di società quotate o intermediari finanziari possono costituire violazioni del quadro normativo sugli abusi di mercato e delle regole di condotta MiFID II.

Orientamenti internazionali sull’AI

Al di fuori dell’UE e degli Stati Uniti, le organizzazioni possono dover considerare anche l’approccio del Regno Unito alla regolamentazione dell’AI basato su principi, le misure cinesi sull’AI generativa e il Model AI Governance Framework di Singapore. Molti di questi regimi differiscono per forza giuridica, ambito di applicazione e maturità dei meccanismi di applicazione, ma tendono a convergere su aspettative ricorrenti: classificazione dei rischi, responsabilità, trasparenza, sorveglianza umana, governance dei dati, monitoraggio e documentazione.

Anche gli strumenti non vincolanti sono importanti, perché spesso forniscono il linguaggio di riferimento alla base di leggi, standard e requisiti di approvvigionamento. I Principi dell’OCSE sull’AI promuovono la sicurezza mediante un’AI affidabile che rispetti i diritti umani e i valori democratici, mentre la Raccomandazione dell’UNESCO sull’etica dell’intelligenza artificiale si applica a tutti i 194 Stati membri dell’UNESCO e pone l’accento su diritti umani, equità, trasparenza e sorveglianza umana.

Le leggi definiscono gli obblighi, mentre i framework consentono alle organizzazioni di trasformarli in pratiche operative ripetibili. Forniscono alle funzioni compliance, legale, dati, sicurezza e AI un metodo comune per classificare i sistemi, assegnare i controlli, raccogliere le prove e attestare l’efficacia dei controlli.

AI RMF del NIST

L’AI Risk Management Framework del NIST è un framework volontario per gestire i rischi associati all’AI per le persone, le organizzazioni e la società. Il NIST articola il framework in quattro funzioni principali: Govern, Map, Measure e Manage.

L’AI RMF del NIST è utile per i team di compliance perché definisce una struttura di gestione dei rischi riconducibile agli obblighi legali e interni.

• Govern definisce ruoli, policy e responsabilità.
• Map descrive il contesto e l’uso previsto.
• Measure valuta i rischi e le prestazioni del sistema
• Manage assegna la priorità alle risposte, al monitoraggio e alle misure correttive.

NORMA ISO/IEC 42001

La norma ISO/IEC 42001 è uno standard certificabile per i sistemi di gestione dell’AI. L’ISO la descrive come il primo standard al mondo per i sistemi di gestione dell’AI, volto a consentire alle organizzazioni di gestire rischi e opportunità associati all’AI mediante un sistema strutturato di policy, processi, ruoli e miglioramento continuo.

Per la compliance dell’AI, la norma ISO/IEC 42001 è particolarmente utile perché supporta evidenze formali relative al sistema di gestione: ambito, governance, valutazione dei rischi, valutazione d’impatto, controlli sul ciclo di vita, gestione dei fornitori, monitoraggio, audit interno e riesame della direzione. Le organizzazioni che necessitano di un framework certificabile affiancano spesso la norma ISO/IEC 42001 a linee guida più dettagliate sui rischi o specifiche per il settore.

Norma ISO/IEC 23894

La norma ISO/IEC 23894 fornisce linee guida per la gestione dei rischi dell’AI. Consente alle organizzazioni che sviluppano, producono, implementano o utilizzano sistemi di AI di integrare nelle proprie attività e funzioni una gestione dei rischi specifica per l’AI.

A differenza della norma ISO/IEC 42001, che specifica i requisiti di un sistema di gestione dell’AI, la norma ISO/IEC 23894 fornisce linee guida. Consente di individuare le fonti di rischio, analizzare i potenziali impatti e strutturare il trattamento dei rischi lungo il ciclo di vita dell’AI.

Serie IEEE 7000

La serie IEEE 7000 definisce standard incentrati sulla progettazione etica e responsabile delle tecnologie. In un programma di compliance dell’AI, questi standard consentono di strutturare aspetti quali trasparenza, bias, responsabilità, privacy e valori umani. Generalmente, non costituiscono l’unica base per la compliance, ma consentono di tradurre gli impegni etici in pratiche di progettazione e documentazione.

OCSE e UNESCO

I Principi OCSE sull’AI e la Raccomandazione UNESCO non sono vincolanti, ma influenzano le leggi, le policy e le aspettative delle autorità di regolamentazione. Costituiscono riferimenti normativi utili quando le organizzazioni devono spiegare perché le policy interne sull’AI pongono l’accento su equità, trasparenza, responsabilità, supervisione umana e rispetto dei diritti, anche in assenza di un’unica legge vincolante sull’AI.

Scopri di più sull’AI responsabile

I controlli di compliance dell’AI consentono alle organizzazioni di integrare framework e pratiche di compliance nei sistemi e nei flussi di lavoro quotidiani. Una policy può stabilire che l’AI ad alto rischio richieda la supervisione umana, ma un controllo specifica chi esamina il sistema, dove viene registrata l’approvazione, come la persona incaricata della revisione accede agli output pertinenti del modello e che cosa accade quando il monitoraggio rileva drift, bias o comportamenti non sicuri.

Controlli di governance

I controlli di governance stabiliscono chi è responsabile dei sistemi di AI e come vengono prese le decisioni. In genere comprendono la supervisione dirigenziale, una policy sull’AI, criteri di classificazione per livello di rischio, assegnazioni dei ruoli e procedure di escalation.

Un modello creditizio ad alto rischio, ad esempio, deve avere un responsabile del modello, un responsabile business, un responsabile tecnico e una persona incaricata della verifica di compliance chiaramente identificati. L’organizzazione deve poter dimostrare chi ha approvato il caso d’uso, quale livello di rischio è stato assegnato, quale insieme di controlli è stato applicato e chi può richiedere misure correttive, la sospensione o il rollback.

I controlli di governance più comuni comprendono:

• Policy sull’AI e standard di uso accettabile
• Responsabilità dell’inventario dell’AI
• Metodologia di classificazione per livello di rischio
• Assegnazione dei ruoli di responsabile dell’AI, del modello e dei dati
• Approvazione del comitato di revisione o del consiglio di governance
• Gestione delle eccezioni con date di scadenza
• Attestazione dei controlli e revisione dell’audit interno

Controlli sulla documentazione

I controlli sulla documentazione creano il registro scritto che autorità di regolamentazione, auditor, clienti e persone incaricate delle revisioni interne possono esaminare. Nella compliance dell’AI, la documentazione non è un’attività una tantum svolta al momento del lancio: deve accompagnare il sistema quando cambiano i dati, vengono aggiornate le versioni del modello, cambiano i fornitori e si ampliano i casi d’uso.

La documentazione tipica comprende schede dei modelli, datasheet, riepiloghi dei dati di addestramento, risultati delle valutazioni, documentazione del sistema, diagrammi architetturali e fascicoli tecnici. Ai sensi dell’AI Act dell’UE, l’allegato IV descrive le informazioni previste nella documentazione tecnica dei sistemi di AI ad alto rischio, che possono riguardare finalità, progettazione, sviluppo, dati, monitoraggio, convalida e gestione dei rischi del sistema.

Per i sistemi di AI generativa, la documentazione può dover includere anche prompt, fonti di retrieval, filtri di sicurezza, revisione umana, usi vietati e attestazioni dei fornitori. La finalità non è produrre documenti fini a se stessi, ma preservare il contesto necessario per comprendere che cosa fa il sistema, come è stato testato e quali evidenze ne giustificano l’uso approvato.

Controlli di valutazione

I controlli di valutazione verificano se un sistema AI è appropriato per l’uso previsto. Questi controlli possono includere valutazioni d’impatto dell’AI, DPIA, audit dei bias, report di red teaming, test avversariali, verifiche della privacy, verifiche della sicurezza dell’AI e test pre-deployment.

Ad esempio, uno strumento di screening per le assunzioni può richiedere un audit dei bias e un’informativa ai candidati ai sensi di una legge, una DPIA ai sensi di un’altra e una valutazione interna della pertinenza rispetto al ruolo, della spiegabilità, della documentazione del fornitore e della revisione umana. Un sistema AI clinico può richiedere la convalida rispetto all’uso previsto, una verifica della sicurezza dei pazienti e il monitoraggio delle variazioni delle prestazioni tra le diverse popolazioni.

I controlli di valutazione devono produrre evidenze durature: risultati dei test, note di chi effettua la revisione, piani di rimedio, registri delle approvazioni ed eventuali rischi irrisolti formalmente accettati dai responsabili designati.

Controlli operativi

I controlli operativi regolano il comportamento dei sistemi AI dopo il deployment. Includono la gestione degli accessi, i log di audit, il monitoraggio, la segnalazione degli incidenti, la supervisione umana e il monitoraggio post-commercializzazione.

Questi controlli sono essenziali perché la compliance dell’AI non termina quando un modello entra in produzione. Un modello può subire deriva, un template di prompt può cambiare, un fornitore di modelli foundation può aggiornare il modello sottostante, una pipeline di dati può iniziare a fornire valori diversi oppure una policy di accesso può esporre campi sensibili a un gruppo più ampio di utenti. La compliance dipende dalla capacità di rilevare questi cambiamenti e conservare le evidenze necessarie per spiegarli.

I controlli operativi comuni includono:

• Controllo degli accessi basato sui ruoli (RBAC)
• Log di audit per le attività su dati, modelli e applicazioni
• Monitoraggio delle prestazioni e della deriva dei modelli
• Registrazione di prompt e risposte, ove appropriato
• Revisione con intervento umano per le decisioni con conseguenze significative
• Segnalazione degli incidenti e procedure di escalation
• Monitoraggio post-commercializzazione o post-deployment
• Attestazione periodica dei controlli

Controlli di terze parti

Molti sistemi AI dipendono da fornitori, fornitori di modelli foundation, strumenti SaaS, fornitori di dati o funzionalità AI integrate che l’organizzazione non ha sviluppato. I controlli di terze parti consentono di valutare queste dipendenze prima del deployment e monitorarle nel tempo.

La due diligence sui fornitori deve documentare l’uso previsto, il trattamento dei dati, la documentazione dei modelli, i controlli di sicurezza, i subappaltatori, le policy di conservazione, gli impegni relativi ai dati di addestramento, le condizioni di notifica degli incidenti e le attestazioni disponibili. Per i modelli foundation, le organizzazioni possono inoltre richiedere la documentazione del fornitore, valutazioni della sicurezza e informazioni a supporto di una distinta base dell’AI (AI bill of materials, AIBOM), che elenca i modelli, le fonti di dati, le librerie, le API e i fornitori coinvolti in un sistema AI.

La compliance dell’AI è gestibile solo implementando la tracciabilità: ogni sistema AI è associato a un livello di rischio, ogni livello di rischio agli obblighi, ogni obbligo ai controlli e ogni controllo alle evidenze.

Censire ogni sistema AI

Un inventario dell’AI deve includere i modelli di ML tradizionali, le app di AI generativa, gli assistenti interni, l’AI integrata nelle piattaforme SaaS e le funzionalità AI fornite da terze parti. Non è possibile classificare, monitorare o attestare la conformità di sistemi che non sono stati censiti.

Un inventario dell’AI efficace registra in genere il nome del sistema, il responsabile, la finalità aziendale, gli utenti, le fonti di dati, il tipo di modello, le dipendenze dai fornitori, le giurisdizioni, il livello di rischio, le popolazioni interessate, lo stato di approvazione e la frequenza delle revisioni. Per l’AI integrata, l’inventario deve inoltre indicare quale feature SaaS utilizza l’AI, quali dati tratta e se il fornitore usa i dati dei clienti per l’addestramento o il miglioramento.

Classificare i sistemi per livello di rischio

Ogni sistema deve essere classificato in base ai criteri giuridici e interni applicabili. Ai sensi dell’AI Act dell’Unione europea, può essere necessario stabilire se un caso d’uso è vietato, ad alto rischio, a rischio limitato o a rischio inferiore. In base alle policy interne, può essere necessario classificare i sistemi per il loro potenziale impatto su diritti, sicurezza, risultati finanziari, occupazione, assistenza sanitaria, accesso ai servizi o esposizione normativa.

La classificazione per livello di rischio deve basarsi su evidenze. Un chatbot che risponde a domande generali sulle policy non comporta gli stessi obblighi di un modello che raccomanda trattamenti per i pazienti o classifica candidati per un impiego. Il registro di classificazione deve spiegare le motivazioni, non limitarsi ad assegnare un’etichetta.

Associare gli obblighi a controlli ed evidenze

Dopo aver identificato gli obblighi applicabili, è necessaria una mappa dei controlli. Per ogni obbligo, la mappa deve identificare il controllo pertinente, il relativo responsabile, la fonte delle evidenze e la frequenza delle revisioni.

Ad esempio:

Automatizzare la raccolta delle evidenze

La raccolta manuale delle evidenze diventa inefficace con l’aumentare del numero di sistemi AI. I sistemi ad alto rischio possono richiedere revisioni trimestrali, rivalutazioni annuali, segnalazione degli incidenti e monitoraggio continuo; anche i sistemi a rischio limitato possono richiedere informative sulla trasparenza, registri degli accessi e aggiornamenti della documentazione.

L’automazione delle evidenze acquisisce segnali direttamente dai sistemi in cui si svolgono le attività di AI: cronologia degli accessi, lineage, metadati del registro dei modelli, dashboard di monitoraggio, workflow di approvazione, sistemi di gestione degli incidenti e motori di policy. L’obiettivo è ridurre la discrepanza tra il comportamento effettivo del sistema e la documentazione di compliance. Quando chi esegue un audit chiede a quali dati abbia avuto accesso un modello, chi abbia modificato una policy o quale versione del modello fosse in deployment durante un incidente, le evidenze dovrebbero essere già disponibili.

Definire una cadenza di revisione

I sistemi AI devono essere esaminati con una cadenza commisurata al loro rischio. I sistemi ad alto rischio richiedono spesso revisioni trimestrali, soprattutto quando incidono su diritti, sicurezza, idoneità, pricing, occupazione o decisioni regolamentate. I sistemi a rischio limitato possono essere esaminati annualmente, salvo modifiche sostanziali.

Le revisioni devono verificare se siano cambiati lo scopo, i dati, il modello, il fornitore, il gruppo di utenti, la giurisdizione o il profilo di rischio del sistema. Un caso d’uso nato come assistente interno per la produttività può diventare uno strumento di supporto rivolto alla clientela; un modello addestrato per una regione può essere riutilizzato in un’altra; una feature SaaS può integrare l’AI generativa senza un ciclo di approvvigionamento completo. Una cadenza di revisione consente di rilevare questi cambiamenti prima che la documentazione di compliance diventi obsoleta.

La compliance dell’AI dipende dalle evidenze: quali dati sono stati utilizzati, chi vi ha avuto accesso, come sono stati trasferiti, quale versione del modello era in deployment, quali policy erano applicabili e quali controlli erano operativi al momento della revisione.

Snowflake Horizon Catalog supporta i workflow di governance, individuazione e compliance rendendo disponibili informazioni contestuali come cronologia degli accessi, lineage, classificazione e applicazione delle policy. La vista ACCESS_HISTORY Snowflake registra quali dati sono stati consultati, quando è avvenuto l’accesso e come sono stati trasferiti dagli oggetti di origine a quelli di destinazione, consentendo di produrre evidenze di audit per i controlli su accessi, lineage e utilizzo dei dati.

Per i sistemi ML, Snowflake ML Model Registry archivia e gestisce le versioni, le metriche e i metadati dei modelli, supporta la gestione del loro ciclo di vita e consente di monitorarne le prestazioni e il drift tramite Snowflake ML Observability. Supporta inoltre RBAC per l’accesso ai modelli, consentendo di collegare la governance dei modelli agli stessi tipi di controlli utilizzati per l’accesso ai dati.

Per i casi d’uso di AI generativa, Cortex Guard identifica e filtra le risposte potenzialmente non sicure o dannose prima che l’output del modello venga restituito all’applicazione. A seconda dell’architettura, è possibile abbinare queste misure di protezione ai log di prompt, risposte, accessi e applicazioni per supportare gli audit trail dell’AI generativa.

Snowflake Compliance Center consente alla clientela di accedere a risorse per la sicurezza e la compliance, comprese certificazioni e relazioni utili per la due diligence sui fornitori e gli audit condotti dalla clientela o dalle autorità di regolamentazione. Snowflake ha inoltre ottenuto la certificazione ISO/IEC 42001 per il proprio sistema di gestione dell’AI, soggetta ad audit di sorveglianza continui. La certificazione rappresenta un esempio concreto di come organizzare la governance dell’AI, la gestione dei rischi dell’AI e le pratiche di compliance secondo uno standard certificabile per sistemi di gestione.

Nel loro insieme, queste funzionalità consentono alle organizzazioni di associare le evidenze di compliance ai sistemi che le producono: percorsi di lineage, log degli accessi, metadati dei modelli, metriche di valutazione, registri dell’applicazione delle policy e artefatti di controllo. Ciò non elimina la necessità di revisione legale, classificazione dei rischi o responsabilità umana, ma riduce il lavoro manuale necessario per dimostrare che i controlli dell’AI sono operativi.

La compliance dell’AI è più facile da dimostrare quando è integrata nel ciclo di vita. Un sistema AI deve essere inserito nell’inventario quando viene proposto il caso d’uso, ricevere un livello di rischio prima dell’avvio dello sviluppo, conservare la documentazione durante i test e il deployment, e preservare le evidenze man mano che cambiano utenti, dati, modelli e fornitori.

Questo modello operativo è importante perché i sistemi AI raramente restano invariati. I team responsabili della compliance possono gestire questi cambiamenti solo se riescono a tracciare il sistema dagli obblighi ai controlli e alle evidenze.

Le organizzazioni che gestiscono efficacemente la compliance dell’AI non sono quelle con i documenti di policy più articolati. Sono quelle in grado di rispondere rapidamente a domande specifiche, come quali sistemi AI siano in uso, quali siano ad alto rischio, quali dati trattino, quali controlli si applichino, quando sia avvenuta l’ultima revisione e quali evidenze ne dimostrino la conformità.