Governance dell’AI: guida per le aziende

Anche un modello di intelligenza artificiale (AI) dalle prestazioni elevate può risultare inaffidabile in un sistema di produzione. In una demo, i prompt sono controllati, i dati sono puliti e l’accesso è limitato. In produzione, il sistema potrebbe mostrare policy obsolete, esporre dati ad accesso limitato o attivare azioni indesiderate.

Le capacità del modello sono importanti, ma l’affidabilità dipende dall’intero sistema. La governance dell’AI è il modo in cui le organizzazioni definiscono e applicano tale sistema. Associa i casi d’uso a responsabili chiaramente identificati, i dati a policy applicabili e i modelli a workflow di approvazione, monitoraggio e audit trail. Rende gli output, soprattutto quelli ad alto impatto, più verificabili e tracciabili, oltre che coerenti con il funzionamento effettivo dell’azienda.

La governance assume maggiore importanza con l’evoluzione dei sistemi di AI. L’AI generativa, la retrieveal augmented generation (RAG) e gli agenti AI non si comportano come i modelli tradizionali. Recuperano dati, generano contenuti e, in alcuni casi, eseguono azioni. Gestire ogni nuova funzionalità come un caso particolare non è scalabile, mentre la governance offre un approccio coerente per gestirle tutte.

La governance dell’AI è l’insieme di policy, standard, controlli e processi di supervisione con cui le organizzazioni sviluppano, distribuiscono e gestiscono l’AI in modo sicuro, equo e responsabile, nel rispetto dei requisiti interni ed esterni. Si applica all’intero ciclo di vita dell’AI, dall’identificazione dei casi d’uso e dalla selezione dei dati allo sviluppo, alla distribuzione e al monitoraggio dei modelli, fino alla risposta agli incidenti e alla dismissione.

L’ambito è più ampio di quanto molti team prevedano. La governance dell’AI comprende modelli di machine learning (ML), app di AI generativa, sistemi multimodali e workflow agentici in grado di eseguire azioni mediante diversi strumenti.

Un modello di rilevamento delle frodi, un chatbot per l’assistenza clienti, un assistente basato su RAG e un agente AI possono avere architetture molto diverse. Tutti richiedono però gli stessi controlli fondamentali: una registrazione chiara delle operazioni consentite al sistema, dei dati a cui può accedere, di chi lo ha approvato e delle modalità di monitoraggio del suo comportamento nel tempo.

La governance dell’AI si sovrappone a diverse discipline correlate:

• La governance dei dati governa data asset come tabelle, viste, policy, metadati, lineage, qualità e accesso.
• La governance dei modelli gestisce i modelli come asset aziendali, mediante registrazione, convalida, documentazione e monitoraggio.
• L’etica dell’AI definisce principi come equità, responsabilità e supervisione umana.
• La compliance dell’AI si concentra sul rispetto dei requisiti normativi, contrattuali e di audit.

La governance dell’AI è diventata un requisito aziendale perché i sistemi di AI sono ormai integrati in decisioni che riguardano pricing, assunzioni, rilevamento delle frodi, customer experience e servizi pubblici. L’AI generativa può far emergere informazioni sensibili. Gli agenti possono eseguire azioni su diversi sistemi. In ogni caso, la questione non è più soltanto se il modello funzioni bene, ma se l’organizzazione sia in grado di controllare e spiegare il sistema in cui opera.

La pressione normativa è uno dei fattori determinanti. L’AI Act dell’Unione europea stabilisce un approccio basato sul rischio che impone alle organizzazioni di classificare i sistemi di AI, implementare controlli e produrre documentazione pronta per l’audit per i casi d’uso a rischio più elevato. La norma ISO/IEC 42001 integra questo approccio fornendo uno standard per i sistemi di gestione dell’AI, finalizzato a definire, mantenere e migliorare le pratiche di governance. Sebbene l’adozione sia volontaria, sempre più organizzazioni scelgono di utilizzare la norma per allinearsi all’AI Act dell’Unione europea.

La regolamentazione, tuttavia, non è l’unico motivo per cui la governance è importante. I sistemi di AI possono produrre risultati discriminatori, divulgare dati sensibili, generare affermazioni prive di fondamento o automatizzare decisioni senza un’adeguata supervisione umana. Questi problemi possono creare rischi reputazionali e ridurre la fiducia di clienti, dipendenti e partner nei workflow basati sull’AI.

Jennifer Belissent, Principal Data Strategist Snowflake, descrive così la realtà commerciale: “Il vero motore della governance dell’AI e dei dati è già in funzione. Sono i clienti a richiederla. Implementare controlli su sicurezza e privacy dei dati e governare l’utilizzo dell’AI è una questione di reputazione tanto quanto di conformità normativa”.

L’assurance dell’AI sta diventando uno dei criteri con cui le aziende valutano la propria maturità nell’AI. La questione non è se un’organizzazione disponga di una dichiarazione sull’AI responsabile, ma se possa dimostrare quali sistemi esistono, quali controlli si applicano, quali rischi sono stati accettati, quali risultati sono stati esaminati e quali incidenti sono stati segnalati e hanno insegnato qualcosa.

I framework di governance dell’AI forniscono alle organizzazioni un linguaggio comune per classificare i rischi, definire i controlli e produrre evidenze. Nessun singolo framework copre ogni requisito aziendale, ma tre riferimenti sono oggi alla base di molte discussioni sulla governance:

• L’AI Act dell’Unione europea è un framework giuridico vincolante per i sistemi di AI immessi o utilizzati sul mercato dell’UE. Utilizza la classificazione del rischio per distinguere pratiche vietate, sistemi di AI ad alto rischio, obblighi di trasparenza e requisiti per i modelli di AI per finalità generali. Per le aziende, l’AI Act è rilevante anche al di fuori dell’Europa, perché le sue categorie offrono ai team legali, di gestione del rischio e tecnologici un metodo concreto per classificare i casi d’uso di AI, associare gli obblighi e predisporre, ove richiesto, le evidenze per la valutazione di conformità.
• L’AI Risk Management Framework (AI RMF) del National Institute of Standards and Technology (NIST) statunitense è un framework volontario che consente alle organizzazioni che progettano, sviluppano, distribuiscono o utilizzano l’AI di gestire i rischi e promuovere un’AI affidabile. Il NIST organizza il framework intorno a funzioni come Govern, Map, Measure e Manage. Ciò lo rende utile alle aziende che sviluppano programmi interfunzionali per la gestione dei rischi dell’AI, anche quando non sono soggette a un’unica legge specifica sull’AI.
• La norma ISO/IEC 42001 è uno standard internazionale per i sistemi di gestione dell’AI. Definisce i requisiti per istituire, implementare, mantenere e migliorare continuamente un sistema di gestione dell’AI, risultando rilevante per le organizzazioni che desiderano una struttura di governance certificabile per lo sviluppo e l’utilizzo dell’AI.

Sono rilevanti anche altri riferimenti globali. I Principi dell’OCSE sull’AI promuovono un’AI affidabile, rispettosa dei diritti umani e a sostegno dei valori democratici, mentre un white paper del Dipartimento per la scienza, l’innovazione e la tecnologia del Regno Unito delinea un approccio alla regolamentazione dell’AI favorevole all’innovazione e basato sul contesto. In Italia, l’uso dell’intelligenza artificiale è disciplinato dalla legge 132/2025 “Disposizioni e deleghe al Governo in materia di intelligenza artificiale”. L’Agenzia per l'Italia Digitale (AgID) cura la redazione di Linee guida e strategie per l’adozione dell’AI da parte delle aziende e della Pubblica Amministrazione. Nel complesso, questi riferimenti indicano lo stesso requisito operativo: le organizzazioni necessitano di meccanismi di governance in grado di classificare i rischi, assegnare le responsabilità, applicare i controlli e produrre evidenze man mano che i sistemi di AI cambiano.

Guarda una conversazione sull’etica e sulla regolamentazione dell’AI generativa:

Una governance efficace dell’AI si basa su un insieme di componenti interconnessi che garantiscono lo sviluppo e l’utilizzo responsabile e sicuro dei sistemi di AI, in linea con gli obiettivi dell’organizzazione. I seguenti componenti rappresentano una sintesi dei principali framework di governance dell’AI:

Strategia e supervisione

La governance dell’AI parte da una direzione strategica chiara e da responsabilità definite. Le organizzazioni necessitano di strutture di leadership, policy e processi decisionali definiti per guidare l’adozione e la gestione dell’AI. In questo modo, le iniziative di AI si allineano agli obiettivi aziendali e alla propensione al rischio.

Gestione del rischio

L’AI introduce diversi rischi, tra cui bias algoritmico, vulnerabilità nella sicurezza dell’AI e conseguenze indesiderate. Un solido framework di governance identifica, valuta e mitiga questi rischi durante l’intero ciclo di vita dell’AI, attraverso processi di monitoraggio continuo e risposta agli incidenti.

Data governance

Poiché i sistemi AI dipendono in larga misura dai dati, la governance deve garantirne l’accuratezza, la sicurezza e l’uso responsabile. Ciò comprende la gestione della qualità dei dati, della privacy e dei controlli degli accessi, nonché il mantenimento di una data lineage chiara.

Governance dei modelli e gestione del ciclo di vita

La governance dei modelli riguarda le modalità di sviluppo, test, deployment e manutenzione dei modelli AI. Comprende standard per convalida, documentazione, controllo delle versioni e monitoraggio continuo, affinché i modelli rimangano affidabili e idonei allo scopo nel tempo.

Etica e AI responsabile

Oltre a garantire le prestazioni tecniche, i sistemi AI devono rispettare principi etici. I framework di governance affrontano equità, trasparenza, explainability e supervisione umana per ridurre i danni e allineare i risultati ai valori sociali e organizzativi.

Compliance e controlli legali

Le organizzazioni devono garantire che i propri sistemi AI rispettino le leggi e le normative applicabili. Ciò comprende la conservazione degli audit trail, il rispetto dei requisiti di documentazione, la gestione dei rischi associati a terze parti e la valutazione di questioni come responsabilità e proprietà intellettuale.

Sicurezza e robustezza

I sistemi AI devono essere protetti da uso improprio, manipolazioni e attacchi. La governance comprende misure di protezione per dati e modelli, resilienza alle minacce avversarie e controlli per impedire accessi non autorizzati o usi dannosi.

Trasparenza e accountability

Una documentazione chiara e la tracciabilità sono essenziali per creare fiducia. Le organizzazioni devono conservare informazioni su come i sistemi AI sono progettati e gestiti, fornire spiegazioni adeguate dei risultati e definire le responsabilità in caso di problemi.

Attività operative e monitoraggio

La governance dell’AI prosegue oltre il deployment. Il monitoraggio continuo garantisce che i sistemi funzionino come previsto, mentre cicli di feedback, audit e processi di gestione degli incidenti consentono alle organizzazioni di risolvere i problemi e migliorare nel tempo.

Cultura, training e gestione del cambiamento

Il successo della governance dipende tanto dalle persone quanto dai processi. Le organizzazioni devono investire nel training, promuovere pratiche di AI responsabile e favorire una cultura in cui le considerazioni etiche e la consapevolezza dei rischi siano integrate nei processi decisionali quotidiani.

L’AI responsabile definisce ciò che un’organizzazione intende tutelare quando l’AI entra nei processi aziendali: equità dei risultati, trasparenza sul comportamento del sistema, accountability delle decisioni, privacy delle persone interessate, sicurezza in condizioni previste e impreviste e inclusione dei gruppi che il sistema può coinvolgere.

Questi principi richiedono meccanismi operativi che li traducano in pratica. Un principio di equità si traduce in un audit dei bias con soglie documentate. Un principio di privacy richiede minimizzazione dei dati, mascheramento, limiti di conservazione e controlli degli accessi. Un principio di supervisione umana si traduce in un workflow di revisione che stabilisce quando una persona deve approvare, annullare o esaminare una raccomandazione generata dall’AI.

La governance dell’AI fornisce una struttura all’AI responsabile. Collega i principi a responsabili, artefatti e controlli. L’obiettivo non è rallentare ogni progetto AI applicando lo stesso processo, ma garantire che i sistemi a rischio più elevato siano sottoposti al livello di verifica, documentazione e monitoraggio richiesto dal loro impatto.

Trasparenza ed explainability rispondono a domande diverse, anche se spesso vengono considerate insieme. La trasparenza dell’AI riguarda ciò che gli stakeholder possono conoscere del sistema: chi ne è responsabile, quale scopo persegue, quali fonti di dati utilizza, quali controlli si applicano e quali limitazioni sono state documentate. L’explainability riguarda il motivo per cui si è verificata una specifica previsione, classificazione, raccomandazione o generazione di output.

Un sistema AI trasparente può rendere disponibili la propria scheda del modello, la documentazione, la cronologia delle versioni, lo stato di approvazione e le limitazioni note. Un sistema spiegabile può mostrare quali variabili hanno influenzato una previsione del rischio di credito o quali caratteristiche hanno contribuito maggiormente a un punteggio di abbandono. Per i sistemi di AI generativa, può anche mostrare quali documenti recuperati hanno supportato una risposta generata come evidenza di grounding.

I metodi tecnici di explainability come SHAP e LIME consentono ai team di interpretare determinati output dei modelli, in particolare nei contesti di ML tabellare, benché siano meno applicabili ai modelli linguistici di grandi dimensioni. Tuttavia, l’explainability non è soltanto una tecnica applicata ai modelli. Per l’AI generativa, può richiedere anche evidenze di grounding RAG, documenti sorgente citati, log di prompt e risposte, spiegazioni post hoc, indicatori del livello di confidenza degli output e una documentazione chiara dei casi in cui il sistema non deve essere utilizzato.

La tracciabilità dell’AI collega un output AI agli asset e alle azioni che lo hanno prodotto. In un sistema ML tradizionale, può includere il data lineage, i dati di addestramento, le trasformazioni delle feature, la versione del modello, i risultati della convalida e il momento del deployment. In un’applicazione di AI generativa, può includere anche il prompt di sistema, il prompt dell’utente, il contesto recuperato, il fornitore del modello, la configurazione dell’inferenza, le chiamate agli strumenti e la risposta generata. In un agente AI, la tracciabilità può estendersi allo stato della memoria, alla cronologia delle azioni e ai sistemi esterni a cui l’agente ha avuto accesso.

L’auditabilità è la capacità di un revisore interno o indipendente di verificare che il sistema abbia funzionato come previsto e che siano stati applicati i controlli richiesti. Dipende da audit trail, log immutabili ove appropriato, documentazione delle schede dei modelli e dei modelli, registri delle segnalazioni degli incidenti AI, cronologia degli accessi e prove dell’applicazione dei controlli verificabili a posteriori.

Queste funzionalità costituiscono la base per gli audit di compliance dell’AI. Un team di governance non può valutare in modo credibile se un sistema sia stato conforme alla policy se non è in grado di ricostruire quali dati sono stati utilizzati, quale versione del modello o del prompt era attiva, quale utente ha richiesto l’output e quale azione ne è seguita. Per questo motivo, la tracciabilità dell’AI richiede spesso sia il data lineage sia il model lineage, oltre a log a livello applicativo che acquisiscano prompt, contesto recuperato e utilizzo degli strumenti.

La governance dell’AI inizia dai dati utilizzati per addestrare, perfezionare, ancorare o valutare il modello. Un modello addestrato su dati scarsamente documentati può riprodurre bias storici, esporre attributi sensibili, generare output inaffidabili o non funzionare se applicato a una popolazione non rappresentata nei dati originali. In un sistema RAG, il modello potrebbe non essere addestrato su documenti aziendali, ma al contenuto recuperato si applicano comunque le stesse domande di governance: da dove proviene, chi ne è responsabile, quanto è aggiornato, quali policy di accesso si applicano e se è appropriato per la richiesta dell’utente.

La governance dei dati di addestramento riguarda provenienza, consenso, licenze, qualità, conservazione, accesso, attributi demografici, minimizzazione dei dati e usi approvati. Per la governance dei dati degli LLM, l’ambito può includere anche le informative sui dati di pre-addestramento, i dati di fine‑tuning, gli embedding, i log dei prompt e i dati di valutazione. La governance dei dati sintetici aggiunge un ulteriore livello: come sono stati generati, se mantengono l’utilità statistica, se lasciano trapelare dati sorgente e per quali casi d’uso ne è approvato l’impiego.

L’audit dei bias verifica se un sistema AI produce disparità inaccettabili tra classi protette, attributi demografici o altri gruppi rilevanti. Questa attività dipende da definizioni chiare, dati rappresentativi e una gestione attenta degli attributi sensibili. In alcuni casi, i dati demografici possono essere necessari per verificare la presenza di bias. In altri, la raccolta o l’utilizzo di tali dati può creare rischi per la privacy e la compliance.

L’AI generativa e gli agenti AI ampliano la superficie soggetta a governance perché introducono nuovi artefatti e comportamenti che i precedenti programmi di governance dei modelli non erano concepiti per gestire. Un modello di classificazione restituisce un punteggio o una categoria. Un’applicazione di AI generativa può produrre un paragrafo, riassumere un documento, scrivere codice, generare un’immagine o rispondere a una domanda aziendale in base al contesto recuperato. Un agente AI può spingersi oltre, selezionando strumenti, elaborando piani, archiviando informazioni in memoria e intraprendendo azioni in più sistemi.

Governance dell’AI generativa

La governance dell’AI generativa riguarda dati, prompt, modelli, pipeline di retrieval, output e informative che determinano i contenuti generati. La governance dei prompt stabilisce chi può creare, modificare e approvare i prompt di sistema, soprattutto quando codificano una policy, comportamenti associati ai ruoli o vincoli di accesso. La governance degli LLM monitora quale modello foundation viene utilizzato, dove viene eseguito, quali dati vengono condivisi con il modello, come vengono filtrati gli output e quali obblighi contrattuali o di compliance si applicano.

La governance RAG è particolarmente importante per i casi d’uso aziendali, perché le risposte generate dipendono spesso da documenti, tabelle o voci di knowledge base recuperati. Un sistema RAG governato richiede metadati sulla provenienza, controlli degli accessi, verifiche dell’aggiornamento, citazioni delle fonti e metriche di valutazione che misurino la pertinenza delle risposte e la loro aderenza alle fonti. Senza questi controlli, il sistema può generare risposte formulate con sicurezza sulla base di contenuti obsoleti, soggetti a restrizioni o non adeguatamente compresi.

Le informative sull’AI e la trasparenza dell’AI generativa stabiliscono quando utenti, clienti o dipendenti devono sapere che interagiscono con l’AI o ricevono contenuti generati dall’AI. La governance dei contenuti può includere anche standard di provenienza come C2PA, la revisione umana degli output ad alto impatto, il watermarking ove appropriato e policy per i materiali generati dall’AI pubblicati esternamente.

Governance degli agenti AI

La governance degli agenti AI aggiunge la supervisione dell’uso degli strumenti, controlli sulla memoria degli agenti e regole per il coordinamento multiagente. Un agente AI di supporto che redige una risposta presenta un determinato profilo di rischio, mentre un agente che può emettere rimborsi, aggiornare i record degli account o eseguire query su sistemi interni sensibili ne presenta un altro. La governance deve definire quali strumenti può richiamare l’agente, quali autorizzazioni eredita, quali azioni richiedono approvazione e come vengono registrate le eccezioni.

La memoria dell’agente costituisce un ulteriore oggetto di governance. Se un agente archivia preferenze degli utenti, contesto del progetto o decisioni precedenti, i team devono definire regole per conservazione, eliminazione, accesso e privacy, nonché stabilire se la memoria possa influenzare le azioni future. I sistemi multiagente aggiungono rischi di coordinamento: un agente può recuperare i dati, un altro può elaborarli e un altro ancora può intraprendere un’azione. L’audit trail deve mostrare come sono collegati questi passaggi.

In pratica, la questione di governance è se l’organizzazione possa limitare il comportamento dell’agente senza affidarsi esclusivamente al modello. Guardrail, autorizzazioni, policy sui dati, approvazioni dei workflow, log di tracciamento e segnalazione degli incidenti contribuiscono a trasformare l’Agentic AI da workflow opaco a sistema controllato.

La governance dei modelli gestisce ogni modello come un asset aziendale. In genere comprende registrazione dei modelli, schede dei modelli, documentazione, convalida, workflow di approvazione, monitoraggio, ritiro e responsabilità. Un Model Registry mostra quali modelli esistono e dove sono distribuiti. Una scheda del modello documenta l’uso previsto, i risultati delle valutazioni, le limitazioni, le considerazioni etiche e le condizioni in cui il modello non deve essere utilizzato.

Il rischio di modello è il rischio che un modello produca output errati, inappropriati o dannosi oppure che sia utilizzato al di fuori del contesto previsto. Le organizzazioni di servizi finanziari considerano da tempo la gestione del rischio di modello una disciplina formale. La SR 11-7, linea guida statunitense di lunga data per il settore bancario sulla gestione del rischio di modello, poneva l’accento su governance, convalida, controlli e supervisione. Nell’aprile 2026, la Federal Reserve ha pubblicato linee guida aggiornate volte a riflettere un approccio maggiormente basato sul rischio. In Italia e nell’UE, i principali riferimenti per la gestione del rischio di modello includono la ECB Guide to Internal Models aggiornata di giugno 2026, le linee guida della European Banking Authority (EBA) sulla governance interna, il quadro normativo CRR/CRD e le disposizioni di vigilanza della Banca d’Italia, con requisiti relativi a governance, validazione, monitoraggio e controllo dei modelli.

La governance dell’AI riprende i principi della gestione del rischio di modello, estendendoli a un insieme più ampio di sistemi. Un modello challenger può essere utilizzato per confrontare le prestazioni con quelle di un modello in produzione. Il monitoraggio può rilevare deriva, accuratezza, latenza, costi, equità o percentuali di output non sicuri. La revisione dell’AI responsabile può verificare se il caso d’uso è in linea con i principi dell’organizzazione, gli obblighi legali e le aspettative degli stakeholder.

L’allineamento dei modelli aggiunge un ulteriore livello, soprattutto per l’AI generativa. L’allineamento verifica se un modello o un’applicazione AI si comporta in modo coerente con gli obiettivi previsti, le policy e i valori umani. Tecniche come l’AI costituzionale possono orientare il comportamento del modello durante l’addestramento o il tuning, ma l’allineamento aziendale dipende anche dai controlli circostanti: casi d’uso approvati, revisione umana, guardrail, infrastruttura di valutazione e percorsi di escalation chiari in caso di comportamento imprevisto del sistema.

La conformità dell’AI trasforma i controlli di governance in evidenze verificabili. Una policy può stabilire che i sistemi ad alto rischio richiedano la supervisione umana, ma un’autorità di regolamentazione o un cliente potrebbe richiedere il workflow di approvazione, i nomi di chi ha effettuato la revisione, le date delle revisioni, la cronologia dei problemi e la prova che il workflow sia stato applicato prima della distribuzione. La differenza tra una policy e un programma di compliance consiste nella capacità di dimostrare che la policy è stata applicata nella pratica.

La mappatura dei controlli collega le attività di governance dell’AI a requisiti specifici derivanti da leggi, standard e policy interne. Un singolo controllo, ad esempio la gestione di un inventario dei modelli, può supportare l’AI Act dell’Unione europea, la norma ISO/IEC 42001, la gestione interna dei rischi e i questionari di garanzia dei clienti. Un singolo artefatto, come una scheda del modello o una valutazione d’impatto dell’AI, può supportare trasparenza, responsabilità, revisione dei rischi ed evidenze di audit.

La documentazione destinata alle autorità di regolamentazione deve essere accurata, aggiornata e riferita al sistema effettivo. Deve includere lo scopo previsto del sistema AI, le fonti dei dati, la classificazione del rischio, i risultati delle valutazioni, il modello di supervisione umana, il piano di monitoraggio, il processo di segnalazione degli incidenti e la cronologia delle modifiche. Per l’AI generativa e i sistemi agentici, la documentazione deve includere anche prompt, grounding RAG, utilizzo degli strumenti, guardrail, provenienza dei contenuti e, ove pertinente, revisione degli output.

I programmi di governance dell’AI spesso si arrestano quando le attività di compliance iniziano dopo la distribuzione. Un approccio più duraturo integra documentazione, monitoraggio ed evidenze dei controlli nella pipeline di governance, affinché ogni caso d’uso dell’AI approvato produca i registri necessari per esaminarlo, sottoporlo ad audit e migliorarlo.

La governance dell’AI è più efficace quando opera in prossimità dei sistemi che governa. Le regole definite dalle policy devono essere applicate nei registri dei modelli, nelle policy sui dati, nei controlli degli accessi, nei workflow di approvazione, nelle dashboard di monitoraggio e nei report sugli incidenti. In caso contrario, la governance diventa un processo parallelo che i team aggirano quando le attività legate all’AI avanzano rapidamente.

Un’implementazione pratica inizia in genere con sei passaggi:

1. Inventariare ogni modello e caso d’uso dell’AI: Sviluppare un inventario dei modelli che includa ML tradizionale, applicazioni di AI generativa, AI integrata nelle soluzioni dei fornitori, sistemi RAG, agenti AI e sistemi sperimentali che potrebbero già influenzare le attività.
2. Classificare in base al rischio: Utilizzare un modello di classificazione per livelli di rischio che consideri impatto, autonomia, sensibilità dei dati, esposizione degli utenti e ambito normativo.
3. Assegnare responsabili e revisori formalmente incaricati: Ogni sistema richiede un responsabile formalmente incaricato, un referente tecnico e un percorso di revisione.
4. Integrare i controlli dove dati e modello sono già in esecuzione: I controlli sono più efficaci quando fanno parte del control plane per dati, modelli e applicazioni.
5. Documentare, monitorare e sottoporre ad audit continuo: La documentazione dei modelli, le schede dei modelli, le valutazioni d’impatto dell’AI, la lineage, la cronologia degli accessi e gli audit trail devono aggiornarsi con l’evoluzione dei sistemi.
6. Segnalare gli incidenti e trarne insegnamento: La segnalazione degli incidenti AI deve documentare che cosa è accaduto, chi ha subito conseguenze, quale controllo non ha funzionato o era assente e che cosa è cambiato in seguito.

La governance dell’AI beneficia della prossimità ai dati governati. Se le policy sui dati risiedono in un sistema, lo sviluppo dei modelli in un altro, i prompt in un altro ancora e le applicazioni AI altrove, i team dedicano gran parte delle attività di governance a riconciliare gli inventari, copiare le evidenze e cercare di ricostruire gli eventi a posteriori.

Snowflake offre funzionalità che supportano la governance dell’AI dove risiedono già i dati governati.

Snowflake Horizon Catalog  offre un livello unificato di governance per dati e AI, con funzionalità come controllo degli accessi, mascheramento dinamico dei dati, policy di accesso righe e classificazione dei dati.

Snowflake Compliance Center  aggiunge un livello di monitoraggio della postura di sicurezza degli account. Valuta gli account Snowflake rispetto alle raccomandazioni dello scanner, genera risultati quando rileva potenziali rischi per la sicurezza e fornisce indicazioni per la risoluzione.

Cortex Guard  offre un livello di sicurezza in fase di esecuzione per l’AI generativa, filtrando le risposte degli LLM potenzialmente non sicure o dannose quando viene attivato nelle funzioni Snowflake Cortex AI.

La certificazione ISO/IEC 42001 di Snowflake rappresenta un ulteriore indicatore di credibilità. La certificazione attesta la presenza di strutture di governance e supervisione per la gestione del ciclo di vita dell’AI, con particolare attenzione alla trasparenza e all’attribuzione delle responsabilità nello sviluppo e nell’utilizzo dell’AI.

In Italia, Snowflake possiede inoltre la Qualificazione dell’Agenzia per la Cybersicurezza Nazionale (ACN) come servizio cloud di livello QC2.

Per le aziende, l’adozione dell’AI non può avvenire senza governance. La governance consente a un’organizzazione di comprendere che cosa fa un sistema AI, chi ne è responsabile, quali dati e modelli ne hanno determinato il comportamento e se sono stati applicati i controlli appropriati prima che un output entrasse a far parte di una decisione.

La governance diventa ancora più importante quando l’AI si estende ad app generative e agenti capaci di recuperare dati aziendali, generare contenuti, chiamare strumenti e influenzare i flussi di lavoro operativi.

Per le aziende, questo è il valore concreto della governance dell’AI. Consente ai team di procedere più rapidamente con una visione più chiara dei rischi, utilizzare l’AI in ambiti in cui fiducia e responsabilità sono essenziali e mostrare a clienti, autorità di regolamentazione e stakeholder interni come vengono gestiti nel tempo i sistemi AI.