AI Act dell’Unione europea: livelli di rischio, scadenze e compliance

La maggior parte delle imprese utilizza già più sistemi di intelligenza artificiale di quanti un singolo team riesca a monitorare end-to-end. Un workflow di assistenza clienti può richiamare un modello di terze parti, un sistema antifrode può attribuire un punteggio alle transazioni, uno strumento di selezione del personale può classificare le candidature e un assistente per la produttività può riepilogare documenti contenenti dati regolamentati. Ogni sistema può avere un responsabile, una scheda del fornitore e una verifica di sicurezza, ma spesso queste informazioni si trovano in luoghi diversi e rispondono a domande differenti.

L’AI Act dell’Unione europea pone una domanda specifica sui sistemi di IA: l’organizzazione è in grado di dimostrare cosa fa ogni sistema, quale ruolo svolge l’impresa, quale livello di rischio si applica e quali controlli sono necessari?

La preparazione all’AI Act dell’Unione europea inizia dalla governance dell’AI e da una catena di evidenze. L’AI Act è una norma giuridica nella forma, ma operativa nella pratica. Impone alle imprese di collegare i sistemi di IA a dati, modelli, documentazione, log, supervisione umana e processi di gestione degli incidenti che ne dimostrino l’uso responsabile, soprattutto quando incidono su occupazione, credito, istruzione, infrastrutture critiche, attività di contrasto o altre decisioni ad alto impatto.

L’AI Act dell’Unione europea è il primo quadro normativo sull’AI completo al mondo. È entrato in vigore il 1° agosto 2024 e si applica per fasi. Le pratiche di AI vietate, gli obblighi di alfabetizzazione in materia di AI e quelli per l’AI per finalità generali sono già applicabili. Secondo il calendario attuale, la maggior parte degli obblighi per l’AI ad alto rischio dovrebbe applicarsi dal 2026, con alcuni periodi transitori estesi fino al 2027-2028. L’obiettivo normativo è un’AI antropocentrica: sistemi utilizzabili in modo produttivo, ma con garanzie per la sicurezza, i diritti fondamentali, la trasparenza e la responsabilità. 

L’ambito di applicazione è più ampio di quanto molte organizzazioni ritengano inizialmente. L’AI Act dell’Unione europea può applicarsi a fornitori, deployer, importatori e distributori al di fuori dell’UE quando un sistema di IA viene immesso sul mercato dell’UE o quando il suo output viene utilizzato nell’UE. Un’impresa con sede negli Stati Uniti che vende in Europa un prodotto basato sull’AI, utilizza un sistema di IA per valutare i residenti dell’UE oppure dipende da un modello extra-UE i cui output incidono su persone nell’UE potrebbe comunque dover valutare quali obblighi sono applicabili.

L’AI Act dell’Unione europea adotta un quadro basato sul rischio. Alcune pratiche di AI sono vietate, determinati sistemi di IA ad alto rischio sono soggetti a obblighi dettagliati e molti utilizzi a rischio inferiore restano ampiamente consentiti, nel rispetto di obblighi di trasparenza o codici di condotta volontari. L’AI Act dell’Unione europea distingue inoltre tra fornitori e deployer. Un fornitore sviluppa un sistema di IA o un modello di AI per finalità generali e lo immette sul mercato o lo mette in servizio con il proprio nome o marchio. Un deployer utilizza un sistema di IA sotto la propria autorità, fatta eccezione per l’uso personale non professionale.

Per la maggior parte delle imprese, è essenziale identificare i sistemi di IA in uso, classificarli per rischio, documentarne il funzionamento, conservare le evidenze necessarie alla supervisione e verificare che i sistemi ad alto rischio superino la valutazione di conformità richiesta prima di essere immessi sul mercato dell’UE o messi in servizio.

L’AI Act UE suddivide i sistemi di IA in quattro categorie principali: rischio inaccettabile, alto rischio, rischio limitato e rischio minimo. In base alla categoria il sistema è vietato, soggetto agli obblighi per l’alto rischio, sottoposto a obblighi di trasparenza o sostanzialmente escluso dai controlli obbligatori.

L’AI Act dell’Unione europea introduce un regime distinto per i modelli di AI per finalità generali (GPAI), inclusi i modelli foundation in grado di svolgere un’ampia gamma di attività downstream. Questo regime si aggiunge ai livelli di rischio, poiché un modello per finalità generali può essere integrato in numerosi sistemi di IA, alcuni a basso livelli di rischio e altri ad alto livello di rischio.

Gli obblighi di base per i modelli GPAI comprendono:

• manutenzione della documentazione tecnica

• fornire ai fornitori downstream le informazioni necessarie per integrare il modello in modo responsabile

• attuare una policy per rispettare la normativa dell’UE sul diritto d’autore

• pubblicare una sintesi dei contenuti utilizzati per addestrare il modello

Per i modelli GPAI con rischio sistemico, gli obblighi sono più rigorosi. L’AI Act dell’Unione europea utilizza una soglia di capacità di calcolo, attualmente pari a 10^25 operazioni in virgola mobile, come indicatore del possibile rischio sistemico di un modello. I fornitori di questi modelli devono eseguire valutazioni dei modelli, condurre e documentare test contraddittori (adversarial test), valutare e mitigare i rischi sistemici, monitorare e segnalare gli incidenti gravi, nonché mantenere protezioni di cybersecurity adeguate per il modello e la relativa infrastruttura fisica.

I deployer aziendali devono considerare la documentazione GPAI un requisito di procurement e governance. Un’impresa che acquisisce in licenza o integra un modello di terze parti non diventa automaticamente il fornitore del modello, ma deve comunque disporre di documentazione downstream sufficiente per comprenderne usi consentiti, limitazioni, vincoli di integrazione, controlli del rischio e requisiti di segnalazione degli incidenti. Per i casi d’uso ad alto rischio, questa documentazione entra a far parte della catena di evidenze del sistema di IA costruito intorno al modello.

In pratica, la valutazione dei modelli e il test contraddittorio (red teaming) non sono più soltanto attività di ricerca o sicurezza. Sono controlli essenziali della supply chain. I team responsabili di approvvigionamento, questioni legali, sicurezza, governance dei dati e piattaforme AI devono sapere quali informazioni fornirà il provider del modello, quali test svolgerà direttamente l’impresa e come verranno monitorati i rischi legati al modello dopo l’implementazione.

L’AI Act dell’Unione europea si applica per fasi. L’attuale calendario normativo costituisce la base della pianificazione aziendale, mentre i responsabili politici continuano a discutere possibili modifiche all’attuazione.

• 1° agosto 2024: data di entrata in vigore dell’AI Act dell’Unione europea.

• 2 febbraio 2025: sono diventati applicabili i divieti relativi alle pratiche di AI e gli obblighi di alfabetizzazione in materia di AI.

• 2 agosto 2025: sono diventate applicabili le regole di governance e gli obblighi relativi ai modelli GPAI.

• 2 agosto 2026: sono diventati applicabili la maggior parte degli obblighi, comprese le regole per i sistemi di IA ad alto rischio elencati nell’allegato III.

• 2 agosto 2027: è prevista la piena applicazione delle regole ai sistemi di IA ad alto rischio integrati nei prodotti regolamentati di cui all’allegato I.

Il calendario resta al centro del dibattito politico. Le associazioni di settore hanno chiesto un rinvio, sostenendo che le imprese abbiano bisogno di maggiori indicazioni e di più tempo per adeguarsi. Jennifer Belissent, Principal Data Strategist Snowflake, osserva che “le richieste del settore di rinviare l’attuazione dell’AI Act UE sono state pressanti”, ma sostiene anche che le imprese non debbano attendere, perché “il vero motore della governance dell’AI e dei dati è già presente. Sono i clienti a richiederla.

Questo è un approccio di pianificazione comune alla maggior parte delle imprese. Anche se alcuni dettagli dell’attuazione dovessero cambiare, clienti, autorità di regolamentazione, consigli di amministrazione e partner commerciali richiedono già inventari dei sistemi di IA, classificazioni del rischio, documentazione dei modelli, data lineage, processi di gestione degli incidenti ed evidenze della governance dei sistemi di IA ad alto impatto.

L’AI Act dell’Unione europea prevede diversi livelli di gravità per le sanzioni amministrative. Gli Stati membri sono responsabili delle norme sanzionatorie e delle misure di applicazione, ma l’AI Act dell’Unione europea stabilisce importi massimi in base al tipo di violazione.

L’AI Act dell’Unione europea impone inoltre agli Stati membri di tenere conto degli interessi delle piccole e medie imprese (PMI) e delle startup, alle quali si applicano limiti sanzionatori inferiori. La gravità della sanzione può dipendere da fattori quali natura, gravità e durata della violazione, dimensioni dell’organizzazione, violazioni precedenti e grado di collaborazione con le autorità.

Per i team aziendali, la tabella delle sanzioni rappresenta solo una parte della valutazione del rischio. Una governance inadeguata dell’AI può anche compromettere la fiducia dei clienti, generare attriti contrattuali, esporre a rischi per la privacy e la sicurezza e ritardare il lancio di prodotti basati sull’AI nel mercato dell’UE.

Un approccio efficace alla compliance dell’AI consiste nel tradurre i requisiti dell’AI Act dell’Unione europea in artefatti operativi. Una policy che impone la governance dell’AI non basta: servono registrazioni, controlli e procedure di verifica che dimostrino come ogni sistema è stato classificato, testato, approvato e monitorato.

Iniziare da un inventario dei sistemi di IA

Registrare ogni sistema di IA in uso o in fase di sviluppo, inclusi i modelli creati internamente, i servizi AI di terze parti, le funzionalità AI integrate nelle applicazioni SaaS e i modelli di AI per finalità generali utilizzati tramite API. Ogni voce dell’inventario deve identificare il responsabile del sistema, il fornitore, il deployer, la finalità prevista, gli utenti interessati, i dati di input, l’esposizione al mercato dell’UE, le dipendenze dai modelli, i punti di integrazione e l’eventuale impatto del sistema su persone nell’UE.

Classificare ogni sistema in base ai livelli di rischio

Un chatbot AI utilizzato per recuperare conoscenze interne può presentare criticità di trasparenza e controllo degli accessi, mentre un sistema di IA che classifica le candidature a un posto di lavoro può rientrare in un ambito ad alto rischio dell’allegato III. La classificazione non deve essere un’attività una tantum, ma va riesaminata quando cambiano la finalità, i dati, la popolazione di utenti o il contesto di implementazione del sistema.

Partire dai sistemi ad alto rischio

Per i potenziali sistemi ad alto rischio, predisporre fin dall’inizio i sei elementi documentali fondamentali:

• Sistema di gestione dei rischi: documentare i rischi noti e ragionevolmente prevedibili, le misure di mitigazione, le decisioni sul rischio residuo e la frequenza delle revisioni.

• Procedure di governance dei dati: registrare le fonti dei dati, i controlli sulla qualità dei dati, le valutazioni della rappresentatività, i controlli sui bias, il lineage, le regole di conservazione e le policy di accesso.

• Documentazione tecnica: mantenere aggiornati la descrizione del sistema, la logica del modello, la finalità prevista, le caratteristiche prestazionali, le limitazioni, i risultati della convalida e l’architettura di implementazione.

• Log degli eventi: conservare i log necessari per il monitoraggio, gli audit, le indagini sugli incidenti e le verifiche successive all’immissione sul mercato.

• Progettazione della supervisione umana: definire dove le persone possono verificare, ignorare, sospendere o inoltrare a un livello superiore gli output del sistema e assicurarsi che dispongano delle informazioni necessarie per intervenire.

• Misure di accuratezza e cybersecurity: documentare gli obiettivi prestazionali, i test di robustezza, i test contraddittori (adversarial test), la gestione delle vulnerabilità e i controlli di sicurezza.

Richiedere la documentazione GPAI

Per i modelli GPAI, richiedere ai fornitori il pacchetto di documentazione prima dell’integrazione. I team responsabili dell’approvvigionamento devono richiedere la documentazione tecnica, le linee guida per l’integrazione downstream, le policy di utilizzo accettabile, le informazioni sulle policy in materia di diritto d’autore, le sintesi dei dati di addestramento ove previste e gli impegni relativi alla segnalazione degli incidenti. Questi materiali devono essere allegati alla registrazione del sistema di IA, non archiviati separatamente in una cartella contrattuale introvabile durante un audit.

Mappare i controlli dell’AI Act dell’Unione europea rispetto agli obblighi esistenti 

Molte organizzazioni dispongono già di valutazioni d’impatto sulla protezione dei dati ai sensi del GDPR, controlli di resilienza operativa previsti dal DORA, controlli di cybersecurity previsti dalla NIS2, procedure settoriali di gestione del rischio dei modelli o requisiti di convalida del software. L’obiettivo non è ricostruire questi processi sotto una nuova etichetta AI, ma individuare dove i controlli esistenti soddisfano già parte dei requisiti probatori dell’AI Act dell’Unione europea e colmare le lacune relative a classificazione del rischio, documentazione GPAI, informative sulla trasparenza, valutazione di conformità, monitoraggio successivo all’immissione sul mercato e segnalazione degli incidenti.

Aver definito i runbook per la segnalazione degli incidenti prima del 2 agosto 2026 

I team devono sapere cosa costituisce un incidente grave, chi deve indagare, quali log e documenti servono, come informare i team legali e di compliance e come registrare le azioni correttive. Attendere che un sistema ad alto rischio presenti un malfunzionamento in produzione rende la risposta eccessivamente dipendente dal coordinamento informale.

Scopri cosa pensano dell’AI generativa e dell’etica dell’AI Christian Kleinerman, EVP of Product Snowflake, e Jennifer Belissent, Principal Data Strategist Snowflake. 

La preparazione all’AI Act dell’Unione europea richiede di conoscere le risorse di dati e AI esistenti, come sono governate, chi può accedervi e quali evidenze è possibile produrre durante la verifica di un sistema. Snowflake supporta queste fondamenta collegando la governance dell’AI alla stessa piattaforma in cui risiedono già dati governati, metadati, policy e log.

Snowflake Horizon Catalog offre funzionalità di individuazione e un contesto di governance per le risorse di dati e AI, inclusi metadati quali lineage, viste semantiche e informazioni sul relativo utilizzo. Ai fini della preparazione all’AI Act dell’Unione europea, questo aspetto è importante perché un inventario dei sistemi di IA è utile solo se i team possono collegare un sistema alle tabelle, alle viste, alle funzionalità, ai modelli, alle policy e ai responsabili da cui dipende.

Snowflake Compliance Center consente ai team di valutare, monitorare e ridurre i rischi per la sicurezza negli account Snowflake tramite risultati basati su scanner, notifiche proattive e visibilità a livello di account. La funzionalità Data Security di Compliance Center classifica automaticamente determinate categorie di dati sensibili nei database, identifica categorie regolamentate e ad alto rischio quali dati PII, dati PCI e informazioni sanitarie protette e mostra se sono già protette da policy di masking.

Anche i controlli degli accessi e le funzionalità per le policy Snowflake possono fornire evidenze a supporto della governance dell’AI. Il controllo degli accessi basato sui ruoli (RBAC), le policy di masking, le row access policy e Access History consentono ai team di dimostrare chi ha avuto accesso ai dati sensibili, quali policy sono state applicate e come sono stati utilizzati i dati. Queste registrazioni non sostituiscono l’analisi giuridica o la valutazione di conformità, ma supportano i workflow di logging, supervisione umana, governance dei dati e raccolta delle evidenze di audit necessari per i sistemi di IA regolamentati.

La certificazione ISO/IEC 42001 Snowflake rappresenta un ulteriore indicatore di affidabilità. La certificazione è stata ottenuta in seguito a un audit indipendente svolto da terzi sul sistema di gestione dell’AI e rafforza la trasparenza, la responsabilità e la fiducia nelle pratiche AI Snowflake.

L’AI Act dell’Unione europea rende obbligatoria la governance dell’AI. Un’impresa deve sapere quali sistemi di IA utilizza, quale ruolo svolge per ciascuno, da quali dati e modelli dipende ogni sistema, come è stato classificato il rischio, dove possono intervenire le persone e quali evidenze sono disponibili quando un’autorità di regolamentazione, un cliente o un revisore interno ne chiede prova.

Questa attività è più semplice quando si basa sui modelli di governance già adottati dall’organizzazione: inventari, controlli degli accessi, lineage, documentazione, monitoraggio, risposta agli incidenti ed evidenze di audit. L’AI Act dell’Unione europea introduce obblighi specifici per l’AI, in particolare per i sistemi ad alto rischio e l’AI per finalità generali, ma non impone alle aziende di partire da zero. Il percorso più efficace consiste nel collegare la preparazione per l’AI ai controlli già utilizzati per governare dati, sicurezza, privacy e resilienza operativa, quindi colmare le lacune prima che gli obblighi diventino applicabili ai sistemi più rilevanti.