Etica dell’AI: i principi che guidano lo sviluppo responsabile dell’AI

Quando un sistema AI arriva in produzione, molte scelte etiche sono già state compiute. I dati di addestramento sono stati selezionati, l’obiettivo è stato definito, le metriche di valutazione sono state scelte e il percorso di accesso è stato approvato. Potrebbe esistere o meno un processo di fallback.

L’etica dell’AI consente ai team di esaminare queste scelte prima che si consolidino nell’architettura. Verifica se il sistema rispetta l’autonomia umana, distribuisce equamente benefici e danni, riduce al minimo i danni prevedibili, protegge la privacy e lascia prove sufficienti per comprendere o contestare un risultato.

L’etica dell’AI è il campo interdisciplinare che esamina i principi morali alla base della progettazione, dello sviluppo e dell’implementazione dei sistemi AI. Attinge dall’etica applicata, dalla bioetica, dall’informatica, dal diritto, dai diritti umani e dalle scienze sociali per valutare l’impatto dei sistemi AI sulle persone, sulle organizzazioni e sulla società.

Affronta alcune domande fondamentali:

• Una persona dovrebbe poter rifiutare una decisione basata sull’AI? 

• Quali tipi di danno deve verificare un team prima dell’implementazione? 

• A chi spetta la responsabilità morale quando un modello raccomanda un’azione, ma è un processo aziendale a eseguirla? 

• Quali compromessi sono accettabili quando accuratezza, privacy, equità, sicurezza e trasparenza indicano direzioni diverse?

L’etica dell’AI è correlata all’AI responsabile, alla governance dell’AI e alla compliance dell’AI.

L’etica dell’AI definisce i principi. Stabilisce i principi normativi che un sistema deve rispettare, come autonomia, beneficenza, non maleficenza, giustizia e spiegabilità.

L’AI responsabile definisce il modello operativo. Traduce questi principi in prassi come valutazioni d’impatto, audit dei bias, red teaming, documentazione e revisione umana.

La governance dell’AI definisce la struttura. Assegna titolarità, policy, controlli, approvazioni e processi di monitoraggio affinché le prassi di AI responsabile siano applicate in modo coerente.

La compliance dell’AI definisce l’insieme degli obblighi. Mette in relazione sistemi AI, utilizzi dei dati e processi operativi con leggi, normative, standard e policy interne applicabili, quindi produce le prove necessarie per dimostrare il rispetto di tali requisiti.

L’etica dell’AI viene prima dell’AI responsabile, della governance e della compliance. Fornisce alle organizzazioni una base fondata su principi per stabilire che cosa significhi “buono” in uno specifico contesto AI. Le prassi operative di governance e compliance determinano poi come applicare le decisioni.

Guarda questo video sull’etica dell’AI con Christian Kleinerman, EVP of Product Snowflake, e Jennifer Belissent, Principal Data Strategist Snowflake:

Molte discussioni sull’etica dell’AI si basano su principi molto anteriori all’AI moderna, in particolare quelli della bioetica usati per valutare decisioni mediche, prassi di ricerca e obblighi istituzionali. Il framework ampiamente citato di Luciano Floridi e Josh Cowls individua cinque principi fondamentali per l’AI nella società: beneficenza, non maleficenza, autonomia, giustizia e spiegabilità. I primi quattro derivano dalla bioetica, mentre la spiegabilità è stata aggiunta per rispondere alla necessità di comprendere i sistemi AI e attribuirne la responsabilità.

Autonomia

L’autonomia consiste nel rispettare la capacità di azione delle persone. Nei sistemi AI può significare fornire informazioni chiare, mantenere un’opzione di rinuncia, richiedere una revisione human-in-the-loop per le scelte rilevanti o impedire che l’automazione limiti senza spiegazioni le opzioni disponibili per una persona.

Ad esempio, un modello di selezione del personale può classificare le candidature in base a indicatori storici delle prestazioni, ma l’autonomia richiede più di una classificazione tecnicamente accurata. Una candidatura non dovrebbe essere ridotta a un punteggio senza la possibilità di correggere dati errati, chiedere un riesame o capire perché il sistema abbia influito sull’opportunità.

Beneficenza

La beneficenza richiede che i sistemi AI generino un beneficio. Questo beneficio può assumere la forma di un accesso migliore, un servizio più rapido, una maggiore produttività, un rilevamento più efficace o decisioni più coerenti. Un modello che aiuta il personale clinico a individuare lacune assistenziali, indirizza le richieste dei clienti al team appropriato o facilita l’accesso ai servizi pubblici persegue obiettivi di beneficenza quando il vantaggio è reale, misurabile e distribuito tra le persone interessate.

In pratica, la beneficenza deve tenere conto delle conseguenze impreviste: I team possono valutare se il sistema migliori i risultati rispetto al processo che sostituisce o integra. Un sistema può tuttavia migliorare l’efficienza complessiva concentrando il rischio su un gruppo più ristretto di persone. Per questo la beneficenza deve essere bilanciata con gli altri principi.

Non maleficenza

La non maleficenza è spesso riassunta nell’espressione “primo non nuocere”. Nel contesto dell’AI, il danno può essere fisico, finanziario, psicologico, reputazionale o sociale. Può derivare da una raccomandazione non sicura, un punteggio discriminatorio, un set di dati esposto, un modello inaffidabile inserito in un workflow ad alto rischio o un chatbot che fornisce istruzioni con sicurezza al di fuori dell’ambito previsto.

La non maleficenza impone ai team di individuare i danni prevedibili prima dell’implementazione e monitorare quelli che emergono in produzione. Sono inclusi errori dei modelli, usi impropri, dipendenza eccessiva, abusi della sicurezza ed effetti a valle che potrebbero non emergere in un set di dati di test.

Giustizia

La giustizia riguarda l’equa distribuzione di benefici e danni. Un sistema AI non dovrebbe svantaggiare sistematicamente un gruppo a causa di attributi protetti, variabili proxy, qualità disomogenea dei dati o modelli storici incorporati nei dati di addestramento.

Questo principio è direttamente collegato al bias algoritmico. Un modello antifrode può ottenere buone prestazioni complessive ma generare tassi di falsi positivi più elevati per determinati segmenti di clientela. Un modello sanitario può sottostimare il rischio per gruppi storicamente sottoposti a trattamenti insufficienti. La giustizia richiede valutazioni per sottogruppo, non soltanto dell’accuratezza complessiva del sistema.

Spiegabilità

La spiegabilità richiede che i sistemi AI siano abbastanza comprensibili da consentire alle persone di valutarli, contestarli e governarli. Comprende la spiegabilità, ossia come il sistema ha generato un output, e l’accountability, ossia chi è responsabile del funzionamento del sistema.

Per un motore di raccomandazione a basso rischio, la spiegabilità può richiedere un’informativa generale e report interpretabili sulle prestazioni. Per una decisione relativa a credito, occupazione, sanità o settore pubblico, può richiedere documentazione più dettagliata, spiegazioni delle decisioni, procedure di ricorso e registri di audit.

Con il passaggio dei sistemi AI dagli ambienti di ricerca ai processi aziendali, ai servizi pubblici e ai prodotti di consumo, i framework etici sono diventati più specifici. Continuano a basarsi sui principi fondamentali illustrati sopra, ma li traducono in controlli applicabili dai team tecnici, legali, di rischio e aziendali.

Equità

L’equità richiede che i risultati dell’AI non discriminino le persone. Spesso l’equità viene valutata con misure come parità demografica, pari opportunità, equalized odds e calibrazione, quindi stabiliscono quale metrica sia adatta allo scopo e al profilo di rischio del sistema. Una metrica non sostituisce il giudizio etico, ma aiuta a rilevare se un modello distribuisce gli errori in modo disomogeneo.

Trasparenza

La trasparenza richiede che le persone sappiano quando interviene l’AI, quale sia lo scopo previsto del sistema, quali dati o segnali utilizzi e quali siano i suoi limiti. Per i sistemi di AI generativa, la trasparenza può includere la dichiarazione che i contenuti sono generati dall’AI, la documentazione delle fonti di retrieval, le model card, i risultati delle valutazioni e i limiti in termini di accuratezza o completezza.

Responsabilità

L’accountability implica che una persona o un’organizzazione risponda del comportamento del sistema. Un modello può generare un output, ma non può approvare la propria implementazione, assumersi il rischio normativo, spiegare un incidente a un cliente o decidere se correggere un comportamento dannoso ricorrente. L’accountability richiede titolari identificati, percorsi di escalation e l’autorità necessaria per sospendere o modificare il sistema.

Privacy

La privacy consiste nel ridurre al minimo l’uso dei dati personali, proteggere gli attributi sensibili, rispettare il consenso e limitare gli utilizzi secondari. Nei sistemi AI, la privacy può comportare minimizzazione dei dati, controlli degli accessi, limiti di conservazione, anonimizzazione, dati sintetici o tecniche di privacy differenziale che riducono il rischio di esporre informazioni su persone specifiche. 

Sicurezza e robustezza

La robustezza e sicurezza dell’AI richiedono che i sistemi funzionino in modo affidabile in condizioni previste e impreviste. Un modello dovrebbe essere sottoposto a test per individuare modalità di errore, input avversari, drift, output non sicuri e comportamenti estranei all’uso previsto. Il National Institute of Standards and Technology (NIST) statunitense descrive queste caratteristiche di un’AI affidabile: validità e affidabilità; sicurezza, protezione e resilienza; accountability e trasparenza; spiegabilità e interpretabilità; tutela della privacy; equità e gestione dei bias dannosi.

Contestabilità

La contestabilità consente alle persone interessate dai sistemi AI di impugnare le decisioni e chiedere una riparazione. Questo principio è particolarmente importante quando l’AI influisce sull’accesso a occupazione, credito, alloggio, assistenza sanitaria, istruzione, prestazioni pubbliche o altri risultati rilevanti. Un sistema contestabile consente alle persone di correggere i dati, richiedere una revisione umana e comprendere quali elementi abbiano determinato il risultato.

I framework per l’etica dell’AI variano in base a istituzione, giurisdizione e pubblico di riferimento, ma molti convergono su concetti simili: diritti umani, equità, trasparenza, sicurezza, accountability e supervisione umana.

Raccomandazione UNESCO sull’etica dell’AI

La raccomandazione UNESCO sull’etica dell’intelligenza artificiale, adottata nel 2021, è definita dall’UNESCO come il primo standard globale sull’etica dell’AI. Secondo l’UNESCO, la raccomandazione si applica ai suoi 194 Stati membri e pone al centro i diritti umani e la dignità, con particolare attenzione a trasparenza, equità e supervisione umana.

Il framework UNESCO è ampio perché affronta l’AI come questione sociale, economica e di diritti umani, non soltanto come problema tecnico di governance. Copre ambiti come politiche, istruzione, cultura, lavoro, ambiente, genere e sviluppo, risultando utile per le organizzazioni che devono valutare l’AI in giurisdizioni e gruppi di stakeholder diversi.

Principi dell’OCSE sull’AI

I Principi dell’OCSE sull’AI promuovono un’AI innovativa, affidabile e rispettosa dei diritti umani e dei valori democratici. I principi riguardano crescita inclusiva, sviluppo sostenibile e benessere; rispetto dei diritti umani e dei valori democratici, compresi equità e privacy; trasparenza e spiegabilità; robustezza, protezione e sicurezza; accountability.

Per le organizzazioni, i principi dell’OCSE sono utili perché concisi e orientati alle politiche. Stabiliscono un framework normativo per un’AI affidabile, lasciando spazio a scelte di implementazione basate su contesto, rischio e settore.

Orientamenti etici dell’UE per un’IA affidabile

Gli Orientamenti etici dell’UE per un’IA affidabile hanno contribuito a definire un approccio europeo all’intelligenza artificiale incentrato su sistemi leciti, etici e robusti. Gli orientamenti individuano requisiti come autonomia e supervisione umana; robustezza tecnica e sicurezza; privacy e governance dei dati; trasparenza, diversità ed equità; benessere sociale e ambientale; accountability.

Gli orientamenti hanno influenzato anche la successiva attività normativa europea. L’AI Act dell’Unione europea (regolamento UE 2024/1689) è un quadro giuridico, non un framework etico, ma traduce molti temi connessi all’etica in obblighi relativi a gestione dei rischi dell’AI, governance dei dati, trasparenza, supervisione umana e monitoraggio successivo all’immissione sul mercato per determinati sistemi AI.

Serie IEEE 7000

La serie IEEE 7000 si concentra sull’applicazione operativa dell’etica nell’ingegneria e nella progettazione dei sistemi. Consente ai team di ingegneria di integrare valori, preoccupazioni degli stakeholder e rischi etici nei requisiti di sistema, anziché trattare l’etica come una fase di revisione esterna successiva alle decisioni progettuali.

Per i team AI è importante perché molti problemi etici nascono da scelte di prodotto o architettura: quali dati raccogliere, quale risultato ottimizzare, quali utenti escludere dai test, quali log conservare e quante spiegazioni fornire alle persone interessate.

Blueprint for an AI Bill of Rights degli Stati Uniti e legge 132/2025 italiana

Negli Stati Uniti, il Blueprint for an AI Bill of Rights individua cinque tutele per i sistemi automatizzati: sistemi sicuri ed efficaci; protezione dalla discriminazione algoritmica; privacy dei dati; informazione e spiegazione; alternative, valutazione e fallback umani.

Il blueprint non è una legge federale vincolante, ma costituisce un’utile formulazione di principi dell’AI orientati ai diritti. È particolarmente rilevante per i team che sviluppano sistemi capaci di influire su idoneità, opportunità, accesso o servizi essenziali. In Italia, questi principi trovano ulteriore riscontro nella legge 132/2025 sull’intelligenza artificiale, che promuove un utilizzo antropocentrico, trasparente e sicuro dell’AI e valorizza la responsabilità umana e la centralità della persona nei processi decisionali.

Principi aziendali per l’AI

Molte aziende del settore Technology hanno pubblicato principi sull’AI relativi a equità, sicurezza, trasparenza, accountability, privacy e beneficio per le persone. I principi aziendali più utili sono abbastanza specifici da orientare le decisioni. Ad esempio, affermare che “l’AI deve essere equa” è meno utile di una policy che imponga una valutazione per sottogruppo prima dell’implementazione, una voce nel model registry con i casi d’uso approvati, un percorso documentato di escalation per gli output dannosi e un responsabile della correzione autorizzato a sospendere il sistema.

L’etica dell’AI è utile soltanto se modifica concretamente l’operato dei team. Diverse prassi aiutano le organizzazioni a tradurre il linguaggio dell’etica in un’esecuzione ripetibile.

• Comitati di revisione etica: i sistemi AI ad alto impatto traggono vantaggio da una revisione preliminare all’implementazione condotta da un gruppo interfunzionale in grado di valutare lo scopo del sistema, gli stakeholder interessati, i danni prevedibili e i piani di mitigazione. Il comitato dovrebbe includere prospettive tecniche, legali, di sicurezza, privacy, rischio e business, con un’autorità chiara per approvare, respingere o richiedere modifiche.

• Valutazioni d’impatto dell’AI: una valutazione d’impatto dell’AI documenta l’uso previsto del sistema, i gruppi interessati, le fonti dei dati, i benefici, i danni, le misure di mitigazione e i rischi residui. Offre ai team un metodo strutturato per esaminare i danni agli stakeholder prima dell’implementazione e creare un documento da riesaminare quando il sistema cambia.

• Audit dei bias: gli audit dei bias combinano test statistici e revisioni qualitative. L’analisi statistica può confrontare tassi di errore, falsi positivi, falsi negativi o calibrazione tra sottogruppi. L’analisi qualitativa valuta se dati, etichette, processo aziendale o user experience creino uno svantaggio che una metrica da sola potrebbe non rilevare. La tracciabilità consente ai team di ricondurre gli output a dati di addestramento potenzialmente distorti o non rappresentativi.

• Red teaming: il red teaming dell’AI sottopone i sistemi a test per individuare comportamenti avversari, non sicuri o imprevisti. Per l’AI generativa può includere prompt injection, jailbreak, fuga di dati, istruzioni dannose o affermazioni frutto di allucinazioni. Per l’AI predittiva può includere variazioni nella distribuzione, tentativi di manipolazione, casi limite e scenari di uso improprio.

• Consenso e informativa per gli utenti: le persone dovrebbero sapere quando l’AI interviene in modo sostanziale in una decisione, una raccomandazione o un’interazione. Il consenso è più significativo quando gli utenti comprendono che cosa fa il sistema, quali dati utilizza e quali alternative sono disponibili.

• Risposta agli incidenti e correzione: i problemi etici richiedono procedure di risposta, non soltanto analisi retrospettive. Un output dannoso, uno schema decisionale distorto, un’esposizione di dati personali o una raccomandazione non sicura dovrebbero attivare triage, assegnazione della responsabilità, comunicazione agli utenti, correzione e monitoraggio delle recidive.

• Formazione sull’etica: i team tecnici necessitano di una formazione sull’etica applicata che colleghi i principi alle scelte progettuali. Chi sviluppa una pipeline di retrieval, chi seleziona le etichette di addestramento come data scientist e chi definisce le metriche di successo come product manager prende decisioni che possono influire su equità, privacy, autonomia e sicurezza.

Questo è il nucleo dell’ethics-by-design: la revisione etica è integrata nel ciclo di vita dell’AI anziché essere aggiunta dopo l’implementazione.

L’etica dell’AI è complessa perché stakeholder diversi possono attribuire un peso differente agli stessi principi e la risposta corretta dipende spesso dal contesto. Le organizzazioni che intendono applicare solide prassi di etica dell’AI devono affrontare diverse sfide. 

Pluralismo dei valori

Il pluralismo dei valori riconosce che persone e culture assegnano priorità diverse ai valori. Ad esempio, un sistema che privilegia la privacy individuale può limitare i dati necessari per la sicurezza collettiva. Un sistema progettato per offrire un accesso ampio può introdurre rischi per gruppi che richiedono una protezione maggiore. Le organizzazioni globali devono rendere espliciti questi compromessi, anziché presumere che un’unica norma culturale o istituzionale sia applicabile ovunque.

Conflitto tra principi

I principi etici possono entrare in conflitto tra loro. La beneficenza può favorire l’uso di più dati per migliorare i risultati, mentre la privacy ne impone la minimizzazione. La trasparenza può aiutare gli utenti a comprendere un sistema, mentre la sicurezza può limitare i dettagli di implementazione divulgabili. La sicurezza può richiedere restrizioni che riducono l’autonomia degli utenti. Il lavoro sull’etica comporta spesso la documentazione e la governance di questi conflitti, non la loro eliminazione.

Ethics washing

L’ethics washing si verifica quando le organizzazioni pubblicano principi senza garantirne l’applicazione. Una pagina di principi non impedisce a un modello dannoso di arrivare in produzione se i team non definiscono anche punti di controllo per la revisione, titolarità, requisiti probatori e conseguenze della mancata compliance.

Tensioni specifiche dell’AI generativa

L’AI generativa ha introdotto nuovi conflitti etici relativi a copyright, consenso, sostituzione del lavoro, disinformazione, contenuti non sicuri e compromesso tra accesso open e prevenzione degli usi impropri. La libertà creativa può entrare in conflitto con i diritti di proprietà intellettuale. La disponibilità di modelli open può favorire ricerca e innovazione, aumentando al contempo il rischio di duplice uso. L’automazione può migliorare la produttività e modificare i ruoli professionali più rapidamente di quanto le organizzazioni riescano a riqualificare le persone.

Lacune nell’applicazione

L’etica dell’AI non è generalmente applicabile in modo coercitivo di per sé. Alcune giurisdizioni hanno iniziato a trasformare in legge principi connessi all’etica. In Italia si applica l’AI Act dell'Unione europea per determinati sistemi di IA ad alto rischio, mentre norme esistenti come il Regolamento Generale per la Protezione dei Dati (RGPD o GDPR) disciplinano già i processi decisionali automatizzati, la privacy e l’uso dei dati. Queste tutele sono integrate dal Codice in materia di protezione dei dati personali e dai provvedimenti del Garante per la protezione dei dati personali, che interviene anche sull’impiego di processi decisionali automatizzati e sulla profilazione. Molti obblighi etici dipendono tuttavia dalla governance organizzativa, dagli standard di approvvigionamento, dalle norme di settore e dall’accountability pubblica.

L’etica dell’AI è più facilmente applicabile quando i principi corrispondono ai controlli della piattaforma. Ad esempio, un team che sviluppa un assistente di AI generativa deve sapere da quali tabelle e colonne può recuperare dati, quali policy si applicano agli attributi sensibili, quale versione del modello è approvata, quali controlli di sicurezza filtrano le risposte non sicure e chi può esaminare il lineage quando un output viene contestato.

Il programma Responsible AI Snowflake consente di applicare concretamente gli impegni etici nello sviluppo dell’AI Snowflake e fornisce modelli che i clienti possono adottare per i propri workload AI. In Snowflake, questi modelli collegano i principi etici a governance, documentazione e controlli runtime.

Cortex Guard consente ai team di applicare controlli di sicurezza agli output degli LLM, incluso il filtraggio di determinate risposte non sicure o dannose generate dai modelli linguistici. I guardrail Cortex AI contribuiscono a ridurre i rischi associati agli attacchi di prompt injection e jailbreak nei contesti supportati.

Snowflake Horizon Catalog fornisce un contesto di governance per i workload AI. Aiuta i team a gestire e comprendere gli asset di dati, inclusi lineage, tag, policy di mascheramento e classificazione dei dati sensibili. Fornisce contesto e governance per l’AI, inclusi classificazione dei dati sensibili, policy di mascheramento basato su tag e cronologia degli accessi per gli audit.

Snowflake Model Registry supporta trasparenza e accountability aiutando i team a gestire modelli e metadati in Snowflake. I titolari dei modelli possono gestire versioni, artefatti e metadati, mentre l’interfaccia Snowflake mostra metadati delle versioni dei modelli come le metriche.

I principi etici sono più facili da applicare in modo coerente quando la piattaforma rende disponibili i dati pertinenti, applica le policy di accesso, documenta il comportamento dei modelli e fornisce un audit trail per i workload AI. Anche la certificazione ISO/IEC 42001 Snowflake dimostra una convalida esterna dell’allineamento alle nuove aspettative di governance dell’AI.

Per le organizzazioni che integrano l’AI in prodotti, attività operative e workflow decisionali, l’etica non può essere separata dall’esecuzione. Deve determinare quali sistemi possono procedere, quali richiedono supervisione umana, quali rischi devono essere mitigati e quali registri devono esistere quando clienti, autorità di regolamentazione o revisori interni chiedono come sia stata presa una decisione. In definitiva, la credibilità dei sistemi AI dipenderà non soltanto dalle loro prestazioni, ma anche dall’integrità delle decisioni su cui si basano.