Quando il tuo agente AI ha una giornata storta, qual è la tua ultima linea di difesa?

Le aziende si affidano agli agenti AI più che mai per promuovere la produttività. Ma cosa succede quando proprio questa velocità e autonomia ci si rivoltano contro? Viviamo in un’epoca in cui un singolo errore in buona fede dell’AI può eliminare un intero database di produzione e i relativi backup più velocemente di quanto gli esseri umani riescano a reagire. Questo rischio non è dovuto al fatto che gli agenti AI stiano peggiorando, ma al contrario, al fatto che stanno migliorando e hanno maggiore accesso ai sistemi mission-critical.

La domanda che ogni leader deve porsi in questo momento è: “Cosa c’è dall’altra parte dell’errore di un agente AI quando si verifica?”

La scommessa sulla produttività che tutti stiamo facendo

L’Agentic AI sta passando dalle demo alle parti portanti dell’azienda moderna. Gli agenti AI scrivono codice, modificano schemi, emettono rimborsi, riconciliano registri, redigono contratti e inviano e-mail per conto degli esseri umani. Il motivo per cui le aziende si stanno orientando in questa direzione è semplice: il vantaggio in termini di produttività è reale. Un flusso di lavoro che un tempo richiedeva un ticket, uno specialista e tre giorni di tempo, ora viene completato in un minuto.

Sbloccare questo livello di produttività richiede di concedere agli agenti AI un’autonomia reale, accesso in scrittura, un ampio raggio d’azione operativo e l’autorità di eseguire task consequenziali senza un collo di bottiglia umano. L’alternativa è un approccio human-in-the-loop a ogni battitura, il che è costoso.

Ma nelle aziende umane, l’autonomia e l’azione consequenziale hanno sempre avuto un compagno: i controlli. Separazione delle mansioni. Gestione dei cambiamenti. Backup. Audit trail. Non li abbiamo sviluppati perché i nostri dipendenti umani non sono degni di fiducia. Li abbiamo sviluppati perché anche i dipendenti migliori, sotto pressione o per caso, possono commettere errori e il potenziale raggio d’impatto è troppo ampio per affidarsi solo alle buone intenzioni.

Gli agenti AI autonomi richiedono la stessa rigorosa impalcatura. Tuttavia, sebbene la tecnologia sia pronta per l’implementazione, la maggior parte delle organizzazioni deve ancora sviluppare i guardrail necessari per gestirla in modo sicuro.

Perché da qui in poi diventerà più difficile, non più facile

Sarebbe confortante credere che le difficoltà di crescita che stiamo affrontando oggi scompariranno man mano che i modelli miglioreranno. Non sarà così, e vale la pena essere onesti sul perché.

• Gli agenti AI stanno diventando più capaci, il che significa una maggiore superficie d’attacco. L’espansione delle finestre di contesto, l’integrazione più affidabile degli strumenti e le sofisticate capacità di pianificazione hanno cambiato radicalmente la posta in gioco. Ciò significa che lo stesso agente AI che l’anno scorso era limitato all’accesso di sola lettura nel tuo warehouse ora può anche scriverci, orchestrare tra i sistemi e intraprendere azioni in più fasi con una supervisione minima. Capacità e raggio d’impatto crescono di pari passo.

• Gli agenti AI stanno proliferando all’interno dell’azienda. Con la crescita dell’adozione, le aziende avranno potenzialmente centinaia di agenti AI, sviluppati da team diversi, che utilizzano strumenti diversi, con accesso sovrapposto agli stessi dati sottostanti. La probabilità di un guasto del sistema è ora una funzione diretta del numero di agenti AI nel tuo ambiente. 

• Il confine tra “strumento” e “attore” sta rapidamente scomparendo. L’assistente di codifica AI di oggi è l’agente AI autonomo di sviluppo e distribuzione di domani. Il copilota per l’analisi dei dati di oggi è l’agente AI di domani che regola le regole di pricing in produzione. Con ogni passo verso la piena autonomia, il profilo di rischio primario cambia: la modalità di guasto non consiste più nel suggerire la cosa sbagliata, ma nel fare la cosa sbagliata.

• La prompt injection e gli attacchi alla supply chain contro gli agenti AI sono una categoria in crescita. Un agente AI che legge dal web, da ticket condivisi o da e-mail dei clienti sta leggendo da una superficie controllabile da un utente malintenzionato. I flussi di lavoro agentici possono portare ad azioni distruttive se un avversario controlla una pagina web pubblica a cui fa riferimento il tuo agente AI.

Nulla di tutto ciò è un motivo per rallentare l’adozione dell’Agentic AI. I guadagni di produttività sono troppo significativi e le organizzazioni che sviluppano presto una disciplina attorno agli agenti AI cresceranno più velocemente di quelle che non lo fanno. Ma è un motivo per smettere di fingere che un prompting attento e una scelta sensata del modello siano controlli sufficienti per un agente AI con accesso in scrittura ai sistemi di record.

Il ripristino appartiene alla piattaforma, non a un runbook

Nel mondo Snowflake, quell’ultima linea di difesa è il motivo per cui abbiamo integrato backup immutabili write-once-read-many (WORM) direttamente nella piattaforma. Una volta che i dati vengono acquisiti in un backup WORM, non possono essere alterati o eliminati da un utente, un ruolo o un agente AI, incluso l’amministratore dell’account. Se un agente AI (o un essere umano o un utente malintenzionato) elimina, tronca o corrompe una tabella che aveva tutti i permessi per modificare, esiste una copia pulita che non è mai stata nel suo raggio d’impatto fin dall’inizio.

Questo è fondamentale a causa del design intrinseco dei moderni agenti AI. L’ambito di autorità di un agente AI è, per necessità, abbastanza ampio da svolgere un lavoro utile. Quello stesso ambito di autorità è ciò che rende i backup tradizionali, quelli che risiedono nello stesso account e governati dagli stessi ruoli, insufficienti come ultima risorsa. Un livello immutabile al di fuori di tale ambito non è un lusso; è la scelta architetturale che può aiutarti a concedere agli agenti AI un’autonomia significativa riducendo al contempo il rischio operativo.

Costruire per il prossimo anno, non per quello passato

Tra un anno, le aziende che vinceranno con gli agenti AI non saranno quelle che hanno eseguito più progetti pilota. Saranno quelle che hanno dato ai loro agenti AI la massima autonomia e hanno dormito sonni tranquilli, sicure di avere solide protezioni di ripristino, anche per azioni altrimenti difficili da recuperare.

La domanda cruciale per la leadership non è più se un agente AI sia degno di fiducia, ma piuttosto: “Qual è lo stato della mia architettura nel momento in cui un agente AI commette un errore?” Se il tuo piano attuale è semplicemente sperare per il meglio, hai un mandato chiaro su cosa deve essere sviluppato in seguito.

Per saperne di più su come i backup Snowflake possono aiutarti a proteggere la tua azienda da azioni AI involontarie e attacchi ransomware, visita la nostra pagina della documentazione su Backup per disaster recovery e archiviazione immutabile.