18 agosto 2026/Lettura: 7 minAI e ML
Ridurre il costo dell'AI per ogni attività: routing dinamico tra modelli e modelli open
L’investimento in AI accelera, ma il valore di business non sempre tiene il passo. Man mano che le organizzazioni mettono in campo più agenti e app AI, usare il modello più potente per ogni richiesta può far crescere i costi senza migliorare davvero i risultati. La vera domanda non è quale sia il modello migliore. È quale modello sia il più adatto a ciascun task e come sceglierlo su larga scala.
Snowflake aiuta le organizzazioni a trovare questo equilibrio con due nuove funzionalità in Snowflake Cortex AI. Il routing dinamico tra modelli (presto in PrPr) tramite Cortex AI Gateway offre una base unificata per governare le connessioni degli agenti, indirizzando le richieste in modo intelligente e ottimizzando il consumo di AI. Snowflake amplia inoltre il suo portfolio di modelli open, tra cui DeepSeek-V4-Flash (PrPr) e GLM-5.3 (prossimamente), offrendo alle organizzazioni maggiore flessibilità per abbinare ogni workload al modello giusto.
Un’economia dell’AI migliore parte dal modello giusto per il task giusto
L’economia dell’AI migliora quando le organizzazioni smettono di pagare per più intelligenza di quanta un task ne richieda. Snowflake la chiama intelligence efficiency: la capacità di trasformare compute, modelli, dati e contesto in valore di business misurabile. L’obiettivo è abbinare ogni task al modello capace di garantire la qualità richiesta al costo più basso possibile, invece di indirizzare per default ogni richiesta all’opzione più costosa.
Il principio è semplice: non tutti i task richiedono il modello più potente disponibile. Generare un riepilogo settimanale dello stato non richiede lo stesso livello di intelligenza della sintesi del rischio su un intero portfolio. La sfida è capire quale modello sia più adatto a ciascun task e mantenere aggiornata quella mappatura, mentre decine di modelli continuano a evolversi e migliorare.
Il routing dinamico tra modelli arriva in Cortex AI Gateway
Con il routing dinamico tra modelli, Cortex AI Gateway seleziona il modello più economico in grado di completare con affidabilità il task in ogni fase dell’esecuzione dell’agente. I task ripetitivi e a bassa complessità possono essere indirizzati a modelli più efficienti, mentre i workload che richiedono un ragionamento più profondo possono essere instradati verso i modelli di frontiera. Così i clienti riducono la spesa di inferenza superflua, senza che i team di sviluppo debbano sviluppare e mantenere una logica di selezione dei modelli. Con l’evoluzione di opzioni, funzionalità e prezzi dei modelli, le decisioni di routing si adattano senza che i clienti debbano ricostruire le proprie app o i propri agenti.
La funzionalità opera all’interno dei controlli di governance enterprise già definiti in Snowflake. Considera solo i modelli approvati dagli amministratori e rispetta le impostazioni di residenza dei dati già attive nell’organizzazione, contribuendo a garantire che le richieste rimangano entro i confini di compliance approvati. Ogni decisione di routing è inoltre registrata, offrendo ad amministratori e team di compliance visibilità su quale modello ha gestito ciascuna richiesta.
I primi test hanno dimostrato guadagni di efficienza significativi. In una valutazione interna, il routing dinamico tra modelli ha completato un workload di pipeline con data build tool (dbt) con un’efficienza dei token fino a tre volte superiore rispetto a un approccio basato solo su modelli di frontiera, mantenendo una qualità comparabile. In un test separato su un workload di coding, i team di engineering hanno mantenuto lo stesso throughput di pull request usando circa il 25% di token in meno.1
Poiché è Snowflake a gestire il livello di routing, la selezione dei modelli evolve man mano che nuovi modelli diventano disponibili e cambiano i punti di forza relativi di quelli esistenti. I clienti beneficiano di un routing in costante miglioramento senza dover riprogettare le proprie app né gestire in autonomia logiche di routing complesse.
Ampliare l’accesso ai modelli open: DeepSeek-V4-Flash 0731 e GLM-5.3
Un router vale quanto le opzioni che ha a disposizione. Il routing dinamico tra modelli riduce i costi indirizzando ogni richiesta al modello meno costoso che soddisfa comunque la soglia di qualità richiesta. Più cresce il bacino di modelli efficienti e performanti, più migliora l’economia. Ogni nuovo modello che entra nel bacino porta prestazioni migliori a un costo inferiore. Ecco perché l’ecosistema dei modelli open conta oggi ancora più di qualche mese fa.
Oggi ampliamo l’accesso dei clienti ai principali modelli open, tra cui DeepSeek-V4-Flash 0731 (in private preview) e GLM-5.3 (private preview in arrivo, soggetta a modifiche in base alla disponibilità del modello3) in Snowflake Cortex AI. Si aggiungono a un portfolio che comprende già modelli di Anthropic, Google, OpenAI, SpaceXAI, Mistral AI e Meta, offrendo più opzioni per trovare la giusta combinazione di qualità, prestazioni e costi per ogni workload.
Valutato su ADE-bench con Snowflake CoCo come agent harness, DeepSeek-V4-Flash ottiene un punteggio del 74,4%,2 superando il principale modello proprietario che abbiamo testato. Non è un errore di arrotondamento: è il segnale che la frontiera OSS ha colmato il divario proprio dove conta di più per i data team. Se oggi annunciamo GLM 5.3, i punteggi di GLM-5.2 nei test precedenti raccontano una storia convincente: solida accuratezza nel data engineering (66% su ADE-bench2) con il footprint di token più basso tra tutti i modelli del benchmark, quindi una scelta ideale per i team che eseguono workload self-hosted ad alto volume, dove costi e latenza fanno la differenza.
DeepSeek-V4-Flash 0731 è disponibile in CoCo da oggi in private preview, mentre GLM-5.3 arriverà presto: entrambi supportano il self-hosting e sono progettati per mantenere i tuoi dati nel tuo ambiente.
Snowflake eroga direttamente questi modelli open, senza fare da proxy verso un’API di terze parti, così l’inferenza avviene all’interno di un perimetro sicuro. Gestiamo l’intero percorso, dai dati enterprise grezzi al task agentico completato: i dati, il compute che esegue l’inferenza, i pesi del modello e l’agent harness che orchestra il tutto. Da qui derivano diversi vantaggi:
L’inferenza gira accanto ai dati governati, riducendo costi di trasferimento e latenza.
Controllare lo stack ci permette di ottimizzare per i pattern di accesso che i workload enterprise generano realmente, invece di accontentarci di ciò che offre un endpoint generico.
I tuoi dati restano entro il perimetro di governance Snowflake, quindi i modelli open operano all’interno dello stesso controllo degli accessi basato sui ruoli e dello stesso audit trail che già governano i tuoi dati.
Un’economia dell’AI con vantaggi cumulativi nel tempo
Insieme, il routing dinamico tra modelli e un portfolio di modelli open in crescita generano guadagni cumulativi di intelligence efficiency. Il routing dinamico riduce il ricorso superfluo a costosi modelli di frontiera, indirizzando i workload di routine verso alternative più efficienti. Al tempo stesso, una selezione più ampia di modelli open performanti offre al livello di routing più opzioni di alta qualità e convenienti per ogni richiesta.
L’economia migliora ulteriormente quando il sistema impara dall’utilizzo reale. Man mano che i modelli sono valutati su workload diversi, le decisioni di routing diventano più precise. I task possono essere abbinati al livello di intelligenza adeguato in base a requisiti di qualità, latenza, costo e governance. Con l’arrivo di nuovi modelli e il miglioramento di quelli esistenti, una quota crescente di workload può essere gestita da modelli efficienti senza compromettere i risultati che il business richiede.
Il risultato è un sistema progettato per diventare più efficiente nel tempo, che consente alle organizzazioni di ridurre progressivamente il costo medio di ogni risultato di business continuando a beneficiare dei progressi nelle prestazioni dei modelli. E possono farlo senza ricostruire le app, senza fissare a codice la scelta dei modelli e senza gestire manualmente logiche di routing complesse. La governance enterprise contribuisce a garantire che le richieste rimangano entro i parametri definiti di compliance, prestazioni e costi, permettendo alle organizzazioni di scalare l’AI con maggiore controllo e un’economia più sostenibile.
1 Risultati basati su test interni Snowflake; metodologia e condizioni disponibili su richiesta. I risultati individuali possono variare in base al workload e alla configurazione.
2 Punteggio di efficienza basato su test interni con ADE-bench, un framework creato da dbt per valutare gli agenti AI su task reali di analisi dei dati e data engineering.
3 Questo contenuto contiene dichiarazioni previsionali, anche in merito alle nostre future offerte di prodotto, e non rappresenta un impegno a fornire alcuna offerta di prodotto. I risultati e le offerte effettivi possono differire e sono soggetti a rischi e incertezze noti e sconosciuti. Per ulteriori informazioni, consulta il nostro ultimo 10-Q.
