Oggi siamo lieti di annunciare la general availability di Claude 3.5 Sonnet come primo foundation model Anthropic disponibile in Snowflake Cortex AI. I clienti possono ora accedere al modello più intelligente della famiglia di modelli Claude di Anthropic utilizzando familiari interfacce SQL, Python e API REST (presto disponibile), all’interno del perimetro di sicurezza di Snowflake. Questa integrazione nativa consente ai team dati e engineering di affrontare in modo efficiente alcune delle sfide più comuni, secondo il MIT Technology Review Insights poll 2024, nell’implementazione dell’AI, tra cui governance dei dati, privacy e integrazione.

Con Sonnet 3.5 in Cortex AI, le aziende possono sbloccare ulteriormente il pieno potenziale dei propri dati attraverso assistenti conversazionali ed elaborazione del linguaggio su vasta scala. I modelli linguistici avanzati di Claude miglioreranno ulteriormente il modo in cui gli sviluppatori possono creare agenti in grado di eseguire analisi ad hoc, estrarre risposte da documenti e altre knowledge base ed eseguire altri flussi di lavoro multistep. Puoi creare applicazioni all’interno del perimetro di sicurezza di Snowflake con i modelli accanto ai tuoi dati governati. La facilità d’uso unita all’ambiente affidabile accelerano la fornitura di AI enterprise-ready.

Snowflake Cortex AI

Snowflake ha lanciato Cortex AI, una suite di funzionalità e servizi integrati che includono inferenza LLM completamente gestita, fine-tuning e RAG per i dati strutturati e non strutturati, per consentire ai clienti di analizzare rapidamente i dati non strutturati insieme ai propri dati strutturati e accelerare la creazione di app AI. L’AI e la piattaforma dati unificate consentono a molte organizzazioni di passare facilmente dal concetto di AI alla realtà in pochi giorni. Oggi organizzazioni di ogni dimensione e settore possono realizzare una gamma di casi d’uso, dalla sintesi del testo e l’analisi del sentiment allo sviluppo di potenti chatbot AI. 

Claude 3.5 Sonnet

Claude 3.5 Sonnet è un modello di base della società di ricerca e sicurezza AI Anthropic. Il modello alza l’asticella dell’intelligence, superando i modelli concorrenti e Claude 3 Opus su un’ampia gamma di valutazioni, tra cui un nuovo risultato all’avanguardia per SWE-bench, una valutazione di software engineering. Claude 3.5 Sonnet eccelle nei benchmark di settore GPQA (ragionamento a livello post-laurea), MMLU (conoscenza universitaria) e HumanEval (competenza di codifica). Inoltre, ha migliorato le prestazioni con capacità di comprendere sfumature, umorismo e istruzioni complesse. Le funzionalità di ragionamento combinate con le prestazioni rendono Claude 3.5 Sonnet ideale per attività complesse, come fornire supporto clienti sensibile al contesto e orchestrare flussi di lavoro multistep.

Utilizzare il modello di Anthropic in Cortex AI 

Con Snowflake Cortex AI, accedere ai LLM è facile. Non è necessario gestire le integrazioni: la governance è coerente per tutti i dati e l’AI. È possibile accedere ai modelli in una delle regioni supportate. Inoltre, puoi accedere da altre regioni con l’inferenza cross-region abilitata. 

È possibile accedere rapidamente al modello da Cortex Playground, accessibile tramite la scheda AI/ML Studio, per eseguire test e valutare diverse configurazioni di inferenza. Inoltre, è possibile confrontare i modelli, analizzare le variazioni delle risposte con impostazioni diverse e consentire a Cortex Guard di filtrare le risposte potenzialmente inappropriate o non sicure. 

SQL e Python

Il modello può essere integrato in una pipeline di dati o in un’app Streamlit in Snowflake per elaborare più righe in una tabella. Per questa integrazione è possibile utilizzare la funzione COMPLETE, accessibile sia in SQL che in Python. Inoltre puoi accedere ai modelli Claude da un notebook Snowflake o dal tuo IDE preferito utilizzando OAuth per client personalizzati. 

Accedi qui ad altri modelli e dettagli su come utilizzare la funzione SQL oppure scopri qui la sintassi di Python.

API REST (presto disponibile)

Per consentire ai servizi o alle applicazioni eseguiti all’esterno di Snowflake di effettuare chiamate di inferenza a bassa latenza verso Cortex AI, l’interfaccia API REST è la strada giusta. Ecco un esempio di come funziona:

Inizia a creare un’app per la ricerca di documenti basata su RAG

Claude 3.5 Sonnet in Cortex AI semplifica la creazione di app insieme ai dati con altre funzionalità come Streamlit (sviluppo front-end in Python) e Cortex Search (motore RAG con generazione integrata di embedding, gestione vettoriale e ricerca ibrida).

• Quickstart: chatbot basato su RAG con Cortex Search + Claude 3.5 Sonnet + Streamlit

Cosa aspetta Anthropic e Snowflake

Con la disponibilità di Claude in Cortex AI, i prodotti di AI ad agenti di Snowflake, tra cui Snowflake Intelligence (presto in private preview) e Cortex Analyst (public preview), intendono sfruttare Claude come uno dei principali LLM, con ulteriori dettagli a venire. 

Grazie all’accuratezza e all’ampia finestra di contesto leader del settore di Claude, le aziende possono creare con fiducia app AI mission-critical che forniscono risposte più affidabili e accurate su tutti i loro dati. Non vediamo l’ora di vedere le applicazioni che creerai sull’AI Data Cloud con Claude Sonnet!

Per scoprire di più sull’AI generativa in Snowflake e sui casi d’uso che puoi creare, guarda l'evento Snowflake Gen AI Day del 22 gennaio.

Nota: questo articolo contiene delle affermazioni riferite al futuro, tra cui offerte future di prodotti, che però non rappresentano un impegno a fornire alcuna offerta di prodotti. Le offerte e i risultati effettivi potrebbero essere diversi ed essere soggetti a incertezze e rischi noti e non noti. Fai riferimento al nostro più recente modulo 10‑Q per ulteriori informazioni.