わずか2週間前、SnowflakeはプライベートプレビューでCortex AI関数のSnowflake Decisionを発表しました。分類、スコアリング、フィルタリング、ルーティングに特化して構築されており、境界のある回答で大量のタスクを処理します。自由形式のテキストの代わりに、特定のカテゴリ、数値スコア、または「はい/いいえ」の確率など、ワークフローが直接アクションを起こせる型付きの回答を返します。
お客様は、ライブのルーティングステップ、リアルタイムの不正チェック、またはエージェントの最初のトリアージホップなど、インタラクティブまたはレイテンシーに敏感なワークフロー内にある意思決定のための「アーケードスピード」の必要性をすぐに強調しました。これらの環境では、スピードが重要です。
本日、プライベートプレビューにおいて、これらのニーズに対応するためにSnowflake Decisionの提供を拡大し、以下の機能を備えています。これらはすべて、お客様がすでに依存しているのと同じガバナンス、アクセス制御、監査ポリシーによって裏付けられています。
snowflake-decision-fast：意思決定の品質と同じくらい応答時間が重要なワークロード向けに構築された、snowflake-decisionの低レイテンシーのバリアント。
REST APIのサポート：Cortex AIゲートウェイを介してSnowflake Decisionモデルを呼び出し、SQL以外のアプリケーション、サービス、エージェントが構造化された意思決定を使用できるようにします。
Cortex AI関数： snowflake-decision-fastは、SQLのAI_COMPLETEを通じてネイティブに利用できます。
動作中の意思決定を見る：リアルタイムのテキスト分類
snowflake-decision-fastのインタラクティブなパワーを実証するために、リアルタイムのテキスト分類アプリケーションを構築しました。お客様が二重請求に関する苦情などのサポートチケットを入力すると、アプリケーションはライブテキストを迅速に評価し、チケットを適切なチームにルーティングする、緊急性をフラグ付けする、お客様の感情を読み取るという3つの意思決定を同時に行います。
キーストロークごとに、インタラクティブなアプリケーションは現在のテキストの状態を評価し、モデルに境界のある質問をして次のワークフローのステップを決定します。このインタラクティブな機能は、Cortex AIゲートウェイを介して外部で実行できます。
import os
from typesafe_sdk import Choice, Noul, Score, TypeSafeClient
client = TypeSafeClient(
api_key=os.environ["SNOWFLAKE_PAT"],
base_url="https://<your-gateway-host>/api/v2/aigateways/<GATEWAY_NAME>",
model="snowflake-decision-fast",
)
response = client.system_one(
state=(
"hi i have a question about my account. i was charged twice for my "
"subscription and would like a refund. i need this resolved today "
"before our finance 5pm cutoff. this is the 3rd time i contacted support."
),
questions={
"needs_attention_now": Noul(
instructions="Does this ticket need attention now because it is urgent or time-sensitive?"
),
"team": Choice(
instructions="Which support team should handle this ticket?",
criteria={
"billing": "Payments, invoices, subscriptions, duplicate charges, refunds.",
"technical_support": "Product bugs, outages, broken integrations, API issues.",
"account_access": "Login, password, MFA, locked account, authentication.",
"sales": "Pricing, plan upgrades, renewals, contracts, purchasing.",
"general": "Unclear, mixed, or uncategorized requests.",
},
),
"customer_tone": Score(
instructions="How frustrated does the customer sound? This is about tone, not issue severity.",
criteria=["Calm", "Frustrated", "Very frustrated"],
),
},
)
print(response.nouls["needs_attention_now"].noul)
print(response.choices["team"].choice)
print(response.choices["team"].probabilities)
print(response.scores["customer_tone"].score) # 0=Calm, 1=Frustrated, 2=Very frustrated
実際の動作は次のとおりです。
図1：テキスト分類ツールを使用すると、サポートチケットを作成でき、snowflake-decision-fastは、誰が処理すべきか、どれくらい緊急か、お客様がどのように感じているかという3つの意思決定をリアルタイムで同時に行います。
このインタラクティブなユースケースは、意思決定モデルのコアメカニズムを強調しています。
構築の境界：アプリは、選択肢として有効な動きのみを提供します。モデルは無効なアクションを返すことができないため、コード内のパーサー、再試行ループ、または複雑なエラー処理の必要性がなくなります。
プロダクトとしての確率：モデルは、自由形式のテキストの推論ではなく、選択された値とオプションごとの確率を返します。「請求」ルートに対する0.99という高い確信度は、ライブワークフローでしきい値を設定できる明確なシグナルを提供します。
目に見えるレイテンシー：ライブインターフェイスは、ユーザーが入力する際のほぼ即時の意思決定に依存しており、エンドポイントのラウンドトリップは一貫して300ミリ秒未満で完了します。snowflake-decision-fast で実行することで、レイテンシーが十分に低く保たれ、シームレスでリアルタイムのユーザー体験を提供できます。
大規模なテーブル操作へのスケーリング
REST APIは単発のインタラクティブな意思決定に最適ですが、同じ構造化された意思決定機能はCortex AI関数を通じても利用でき、開発者はシンプルなSQLを使用して大規模なデータセットに分類とルーティングのロジックを直接適用できます。
毎日何百万もの受信チケットやメッセージをトリアージしてルーティングする必要があるグローバルなサポートプラットフォームを考えてみましょう。狭く定義された分類タスクに汎用LLMを使用すると、特に各レコードが少数の構造化された意思決定のみを必要とする場合、不必要な複雑さ、コスト、処理のオーバーヘッドが生じる可能性があります。
AI_COMPLETEでsnowflake-decision-fastを使用することで、チームは個別の推論パイプラインを構築したり、外部API統合を管理したりすることなく、テーブル全体に同じ意思決定ロジックを適用できます。
たとえば、次のクエリは、受信したサポートチケットをルーティングキューごとに分類し、各チケットにエスカレーションが必要かどうかを判断して、ダウンストリーム処理の準備ができた構造化された出力を返します。
SELECT
ticket_id,
AI_COMPLETE(
model => 'snowflake-decision-fast',
prompt => TO_JSON({
'state': ticket_body,
'questions': {
'routing_queue': {
'type': 'choice',
'instructions': 'Determine the correct support queue for this ticket.',
'criteria': {
'billing': 'Invoices, payments, or subscription changes',
'technical': 'System errors, bugs, or API issues',
'account': 'Password resets or profile updates'
}
},
'requires_escalation': {
'type': 'noul',
'instructions': 'The customer is expressing extreme frustration or threatening to churn'
}
}
})
)::VARIANT AS decision_output
FROM incoming_support_tickets_10m;
リアルタイムのREST API呼び出しで機能するものは、データパイプライン内で直接、大量の分類、オフラインスコアリング、非同期トリアージにスケーリングします。
信頼できる品質でのスピード
構造化されたAIの意思決定の状況は急速に進化しており、モデルの品質と生の実行速度の両方を向上させるために迅速に反復しています。当社のエンジニアリングの焦点は、確立されたベンチマークで意思決定の精度のフロンティアを積極的に押し広げると同時に、リアルタイムアプリケーションのレイテンシーとコンピュートコストを削減することです。
snowflake-decision-fastは、開発者のアーキテクチャが要求する正確なパフォーマンスプロファイルを提供するための最新のステップであり、今後数か月でモデルの品質が迅速かつ継続的に更新されることが期待できます。
図2：テーブルの行を処理するための平均精度と時間。snowflake-decisionとsnowflake-decision-fastの違いは、内部の意思決定ベンチマークを使用して計算されます。
使用を開始する
意思決定モデルへの早期アクセスをリクエストするには、Snowflakeのアカウントチームにお問い合わせください。担当者が、包括的なプライベートプレビューのドキュメントを含む次のステップについてフォローアップします。
高速で構造化された意思決定は、行動する前に各ステップをチェックするエージェント、レコードが到着するたびにスコアリングするパイプライン、リアルタイムでルーティングするライブワークフローなど、以前は実用的でなかったパターンを開拓します。問題は、「ここにAIを導入する余裕があるか」から「他にどこで意思決定を行えるか」へと移行しています。
