多くのエンタープライズAIワークロードは、レコードがどのカテゴリに属するか、トランザクションのリスクはどの程度か、チケットをさらに処理すべきかなどを判断する意思決定の問題です。これらのタスクの多くは回答が限定されており、大規模なテーブル全体で大量に実行されます。
汎用LLMはこれらのタスクを処理できますが、作業に必要なコストとレイテンシーが高くなる可能性があります。意思決定モデルは、分類、スコアリング、フィルタリング、ルーティングなど、複雑な推論を必要としないシンプルで大量のタスク専用に構築されています。カテゴリ、スコア、Yes/Noの確率など、ワークフローが直接処理できる型付きの回答を返します。
お客様はすでにCortex AI関数を使用して、大規模なデータの分類、スコアリング、ルーティングを行っています。今回、チームがシンプルで大量のタスクをさらに効率的に拡張できるように、AI_COMPLETEを通じて利用できる意思決定モデルであるSnowflake Decision（プライベートプレビュー）を導入します。呼び出しはSnowflake Cortex AI関数で実行されるため、すでに導入されているガバナンス、アクセス制御、監査ポリシーがすべての意思決定に適用されます。
効率的で正確な構造化された意思決定のために設計されたモデル
数千から数百万のチケットを処理するサポートワークフローを考えてみましょう。各チケットがエージェントに届く前に、適切なチームに割り当てる必要があります。同じメッセージについて、お客様の不満度をスコアリングし、緊急性が表現されているかを確認する必要がある場合もあります。これらを個別のモデル呼び出しとして処理するのではなく、意思決定モデルは3つの質問すべてを一緒に評価し、ワークフローが直接使用できる構造化された回答を返すことができます。
これらのワークフローのモデルを選択する際、スピード、コスト、応答形式とともに、意思決定の品質が重要になります。これが、Snowflake Decisionをお客様に提供できることを嬉しく思う理由です。当社の評価では、Snowflake Decisionは、Jev Decision Index 0.2.1ベンチマークで比較された72のモデルの中で最高の品質スコアを達成しました。お客様にとって、より高品質な意思決定は、大量のワークフロー全体でより信頼性の高い分類、スコアリング、ルーティングを意味します。
注：推論、言語、検索、ツールの使用、創造的な判断にわたる88,837のテストリクエストに及ぶ、現在のインターフェイス内でエンドツーエンドで実行される29のJev Decision Index 0.2.1ベンチマークでSnowflake Decisionを評価しました。これらの29のベンチマークは、より広範なHugging Faceベンチマークのサブセットです。最大32のオプションなど、現在のインターフェイスの制限により、完全なベンチマークを実行することはできません。Snowflake Decisionは57.63を獲得し、同じ29のベンチマークで評価された72のモデルの中で最高の品質スコアでした。同等の比較を確実にするために、同じベンチマーク結果とインデックスの公開された偶然調整済みの方法論を使用して、すべてのモデルのスコアを計算しました。
Cortex AI関数を使用したサポートチケットのトリアージ
Cortex AI関数は、モデル呼び出しをSQLに導入します。プロンプト引数にJSONとしてリクエストを渡すことで、AI_COMPLETEを通じて意思決定モデルを呼び出します。 サポートされている3つの質問タイプを使用して、チケットのテキストと明確に定義された質問を提供します。
選択：請求、テクニカルサポート、営業など、定義されたリストからオプションを選択します。
スコア：冷静、不満だが礼儀正しい、非常に怒っているなど、順序付けられたルーブリックに対して入力を評価します。
YesまたはNo（noul）：「メッセージは緊急性を伝えている」などのステートメントに対して、0から1までの確率を返します。
この例では、support_ticketsテーブルの各行には、ticket_text列にお客様のメッセージが含まれています。Snowflake Decisionへの1回の呼び出しで、チケットをルーティングし、不満度をスコアリングし、緊急性を評価します。
SELECT AI_COMPLETE(
model => 'snowflake-decision',
prompt => TO_JSON({
'state': ticket_text,
'questions': {
'department': {
'type': 'choice',
'instructions': 'Which team should handle this',
'criteria': {
'billing': 'Payment or subscription issues',
'technical': 'Bugs or integration problems',
'sales': 'Pricing or account questions'
}
},
'frustration': {
'type': 'score',
'instructions': 'How frustrated the customer appears',
'criteria': ['Calm', 'Frustrated but civil', 'Very angry']
},
'is_urgent': { 'type': 'noul', 'instructions': 'The message conveys urgency' }
}
})
) FROM support_tickets;
結果は、質問名をキーとする回答マップとして返され、選択された値、オプションごとの確率、および選択とスコアの質問の場合は信頼値が含まれます。
Response
{
"answers": {
"department": {
"choice": "billing",
"confidence": 0.9305973965815073,
"probabilities": {
"billing": 0.9537315977210048,
"sales": 0.017468203540633418,
"technical": 0.02880019873836161
},
"type": "choice"
},
"frustration": {
"confidence": 0.7082686180607838,
"legend": {
"0": "Calm",
"1": "Frustrated but civil",
"2": "Very angry"
},
"probabilities": {
"0": 0.014753474459327466,
"1": 0.1797341135001498,
"2": 0.8055124120405226
},
"score": 1.790758937581195,
"type": "score"
},
"is_urgent": {
"noul": 0.8807970779778823,
"type": "noul"
}
}
}
Snowflakeの意思決定モデルでできること
今日のCortex AI関数は、さまざまなタスクに対してさまざまなモデルオプションをチームに提供します。当社の意思決定モデルは、すでに利用可能な汎用モデルと並んで別のオプションを追加することで、その選択肢を広げます。分類、ルーティング、スコアリング、フィルタリング、トリアージなど、多くの行にわたって実行される大量の限定された意思決定に適しています。
意思決定モデルを使用するタイミング：
- 回答が、既知のオプションのセット、ルーブリックのスコア、またはYes/Noのいずれかである
- 数千行にわたって意思決定を実行している
- スピードとコストが重要である
- しきい値を設定できる確率が必要である
- マルチステップLLMパイプラインの最初のステップとして、ルーティングと分類に意思決定モデルを使用したい
汎用モデルの方が適している場合：
- 要約、自由形式の推論、または自由形式の抽出が必要である
- 回答スペースが制限されていない
- タスクにマルチステップの推論または創造的な生成が必要である
チームは、次のような作業に意思決定モデルを検討しています。
- サポート業務：サポートチームは、エージェントが対応する前に、受信したすべてのチケットをキューに割り当てる必要があります。1回の呼び出しで、テーブル内の各チケットのキュー、不満度スコア、緊急度フラグが返されます。
- 顧客レビューアナリティクス：プロダクトチームは、大規模なレビューコーパス全体でどの問題が最も頻繁に発生するかを知りたいと考えています。1回の呼び出しでレビューカテゴリと重大度スコアを返すことができるため、チームはセンチメントを簡単に集計し、機能の優先順位を付けることができます。
- 回答の品質チェック：AIアシスタントを実行しているチームは、その回答が規定のポリシーに従っているかどうかを知りたいと考えています。意思決定モデルは、そのポリシーに照らして各回答を判断し、お客様のリクエストにどの程度完全に対処しているかをスコアリングするため、レビュー担当者は不十分な回答のみを読むことになります。
- AIデータパイプラインの構築：現在、一部のパイプラインはすべてのリクエストを大規模なモデルに送信しています。意思決定モデルは、各リクエストに必要な推論の量を判断し、お客様は難しいケースをより大規模なモデルに送信し、残りをより費用対効果の高いパスに維持するパイプラインを構築できます。
使用を開始する
アクセスをリクエストするには、Snowflakeアカウントチームにお問い合わせください。Snowflakeチームメンバーが、プライベートプレビュードキュメントを含む次のステップについてフォローアップします。
