2025年の予測：AIはサイバーセキュリティツールにも攻撃の標的にもなる

AIは（依然として）最もホットなテクノロジートピックですが、2025年における企業のセキュリティにとって優先事項ではありません。高度AIは、新しい攻撃ベクトルを生むと同時に、組織のデータ保護のための新しいツールも提供します。しかし、その根底にある課題は、過剰労働のサイバーセキュリティチームが「私たちは攻撃を受けているのだろうか」といった基本的な質問に答えようとする際に直面する膨大な量のデータです。

「Snowflake AI + Data Predictions 2025」では、10人を超える専門家やリーダーと一緒に、特にAIが今後数年間で推進する変化について解説しています。セキュリティの観点では、良い知らせと悪い知らせがあります。AIは、セキュリティ保護を必要とするデータの増加、アタックサーフェスの拡大といった問題の一因であると同時に、人間だけでは把握できない大量のデータを管理するためのツールを提供できるという潜在的なメリットもはらんでいます。本レポートでは、AI時代の到来に伴うサイバーセキュリティの4つの必須事項について説明します。

セキュリティプロフェッショナルは、常に使用できるすべてのデータから適切な入力を使用して脆弱性やインシデントを特定できるようにするために、継続的にスキルを磨く必要があります。セキュリティデータレイクは、さまざまなソースから大量のデータをプールするための費用対効果の高い方法として、今後も人気が続くでしょう。セキュリティデータレイク内では、チームは機械学習や高度アナリティクスを効果的に利用できます。また、より多くのデータをより低コストで長期間保持できるようになることで、より効果的なフォレンジックを実行できます。従来のセキュリティインシデント管理ツールやイベント管理ツールと比較して、セキュリティデータレイクは一般的により優れた柔軟性、スケーラビリティ、費用対効果を有しています。SIEMもAIソリューションに適しており、こうした理由から、最終的にはセキュリティデータレイクがSIEMに取って代わると予想されます。

昨年、私たちは大規模言語モデルと生成AIシステムに対する20の攻撃ベクトルを特定したAIセキュリティフレームワークを公開しました。このフレームワークでは、アタックサーフェスになり得るAIの3つのレイヤーについて説明しています。最初のコアプラットフォームについては、昨年の予測レポートでも取り上げられています。自動化によって実稼働レベルでの構成ミスが防止されるようになったため、現在は開発者環境がより脆弱なターゲットとみなされています。しかし、現時点では、そのインフラストラクチャもかなり強固になっています。

来年は、次のレイヤーであるモデル運用がより一般的なターゲットになると予期しています。セキュリティプロフェッショナルは、モデルの初期トレーニングと実稼働環境での新規データの取り入れ方について検討する必要があります。モデル全体のライフサイクルとともに、供給するデータのライフサイクルにも目を向ける必要があります。セキュリティチームは、新しいAIテクノロジーへのアプローチを標準化し、自社の一般的なエンタープライズインフラストラクチャと同等のセキュリティを確保する必要があります。

3つ目の攻撃レイヤーは、今後さらに増加する予測しているものであり、AIとの直接的なインタラクションを通じてAIを騙し、モデルに取り込まれるべきではなかった機密データを開示させます。そしてこれを受けて、企業全体におけるデータの場所、使用、セキュリティの可視性を改善するデータセキュリティ態勢管理の実践が始まっています。

人工知能（AI）は、企業を保護するための新しいツールも提供するようになります。セキュリティチームはすでに初期の可能性について実験しています。生成AIインターフェイスを搭載したLLMでは、全体的なセキュリティ態勢や、特定のアラートやパターンについて自然言語で質問できます。このセキュリティコパイロットの体験の成熟度が進めば、人材不足が続くセキュリティチームにとってより効果的なアシスタントとなるでしょう。特に、AI駆動のツールは、経験の浅いセキュリティプロフェッショナルがアイデアを迅速にクエリや分析に結び付けられるようにします。これにより、複雑なクエリロジックの習得や緊急のセキュリティ懸念に対する回答の取得にかかる時間が短縮します。

特に、AIシステムがセキュリティインシデントを要約する能力は、大きな進歩を遂げるでしょう。AIが「データの移動に奇妙なパターンが見られた。通常、このタイプのデータがこれだけの量、一日のこの時間帯にこの場所から転送されることはない」と言ったとしましょう。この俯瞰的な説明は、「VPNログ、ストレージログ、Eメールログをチェックして、すべての点を自分でつなげてください」という、私たちが現在受け取っている通知よりもはるかに役立ちます。

高度AIは、セキュリティチームが異常を検知したときにその異常を把握するために役立つだけでなく、イベントの発生後にフォレンジック分析を行って何が起こったかを完全に把握し、類似イベントを防止するためにも有益です。最終的には、インシデント分析だけでなく、データセキュリティ態勢管理全体に対して使用されるようになるでしょう。AIは既存のツールや人間のオペレーターよりもはるかに複雑なシステムを分析できるからです。

セキュリティツールでは、特定のインシデントへの対応を自動化し、人間よりも迅速に攻撃を阻止することはすでに一般的です。理論上は、生成AIはより複雑な意思決定を行い、より大規模で包括的なアクションを実行できます。しかし、それはしばらくは起こりません。生成AIサイバーセキュリティツールは、特に倫理的な問題やより複雑なリスク要因を考慮しなければならない最終意思決定において、人間の判断を必要とします。

全体として、サイバーセキュリティチームの未来は明るいと言えます。やるべきことや保護すべきデータはたくさんありますが、この未来は変わりません。AIドリブンな企業のセキュリティを強化するための標準や新しいアプローチが開発される中、最もエキサイティングなのは、データとセキュリティ態勢を把握するための新しいツール、新しい方法です。

AI時代のサイバーセキュリティ、ソフトウェア開発、データインフラストラクチャの詳細については、「Snowflake AI + Data Predictions 2025」をお読みください。