EU AI法の解説：今すぐ取り組みたいガバナンス対策

すでに多くの企業において、AI（人工知能）の活用範囲は単一のチームが全体を把握できるレベルを超えています。カスタマーサポートでのサードパーティ製モデルの呼び出しをはじめ、不正検知システムによる取引チェック、採用ツールでの応募者ランク付け、社内文書の要約アシスタントなど、多種多様なAIが社内に点在しているのが実情です。それぞれのシステムで管理担当者やベンダー情報、セキュリティの審査結果が存在しているものの、それらの情報は社内で散逸しており、観点も統一されていません。

EU AI法が企業に求めているのは、こうした分散した管理を一本化し、次のような問いに明確に答えることです。

• そのAIは具体的に何を行っているのか
• 企業の立場（開発者か利用者か）は何か
• どのリスク階層に該当するのか
• 適切な管理プロセスを示せるか

つまり、EU AI法への対応はAIガバナンスと運用実態の追跡から始まります。形式的には法的な枠組みですが、実態は運用上の取り組みに他なりません。企業はAIシステムを、データ、モデル、関連文書、操作ログ、人的監視、そしてトラブル時の対応プロセスと確実に関連付け、安全に運用されていることを証明する必要があります。特に、雇用や与信、教育、重要インフラ、法執行など、人の人生や社会に大きな影響を与える分野では、この徹底した一元管理が強く求められます。

EU AI法は、世界初となる包括的なAI法規制フレームワークです。2024年8月に施行され、禁止行為やAIリテラシー、汎用AIに関する規定などから段階的に適用が進められています。今後は2026年を中心に、多くの高リスクAIに関する義務が本格化し、一部は2027年から2028年にかけて順次適用される見通しです。

一見すると欧州独自の規制に思えますが、日本企業にとっても決して他人事ではありません。EU市場で自社プロダクトや生成物が利用される場合は直接の適用対象となるだけでなく、同法が定める要件は、今後の日本国内におけるAIガバナンスやグローバルな評価基準の指標となるためです。

同政策が掲げる基本理念は、安全性、基本的人権、透明性、説明責任を確保した人間中心のAIの実現です。リスクに応じた規制を採用しており、一部の危険な利用形態は禁止される一方、低リスクな用途は透明性の確保を前提に利用が認められています。ただし高リスクAIに分類された場合、開発者のみならず運用企業に対しても厳格な管理義務が課されます。

日本企業においても、自社で利用、提供するAIシステムを把握、分類し、動作履歴やガバナンスの証拠を追跡、保存できる体制を整えておくことは、将来的な規制リスクの回避と組織の信頼性向上における極めて重要な取り組みと言えます。

EU AI法では、AIシステムを許容できないリスク、高リスク、限定的リスク、最小リスクという、4つの主要なリスクカテゴリーに分類しています。このカテゴリーは、システムが禁止されているのか、高リスク義務の対象なのか、透明性の義務の対象なのか、あるいは大部分が強制的な制御の対象外にあるのかを決定するため重要です。

EU AI法では、多様なタスクに対応できる基礎モデル（LLM等）を汎用AI（GPAI）と定義し、通常の基準とは別の管理枠組みを設けています。汎用AIは低リスクから高リスクまであらゆるシステムに組み込まれる可能性があるため、個別のリスク分類とは独立して規制対象となります。

汎用AIを提供する事業者に求められる基本義務は、主に以下の通りです。

• 技術文書の整備と、下流の開発者への適切な情報提供
• EU著作権法に準拠した方針の策定および実施
• 学習に使用したデータ内容の概要開示

さらに、学習時の総計算量が一定規模（10の25乗 FLOPs）を超えるなどシステム的リスクを伴うモデルに対しては、モデル評価や敵対的テストの実施、リスク軽減策の実施、インシデント報告、高度なサイバーセキュリティ対策といった、より厳格な要件が課されます。

一方で、これらの汎用AIを自社システムに組み込んで利用する企業側も、提供元から開示されるドキュメントを調達やガバナンスにおける必須要件として扱わなければなりません。モデルの許容用途や制限事項、セキュリティ管理の仕様を把握することは、将来的に高リスクシステムとして運用する際の重要なエビデンスとなるためです。

もはやモデルの評価やテストは単なる研究・検証プロセスではなく、AIサプライチェーンにおける必須の管理手段へと変化しています。調達、法務、セキュリティ、データガバナンスといった関係部門が一体となり、モデル提供元の開示情報と自社での検証範囲、そして運用後のリスク追跡プロセスを明確に規定しておくことが重要です。

EU AI法は段階的に適用されます。制度の細部や施行スケジュールに関する議論は続いていますが、企業計画においては現行の法定タイムラインを基準とする必要があります。

• 2024年8月1日：EU AI法が施行
• 2025年2月2日：禁止対象となるAI運用の規制、およびAIリテラシーに関する義務が適用開始
• 2025年8月2日：ガバナンスルールおよび汎用AI（GPAI）モデルへの義務が適用開始
• 2026年8月2日：付属書IIIに該当する高リスクAIを含む、主要な義務が適用開始
• 2027年8月2日：付属書Iに基づき既存の規制対象製品に組み込まれた高リスクAIへと適用範囲が拡大（予定）

業界団体からは準備期間の不足や明確なガイドラインを求める声があり、スケジュールの調整に関する議論が行われています。しかし、SnowflakeのプリンシパルデータストラテジストであるJennifer Belissentは、施行の動向にかかわらず企業は対応を進めるべきだと指摘しています。AIおよびデータガバナンスの推進においては、規制対応だけでなく顧客や市場からの要望が既に大きな要因となっているためです。

実際、多くの企業において、対応の必要性はすでに生じています。仮に法制度の細部が変更されたとしても、顧客、取引先、規制当局、取締役会からは、AIの管理台帳、リスク分類、モデルの文書化、データリネージ、インシデント対応体制、および高リスクAIの適切な管理を証明するプロセスの提示が求められています。

EU AI法では、行政による罰金に厳しさの段階を設けています。加盟国は罰則規則と執行措置の責任を負いますが、EU AI法では違反の種類に応じた罰金の最高額を定めています。

また、EU AI法では加盟国に対し中小企業（SME）やスタートアップ企業の利益を考慮するよう指示し、これらの小規模事業者には罰金上限が引き下げられます。罰金の重大性は、違反の性質、重大性、期間、組織の規模、過去の違反歴、当局との協力の度合いなどの要因によって異なります。

エンタープライズチームにとって、この罰則を示した表は予測されるリスクの一部に過ぎません。また、管理が不十分なAIは顧客の信頼問題、契約摩擦、プライバシーの露出、セキュリティ上の懸念、EU市場でのAIを搭載した製品の発売遅延を引き起こす可能性があります。

AIコンプライアンスに向けた効果的な手法の一つは、法律の要件を運用上の成果物に変換することであり、AIを管理するためのポリシー策定だけでは不十分です。チームには、各システムがどのように分類され、テストされ、承認され、監視されたかを示す記録、制御、レビューパスが必要です。

まずはAIインベントリから開始する

社内で構築されたモデル、サードパーティのAIサービス、SaaSアプリケーションに埋め込まれたAI機能、APIを通じて使われる汎用AIモデルなど、使用中または開発中のすべてのAIシステムを把握、記録します。各インベントリレコードには、システムの所有者、提供者、展開者、意図された目的、影響を受けるユーザー、データ入力、EU市場への露出、モデル依存性、統合ポイント、そしてシステムがEU内の人々に影響を与えるかどうかを明確にする必要があります。

各システムをリスクレベルに対して分類する

内部知識検索に使われるAIチャットボットは透明性やアクセス制御の問題を抱える可能性があり、求人者をランク付けするAIシステムは高リスクの付属書III領域に該当する可能性があります。分類は一度きりのタスクではなく、システムの目的、データ、ユーザー数、または展開の文脈が変化した際に見直す必要があります。

高リスク対象への早期対応

高リスクに該当する可能性が高いAIシステムについては、以下の6つのコアエビデンス（証明文書・記録）を早期に作成、整備します。

• リスク管理システム：既知のリスクおよび合理的に予見可能なリスク、その軽減策、残留リスクに関する決定事項、ならびに定期的な見直し頻度を記録します。

• データガバナンス手順：データソースの取得元、データ品質のチェック体制、データの代表性評価、バイアス制御、データリネージ、データ保持ルール、アクセス権限ポリシーを明確化します。

• 技術ドキュメント：システムの概要、モデルの内部ロジック、本来の利用目的、性能特性、制限事項、検証結果、およびデプロイアーキテクチャを維持、更新します。

• イベントログ：システムの監視、監査、インシデント調査、市場投入後の運用レビューに必要なログを記録・保存します。

• 人による監視の設計：人間がAIの出力を確認、修正、一時停止、あるいは上位へエスカレーションする判断ポイントを明確にし、担当者が適切に判断を下すための情報提供フローを整備します。

• 精度およびサイバーセキュリティ対策：目標とするパフォーマンス水準、堅牢性テストや敵対的テストの結果、脆弱性管理プロセス、セキュリティ管理策を文書化します。

汎用AI（GPAI）におけるドキュメントの要求と管理

汎用AI（GPAI）を自社システムに統合する際は、導入に先立ちモデル提供元からドキュメント一式を入手する必要があります。調達担当部門は、技術仕様書、下流システムへの統合ガイダンス、許容される利用方針（AUP）、著作権ポリシーに関する情報、必要に応じた学習データの概要、およびインシデント報告に関する運用ルールの提示を求めてください。

また、入手した資料は監査時に参照できなくなるような個別の契約書類フォルダーに隔離して保管するのではなく、該当するAIシステムの管理記録に紐付けて一元管理することが求められます。

EU AI法の制御を既存の義務に適用する 

多くの組織では、DORA運用レジリエンス制御、NIS2サイバーセキュリティ制御、業界固有のモデルリスク管理手順またはソフトウェア検証要件など、すでにGDPRのデータ保護影響評価を実施しています。目標は、これらのプロセスを新たなAIラベルの下で再構築することではなく、既存の管理体制がAI法の証拠要件をすでに満たしている箇所をマッピングし、リスク分類、GPAI文書化、透明性通知、適合性評価、市場後のモニタリング、インシデント報告などのギャップを埋めることです。

2026年8月2日までにインシデント報告ランブックを作成する 

チームは、何が重大なインシデントとみなされるのか、誰が調査するのか、どのログやドキュメントが必要か、法務およびコンプライアンスチームへの通知方法、是正措置の記録方法を把握しておく必要があります。本番環境で高リスクシステムに障害が発生するまで対策を講じないと、対応の大部分が非公式な調整に依存することになり、大きなリスクを伴います。

Snowflakeのトップ幹部のうちの2名である、プロダクト担当EVP、Christian KleinermanとプリンシパルデータストラテジストのJennifer Belissentが、生成AIと倫理について語る内容を視聴できます。

EU AI法への対応状況は、社内にどのようなデータやAI資産が存在し、それらがどう管理され、誰がアクセス権限を持ち、監査や見直しの際にどのようなエビデンスを提示できるかによって決まります。Snowflakeは、適切に管理されたデータ、メタデータ、セキュリティポリシー、アクセスログが集約されている単一のプラットフォーム上へAIガバナンスを統合することで、こうしたガバナンス対応の確固たる基盤を提供します。

Snowflake Horizonカタログは、リネージ、セマンティックビュー、関連する利用コンテキストなどのメタデータを含む、データおよびAIアセットのディスカバリーとガバナンスコンテキストを提供します。このことは、EU AI法の準備状況においては重要です。なぜなら、AIインベントリはチームがシステムをテーブル、ビュー、機能、モデル、ポリシー、所有者と紐づけられる場合にのみ有用だからです。

Snowflakeのコンプライアンスセンターは、スキャナーベースの調査結果、積極的な通知、アカウントレベルの可視性を通じて、チームがSnowflakeアカウントのセキュリティリスクを評価、監視、軽減するのを支援します。コンプライアンスセンターのデータセキュリティ機能は、データベース全体にわたって特定の機密データカテゴリを自動的に分類し、PII、PCIデータ、保護対象医療情報などの規制対象かつ高リスクのカテゴリを特定し、マスキングポリシーがすでに保護しているかどうかを示せます。

Snowflakeのアクセス制御機能とポリシー機能も、AIガバナンスのエビデンス作成をサポートできます。ロールベースのアクセス制御（RBAC）、マスキングポリシー、行アクセスポリシー、アクセス履歴を活用することで、機密データに誰がアクセスしたか、どのポリシーが適用されたか、データがどのように使用されたかを証明できます。これらの記録は法的分析や適合性評価に代わるものではありませんが、規制されたAIシステム周辺で企業が必要とするログ、人間による監督、データガバナンス、監査証拠ワークフローを支援します。

SnowflakeのISO/IEC 42001認証取得は、信頼性を示すもう1つの指標となります。この認証は、独立したサードパーティの監査に基づくもので、SnowflakeのAI実践に対する透明性、説明責任、信頼を支援しています。

EU AI法は、企業に対して実効性のあるAIガバナンスの確立を定めています。組織は、利用中のAIシステムの一覧をはじめ、自社の果たすべき役割、依存するデータやモデルの範囲、リスクの分類根拠、人的監視の介入ポイント、そして規制当局や顧客、社内監査に対して提示できるエビデンスの所在を明確に把握しなければなりません。

ただし、これらの対応を完全にゼロから構築する必要はありません。すでに企業内で運用されている管理基盤、すなわち資産管理、アクセス制御、データリネージ、各種ドキュメント化、システム監視、インシデント対応、監査証拠の保全といった既存のガバナンス枠組みを活用・拡張することが最も確実なアプローチです。同法は高リスクAIや汎用AIに対する固有の義務を追加するものの、従来の管理体制の延長線上で対応を進めることが可能です。

AIガバナンス対応における最善策は、データ管理、セキュリティ、プライバシー保護、運用のレジリエンスを担う既存の統制メカニズムとAI運用を密接に統合し、本格的な法執行が開始される前に不足している要素を段階的に埋めていくことです。