AIコンプライアンスの解説：規制とそれを運用化する方法

AIコンプライアンスは、一見単純な問いから始まります。「このモデルやAIアシスタント、スコアリング、自動化されたワークフローには、一体どのルールが適用され、それを遵守したと言えるどんな証拠があるのか？」

AIの役割が、与信判断や医療現場、採用選考、不正検知、顧客対応、さらには社内の業務効率化ツールにまで広がるにつれ、この極めてシンプルな問いに答えることが難しくなっています。ひとつのAIモデルを動かすだけでも、あるシステムから取得したトレーニングデータ、別のシステムにある顧客情報、外部の基盤モデルからの出力、さらには別のアプリで行われる人の目による承認ステップなど、多くの要素が複雑に絡み合っています。そして、この一連のプロセスのあらゆる工程で、満たすべき法令や社内ポリシー、あるいは後々の監査で説明を求められる管理基準が発生するのです。

AIコンプライアンスの取り組みをあらかじめ構築しておくことで、監査やトラブルが起きてから慌てて対応を迫られる前に、この複雑なプロセスを先手を打って管理できるようになります。具体的には、関連する法令や基準を社内ルールと紐づけ、その実践を証明するエビデンスを整理します。さらに、AIモデル、データ、外部ベンダー、ユースケースなどの変化に合わせて、そのエビデンスを常に最新の状態に保つ仕組みを整えます。

AIコンプライアンスとは、AIシステムそのものに加え、その開発から運用に至るすべてのプロセスが、関連する法令、業界基準、および社内ポリシーに準拠している状態を作るためのアプローチです。具体的には、AIの設計、テスト、デプロイ、日々の監視、そして事後評価が、法的な義務に則って適正に行われたことを証明するための管理体制の設計から運用までを広くカバーします。

こうした特徴を持つAIコンプライアンスは、いくつかの隣接する領域と密接に関わっていますが、役割としては明確に区別されるものです。

• AIガバナンスが定義するのは運用モデルです。誰がAIユースケースを所有し、誰が承認や一時停止の権限を持ち、意思決定のエスカレーションをどう設計するかを定めます。
• AI倫理が定義するのは行動原則です。公平性や透明性、説明責任、プライバシー、セキュリティ、そして人の目による監視といった理念を定めます。
• そしてAIリスク管理が定義するのは具体的な手法です。組織がAIに潜むリスクをどのように特定、評価し、優先順位をつけて対策していくべきかの手順を定めます。
• AIコンプライアンスが果たす役割は適合性の証明です。どのルールが適用され、どの管理策で対処し、それを証明するためにどのような監査証拠が必要なのかを明確にします。

実際のコンプライアンスの取り組みは、抽象的な原則論ではなく、AIインベントリ、モデルカード、学習データの概要、システム所有者、アクセスポリシー、監視ダッシュボード、承認ログといった具体的な成果物を揃えることから始まります。これらの記録を一つずつ確認していくことで、システムが正しく分類されているか、リスクの高いAIが適切なレビューを受けているか、人の目による監視が形骸化していないか、そしてデプロイ後のモニタリングが本当に機能しているかを検証することができます。

組織を取り巻く規制環境は複雑で、広範なAI規制をはじめ、プライバシールール、業界固有の監督ガイダンス、製品の安全要件、雇用法、消費者保護規則、さらには社内のリスクポリシーにいたるまで、さまざまなルールが重なり合っています。

EU AI法

EU AI法は、現在施行されているAI関連規制の中でも、最も包括的なフレームワークの一つとして広く知られています。本法はリスクに基づいた階層構造を採用しており、禁止対象となるAI行為、高リスクAIシステム、限定的リスクシステム、汎用AIモデル、低リスク用途に分類し、それぞれ区別して管理しています。また、この規制は域外適用される点にも注意が必要です。AIシステムやその出力がEU市場に提供、使用される場合、EU域外のプロバイダーやディプロイヤーも規制の対象となります。

規制の適用は段階的に進められており、2025年2月の禁止事項およびAIリテラシー要件の開始、同年8月の汎用AIに対する義務化を経て、2027年8月2日にかけて適用範囲が順次拡大されています。

高リスクのAIシステムの場合、コンプライアンスには、リスク管理、データガバナンス、技術ドキュメントの作成、ロギング、透明性の確保、人の目による監視、さらには正確性、堅牢性、サイバーセキュリティ対策まで、極めて広範な対応が求められます。場合によっては、登録機関が関与する適合性評価が必要になることも珍しくありません。

こうした高リスクシステムを自社で構築または提供する組織においては、システムがどのように設計され、テスト、文書化されたかを詳細に示す技術ファイルの整備が欠かせません。一方で、それらのシステムを導入、利用する組織には、システムがどう本番運用され、誰がその出力をチェックしているか、また日々の監視体制やトラブル発生時のエスカレーションルートが機能しているかを示す実用的なエビデンスの提出が求められます。

GDPR（EU一般データ保護規則）

GDPR（EU一般データ保護規則）は、単体のAI規制法が適用されないケースであっても、個人データを処理する多くのAIシステムに対してすでに適用されています。なかでも第22条では、個人の法的権利やそれと同等に重大な影響を及ぼす「プロファイリングなどの自動化された意思決定」に対し、本人が不服を申し立てる権利などの重要な義務を規定しています。また第35条では、大規模なプロファイリング、機密データの処理、最新技術の導入など、個人に対して高いリスクをもたらす可能性のあるデータ処理を行う際、事前にデータ保護影響評価（DPIA）を実施することを義務付けています。

実務において、GDPRコンプライアンスへの対応は、AI特有のコンプライアンスと地続きで進められるケースがほとんどです。例えば、ローン審査などの与信判断にAIを活用する銀行の場合を考えてみましょう。この銀行は、EU AI法の高リスク規定に沿ってシステムを評価するだけでなく、同時にGDPRに基づいたデータ保護影響評価（DPIA）の実施や、データ利用の法的根拠の文書化、厳格なアクセス制御を求められます。さらに、個人データが利用目的の制限、データの最小化、保管期間の制限といった各種原則に従って適切に扱われていることも、すべて証明しなければなりません。

米国の連邦および州のルール

現在の米国におけるAIコンプライアンスを取り巻く状況は、国や地域、分野ごとにさまざまな法律や規制が複雑に入り交じった乱立状態が続いています。米国の規制動向は日本企業への直接的な法的拘束力は持ちませんが、グローバルなコンプライアンス基準を理解する上で重要な参考情報です。例えば米国の動向を見てみると、連邦レベルのポリシーは、安全性を重視した2023年の大統領令から大きくシフトしています。トランプ政権下の2025年1月には、新たな大統領令14179号「人工知能における米国のリーダーシップに対する障壁の除去」が署名されました。これにより、これまでの規制重視だった一部のAIポリシーが撤回され、米国のAI競争力を阻害するような過剰な規制や手続きを見直すよう、政府機関に指示が出されています。

とはいえ、こうした動きがコンプライアンス対応のプレッシャーを軽くしてくれるわけではありません。むしろ、現場の難易度は一層高まっています。各連邦機関が個別に打ち出す指針や取り締まりの動き、さらには各州が独自に定めるルールなど、組織は依然として複雑で多角的な対応を迫られているからです。NIST（米国国立標準技術研究所）のAIリスク管理フレームワークは、現在もAIリスクマネジメントの標準指針として広く活用されています。同時に、各業界の監督官庁も、従来の権限や規制の枠組みをAIシステムに対してそのまま適用する姿勢を崩していません。

また、米国の州や地方自治体独自のルールも、グローバルな規制トレンドを測る上で見逃せない指標となっています。

• コロラド州AI法 / ADMT：その代表例が、コロラド州の新たなAI規制法（SB26-189 ※2026年5月14日署名）です。従来の法律（コロラド州2024年AI法）を廃止して成立したこの新法は、対象を重大な意思決定に直接関わる自動的意思決定技術（ADMT）に絞り込み、規制をよりシャープにしました。その一方で、アルゴリズムバイアスを防ぐために、透明性の確保やユーザーへの通知、データ訂正や不服申し立ての権利、そして人の目によるレビューの義務付けといった、実質的な対策を引き続き厳しく求めています。これらの義務は2027年1月1日に本格導入される予定で、具体的な運用ルールは今後、州司法長官の手によってさらに細かく定められる見込みです。
• ニューヨーク市地域法144号（Local Law 144）：ニューヨーク市の地域法では、採用や人事評価で使われる自動雇用意思決定ツールを規制しており、アルゴリズムの偏りを調べるバイアス監査の義務付けや、対象となる候補者への事前通知を徹底させています。
• カリフォルニア州の自動意思決定ルール：カリフォルニア州では、カリフォルニア州消費者プライバシー法（CCPA）に基づき、自動意思決定技術（ADMT）の利用、リスク評価、およびサイバーセキュリティ監査を対象とした新たな規則を策定しました。本規則はすでに2026年1月1日から施行されており、一部の要件については実務への影響を考慮し、段階的に適用が進められています。

業界固有のAIルール

また、AIコンプライアンスを語る上で欠かせないのが業界ごとの特性です。高い安全性が求められる特定の業界では、AI専用の新法を待つまでもなく、すでに定着している既存の監督体制やガイドラインに沿ってAIの適正評価が進められています。

• その代表例が金融業界です。銀行業界では、長年にわたりモデルリスク管理ガイダンスに基づき、予測モデルの妥当性検証や、各種前提条件の文書化、ガバナンス体制の維持が行われてきました。たとえば、FRB（米連邦準備制度理事会）のガイダンスでは、モデルの開発、実装、利用、検証から、内部統制、コンプライアンス、さらには取締役会や経営陣による監督責任に至るまで、徹底した管理を求めています。さらに直近の2026年には、連邦銀行監督機関がリスクベースのアプローチをさらに重視した改訂版のモデルリスク管理ガイダンスを発表し、規制の近代化を図っています。
• ヘルスケア業界においては、AIシステムが患者の個人健康情報（PHI）を取り扱う際にはHIPAA（医療保険の相互運用性と説明責任に関する法）が適用され、AIを組み込んだ医療機器プログラム（SaMD）やAI搭載型の医療機器を開発、運用する場合にはFDA（米国食品医薬品局）の規制、監督対象となります。実際、FDAは米国市場での販売を承認したAI搭載型医療機器のリストを公開、更新し続けており、規制の枠組みの中でAIを活用した医療製品が急速に普及している実態を明確に示しています。
• 保険業界においては、NAIC（全米保険監督官協会）が定めた指針が事実上の基準となっています。この指針は、保険会社がAIシステムをどう統制、管理すべきかを示すとともに、当局の立ち入り調査や検査の際に開示を求められる情報を具体的に規定しています。
• また、金融サービスや上場企業の開示情報に関して、米証券取引委員会（SEC）はAIの活用実績について誇大広告や虚偽の記述があってはならず、客観的な裏付けが必要であると厳しく警告しています。実際、SECは「AIを導入している」と虚偽の説明をした投資顧問会社2社を摘発しました。この事例は、AIコンプライアンスの適用範囲が技術的なプロセスにとどまらず、マーケティング、対外的な開示資料、顧客向けのセールストーク全般にまで及ぶことを改めて浮き彫りにしています。

国際的なAIガイダンス

グローバルに事業を展開する企業においては、EUや米国だけでなく、イギリスの原則を重視した柔軟なアプローチや、中国の生成AIに特化した独自の規制措置、さらにはシンガポールが提唱する実務的なガバナンス枠組みなど、各国の多様なルールにも目配りをしておく必要があります。これらの制度は、法的拘束力の強さや対象範囲、取り締まりの厳格さこそ異なるものの、その本質においてリスク分類、説明責任、透明性、人の目による監視、確かなデータガバナンス、継続的なモニタリング、そして確実な文書化という、共通して求められる重要テーマに収束していく傾向があります。

また、一見すると法的拘束力のないガイドラインや枠組みであっても侮ることはできません。それらが将来の法制化のベースになったり、業界標準や大企業が調達要件を定める際の参照基準としてそのまま採用されたりすることが極めて多いためです。国際機関が示す指針も、共通の方向性を後押ししています。たとえばOECD（経済協力開発機構）のAI原則は、人権や民主的な価値観を守りながら信頼できるAIの安全性を高めることを提唱しています。一方、全194加盟国をカバーするユネスコの人工知能の倫理に関する勧告でも、人権の尊重、公平性、透明性、そして人の目による監視の徹底が強く訴えられています。

法律が定めるのはあくまで義務ですが、フレームワークは、その義務を日々の業務に無理なく組み込み、組織全体で安定して回せる標準プロセスへと落とし込むために機能します。フレームワークという共通の軸があるからこそ、コンプライアンス、法務、データ、セキュリティ、AI開発といった部門をまたぐ各チームが足並みを揃え、システムの分類から、管理策の割り当て、エビデンスの収集、そして対策が正しく機能しているかの検証までを、共通のステップで効率的に進められるようになります。

NIST AI RMF

NISTのAIリスク管理フレームワーク（AI RMF）は、AIに関連する個人、組織、社会へのリスクを管理するためのフレームワークです。NISTは、このフレームワークをガバナンス（Govern）、マッピング（Map）、測定（Measure）、管理（Manage）という4つのコア機能を中心に構成しています。

コンプライアンスチームにとってNISTのAI RMFが実用的なのは、法令や社内規程といった具体的な義務と、日々のリスク管理とを綺麗に紐付けられる構造になっているためです。

• ガバナンスでは、組織における責任の所在を明確にし、AI運用のための社内ポリシーや各担当者の役割を定義して、組織全体の統制の土台を作ります。
• マッピングでは、AIが使用されるコンテキストと想定される用途を精緻に洗い出し、どのようなリスクが潜んでいるかを把握します。
• 測定では、AIシステムのリスクの度合いやシステムパフォーマンスを、定量的・定性的な指標を用いて客観的に評価します。
• 管理では、特定されたリスクに対して、優先順位をつけながらモニタリングやリスクへの対処を実行します。

ISO/IEC 42001

ISO/IEC 42001は、第三者機関による適合性認証を取得できる、世界初のAIマネジメントシステム規格です。 ISO（国際標準化機構）によると、この規格は、組織がポリシーの策定、プロセスの整備、役割分担、継続的な改善という体系的な仕組みを通じて、AIに伴うリスクとビジネスチャンスを適切に管理できるように設計されています。

AIコンプライアンスにおいて本規格が特に実用的なのは、適用範囲の定義から、ガバナンス、各種リスクや影響評価、ライフサイクル管理、サプライヤー管理、モニタリング、内部監査、さらにはマネジメントレビューに至るまで、客観的な監査の証拠となる仕組みを一通り網羅できる点にあります。そのため、対外的に自社のAIガバナンスは万全であると公式に証明したい組織は、まずベースとしてこのISO/IEC 42001を導入し、そこにより実務的かつ業界固有の具体的なリスクガイドラインを組み合わせて運用しています。

ISO/IEC 23894

ISO/IEC 23894は、AIリスク管理に特化した実践的なガイドラインです。AIシステムを自社で開発、構築、運用する、あるいは外部ツールとして利用する組織が、AIならではのリスク管理を日々の業務プロセスや社内機能に自然に溶け込ませるための手引きとなります。

AIマネジメントシステムとしてクリアすべき必須要件を明確に定めているISO/IEC 42001とは異なり、このISO/IEC 23894は、あくまで運用のヒントやアプローチを示すことを重視しているのが特徴です。本規格を参考にすることで、プロジェクトチームはリスクの発生源を正確に見極め、それがもたらす影響を分析し、AIの企画から廃棄に至るライフサイクル全体を通じて、リスク対策を体系的に組み立てられるようになります。

IEEE 7000シリーズ

IEEE 7000シリーズは、テクノロジーの設計段階から倫理や社会的責任をどのように組み込むかに焦点を当てた規格群です。AIコンプライアンスの枠組みにおいて、本規格は透明性の確保、バイアスの防止、アカウンタビリティ、プライバシー、人間の尊厳や価値観の尊重といった抽象的なテーマを、具体的にどうシステム構成に落とし込むかという、体系的な整理に役立ちます。一般的に、この規格だけで法令コンプライアンスのすべてをカバーできるわけではありません。しかし、倫理を重んじる企業としての基本姿勢を、実際のシステム設計や技術文書、日々の開発プロセスといった具体的なアクションへと変換、定着させるための強力なガイドラインとなります。

OECDとユネスコ

OECDのAI原則やユネスコの勧告には法的拘束力こそありませんが、各国の法律や政策、さらには規制当局が企業に向ける目線を形作る上で大きな影響力を持っています。そのため、自社に直接適用される具体的なAI法がない状況であっても、なぜ我々の社内ポリシーは、公平性や透明性、説明責任、人の目による監視、そして人権の尊重をこれほど重視するのかという経営陣や社内外への説明責任を果たす上で、これらグローバルスタンダードは模範的な拠り所として機能します。

責任あるAIの詳細はこちら

ポリシーやフレームワークを定めただけでは、現場の業務は変わりません。それを日々のワークフローやシステムに組み込み、確実に実行させるための仕組みがAIコンプライアンスです。たとえば、社内ポリシーに「高リスクなAIには、人の目による監視を義務付ける」と書かれていても、それだけでは現場は動けません。具体的な管理策を策定して初めて、「誰がシステムをレビューするのか」「承認記録はどこに残すのか」「担当者はモデルの出力結果をどう確認するのか」そして「モニタリングでデータドリフトやバイアス、不安全な挙動が検知された際に、どう対処するのか」といった実務レベルの運用手順が明確になります。

ガバナンス制御

ガバナンス制御は、AIシステムに対する責任の所在を明確にし、意思決定のプロセスを体系化するための基本ルールです。ここには通常、経営陣による監督体制の構築をはじめ、社内AIポリシーの策定、リスクの判定基準、各担当者の役割分担、そして問題発生時のエスカレーションルートの設計などが含まれます。

たとえば、高リスクに分類される融資の与信判断モデルを運用する場合、システム開発の責任者だけでなく、事業責任者、技術責任者、そしてコンプライアンスのチェック担当者を、それぞれ実名で指定してアサインします。これにより組織は、誰がそのユースケースを承認したのか、どのリスクレベルに分類され、どの管理策が適用されたのか、さらには不具合が起きた際、誰の権限でシステムの修正や一時停止、あるいは以前のバージョンへのロールバックを指示できるのかを、いつでも客観的に証明できるようになります。

一般的なガバナンス制御には以下が含まれます。

• AIポリシーと許容される利用基準
• AIインベントリの所有権
• リスク階層化の調査手法
• AI責任者、モデルオーナー、データ所有者の割り当て
• 審査委員会またはガバナンス評議会による承認
• 有効期限付きの例外管理
• 制御の証明と内部監査レビュー

ドキュメント制御（ドキュメンテーションコントロール）

ドキュメントによる制御は、規制当局や監査人、顧客、あるいは社内のチェック部門に対して正しく運用していることを証明するための、確固たる書面記録を残す仕組みです。AIコンプライアンスにおいて、ドキュメント作成はシステムをリリースしたら終わりの一過性の作業ではありません。データの入れ替え、モデルのバージョンアップ、ベンダーの変更、あるいはユースケースの拡大など、システムのライフサイクルや変化に合わせて、常に最新の状態にアップデートし続けることが求められます。

具体的に作成すべき成果物としては、モデルカード、データシート、学習データの要約、評価結果、システム仕様書、アーキテクチャ構成図、各種技術ファイルなどが挙げられます。たとえばEU AI法の附属書IV（Annex IV）では、高リスクAIシステムに求められる技術文書の要件を定めており、そこには開発の目的や設計、開発プロセス、使用したデータ、監視体制、適合性検証、そしてリスク管理に関する詳細な情報の記載が義務付けられています。

生成AIシステムの場合には、プロンプトの設計方針や、情報参照元のソース、セーフティフィルターの設定、人の目によるレビュー体制、禁止事項の定義、そしてベンダーによる品質証明書などもドキュメントの対象となります。ここでの本質は、単に提出する書類を増やすことではありません。そのシステムが具体的にどのような処理を行うのか、どのように安全性がテストされたのか、何を根拠に利用が承認されたのかという、後から振り返るために欠かせないコンテキストを、いつでも検証可能な形で残しておくことにあります。

評価制御（アセスメントコントロール）

アセスメントは、そのAIシステムが本来の目的や用途に対して、技術的、倫理的に本当に適格であるかを客観的に見極めるための仕組みです。具体的な評価手法には、AI影響評価やデータ保護影響評価（DPIA）をはじめ、バイアス監査、レッドチームレポート、敵対的テスト、プライバシー検証、AIセキュリティ評価、そして実稼働前のテストなどが挙げられます。

たとえば、ある採用選考AIツールを導入する場合を考えてみましょう。 このとき企業は、ある規制（ニューヨーク市など）に基づきバイアス監査と候補者への事前通知をクリアしつつ、個人情報保護の観点（GDPRなど）からDPIAを実施しなければなりません。それに加えて社内の独自評価として、そのAIの職務との適合性、判断プロセスの説明可能性、ベンダー提供資料の妥当性、そして人間がどう介在して判定を下すかといった、多角的な検証プロセスを一堂にクリアすることが求められます。また医療用の臨床AIシステムを導入する際には、想定された用途通りに機能するかの検証をはじめ、患者の安全性に対する精緻なレビューや、対象とする患者層の違いによってAIの判定精度に偏りや変化が生じていないかの継続的な監視が欠かせません。

こうしたアセスメントを通じて、単に評価を行うだけでなく、後々の監査に耐えうる客観的な証拠を形に残すことが重要です。具体的には、テスト結果のデータ、レビュー担当者の所見、是正計画、正式な承認記録、そして未解決のリスクがある場合にはそれを責任者が許容、承認した証跡などを、いつでも追跡できる形で保管しておく必要があります。

運用制御

運用制御では、デプロイ後のAIシステムの動作を管理します。運用フェーズにおける具体的な管理策としては、アクセス権限の管理、監査ログの常時取得、稼働状況のモニタリング、インシデント報告体制の構築、人の目による監視、そして市販後監視などが挙げられます。

こうした本番稼働後の管理が重要となるのは、AIコンプライアンスがモデルをリリースしたら終わりではないからです。実稼働中のAIシステムには常に変化が伴います。時間経過によるモデルドリフトをはじめ、プロンプト用テンプレートの書き換え、API接続している基盤モデルのサイレントアップデート、データパイプラインの不具合による想定外のデータの混入、さらにはアクセス権限の設定ミスによる機密データの漏洩リスクなど、想定外の事態がいつでも起こり得ます。こうした変化や異変をリアルタイムで確実に検知し、その経緯や対処の跡をいつでも説明できるよう証跡として残し続けられるかどうかに、運用のコンプライアンス維持がかかっています。

一般的な運用制御には以下が含まれます。

• ロールベースのアクセス制御（RBAC）
• データ、モデル、アプリケーションのアクティビティに関する監査ログ
• モデルのパフォーマンスおよびドリフト監視
• 必要に応じたプロンプトとレスポンスのロギング
• 重大な意思決定における人間によるレビュー（Human-in-the-loop）
• インシデント報告およびエスカレーション手順
• ポストマーケットまたはデプロイ後の監視
• 定期的な制御の証明

サードパーティ制御

今日、多くのAIシステムは自社開発されたものではなく、外部ベンダー、基盤モデルプロバイダー、SaaSツール、データ提供元、あるいは製品に組み込まれた外部AI機能といったサードパーティリソースに依存しています。こうした外部依存に伴うリスクを、導入前に正しく評価し、導入後も継続的に監視するための仕組みがサードパーティ制御です。

委託先選定時の審査においては、AIの想定用途やデータ処理方法をはじめ、モデルの技術仕様書、セキュリティ対策、再委託先の有無、データの保管期限ポリシー、学習データの適法性に関する誓約、インシデント発生時の連絡体制、さらにはベンダー側が保有する各種認証などを、網羅的に確認、把握しなければなりません。また、LLMなどの基盤モデルを採用するにあたっては、プロバイダー提供の技術文書や安全性評価レポートの提出を求めるだけでなく、AIシステムを構成するモデル、データソース、ライブラリ、API、開発ベンダーの一覧をまとめたAI部品構成表（AIBOM）を作成するための情報開示を要求することも、ガバナンス上、非常に有効です。

AIコンプライアンスを破綻させずに運用していくための鍵は、すべてを一本の線でつなぐトレーサビリティの確立にあります。これは、個々のAIシステムがどのリスクレベルに属するのかを明確にし、そのリスクレベルに応じて果たすべき義務を特定し、その義務をクリアするための管理策を紐付け、最終的にその管理策が正しく機能していることを客観的な証拠で証明できるようにする、という一連の流れをシステム上でつなぎ合わせることを意味します。

すべてのAIシステムをインベントリに登録する

AIのインベントリには、従来の機械学習モデルだけでなく、生成AIアプリケーション、社内向けアシスタントツール、契約しているSaaSに組み込まれたAI機能、そして外部ベンダーから提供されたAIツールまで、漏れなくリストアップしておく必要があります。存在を把握できていないシステムに対して、リスクを分類したり、稼働状況を監視したり、安全性を証明したりすることなど不可能なためです。

実用的なAIインベントリを構築するにあたっては、システム名や責任者はもちろんのこと、利用目的、利用ユーザー、参照データソース、モデルの種類、外部ベンダーへの依存度、適用される法令、リスクレベル、影響を受ける対象者、承認状況、そしてレビュー頻度といった項目を網羅しておくのが一般的です。さらに、外部SaaSに最初から組み込まれているAI機能を管理する場合、どの機能にAIが使われているかや、どのようなデータを処理しているかに加え、ベンダー側が我々の顧客データをモデルの学習や機能改善に勝手に再利用していないかという規約上のリスクまで、確実に記録および把握しておくことが重要になります。

システムをリスクレベル別に分類する

すべてのAIシステムは、適用される法令および社内規程の基準に照らし、どのリスク区分に該当するかを分類しなければなりません。たとえばEU AI法の適用対象であれば、そのユースケースが禁止、高リスク、限定的リスク、低リスクのどれに分類されるかを正確に判定することを意味します。また、自社の社内ポリシーに照らす場合は、そのAIシステムが人権、安全性、財務、雇用、ヘルスケア、各種サービスへのアクセス権、そして法令違反や処分を受けるリスクにどのような影響を及ぼし得るか、という観点から総合的にリスク判定を行います。

リスクのレベル分けは、思い込みではなく、必ず客観的な根拠に基づいて行わなければなりません。例えば、社内規定に関する一般的な問い合わせに答えるだけのチャットボットと、患者の治療方針を提案する医療AIや、採用候補者をふるい分ける選考AIとでは、負うべきコンプライアンス義務の重さがまったく異なるからです。そのため、判定結果を記録する際には、単に高リスク、低リスクといったラベルをポンと貼るだけでなく、なぜそのレベルに分類したのかという具体的な判断理由を明記しておくことが求められます。

義務を制御と証拠にマッピングする

果たすべきコンプライアンス義務が特定できたら、次に行うべきは管理策の対応表の作成です。この対応表では、クリアすべき義務の一つひとつに対して、具体的にどのルール）を適用するかをはじめ、誰がその管理責任者となるのか、適合を示すエビデンスはどこから取得するのか、そしてどのくらいの頻度でレビューを行うのかを明確に紐付けておく必要があります。

以下はその例です。

証拠収集の自動化

AIシステムの数が増えるにつれて、手動での証拠収集は破綻します。高リスクに分類されたシステムであれば、四半期ごとの定期レビューや年次の再評価、インシデント報告、さらには常時モニタリングといった厳格な運用が課されます。一方で、比較的リスクの低いシステムであっても、ユーザーへの告知やアクセスログの保持、ドキュメントの最新化などは欠かせません。

こうした運用の負担を軽減するために有効なのがエビデンス収集の自動化です。AIの開発、運用環境から直接、各種データ（アクセス履歴、リネージ、モデルレジストリのメタデータ、監視ダッシュボードの状況、承認ワークフローの通過ログ、インシデント管理システム、ポリシーエンジンなどのデータ）をリアルタイムで自動取得することで、監査対応の効率化を強力に後押しします。目指すべきゴールは、システムが実際にどう動いているかという現場のリアルと、台帳やドキュメントに書かれた記録とのズレを限りなくゼロにすることです。監査人からこのモデルはどのデータにアクセスしたのか、誰がいつポリシーを変更したのか、インシデントが発生したその瞬間に稼働していたモデルのバージョンはどれかと突っ込まれたときには、すでに完璧な証拠がそこに揃っている、そんな状態をあらかじめ作っておくことが重要です。

見直しの頻度を確定する

AIシステムは、そのリスクに応じた頻度で見直す必要があります。特に、個人の権利や安全性、サービスの受給資格、価格設定、雇用、あるいは法的規制の対象となる意思決定に直結する高リスクシステムにおいては、少なくとも四半期ごとの定期レビューを実施し、常に安全性を担保し続けるべきです。一方で、比較的リスクの低いシステムであれば基本的には年次の定期見直しで十分ですが、システムに重大な変更が加わった際には、その都度スポットでの再評価が求められます。

こうしたレビューの場では、単に形式的なチェックで済ませるのではなく、開発目的や活用データの範囲、AIモデルの挙動、外部ベンダーの体制、利用ユーザー層、適用される法令、そしてシステムが抱えるリスクの全体像に予期せぬ変化が生じていないかを、当事者として厳格に検証しなければなりません。現場の状況は変化します。例えば、最初は社内の業務効率化ツールとして使っていたAIアシスタントが、いつの間にかお客様向けのサポート窓口へ転用されていたり、ある地域向けに開発されたモデルが別の国で勝手に再利用されたりといったケースは珍しくありません。また、導入済みの外部SaaSがある日突然、正式な社内調達プロセスを経ないまま、勝手に生成AI機能をアップデートで追加してくることすらあります。こうした変化をいち早く検知し、自社のコンプライアンス体制や管理台帳が形骸化してしまうのを防ぐためにこそ、定期的なレビューという仕組みが不可欠なのです。

AIコンプライアンスの実効性を担保するには、客観的な証跡の確保が不可欠です。具体的には、どのデータが使用され、誰がアクセスし、それがどう移動したのか。また、インシデントや見直しの時点で、どのバージョンのモデルが稼働し、どのポリシーが適用され、どの管理策が機能していたのか、といった記録を正確に紐付けておく必要があります。

Snowflake Horizon カタログは、アクセス履歴、リネージ、データの分類、ポリシーの適用状況といったコンテキストを可視化し、企業のガバナンスやデータ探索、コンプライアンスのワークフローを支えます。SnowflakeのACCESS_HISTORYビューを活用すれば、どのデータにいつアクセスされたかだけでなく、ソースオブジェクトからターゲットオブジェクトへのデータの移動経路まで正確に把握できます。これにより、アクセス権限やリネージ、データ利用規律に関する監査対応において、信頼性の高い証跡をスムーズに提示できるようになります。

機械学習（ML）システムにおいては、Snowflake ML モデルレジストリがモデルのバージョンやメトリクス、メタデータを一元的に保存および管理し、ライフサイクル全体の管理を支えます。さらにSnowflake MLオブザーバビリティを組み合わせることで、稼働中のモデルのパフォーマンスやデータドリフトの常時監視も可能になります。また、モデルへのアクセスに対してロールベースのアクセス制御（RBAC）を適用できるため、従来のデータアクセス管理と全く同じ基準で、モデルのガバナンスを一元化できる点も大きなメリットです。

生成AIのユースケースにおいては、モデルの出力がアプリケーションに返される前に、不適切または有害な可能性のある応答を検知してフィルタリングする仕組みとしてCortex Guardが設計されています。システムのアーキテクチャに応じて、こうしたセーフガード機能と、プロンプト、レスポンス、アクセス権限、およびアプリケーションの各種ログを組み合わせることで、生成AIの運用に関する強固な監査証跡を構築できます。

Snowflake Compliance Centerでは、各種の第三者認証や監査レポートをはじめとするセキュリティ・コンプライアンス関連のリソースを公開しています。これらは、委託先選定時の審査や、顧客および規制当局から求められる外部監査の対応を円滑に進めるための裏付けとなります。さらにSnowflakeは、AI管理システムの国際標準規格であるISO/IEC 42001認証を取得しており、継続的な維持審査を通じてその品質を担保しています。これは、AIのガバナンス、リスクマネジメント、そしてコンプライアンスの実務を、認証可能な管理システム標準に沿ってどのように体系化すべきかを示す、実務上のモデルケースと言えます。

これらの機能を組み合わせることで、リネージパスやアクセスログ、モデルのメタデータ、評価メトリクス、ポリシーの適用実績、そして管理策の運用証跡といったコンプライアンスの証跡を、それらを生成するシステムと自動的に紐付けて管理できるようになります。もちろん、これによって法的なリーガルチェックやリスク分類、人間が負うべき最終的な説明責任そのものが不要になるわけではありません。しかし、AIの管理策が正しく機能していることを証明するための手作業による業務負担は、大きく軽減することが可能です。

AIコンプライアンスを最もスムーズに証明する方法は、それをシステムのライフサイクルそのものにあらかじめ組み込んでおくことです。具体的には、ユースケースが起案された段階でインベントリへ登録し、開発に着手する前にリスクレベルを判定する。そして、テストから本番稼働に至るまでのプロセスでドキュメントを常に追従させ、ユーザーやデータ、モデル、外部ベンダーの変更に応じた証跡をその都度残す、こうした一連の運用モデルが不可欠です。

なぜなら、AIシステムが一度も姿を変えずに運用の場にとどまり続けることなど、現実にはほぼあり得ないからです。コンプライアンスチームがこうした絶え間ない変化をコントロールするためには、果たすべき義務、対応する管理策、そしてそれを立証する証跡までを一気通貫で追跡できる体制が欠かせません。

今後、AIコンプライアンスを真に機能させられる組織とは、単に手厚く立派なポリシーを策定している組織ではありません。そうではなく、現在どのAIシステムが稼働しているか、どれが高リスクか、どのデータにアクセスしているか、どの管理策が適用され、最後の定期見直しはいつか、そして適合性を裏付ける証跡はどこにあるかという具体的な問いに対して、いつでも迅速に回答できる組織です。