ISO/IEC 42001:2023の解説：要件、管理策、認証

多くのAIガバナンスプログラムは、ポリシー先行でプロセスが脆弱になりがちです。モデルが開発から本番環境へと移行する際、新しいデータソースが追加される際、あるいはベンダーが特徴量を更新する際に、展開時には適切に見えた管理策はたちまち不十分になります。そして、そのギャップを検知するための組み込みメカニズムは存在しません。

ISO/IEC 42001:2023は、AIマネジメントシステムに関する初の国際規格であり、組織にそのオペレーティングモデルを提供します。この規格は、組織がAIシステムを管理するために使用するプロセスを確立、実装、維持、継続的に改善する方法を規定しています。これにより、AIガバナンスは単なる文書から、定義された所有権、リスク対応、監査サイクル、および証拠要件を備えた監査可能なマネジメントシステムへと変わります。

ISO/IEC 42001:2023は、人工知能マネジメントシステム（AIMS）の要件を規定する国際規格です。AIMSとは、組織がAIシステムを開発、提供、または使用する際の管理に用いる、ポリシー、役割、プロセス、管理策、および文書化された情報の集合体です。

2023年12月にISO/IEC JTC 1/SC 42によって発行されたこの規格は、予測的な機械学習、生成AI、エージェントシステムなど、さまざまな分野やAIシステムのタイプに適用されます。AI製品を提供する組織、ビジネスプロセスにAIシステムを展開する組織、本番環境でAIシステムを使用する組織に適用できます。

ISO/IEC 42001は、ISO 27001やISO 9001など、他のISOマネジメントシステム規格で使用されている調和構造に従っています。これにより、既存のマネジメントシステムが成熟している組織は、スコープの定義、リーダーシップのアカウンタビリティの割り当て、文書化された情報の維持、内部監査の実施、パフォーマンスレビュー、継続的な改善の推進といった、使い慣れたプラクティスを再利用できるという利点があります。

また、この規格には附属書Aの管理策も含まれており、AIポリシー、内部組織、リソース、影響評価、ライフサイクルプロセス、データ、利害関係者向けの情報、AIシステムの使用、サードパーティとの関係など、AI固有のガバナンストピックに対応しています。ISO 27001と同様に、附属書Aの管理策は適用可能性に基づいているため、組織は適用宣言書を通じて、適用される管理策とその理由を文書化します。

ISO/IEC 42001は、AIガバナンスが単に記述されているだけでなく、実際に機能していることを示す方法を組織に提供します。この違いは、顧客、規制当局、取締役会、または調達チームが、組織が構築または使用するAIシステムをどのように管理しているかを尋ねる際に重要になります。

サードパーティによる証明

認証は、組織のAIMSが規格の要件を満たしているという独立した保証を組織に提供します。ISOは認証を、製品、サービス、またはシステムが特定の要件を満たしているという、独立機関からの書面による保証であると説明しています。AIチームにとって、これは独自のモデルの詳細、内部アーキテクチャ、機密性の高い顧客データを公開することなく、責任あるAIの実践を示す手段となります。

調達におけるサポート

エンタープライズ企業のバイヤーがRFPやベンダーのリスク評価にAIガバナンスに関する質問を追加するなかで、ISO 42001は、プロバイダーやデプロイヤーが参照できる認知された標準を提供します。認証書はすべての技術的な質問に答えるものではありませんが、組織が正式なAIガバナンスプロセス、監査サイクル、そして経営陣による監視体制を整備しているかどうかに関する曖昧さを軽減できます。

規制との整合性

ISO 42001は任意の規格ですが、そのマネジメントシステム構造は、新たに登場しつつあるAI規制の要件と密接に関連しています。EU AI法は、高リスクAIシステムのプロバイダーに対し、文書化された品質マネジメントシステム、リスク管理システム、市販後モニタリングプロセスを維持することを義務付けています。ISO 42001は、組織がAIコンプライアンスの取り組みをサポートするために使用できる構造化された基盤、すなわち、これらの義務で要求されるポリシー、手順、証拠を提供できます。

運用のリズム

AIガバナンスには一定のペースが必要です。リスク評価は古くなり、データは変化し、モデルの動作はドリフトし、ビジネスのユースケースは拡大します。ISO 42001は、計画、パフォーマンス評価、内部監査、マネジメントレビュー、是正処置、継続的改善を通じて、運用のリズムを体系化します。

顧客からの信頼

ISO/IEC 42001認証は、AIの安全対策における透明性、アカウンタビリティ、信頼に対する組織の取り組みを顧客に示す証拠となります。たとえば、Snowflakeは独立したサードパーティの監査を経てISO/IEC 42001認証を取得しており、お客様はSnowflakeのコンプライアンスセンターを通じて関連する監査の証拠にアクセスできます。

ISO/IEC 42001は、AIシステムを提供、開発、展開、使用する組織に適用されます。AIのリスクは、モデルの開発者だけにあるわけではありません。企業がAIを活用したSaaSプロダクトを構成する場合、AIシステムをワークフローに統合する場合、機密データに接続する場合、またはお客様、従業員、業務に影響を与える意思決定にその出力を使用する場合にも発生する可能性があります。

この規格は、以下のようないくつかのタイプの組織に関連しています。

• プロバイダーは、他者が使用するAIシステム、AIを活用したプロダクト、AIサービスを開発します。また、不正検知モデル、生成AIアシスタント、コンピュータービジョンシステム、大規模なプロダクトに組み込まれたAIアプリケーションを構築する場合があります。

• デプロイヤーは、AIシステムを実用化します。ベンダーが提供するAIサービスを構成したり、内部システムと統合したり、ガバナンスの効いたデータに接続したり、従業員がAIの出力に依存するワークフローを定義したりする場合があります。

• ユーザーは、本番環境でAIシステムを運用します。実際には、自動化、意思決定支援、コンテンツ生成にAIを使用するビジネスチーム、官公庁・公的機関、規制対象組織、内部部門が含まれます。

ISO 42001は業界を問わず適用されますが、公共機関、規制産業、AIプロダクト企業は、文書化された管理策、調達の証拠、正当性のあるガバナンスプロセスに対する強い要求に直面することが多いため、早期の導入が特に重要です。

ISO/IEC 42001は、ISOマネジメントシステム規格で使用される調和構造に従っています。箇条1から3では、適用範囲、引用規格、用語と定義を定めています。箇条4から10では、組織が実装して維持しなければならないマネジメントシステム要件を規定しています。

箇条1〜3：適用範囲、引用規格、定義

冒頭の箇条では、規格の対象範囲、適用される引用規格、主要な用語の定義を確立します。ビジネス、法務、データサイエンス、エンジニアリング、セキュリティの各チームは、同じ単語を異なる意味で使用することが多いため、AIガバナンスプログラムにおいて、この共通の語彙は重要です。この規格は、これらのチームにAIMSの共有の基準点を提供します。

箇条4：組織の状況

箇条4では、組織に対し、AIマネジメントシステムに影響を与える内部および外部の要因を理解することを求めています。これには、ステークホルダーのニーズ、法的および規制上の要件、AIのユースケース、組織の境界、AIMSの適用範囲が含まれます。

具体的には、企業はどのAIシステムがAIMSの対象となるか、どのチームがそのAIシステムを所有しているか、どのデータソースに依存しているか、そしてその出力によってどの外部関係者が影響を受けるかを把握する必要があります。

箇条5：リーダーシップ

箇条5では、リーダーシップのコミットメント、AIポリシー、役割、責任、権限について取り上げています。ここでは、シニアリーダーに対し、AIガバナンスを技術チームだけが所有する付随的なプロセスではなく、組織のマネジメントシステムの一部にすることが求められます。

これは通常、説明責任を負う所有者を指名し、AIポリシーを承認し、ビジネスチームと技術チームの間で責任を調整し、ガバナンスの義務を負う担当者にその遂行に必要な権限を確実に付与することを意味します。

箇条6：計画

箇条6では、AIリスク評価、AIリスク対応、AI目標を含む計画について取り上げています。組織はリスクと機会を特定し、その対処方法を決定して、AIMSの測定可能な目標を定義する必要があります。

リスク評価では、データ品質、モデルパフォーマンス、説明可能性、人間の監視、セキュリティ、プライバシー、アルゴリズムバイアス、オペレーショナルレジリエンス、下流への影響を調査する場合があります。次に、リスク対応計画によって、これらのリスクを管理策、所有者、証拠に結び付けます。

箇条7：支援

箇条7は、AIMSの運用に必要なリソース（力量、認識、コミュニケーション、文書化された情報）に焦点を当てています。モデルの所有者が影響評価を実行するタイミングを把握していない、レビュー担当者が必要な証拠を見つけられない、ビジネスユーザーが許容されるAIの利用を理解していないといった状況では、ポリシーだけでは不十分です。

この箇条では、組織がトレーニング、文書化の実践、コミュニケーションチャネル、ガバナンス活動を証明する記録を定義します。

箇条8：運用

箇条8は、AIシステムの運用の計画と管理について規定しています。ここで、要件、設計の決定、データ準備、確認と検証、展開の管理、運用、監視、廃止といったライフサイクルプロセスが具体化されます。

たとえば、組織は、本番環境への移行前のモデルの承認、データ入力の変更、新しい母集団への利用の拡大、ポリシーやパフォーマンスの期待を満たさなくなった場合のモデルの廃止について、文書化されたプロセスを必要とする場合があります。

箇条9：パフォーマンス評価

箇条9は、監視、効果測定、分析、評価、内部監査、マネジメントレビューを要求しています。組織は、AIMSが機能しているかどうか、そしてガバナンスの管理が組織のAIシステムに引き続き適合しているかどうかを把握する必要があります。

これには、管理策のテスト、監査結果、モデルのモニタリング結果、インシデントの傾向、リスク対応の状況、マネジメントレビューの記録が含まれる場合があります。

箇条10：改善

箇条10は、不適合、是正処置、継続的改善を対象としています。監査結果、インシデント、モニタリング上の問題、プロセスの障害が発生した場合、組織は構造化された方法で対応する必要があります。

この対応には通常、問題の調査、当面の困難の緩和、根本原因への対処、そして同じ障害が再発する可能性を低くするためのAIMSの更新が含まれます。

附属書Aは、カテゴリ別に分類されたAI固有の38の管理策を提供します。これらの管理策は、組織がマネジメントシステムの要件から運用の実践に移行するのに役立ちますが、すべての状況で自動的に必須となるわけではありません。組織は適用可能性を評価し、その根拠を適用宣言書に文書化します。

A.2：AIに関連する方針

A.2は、AI方針について規定しています。ここには、組織が「責任あるAI」に対する期待事項をどのように定義し、役割を割り当て、調達に対応するかといった内容が含まれます。ポリシーは、誰がAIシステムを承認できるか、どのようなリスク基準が適用されるか、サードパーティのAIシステムがどのように審査されるかなど、AIの開発と利用に関する決定を導くのに十分な具体性を備えている必要があります。

A.3：内部組織

A.3は、ガバナンス構造、レポートライン、リソース割り当てに焦点を当てています。AIガバナンスは多くの場合、ビジネスオーナー、データチーム、法務、コンプライアンス、セキュリティ、プライバシー、調達、プラットフォームチームにまたがるため、管理の目的は、問題が発生する前にアカウンタビリティを可視化することにあります。

A.4：AIシステムのためのリソース

A.4は、データ、ツール、インフラストラクチャ、システムリソース、人間の監視など、AIシステムの開発、展開、運用に必要なリソースについて規定しています。本番環境のAIシステムの場合には、承認されたデータセット、モデル開発環境、モニタリングツール、レビューワークフロー、エスカレーションパスが含まれる場合があります。

A.5：AIシステムの影響評価

A.5は影響評価を対象としています。これらの評価は、展開の前後にAIシステムが個人、グループ、ビジネスプロセス、外部の利害関係者にどのような影響を与える可能性があるかを組織が評価するのに役立ちます。

影響評価では、AIシステムがサービスへのアクセスに影響を与えるか、人々に影響を与える推奨事項を生成するか、機密属性を処理するか、または重要なワークフローで運用上の依存関係を生み出すかなどを調査する場合があります。

A.6：AIシステムのライフサイクル

A.6は、要件、設計、確認、検証、展開、運用、廃止などのライフサイクルプロセスを対象としています。この管理カテゴリは、基本的なガバナンスの現実を反映しています。AIのリスクは、システムがステージを進むにつれて変化します。

開発環境では許容範囲内と見なされたモデルであっても、ライブデータへの接続、新しいプロンプトの受信、より幅広いユーザーベースへの提供、自動化されたワークフローへの組み込みが行われた後では、異なる動作をする可能性があります。

A.7：AIシステムのためのデータ

A.7は、データの取得、品質、プロビナンス、準備について取り上げています。AIシステムは多くの場合、データからリスクを継承するため、これらの管理は特に重要です。トレーニングセット、プロンプトコンテキスト、特徴量テーブル、検索コーパスに、所有権、リネージ、品質チェック、使用上の制約が欠けている場合、モデルの出力を信頼することや正当化することが困難になる可能性があります。

このカテゴリにおける厳格な管理策では通常、データの取得元、実行された変換処理、適用される品質しきい値、AIワークフローにデータを取り込む際に伴う使用制限などを、チームが文書化することが求められます。

A.8：利害関係者への情報提供

A.8は、ドキュメント、コミュニケーション、レポートなど、利害関係者に提供される情報を対象としています。対象となる利害関係者は、AIシステムによって異なります。具体的には、顧客、規制機関、社内レビュー担当者、業務ユーザー、監査人、あるいはシステムの出力結果から影響を受ける人々などが含まれます。

このカテゴリには、モデルのドキュメント、ユーザーの利用手順、リスクの開示、既知の制限事項、モニタリングレポート、インシデントの伝達プロセスが含まれる場合があります。

A.9：AIシステムの使用

A.9は、責任ある使用と廃止に焦点を当てています。組織には、AIシステムの運用開始後における利用方法を統制するプロセスが必要です。これには、許容される利用範囲、ユーザーの責任、期待される監視水準、運用停止の基準などが含まれます。

この管理策は、生成AIやエージェント型システムにおいて特に重要となります。これらのシステムでは、同一の基盤機能であっても、リスクプロファイルが異なる多様なワークフローで活用される可能性があるためです。

A.10：サードパーティおよび顧客との関係

A.10は、サプライヤーおよび顧客の責任について取り上げています。AIシステムは多くの場合、外部モデル、SaaS製品、データプロバイダー、統合パートナー、下流の顧客に依存しています。本管理策は、誰が何に責任を持つか、どのような証拠が必要か、サードパーティのサービスにおける変更がどのようにレビューされるかを明確にするのに役立ちます。

ISO/IEC 42001認証は、他のISO規格で採用されている一般的なマネジメントシステム認証のプロセスに従います。詳細は組織、スコープ、認証機関によって異なりますが、ほとんどのプログラムは同じ基本的なシーケンスで進行します。

• 準備状況またはギャップ分析：組織は、ISO 42001の要件に照らして、現在のAIガバナンスのプラクティスを評価します。これにより通常、スコープ定義の欠落、文書化されていない責任、一貫性のないリスク評価、不十分なライフサイクル管理、不十分な監査証拠が特定されます。

• AIMSの構築：組織は、AIMSを確立または更新します。これには、ポリシー、手順、リスク評価、影響評価、ライフサイクル管理、ドキュメント化の実践、トレーニング、レポート、附属書Aの管理策に関する適用宣言書が含まれます。

• 内部監査：認証監査の前に、組織は内部監査を実施し、AIMSが要件を満たしているか、管理策が説明どおりに機能しているかをテストします。

• 第1段階の認証監査：認証機関は、準備状況、スコープ、ドキュメントをレビューします。その目的は、組織が実装監査の準備ができているかどうかを判断することです。

• 第2段階の認証監査：監査人は、AIMSが実装され、稼働していることを検証します。これには、インタビュー、証拠のレビュー、サンプリング、管理策のテスト、マネジメントレビュー記録の調査が含まれる場合があります。

• サーベイランス監査と再認証：認証は1回限りのイベントではありません。組織は通常、年次サーベイランス監査と3年ごとの再認証を受けます。これにより、規格の継続的改善モデルが強化されます。

組織は、地域、スコープ、対応状況に応じて、BSI、Schellman、A-LIGN、Mazars、TÜV、DNVなどの認定された認証機関と連携する場合があります。認証までの期間は大きく異なりますが、多くの組織は6〜18か月の取り組みを想定する必要があります。成熟したISO 27001、ISO 9001、または類似のマネジメントシステムをすでに運用している場合は、スケジュールが短縮される可能性が高くなります。

ISO 42001は、すべてのAIガバナンスフレームワークや法的義務に代わるものではありません。組織がその目的（認証可能なAIマネジメントシステムの確立）を理解している場合に、最も効果を発揮します。

多くの組織は、これらのフレームワークを組み合わせて使用します。チームは、NIST AI RMFを使用してAIリスク分析を構築し、ISO/IEC 23894でリスク管理の実践を深め、ISO/IEC 22989で語彙を統一し、ISO 42001でそれらの実践を反復可能かつ監査可能にするAIMSを確立できます。

SnowflakeはISO/IEC 42001の認証を取得しています。これは、認定されたサードパーティが、責任あるAIガバナンスに関する規格の要件に照らしてSnowflakeのAIMSを監査したことを意味し、お客様はSnowflakeのコンプライアンスセンターを通じて監査の証拠を確認できます。

独自のISO 42001プログラムを構築するお客様にとって、認証済みのプラットフォームは、データとAIガバナンスの統制環境のさまざまな側面をサポートできます。しかし、このプラットフォームによって、お客様自身のAIMSが認証されるわけではありません。AIのユースケース、リスク評価、影響評価、方針、運用上の意思決定に対する責任は、引き続き各組織にあります。一方で、このプラットフォームを活用することで、組織は主要なデータやインフラの管理策がガバナンスのもとで適切に運用され、文書化され、監査可能であることを示す証跡を整理できます。

以下のSnowflakeの機能は、附属書Aのいくつかの管理策領域を支援しています。

Snowflake Horizonカタログは、幅広いトレーサビリティと可視性を提供するように設計されており、メタデータ、リネージ、アクセス履歴、分類、タグ付け、ポリシーの適用によって、チームによるデータ、アプリ、モデルの管理を支援します。Horizonは、Snowflakeと外部ストレージ全体にわたってデータガバナンスを管理する手段であり、アクセス履歴やTime Travel機能を通じて、過去のアクティビティやデータ状態のレビューできるようにします。これらの機能は、AIデータ、ライフサイクルの文書化、アクセスガバナンス、レポートに関する附属書Aの管理策に対応しています。

Cortex Guardは、安全でない可能性のあるLLMの入出力をフィルタリングすることで、AIシステムのより安全な使用をサポートします。これにより、人間の監視、責任ある使用、そしてユーザーに提供される情報に関連する管理策をサポートできます。

モデルレジストリは、チームがモデルのライフサイクルのメタデータ、バージョン、展開コンテキストを管理するのに役立ち、ライフサイクルガバナンス、文書化、運用レビューの管理策をサポートします。

これらの機能を組み合わせることで、組織はAIシステムが依存するオブジェクト（データセット、モデル、方針、リネージパス、アクセス履歴、ドキュメント、使用シグナルなど）にガバナンスを適用できるようになります。認証は証拠に依拠するため、これはISO 42001にとって特に重要です。チームは、ポリシーが存在することだけでなく、関連する管理策が適用され、レビューされ、時間の経過とともに改善されていることを示すことができなければなりません。

ISO 42001は、AIガバナンスを原則からプロセスへと移行するための実践的な方法を組織に提供します。チームは依然として、どのAIシステムが対象となるか、誰がそのAIシステムを所有するか、どのリスクが重要か、どの管理策が適用されるか、そしてそれらの管理策が機能していることを証明する証拠は何かを決定する必要があります。この規格は、こうした意思決定を一貫して行うための構造を提供します。 

AIシステムが、統制されたデータ、文書化されたモデルのライフサイクル、定義された人間の監視、サプライヤーの管理、影響評価、モニタリング、是正処置に依拠するとき、ガバナンスはシステムの運用方法の一部となります。これこそがISO 42001の価値です。テクノロジー、組織、規制環境が変化し続けるなかで、AIプログラムに対してレビュー、監査、改善が可能なマネジメントシステムを提供します。