AI 컴플라이언스: 규제와 운영화 방법

AI 규정 준수는 겉보기에는 단순하지만 실제로는 핵심적인 질문에서 시작됩니다. 이 모델, 어시스턴트, 스코어링 시스템 또는 자동화된 워크플로우에는 어떤 규칙이 적용되며, 그 규칙을 따랐다는 사실을 어떤 증거로 입증할 수 있는가?

AI가 크레딧 의사결정, 임상 워크플로우, 직원 심사, 사기 감지, 고객 지원, 내부 생산성 도구로 확산되면서 이 질문에 답하기는 점점 더 어려워지고 있습니다. 하나의 모델은 한 시스템의 학습 데이터, 다른 시스템의 고객 기록, 파운데이션 모델 제공업체의 출력, 별도 애플리케이션에서 이뤄지는 인간의 승인 단계에 의존할 수 있습니다. 그리고 이 체인의 각 단계는 나중에 답해야 할 규제상 의무, 내부 정책 요건 또는 감사 질문으로 이어질 수 있습니다.

AI 규정 준수 프로그램은 감사나 인시던트 검토가 문제를 드러내기 전에 조직이 이러한 복잡성을 관리할 수 있는 체계를 제공합니다. 이 프로그램은 법률과 표준을 통제에 연결하고, 해당 통제를 증거에 매핑하며, 모델, 데이터, 벤더, 사용 사례가 바뀌어도 증거를 최신 상태로 유지합니다.

AI 컴플라이언스(규정 준수)는 AI 시스템과 이를 개발하고 운영하는 데 사용되는 수명 주기가 적용 가능한 법률, 규제, 산업 표준 및 내부 정책을 준수하도록 보장하는 실무 체계입니다. 조직이 AI 시스템이 규제상 의무에 맞게 설계, 테스트, 배포, 모니터링 및 검토되었음을 입증하기 위해 사용하는 통제를 포함합니다.

따라서 AI 규정 준수는 다음의 인접 분야들과 관련되어 있지만, 역할은 명확히 다릅니다.

• AI 거버넌스는 AI 사용 사례의 소유자, 승인권자, 중단 권한자, 의사결정 에스컬레이션 방식을 정하는 운영 모델을 정의합니다.
• AI 윤리는 공정성, 투명성, 책임성, 개인정보 보호, 보안, 인간 감독이라는 원칙을 정의합니다.
• AI 리스크 관리는 조직이 AI 관련 리스크를 식별, 측정, 우선순위화, 완화하는 방법론을 정의합니다.
• AI 규정 준수는 적합성을 입증합니다. 어떤 규칙이 적용되는지, 어떤 통제가 이를 다루는지, 통제 입증을 뒷받침하는 감사 증거가 무엇인지를 보여줍니다.

AI 규정 준수 프로그램은 대개 추상적인 원칙이 아니라 구체적인 대상에서 출발합니다. AI 인벤토리, 모델 카드, 학습 데이터 요약, 시스템 소유자, 액세스 정책, 모니터링 대시보드, 승인 기록이 여기에 포함됩니다. 이러한 Artifacts는 시스템이 올바르게 분류되었는지, 고위험 AI가 적절한 검토를 거쳤는지, 인간 감독이 실질적으로 작동하는지, 배포 후 모니터링이 실제로 이루어지고 있는지를 보여줍니다.

조직은 일반적으로 포괄적 AI 법률, 개인정보 보호 규칙, 산업별 감독 지침, 제품 안전 요건, 고용 관련 법률, 소비자 보호 규칙, 내부 리스크 정책이 중첩된 규제 환경에 직면합니다.

EU 인공지능법

EU 인공지능법은 현재 시행 중인 AI 전용 규제 프레임워크 가운데 가장 포괄적인 체계 중 하나로 널리 평가됩니다. 이 법은 금지된 AI 관행, 고위험 AI 시스템, 제한적 위험 시스템, 범용 AI 모델, 저위험 사용을 구분하는 위험 단계별 구조를 채택합니다. 또한 역외 적용 범위를 갖기 때문에 AI 시스템이나 그 출력물이 EU 시장에 출시되거나 EU 시장에서 사용되는 경우, EU 역외의 제공자와 배포자에게도 적용될 수 있습니다.

이 법은 단계적으로 적용됩니다. 금지 사항과 AI 리터러시 요건은 2025년 2월부터, 범용 AI 관련 의무는 2025년 8월부터 시작되며, 더 광범위한 롤아웃은 2027년 8월 2일까지 이어집니다.

고위험 AI 시스템의 경우 규정 준수를 위해 리스크 관리, 데이터 거버넌스, 기술 설명서, 로깅, 투명성, 인간 감독, 정확성, 견고성, 사이버 보안이 요구될 수 있으며, 경우에 따라 인증기관이 참여하는 적합성 평가가 필요할 수 있습니다.

고위험 AI 시스템을 구축하거나 공급하는 조직은 일반적으로 해당 시스템이 어떻게 설계, 테스트, 설명서화되었는지를 보여주는 기술 파일을 갖춰야 합니다. 이러한 시스템을 사용하는 조직은 시스템이 어떻게 배포되는지, 누가 출력을 검토하는지, 어떻게 모니터링되는지, 문제가 어떤 절차로 상위 단계에 보고되는지를 입증하는 증거가 필요합니다.

GDPR

GDPR은 독립 실행형 AI 법의 규제를 받지 않는 시스템이라도 개인 데이터를 프로세스하는 다수의 AI 시스템에 이미 적용됩니다. 제22조는 프로파일링을 포함한 자동화된 의사 결정이 법적 효과 또는 이에 준하는 중대한 영향을 초래하는 경우, 이와 관련된 특정 권리를 다룹니다. 제35조는 처리 활동이 개인에게 높은 위험을 초래할 가능성이 있는 경우 데이터 보호 영향 평가(DPIA)를 요구합니다. 여기에는 대규모 프로파일링, 민감 데이터 처리, 신기술 활용 등이 포함될 수 있습니다.

실무에서는 GDPR 규정 준수가 AI 전용 규정 준수와 병행되는 경우가 많습니다. 예를 들어 AI를 크레딧 의사 결정에 활용하는 은행은 EU 인공지능법의 고위험 조항에 따라 해당 사용 사례를 평가하는 동시에, DPIA를 완료하고, 적법한 처리 근거를 설명서화하며, 액세스 제어를 적용하고, 개인 데이터가 목적 제한, 최소화, 보존 요건에 맞게 처리되었음을 입증해야 할 수 있습니다.

미국 연방 및 주 규칙

미국 AI 규정 준수 환경은 여전히 여러 법률과 규제가 조각처럼 맞물린 형태입니다. 연방 차원에서는 안전하고 보안성이 높으며 신뢰할 수 있는 AI에 관한 2023년 행정명령 이후 정책 방향이 변화했습니다. 2025년 1월, 행정명령 14179 “인공지능 분야에서 미국 리더십을 가로막는 장벽 제거”는 일부 기존 AI 정책을 폐지하고, 행정부에 AI 정책 목표와 충돌하는 조치를 검토하고 수정하도록 지시했습니다.

그러나 이러한 연방 차원의 변화가 규정 준수 압박을 없앤 것은 아닙니다. 오히려 조직은 여전히 연방 기관의 지침, 집행 활동, 주 차원의 요건을 함께 관리해야 합니다. NIST AI 리스크 관리 프레임워크는 AI 리스크 관리를 위한 자발적 프레임워크로 널리 활용되고 있으며, 산업별 규제기관은 AI 기반 시스템에 기존 권한을 계속 적용하고 있습니다.

주 및 로컬 차원에서는 다음과 같은 여러 규칙이 중요한 기준점으로 자리 잡았습니다.

• 콜로라도 인공지능법 / ADMT: 콜로라도 2024년 인공지능법은 폐지되었으며, 2026년 5월 14일 서명된 SB26-189로 대체되었습니다. 새 법은 중대한 결정에 실질적 영향을 미치는 자동화된 의사 결정 기술(ADMT)로 프레임워크 범위를 좁혔지만, 투명성, 고지, 정정, 이의 제기, 인간 검토 의무를 통해 알고리즘 편향 우려를 계속 다룹니다. 적용 대상 의무는 일반적으로 2027년 1월 1일부터 발효될 예정이며, 추가 구현 세부 사항은 콜로라도 법무장관의 규칙 제정을 통해 마련될 것으로 예상됩니다.
• NYC 로컬 법률 144: 뉴욕시는 자동화된 고용 의사 결정 도구를 규제하며, 적용 대상 고용 사용에 대한 편향 감사와 고지 요건을 포함합니다.
• 캘리포니아 자동화된 의사 결정 규칙: 캘리포니아는 자동화된 의사 결정 기술, 리스크 평가, 사이버 보안 감사를 포괄하는 CCPA 규정을 최종 확정했으며, 해당 규정은 2026년 1월 1일부터 발효되고 일부 요건에는 단계적 규정 준수 일정이 적용됩니다.

산업별 AI 규칙

AI 규정 준수는 산업 맥락에도 크게 좌우됩니다. 규제 산업에서는 AI 전용 법률보다 기존 감독 프레임워크를 통해 AI 시스템을 검토하는 경우가 많습니다.

• 은행 업계에서는 모델 리스크 관리 지침이 기업의 모델 검증, 가정 설명서화, 거버넌스 유지 방식에 오랫동안 영향을 미쳐 왔습니다. 미국 연방준비제도의 모델 리스크 지침은 개발, 구현, 사용, 검증, 통제, 규정 준수, 이사회 및 고위 경영진의 감독을 강조합니다. 또한 2026년에는 연방 은행 감독기관들이 리스크 기반 접근 방식을 강조하는 개정 모델 리스크 관리 지침을 발표했습니다.
• 헬스케어에서는 AI 시스템이 개인 건강 정보를 프로세스하는 경우 HIPAA가 적용될 수 있으며, AI가 의료기기 소프트웨어(Software as a Medical Device, SaMD) 또는 AI 기반 의료 디바이스의 일부인 경우 FDA 감독이 적용될 수 있습니다. FDA는 미국에서 마케팅 승인을 받은 AI 기반 의료 디바이스 목록을 유지하고 있으며, 이는 규제 대상 의료 제품에서 AI의 역할이 커지고 있음을 보여줍니다.
• 보험업에서는 전미보험감독관협회(NAIC)의 모델 게시문이 보험사가 AI 시스템을 어떻게 거버넌스해야 하는지에 대한 기대치를 제시하고, 조사 또는 검사 과정에서 규제기관이 요청할 수 있는 정보를 설명합니다.
• 금융 서비스와 상장기업 공시 영역에서는 SEC가 AI 관련 주장은 정확하고 뒷받침 가능해야 한다는 입장을 보여 왔습니다. 2024년 SEC는 AI 사용에 대해 허위 및 오해의 소지가 있는 진술을 한 투자자문사 두 곳을 제재했습니다. 이는 AI 규정 준수에 마케팅, 공시, 고객 대상 주장까지 포함된다는 점을 상기시킵니다.

국제 AI 지침

EU와 미국 이외 지역에서도 조직은 영국의 원칙 기반 AI 규제 접근 방식, 중국의 생성형 AI 조치, 싱가포르의 Model AI Governance Framework를 고려해야 할 수 있습니다. 이러한 제도는 법적 구속력, 범위, 집행 성숙도에서 차이가 있지만, 대체로 반복적으로 등장하는 기대 사항에 수렴합니다. 리스크 분류, 책임성, 투명성, 인간 감독, 데이터 거버넌스, 모니터링, 설명서가 그 핵심입니다.

구속력 없는 문서도 중요합니다. 이러한 문서가 법률, 표준, 조달 요건의 기준 언어가 되는 경우가 많기 때문입니다. OECD AI 원칙은 인권과 민주적 가치를 존중하는 신뢰할 수 있는 AI를 통해 AI 안전을 촉진하며, UNESCO 인공지능 윤리 권고는 194개 UNESCO 회원국 전체에 적용되고 인권, 공정성, 투명성, 인간 감독을 강조합니다.

법률은 의무를 정의하지만, 프레임워크는 조직이 그 의무를 반복 가능한 운영 관행으로 전환하도록 돕습니다. 프레임워크는 규정 준수, 법무, 데이터, 보안, AI 팀이 시스템을 분류하고, 통제를 배정하며, 증거를 수집하고, 통제 성과를 입증할 수 있는 공통 방식을 제공합니다.

NIST AI RMF

NIST AI 리스크 관리 프레임워크는 AI와 관련해 개인, 조직, 사회에 발생할 수 있는 리스크를 관리하기 위한 자발적 프레임워크입니다. NIST는 이 프레임워크를 네 가지 핵심 기능을 중심으로 구성합니다. Govern(거버넌스), Map(매핑), Measure(측정), Manage(관리)입니다.

규정 준수 팀에 NIST AI RMF가 유용한 이유는 법적 의무와 내부 의무에 매핑할 수 있는 리스크 관리 구조를 제공하기 때문입니다.

• Govern(거버넌스)는 역할, 정책, 책임성을 정의합니다.
• Map(매핑)은 컨텍스트와 의도한 용도를 파악합니다.
• Measure(측정)는 리스크와 시스템 성능을 평가합니다.
• Manage(관리)는 대응, 모니터링, 개선 조치의 우선순위를 정합니다.

ISO/IEC 42001

ISO/IEC 42001은 인증 가능한 AI 관리 시스템 표준입니다. ISO는 이를 세계 최초의 AI 관리 시스템 표준으로 설명하며, 조직이 정책, 프로세스, 역할, 지속적인 개선으로 구성된 체계적인 시스템을 통해 AI 관련 리스크와 기회를 관리하도록 지원하기 위해 설계됐습니다.

AI 규정 준수 관점에서 ISO/IEC 42001은 특히 유용합니다. 범위, 거버넌스, 위험 평가, 영향 평가, 수명 주기 제어, 공급업체 관리, 모니터링, 내부 감사, 경영진 검토 등 공식적인 관리 시스템 증거를 뒷받침하기 때문입니다. 인증 가능한 프레임워크가 필요한 조직은 ISO/IEC 42001을 더 세부적인 리스크 지침이나 산업별 지침과 함께 적용하는 경우가 많습니다.

ISO/IEC 23894

ISO/IEC 23894는 AI 리스크 관리를 위한 지침을 제공합니다. AI 시스템을 개발, 생산, 배포 또는 사용하는 조직이 AI에 특화된 리스크 관리를 자체 활동과 기능에 통합할 수 있도록 지원합니다.

AI 관리 시스템의 요구사항을 명시하는 ISO/IEC 42001과 달리, ISO/IEC 23894는 지침 중심의 표준입니다. 이를 통해 팀은 AI 수명 주기 전반에서 리스크 원인을 정의하고, 잠재적 영향을 분석하며, 리스크 대응 방식을 체계화할 수 있습니다.

IEEE 7000 시리즈

IEEE 7000 시리즈는 윤리적이고 책임 있는 기술 설계에 초점을 맞춘 표준을 제공합니다. AI 규정 준수 프로그램에서 이러한 표준은 투명성, 편향, 책임성, 개인정보 보호, 인간 가치와 같은 주제를 체계화하는 데 도움이 됩니다. 일반적으로 이러한 표준만으로 규정 준수의 유일한 근거가 되지는 않지만, 윤리적 약속을 설계와 설명서 작성 관행으로 구체화하는 데 기여할 수 있습니다.

OECD와 UNESCO

OECD AI 원칙과 UNESCO 권고는 구속력은 없지만 법, 정책, 규제 기관의 기대에 영향을 미칩니다. 단일한 구속력 있는 AI 법률이 적용되지 않는 환경에서도 조직이 내부 AI 정책에서 공정성, 투명성, 책임성, 인간 감독, 권리 존중을 강조하는 이유를 설명해야 할 때 유용한 규범적 참고 기준이 됩니다.

책임 있는 AI에 대해 자세히 알아보기

AI 규정 준수 제어는 조직이 프레임워크와 규정 준수 관행을 일상적인 워크플로우와 시스템에 구현할 수 있는 방법을 제공합니다. 정책은 고위험 AI에 인간 감독이 필요하다고 명시할 수 있지만, 제어는 누가 시스템을 검토하는지, 해당 승인이 어디에 기록되는지, 검토자가 관련 모델 출력을 어떻게 확인하는지, 모니터링에서 드리프트, 편향 또는 안전하지 않은 동작이 나타날 때 어떤 조치가 이뤄지는지를 구체화합니다.

거버넌스 제어

거버넌스 제어는 AI 시스템에 대한 책임 주체와 의사결정 방식을 정립합니다. 일반적으로 경영진 감독, AI 정책, 리스크 등급 기준, 역할 배정, 에스컬레이션 경로를 포함합니다.

예를 들어 고위험 크레딧 모델에는 지정된 모델 소유자, 비즈니스 소유자, 기술 소유자, 규정 준수 검토자가 있어야 합니다. 조직은 누가 사용 사례를 승인했는지, 어떤 리스크 등급이 부여됐는지, 어떤 제어 세트가 적용됐는지, 누가 개선 조치, 일시 중단 또는 롤백을 요구할 수 있는지를 입증할 수 있어야 합니다.

일반적인 거버넌스 제어에는 다음이 포함됩니다.

• AI 정책 및 허용 가능한 사용 표준
• AI 인벤토리 소유권
• 리스크 등급화 방법론
• AI 책임자, 모델 소유자, 데이터 소유자 지정
• 검토 위원회 또는 거버넌스 협의회의 승인
• 만료일이 포함된 예외 관리
• 제어 증명 및 내부 감사 검토

설명서 제어

설명서 제어는 규제 기관, 감사자, 고객, 내부 검토자가 확인할 수 있는 서면 기록을 만듭니다. AI 규정 준수에서 설명서는 일회성 출시 작업이 아닙니다. 데이터가 변경되고, 모델 버전이 업데이트되며, 공급업체가 바뀌고, 사용 사례가 확장되는 동안 시스템을 따라 지속적으로 관리돼야 합니다.

대표적인 설명서 Artifacts에는 모델 카드, 데이터 시트, 학습 데이터 요약, 평가 결과, 시스템 설명서, 아키텍처 다이어그램, 기술 파일이 포함됩니다. EU 인공지능법에 따르면 부속서 IV는 고위험 AI 시스템에 대한 기술 설명서 기대사항을 설명하며, 여기에는 시스템 목적, 설계, 개발, 데이터, 모니터링, 검증, 리스크 관리 정보가 포함될 수 있습니다.

생성형 AI 시스템의 경우 설명서에는 프롬프트, 검색 소스, 안전 필터, 인간 검토, 금지된 사용, 공급업체 증명까지 포함해야 할 수 있습니다. 목표는 서류 작업을 늘리는 데 있지 않습니다. 시스템이 무엇을 수행하는지, 어떻게 테스트됐는지, 승인된 사용을 뒷받침하는 증거가 무엇인지 이해하는 데 필요한 컨텍스트를 보존하는 데 있습니다.

평가 통제

평가 통제는 AI 시스템이 의도한 용도에 적합한지 판단합니다. 여기에는 AI 영향 평가, DPIA, 편향 감사, 레드팀 보고서, 적대적 테스트, 개인정보 보호 검토, AI 보안 검토, 배포 전 테스트가 포함될 수 있습니다.

예를 들어 채용 선별 도구는 특정 법률에 따라 편향 감사와 후보자 고지가 필요할 수 있고, 다른 법률에 따라 DPIA가 요구될 수 있습니다. 또한 직무 관련성, 설명 가능성, 공급업체 설명서, 사람의 검토를 평가하는 내부 평가도 필요할 수 있습니다. 임상 AI 시스템은 의도한 용도에 대한 검증, 환자 안전성 검토, 집단별 성능 변화 모니터링이 필요할 수 있습니다.

평가 통제는 테스트 결과, 검토자 메모, 개선 계획, 승인 기록, 책임 소유자가 수용한 미해결 위험 등 지속적으로 참조 가능한 증거를 남겨야 합니다.

운영 통제

운영 통제는 배포 이후 AI 시스템이 어떻게 작동하는지 관리합니다. 여기에는 액세스 관리, 감사 로그, 모니터링, 인시던트 보고, 사람의 감독, 시판 후 모니터링이 포함됩니다.

이러한 통제가 중요한 이유는 모델이 라이브로 전환되는 순간 AI 규정 준수가 끝나는 것이 아니기 때문입니다. 모델은 드리프트될 수 있고, 프롬프트 템플릿은 변경될 수 있으며, 파운데이션 모델 제공업체는 기반 모델을 업데이트할 수 있습니다. 데이터 파이프라인이 다른 값을 공급하기 시작하거나, 액세스 정책이 민감한 필드를 더 넓은 사용자 그룹에 노출할 수도 있습니다. 규정 준수는 이러한 변화를 파악하고, 그 변화를 설명하는 데 필요한 증거를 보존하는 데 달려 있습니다.

대표적인 운영 통제는 다음과 같습니다:

• 역할 기반 액세스 제어 (RBAC)
• 데이터, 모델, 애플리케이션 활동에 대한 감사 로그
• 모델 성능 및 드리프트 모니터링
• 필요한 경우 프롬프트와 응답 로깅
• 중대한 결정에 대한 휴먼 인 더 루프 검토
• 인시던트 보고 및 에스컬레이션 절차
• 시판 후 또는 배포 후 모니터링
• 정기적인 통제 이행 증명

서드 파티 통제

많은 AI 시스템은 조직이 직접 구축하지 않은 공급업체, 파운데이션 모델 제공업체, SaaS 도구, 데이터 제공업체 또는 내장형 AI 기능에 의존합니다. 서드 파티 통제는 팀이 이러한 의존성을 배포 전에 평가하고 시간이 지나도 지속적으로 모니터링하도록 지원합니다.

공급업체 실사는 의도한 용도, 데이터 처리 방식, 모델 설명서, 보안 통제, 하도급업체, 보존 정책, 학습 데이터 관련 약정, 인시던트 알림 조건, 이용 가능한 증명 자료를 포괄해야 합니다. 파운데이션 모델의 경우 조직은 제공업체 설명서, 안전성 평가, AI 시스템에 관련된 모델, 데이터 소스, 라이브러리, API, 공급업체를 열거하는 AI 구성 명세서(AIBOM)를 지원하는 정보를 요청할 수도 있습니다.

AI 규정 준수는 팀이 추적성을 구현할 때에만 관리 가능합니다. 각 AI 시스템은 위험 등급에, 각 위험 등급은 의무에, 각 의무는 통제에, 각 통제는 증거에 연결되어야 합니다.

모든 AI 시스템의 인벤토리 구축

AI 인벤토리에는 기존 ML 모델, 생성형 AI 애플리케이션, 내부 어시스턴트, SaaS 플랫폼에 내장된 AI, 공급업체 제공 AI 기능이 포함되어야 합니다. 팀은 매핑하지 않은 시스템을 분류하거나 모니터링하거나 증명할 수 없습니다.

실효성 있는 AI 인벤토리는 일반적으로 시스템 이름, 소유자, 비즈니스 목적, 사용자, 데이터 소스, 모델 유형, 공급업체 의존성, 관할권, 위험 등급, 영향을 받는 집단, 승인 상태, 검토 주기를 기록합니다. 내장형 AI의 경우 인벤토리는 어떤 SaaS 기능이 AI를 사용하는지, 어떤 데이터를 처리하는지, 공급업체가 고객 데이터를 학습 또는 개선에 사용하는지도 기록해야 합니다.

위험 등급별 시스템 분류

각 시스템은 적용 가능한 법적 기준과 내부 기준에 따라 분류해야 합니다. EU 인공지능법에 따르면 이는 특정 사용 사례가 금지 대상인지, 고위험인지, 제한적 위험인지 또는 저위험인지 판단하는 것을 의미할 수 있습니다. 내부 정책에서는 권리, 안전, 재무적 결과, 고용, 헬스케어, 서비스 액세스 또는 규제 노출에 미칠 잠재적 영향에 따라 시스템을 분류하는 것을 의미할 수 있습니다.

위험 등급화는 증거 기반이어야 합니다. 일반적인 정책 질문에 답하는 챗봇은 환자 치료를 추천하거나 채용 후보자의 순위를 매기는 모델과 같은 수준의 의무를 발생시키지 않습니다. 분류 기록은 단순히 레이블을 붙이는 데 그치지 않고 판단 근거를 설명해야 합니다.

의무를 통제와 증거에 매핑

팀이 적용되는 의무를 식별한 후에는 통제 맵이 필요합니다. 각 의무별로 해당 통제, 통제 소유자, 증거 출처, 검토 빈도를 명시해야 합니다.

해당 예로는 다음을 들 수 있습니다.

증거 수집 자동화

AI 시스템 수가 늘어날수록 수작업 기반의 증거 수집은 한계에 부딪힙니다. 고위험 시스템은 분기별 검토, 연례 재평가, 인시던트 보고, 지속적인 모니터링이 필요할 수 있으며, 제한적 위험 시스템도 투명성 고지, 액세스 기록, 설명서 업데이트가 필요할 수 있습니다.

증거 자동화는 AI 작업이 이루어지는 시스템에서 액세스 이력, 계보, 모델 레지스트리 메타데이터, 모니터링 대시보드, 승인 워크플로우, 인시던트 시스템, 정책 엔진과 같은 신호를 직접 포착하는 데 도움이 됩니다. 목표는 실제 시스템 동작과 규정 준수 기록 사이의 간극을 줄이는 것입니다. 감사자가 모델이 어떤 데이터에 액세스했는지, 누가 정책을 변경했는지, 인시던트 기간에 어떤 모델 버전이 배포되었는지 묻는 시점에는 이미 증거가 존재해야 합니다.

검토 주기 정립

AI 시스템은 각 시스템의 리스크를 반영한 주기로 검토해야 합니다. 특히 권리, 안전, 자격, 가격 책정, 고용 또는 규제 대상 의사결정에 영향을 미치는 경우, 고위험 시스템은 대개 분기별 검토가 필요합니다. 제한적 위험 시스템은 중대한 변경이 없는 한 연 1회 검토할 수 있습니다.

검토에서는 시스템의 목적, 데이터, 모델, 공급업체, 유저 그룹, 관할권 또는 리스크 프로필이 변경되었는지 평가해야 합니다. 내부 생산성 어시스턴트로 시작한 사용 사례가 고객 대면 지원 도구로 바뀔 수 있고, 한 지역에서 학습된 모델이 다른 지역에서 재사용될 수 있으며, SaaS 기능에 전체 조달 절차 없이 생성형 AI가 추가될 수도 있습니다. 검토 주기는 규정 준수 기록이 오래되어 무용해지기 전에 이러한 변화를 포착하는 데 도움이 됩니다.

AI 규정 준수는 증거에 달려 있습니다. 어떤 데이터가 사용되었는지, 누가 액세스했는지, 데이터가 어떻게 이동했는지, 어떤 모델 버전이 배포되었는지, 어떤 정책이 적용되었는지, 검토 시점에 어떤 통제가 작동했는지를 입증할 수 있어야 합니다.

Snowflake Horizon Catalog는 액세스 이력, 계보, 분류, 정책 적용 같은 컨텍스트를 제공해 거버넌스, 검색, 규정 준수 워크플로우를 지원합니다. Snowflake의 ACCESS_HISTORY 뷰는 어떤 데이터에 액세스했는지, 액세스가 언제 발생했는지, 데이터가 소스 객체에서 대상 객체로 어떻게 이동했는지에 대한 기록을 제공하며, 팀이 액세스, 계보, 데이터 사용 통제에 대한 감사 증거를 생성하는 데 도움을 줄 수 있습니다.

ML 시스템의 경우 Snowflake ML의 모델 레지스트리인 Snowflake ML Model Registry는 모델 버전, 모델 지표, 모델 메타데이터를 저장하고 관리하며, 모델 수명 주기 관리를 지원하고, Snowflake ML Observability를 통해 모델 성능과 드리프트를 모니터링할 수 있습니다. 또한 모델 액세스에 대한 RBAC를 지원하므로, 팀은 모델 거버넌스를 데이터 액세스에 적용하는 것과 동일한 유형의 통제와 연결할 수 있습니다.

생성형 AI 사용 사례의 경우 Cortex Guard는 모델 출력이 애플리케이션으로 반환되기 전에 잠재적으로 안전하지 않거나 유해한 응답을 식별하고 필터링하도록 설계되었습니다. 아키텍처에 따라 팀은 이러한 보호 장치를 프롬프트, 응답, 액세스, 애플리케이션 로그와 결합해 생성형 AI 감사 추적을 지원할 수 있습니다.

Snowflake Compliance Center는 고객에게 보안 및 규정 준수 리소스에 대한 액세스를 제공하며, 여기에는 공급업체 실사와 고객 또는 규제기관 감사에 활용할 수 있는 자격 인증 및 보고서가 포함됩니다. Snowflake는 또한 AI 관리 시스템에 대해 ISO/IEC 42001 자격 인증을 획득했으며, 이는 지속적인 사후 관리 감사의 대상입니다. 이 인증은 AI 거버넌스, AI 리스크 관리, 규정 준수 관행을 자격 인증 가능한 관리 시스템 표준 아래 어떻게 체계화할 수 있는지 보여주는 구체적인 사례입니다.

이러한 기능을 종합하면 조직은 규정 준수 증거를 그 증거가 생성되는 시스템에 직접 연결할 수 있습니다. 예를 들어 계보 경로, 액세스 로그, 모델 메타데이터, 평가 지표, 정책 적용 기록, 통제 아티팩트가 이에 해당합니다. 이것이 법무 검토, 리스크 분류 또는 사람의 책임성 필요성을 없애지는 않지만, AI 통제가 실제로 작동하고 있음을 입증하는 데 필요한 수작업은 줄일 수 있습니다.

AI 규정 준수는 수명 주기 안에 내재화되어 있을 때 가장 입증하기 쉽습니다. AI 시스템은 사용 사례가 제안되는 시점에 인벤토리에 등록되고, 개발이 진행되기 전에 리스크 등급을 부여받아야 합니다. 또한 테스트와 배포 전반에서 설명서를 유지하고, 사용자, 데이터, 모델, 공급업체가 바뀌어도 증거를 보존해야 합니다.

이러한 운영 모델이 중요한 이유는 AI 시스템이 좀처럼 정적인 상태로 머물지 않기 때문입니다. 규정 준수 팀은 시스템을 의무에서 통제, 증거로 이어지는 흐름 속에서 추적할 수 있을 때에만 이러한 변화를 관리할 수 있습니다.

AI 규정 준수를 잘 수행하는 조직은 가장 탄탄한 정책 문서를 보유한 조직이 아닙니다. 진정한 역량은 현재 어떤 AI 시스템을 사용하고 있는지, 어떤 시스템이 고위험인지, 어떤 데이터와 연결되는지, 어떤 통제가 적용되는지, 마지막 검토 시점은 언제인지, 적합성을 입증하는 증거가 무엇인지와 같은 구체적인 질문에 빠르게 답할 수 있는 데서 드러납니다.