EU 인공지능법 해설: 위험 등급, 적용 일정 및 규정 준수

대부분의 기업은 이미 단일 팀이 전반을 파악하기 어려울 만큼 많은 인공지능을 사용하고 있습니다. 고객 지원 워크플로우는 서드 파티 모델을 호출할 수 있고, 사기 탐지 시스템은 트랜잭션 위험도를 평가할 수 있으며, 채용 도구는 지원자의 순위를 매길 수 있습니다. 생산성 어시스턴트는 규제 대상 데이터가 포함된 문서를 요약할 수도 있습니다. 각 시스템에는 소유자, 공급업체 기록, 보안 검토 내역이 어딘가에 존재할 가능성이 높습니다. 하지만 이러한 기록은 여러 위치에 흩어져 있고, 담고 있는 정보의 목적도 서로 다른 경우가 많습니다.

EU 인공지능법은 AI 시스템과 관련해 다음과 같은 구체적인 질문을 던집니다. 조직은 각 시스템이 무엇을 하는지, 회사가 어떤 역할을 맡는지, 어떤 위험 등급이 적용되는지, 각 시스템에 어떤 통제가 필요한지 제시할 수 있는가?

EU 인공지능법 대응 준비는 AI 거버넌스와 증빙 추적 체계에서 시작됩니다. 이 법은 형식상 법률이지만 실제로는 운영 체계의 문제입니다. 특히 이러한 시스템이 고용, 신용, 교육, 핵심 인프라, 법 집행 또는 기타 영향도가 큰 의사결정에 영향을 미칠 때, 기업은 AI 시스템이 책임 있게 사용되고 있음을 입증할 수 있도록 해당 시스템을 데이터, 모델, 문서, 로그, 인간의 감독, 인시던트 프로세스와 연결해야 합니다.

EU 인공지능법은 세계 최초의 포괄적인 AI 법률 프레임워크입니다. 이 법은 2024년 8월 1일 발효되었으며, 단계적으로 적용됩니다. 금지 관행, AI 리터러시, 범용 AI 의무는 이미 적용되고 있습니다. 현재 일정 기준으로 대부분의 고위험 AI 의무는 2026년부터 적용될 것으로 예상되며, 일부 항목에는 2027~2028년까지 연장되는 전환 기간이 있습니다. 정책 목표는 인간 중심 AI, 즉 안전, 기본권, 투명성, 책임성에 관한 보호 장치를 갖추면서도 생산적으로 활용할 수 있는 시스템입니다. 

적용 범위는 많은 조직이 처음 예상하는 것보다 넓습니다. AI 시스템이 EU 시장에 출시되거나 그 시스템의 출력물이 EU에서 사용되는 경우, EU 외부에 있는 제공자, 도입 운영자, 수입업자, 유통업자도 이 법의 적용 대상이 될 수 있습니다. 미국 기반 기업이 AI 지원 제품을 유럽에 판매하거나, AI 시스템으로 EU 거주자를 평가하거나, EU 내 사람들에게 영향을 미치는 출력물을 생성하는 비EU 모델에 의존하는 경우에도 자사의 의무 적용 여부를 평가해야 할 수 있습니다.

이 법은 위험 기반 프레임워크를 사용합니다. 일부 AI 관행은 전면 금지되고, 일부 고위험 AI 시스템에는 상세한 의무가 적용됩니다. 반면 위험이 낮은 많은 활용 사례는 투명성 규칙이나 자발적 행동 강령을 따르는 조건에서 대체로 계속 허용됩니다. 또한 이 법은 제공자와 도입 운영자를 구분합니다. 제공자는 AI 시스템 또는 범용 AI 모델을 개발하고, 이를 자체 이름이나 상표로 시장에 출시하거나 사용 개시하는 주체입니다. 도입 운영자는 개인적이고 비전문적인 사용을 제외하고, 자체 권한 아래 AI 시스템을 사용하는 주체입니다.

대부분의 기업이 실무적으로 가장 먼저 해야 할 일은 사용 중인 AI 시스템을 파악하고, 위험에 따라 분류하며, 작동 방식을 문서화하고, 감독에 필요한 증거를 보존하는 것입니다. 아울러 고위험 시스템은 EU 시장에 출시되거나 사용이 개시되기 전에 필수 적합성 평가를 통과할 수 있도록 준비해야 합니다.

EU 인공지능법은 AI 시스템을 네 가지 주요 위험 카테고리, 즉 허용 불가 위험, 고위험, 제한적 위험, 최소 위험으로 분류합니다. 이 카테고리는 해당 시스템이 금지 대상인지, 고위험 의무의 적용을 받는지, 투명성 의무의 대상인지, 또는 의무적 통제에서 대체로 제외되는지를 결정한다는 점에서 중요합니다.

EU 인공지능법은 광범위한 다운스트림 태스크를 수행할 수 있는 파운데이션 모델을 포함하여 범용 AI(GPAI) 모델에 대한 별도의 규제 체계를 추가합니다. 범용 모델은 저위험부터 고위험까지 다양한 AI 시스템에 통합될 수 있으므로, 이 제도는 위험 등급 체계 위에 추가로 적용됩니다.

기본 GPAI 의무에는 다음이 포함됩니다.

• 기술 문서 유지

• 다운스트림 제공자에게 모델을 책임 있게 통합하는 데 필요한 정보 제공

• EU 저작권법을 준수하기 위한 정책 시행

• 모델 학습에 사용된 콘텐츠 요약 공개

시스템적 위험이 있는 GPAI 모델에는 더 강화된 의무가 적용됩니다. 이 법은 모델이 시스템적 위험을 초래할 수 있는지를 판단하는 지표 중 하나로 현재 10^25회의 부동 소수점 연산(FLOP)이라는 컴퓨팅 임계값을 사용합니다. 이러한 모델의 제공자는 모델 평가를 수행하고, 적대적 테스트를 실시 및 문서화하며, 시스템적 위험을 평가 및 완화하고, 심각한 인시던트를 추적 및 보고하며, 모델과 물리적 인프라에 대해 적절한 사이버 보안 보호 조치를 유지해야 합니다.

AI 시스템을 도입하는 기업은 GPAI 문서를 조달 및 거버넌스 요구 사항으로 취급해야 합니다. 서드 파티 모델을 라이선싱하거나 자사 AI 시스템에 통합하는 기업이 기본적으로 모델 제공자에 해당하는 것은 아니지만, 허용 가능한 사용 범위, 모델의 한계, 통합상 제약, 위험 통제 및 인시던트 보고 요건을 파악할 수 있도록 충분한 다운스트림 문서를 확보해야 합니다. 고위험 사용 사례에서는 해당 문서가 모델을 기반으로 구축된 AI 시스템의 증빙 체계 일부가 됩니다.

실제로 이는 모델 평가와 레드팀 활동이 더 이상 연구나 보안 활동에만 해당하지 않음을 의미합니다. 이는 필수적인 공급망 통제입니다. 조달, 법무, 보안, 데이터 거버넌스 및 AI 플랫폼팀은 모델 제공자가 공개할 정보, 기업이 자체적으로 검증할 항목, 배포 후 모델 관련 위험을 추적하는 방식을 명확히 파악해야 합니다.

EU 인공지능법은 단계적으로 적용됩니다. 정책 입안자들이 가능한 시행 조정을 계속 논의하고 있는 상황에서도 현재의 법정 시행 일정은 기업 계획 수립의 기준선입니다.

• 2024년 8월 1일: EU 인공지능법이 발효되었습니다.

• 2025년 2월 2일: 금지된 AI 관행과 AI 리터러시 의무가 적용되기 시작했습니다.

• 2025년 8월 2일: 거버넌스 규칙과 GPAI 모델 의무가 적용되기 시작했습니다.

• 2026년 8월 2일: 부속서 III 시스템에 대한 고위험 AI 규칙을 포함해 대부분의 의무가 적용될 예정입니다.

• 2027년 8월 2일: 부속서 I에 따른 규제 대상 제품에 내장된 고위험 AI 시스템이 전면 적용 범위에 포함될 예정입니다.

시행 일정을 둘러싼 정책 논의는 여전히 진행 중입니다. 업계 단체들은 기업이 규정을 준수하려면 더 많은 지침과 더 많은 시간이 필요하다고 주장하며 연기를 요구해 왔습니다. Snowflake의 Principal Data Strategist인 Jennifer Belissent는 “EU 인공지능법 시행 연기를 요구하는 업계의 목소리가 강했습니다”라고 언급하면서도, “AI와 데이터 거버넌스의 진정한 동인은 이미 마련되어 있습니다. 고객이 이를 요구합니다”라며 기업이 기다려서는 안 된다고 말합니다.

이는 대부분의 기업에 공통적인 계획 수립 접근 방식입니다. 일부 시행 세부 사항이 바뀌더라도 고객, 규제 기관, 이사회 및 비즈니스 파트너는 이미 AI 인벤토리, 리스크 분류, 모델 문서, 데이터 계보, 인시던트 프로세스, 영향도가 큰 AI 시스템에 거버넌스가 적용되고 있다는 증거를 요구하고 있습니다.

EU 인공지능법은 행정 과징금에 대해 위반의 중대성에 따른 등급을 사용합니다. 회원국은 제재 규칙과 집행 조치를 책임지지만, 이 법은 위반 유형에 따라 최대 과징금 수준을 정합니다.

또한 이 법은 회원국에 중소기업(SME)과 스타트업의 이익을 고려하도록 요구하며, 이러한 소규모 기업에는 더 낮은 과징금 상한이 적용됩니다. 과징금 수준은 침해의 성격, 중대성 및 지속 기간, 조직 규모, 과거 침해 이력, 당국과의 협력 정도와 같은 요인에 따라 달라질 수 있습니다.

기업 실무팀에게 제재 표는 리스크 산정의 한 부분일 뿐입니다. 거버넌스가 부실한 AI는 고객 신뢰 문제, 계약상 마찰, 개인정보 노출, 보안 우려, EU 시장에서 AI 지원 제품을 출시하는 데 따른 지연도 초래할 수 있습니다.

AI 규정 준수를 위한 효과적인 접근 방식 중 하나는 이 법의 요구 사항을 운영 산출물로 전환하는 것입니다. AI를 거버넌스해야 한다고 명시한 정책만으로는 충분하지 않습니다. 팀은 각 시스템이 어떻게 분류, 테스트, 승인 및 모니터링되었는지를 보여 주는 기록, 통제, 검토 경로를 갖춰야 합니다.

AI 인벤토리부터 시작하기

내부 구축 모델, 서드 파티 AI 서비스, SaaS 애플리케이션에 내장된 AI 기능, API를 통해 사용되는 범용 AI 모델을 포함하여 사용 중이거나 개발 중인 모든 AI 시스템을 기록합니다. 각 인벤토리 기록은 시스템 소유자, 제공자, 도입 운영자, 의도된 목적, 영향을 받는 사용자, 데이터 입력, EU 시장 노출, 모델 종속성, 통합 지점, 시스템이 EU 내 개인에게 영향을 미치는지 여부를 식별해야 합니다.

위험 등급에 따라 각 시스템 분류하기

내부 지식 검색에 사용하는 AI 챗봇에는 투명성 및 액세스 제어 관련 우려가 있을 수 있지만, 입사 지원자의 순위를 매기는 AI 시스템은 부속서 III의 고위험 영역에 해당할 수 있습니다. 분류는 일회성 작업이 아닙니다. 시스템의 목적, 데이터, 사용자 집단 또는 배포 환경이 바뀔 때마다 다시 검토해야 합니다.

고위험부터 시작하기

고위험 후보 시스템의 경우 6가지 핵심 증빙 산출물을 조기에 구축합니다.

• 리스크 관리 시스템: 알려져 있거나 합리적으로 예측 가능한 리스크, 완화 조치, 잔여 리스크 결정, 검토 주기를 문서화합니다.

• 데이터 거버넌스 절차: 데이터 소스, 데이터 품질 점검, 대표성 평가, 편향 제어, 데이터 계보, 보존 규칙, 액세스 정책을 기록합니다.

• 기술 문서: 시스템 설명, 모델 로직, 의도한 목적, 성능 특성, 제한 사항, 검증 결과, 배포 아키텍처를 유지 관리합니다.

• 이벤트 로그: 모니터링, 감사, 인시던트 조사, 출시 후 검토를 지원할 수 있는 로그를 보존합니다.

• 인간의 감독 설계: 사람이 시스템 출력을 검토, 번복, 일시 중지 또는 에스컬레이션하는 지점을 정의하고, 검토자가 조치에 필요한 정보를 확보하도록 합니다.

• 정확성 및 사이버 보안 조치: 성능 목표, 견고성 테스트, 적대적 테스트, 취약성 관리, 보안 통제를 문서화합니다.

GPAI 문서화 요구

GPAI의 경우 통합 전에 모델 제공자로부터 문서 패키지를 받아야 합니다. 조달 팀은 기술 문서, 다운스트림 통합 지침, 허용 가능한 사용 정책, 저작권 정책 정보, 필요한 경우 학습 데이터 요약, 인시던트 보고 확약을 요청해야 합니다. 이러한 자료는 감사 중 아무도 찾을 수 없는 계약 폴더에 별도로 저장하지 말고 AI 시스템 기록에 첨부해야 합니다.

EU 인공지능법 통제 항목을 기존 의무에 매핑 

많은 조직은 이미 GDPR 데이터 보호 영향 평가, DORA 운영 복원력 통제, NIS2 사이버 보안 통제, 부문별 모델 리스크 관리 절차 또는 소프트웨어 검증 요구 사항을 갖추고 있습니다. 목표는 이러한 프로세스를 새로운 AI라는 이름 아래 다시 구축하는 것이 아니라, 기존 통제가 인공지능법의 증빙 요구 사항 중 일부를 이미 충족하는 지점을 매핑한 다음 리스크 분류, GPAI 문서화, 투명성 고지, 적합성 평가, 시장 출시 후 모니터링, 인시던트 보고와 관련된 격차를 메우는 것입니다.

2026년 8월 2일 전 인시던트 보고 런북 수립 

팀은 무엇이 중대 인시던트에 해당하는지, 누가 조사하는지, 어떤 로그와 문서가 필요한지, 법무 및 규정 준수 팀에 어떻게 알릴지, 시정 조치를 어떻게 기록할지 미리 알고 있어야 합니다. 고위험 시스템이 프로덕션 환경에서 장애를 일으킨 후에야 대응하면 비공식적인 조율에 지나치게 의존하게 됩니다.

Snowflake의 두 최고 경영진인 제품 부문 EVP인 Christian Kleinerman과 Principal Data Strategist인 Jennifer Belissent가 생성형 AI와 윤리에 대해 전하는 관점을 들어보세요.

EU 인공지능법 대응 준비는 어떤 데이터와 AI 자산이 존재하는지, 어떻게 거버넌스가 적용되는지, 누가 액세스할 수 있는지, 시스템 검토 시 어떤 증거를 생성할 수 있는지 파악하는 데 달려 있습니다. Snowflake는 조직이 거버넌스가 적용된 데이터, 메타데이터, 정책, 로그가 이미 존재하는 동일한 플랫폼에 AI 거버넌스를 연결하도록 지원해 이러한 기반을 뒷받침할 수 있습니다.

Snowflake Horizon Catalog는 계보, 시맨틱 뷰, 관련 사용 컨텍스트와 같은 메타데이터를 포함해 데이터 및 AI 자산에 대한 검색과 거버넌스 컨텍스트를 제공합니다. 인공지능법 대응 준비에서 이것이 중요한 이유는 팀이 AI 시스템을 해당 시스템이 의존하는 테이블, 뷰, 피처, 모델, 정책 및 소유자와 연결할 수 있어야 AI 인벤토리가 실질적인 가치를 발휘하기 때문입니다.

Snowflake의 Compliance Center는 스캐너 기반 탐지 결과, 선제적 알림, 계정 수준 가시성을 통해 팀이 Snowflake 계정의 보안 리스크를 평가, 모니터링 및 완화하도록 지원합니다. Compliance Center의 Data Security 기능은 데이터베이스 전반에서 특정 민감 데이터 범주를 자동으로 분류하고 PII, PCI 데이터, 보호 대상 건강 정보와 같은 규제 대상 및 고위험 범주를 식별하며 해당 데이터에 마스킹 정책이 이미 적용되어 있는지 보여줍니다.

Snowflake의 액세스 제어와 정책 기능도 AI 거버넌스 증빙을 뒷받침할 수 있습니다. 역할 기반 액세스 제어(RBAC), 마스킹 정책, 행 액세스 정책, 액세스 이력은 누가 민감 데이터에 액세스했는지, 어떤 정책이 적용됐는지, 데이터가 어떻게 사용됐는지 입증하는 데 도움이 됩니다. 이러한 기록이 법률 분석이나 적합성 평가를 대체하지는 않지만, 규제 대상 AI 시스템을 둘러싼 로깅, 인간 감독, 데이터 거버넌스, 감사 증거 워크플로우를 지원할 수 있습니다.

Snowflake의 ISO/IEC 42001 인증은 신뢰를 뒷받침하는 또 하나의 요소입니다. 이 인증은 AI 관리 시스템에 대한 독립적인 서드 파티 감사를 거쳐 획득한 것으로, Snowflake의 AI 운영 방식에 대한 투명성, 책임성, 신뢰를 뒷받침합니다.

EU 인공지능법은 AI 거버넌스를 의무화합니다. 기업은 어떤 AI 시스템을 사용하는지, 각 시스템에서 어떤 역할을 하는지, 해당 시스템이 어떤 데이터와 모델에 의존하는지, 리스크가 어떻게 분류되었는지, 사람이 어디에서 개입할 수 있는지, 규제 기관, 고객 또는 내부 검토자가 증거를 요구할 때 어떤 증거가 존재하는지 알아야 합니다.

이 작업은 조직이 이미 활용하는 거버넌스 패턴, 즉 인벤토리, 액세스 제어, 데이터 계보, 문서, 모니터링, 인시던트 대응, 감사 증거를 기반으로 할 때 더 수월해집니다. 이 법은 특히 고위험 시스템과 범용 AI에 대해 AI 관련 의무를 추가하지만, 팀이 처음부터 다시 시작할 것을 요구하지는 않습니다. 가장 좋은 방법은 AI 대응 준비를 데이터, 보안, 개인정보 보호, 운영 복원력을 관리하는 데 이미 사용 중인 통제와 연결한 다음, 핵심 시스템이 집행 대상이 되기 전에 격차를 해소하는 것입니다.