AI 윤리: 책임 있는 AI 개발을 이끄는 원칙

AI 시스템이 배포 단계에 도달하면 이미 많은 윤리적 선택이 이루어진 상태입니다. 학습 데이터가 선정되고, 목적이 정의되며, 평가 지표가 선택되고, 액세스 경로가 승인됩니다. 폴백 프로세스는 존재할 수도, 존재하지 않을 수도 있습니다.

AI 윤리는 이러한 선택이 아키텍처로 고착되기 전에 이를 검토할 수 있는 방법을 제공합니다. 시스템이 인간의 주체성을 존중하는지, 이익과 피해를 공정하게 분배하는지, 예측 가능한 피해를 최소화하는지, 개인정보를 보호하는지, 그리고 어떤 결과에 대해 사람이 이해하거나 이의를 제기할 수 있을 만큼 충분한 근거를 남기는지를 묻습니다.

AI 윤리는 AI 시스템의 설계, 개발, 배포를 이끄는 도덕적 원칙을 검토하는 학제간 융합분야입니다. 응용 윤리학, 생명윤리학, 컴퓨터과학, 법학, 인권 및 사회과학의 관점을 활용해 AI 시스템이 사람, 조직, 사회에 미치는 영향을 평가합니다.

다음과 같은 핵심 질문을 던집니다.

• AI 기반 의사결정에서 개인이 옵트아웃할 수 있어야 하는가? 

• 팀은 배포 전에 어떤 종류의 해악을 테스트해야 하는가? 

• 모델이 특정 조치를 권고하고, 실제 실행은 비즈니스 프로세스가 수행할 때, 도덕적 책임은 누구에게 있는가? 

• 정확성, 개인정보 보호, 공정성, 안전성, 투명성이 서로 다른 방향을 가리킬 때 어떤 트레이드오프가 허용될 수 있는가?

AI 윤리는 책임 있는 AI, AI 거버넌스, AI 규정 준수와 밀접하게 연관됩니다.

AI 윤리는 원칙을 정의합니다. 자율성, 선행, 무해성, 정의, 설명 가능성처럼 시스템이 준수해야 할 규범적 원칙을 확립합니다.

책임 있는 AI는 운영 모델을 정의합니다. 이러한 원칙을 영향 평가, 편향 감사, 레드팀 테스트, 문서화, 인적 검토와 같은 실무로 구체화합니다.

AI 거버넌스는 구조를 정의합니다. 책임 있는 AI 관행이 일관되게 적용되도록 소유권, 정책, 통제, 승인 및 모니터링 프로세스를 지정합니다.

AI 규정 준수는 의무 사항을 정의합니다. AI 시스템, 데이터 사용 및 운영 프로세스를 관련 법률, 규정, 표준, 내부 정책과 매핑한 후 해당 요구 사항이 충족되고 있음을 입증하는 데 필요한 증거를 생성합니다.

AI 윤리는 책임 있는 AI, 거버넌스, 규정 준수의 업스트림에 위치합니다. AI 윤리는 특정 AI 맥락에서 '좋음'이 무엇을 의미하는지 결정하기 위한 원칙적 기반을 조직에 제공하며, 이후 거버넌스와 규정 준수 운영 관행이 그 결정이 어떻게 집행되는지를 결정합니다.

Snowflake의 제품 EVP인 Christian Kleinerman과 수석 데이터 전략가인 Jennifer Belissent가 AI 윤리에 대해 이야기하는 내용을 들어보세요.

많은 AI 윤리는 현대 AI보다 훨씬 이전에 형성된 원칙, 특히 의료적 결정, 연구 관행, 기관의 의무를 평가하는 데 사용된 생명윤리 원칙에 기반을 두고 있습니다. Luciano Floridi와 Josh Cowls가 널리 인용되는 프레임워크에서는 사회 내 AI를 위한 다섯 가지 핵심 원칙으로 선행, 무해성, 자율성, 정의, 설명 가능성을 제시합니다. 앞의 네 가지는 생명윤리에서 유래한 것이며, 설명 가능성은 AI 시스템에 대한 이해와 책임 소재를 명확히 하기 위한 필요성을 반영해 추가되었습니다.

자율성

자율성은 인간의 주체성을 존중함을 의미합니다. AI 시스템에서 이는 사람들에게 실질적인 고지를 제공하거나, 옵트아웃 경로를 확보하거나, 중대한 결정에 대해 휴먼 인 더 루프 검토를 요구하거나, 자동화가 설명 없이 개인의 선택 가능성을 좁히지 못하도록 방지하는 것을 뜻할 수 있습니다.

예를 들어, 채용 모델은 과거 성과 신호를 기반으로 후보자의 순위를 매길 수 있지만, 자율성은 기술적으로 정확한 순위 산정 이상의 것을 요구합니다. 후보자를 하나의 점수로 축소해서는 안 되며, 잘못된 데이터를 수정하거나 재검토를 요청하거나 시스템이 자신의 기회에 어떤 영향을 미쳤는지 이해할 수 있는 방법이 반드시 마련되어야 합니다.

선행

선행은 AI 시스템이 이익을 창출해야 함을 의미합니다. 이러한 이익은 더 나은 액세스, 더 빠른 서비스, 더 높은 생산성, 향상된 탐지, 보다 일관된 의사 결정의 형태로 나타날 수 있습니다. 임상의가 진료 공백을 식별하도록 지원하거나, 고객 요청을 적합한 팀으로 라우팅하거나, 공공 서비스 이용을 더 수월하게 만드는 모델은 그 이익이 실질적이고 측정 가능하며 영향받는 사람들에게 고르게 배분될 때 선행의 목표에 부합할 수 있습니다.

실무에서 선행은 의도치 않은 결과도 반드시 고려해야 합니다. 팀은 해당 시스템이 대체하거나 보강하는 프로세스와 비교해 결과를 개선하는지 평가할 수 있습니다. 그러나 어떤 시스템은 전체적으로 효율성을 높이면서도 특정 소수 집단에 위험을 집중시킬 수 있으며, 바로 이 때문에 선행은 다른 원칙들과 균형을 이루어야 합니다.

무해성

무해성은 흔히 "무엇보다 해를 끼치지 말라"라는 말로 요약됩니다. AI에서 해악은 물리적, 재정적, 심리적, 평판적 또는 사회적 형태로 나타날 수 있습니다. 안전하지 않은 추천, 차별적인 점수, 노출된 데이터 세트, 고위험 워크플로우에서의 신뢰할 수 없는 모델, 또는 의도된 범위를 벗어난 지시를 확신에 차 제공하는 챗봇 등에서 해악이 발생할 수 있습니다.

무해성 원칙에 따라 팀은 배포 전에 예상 가능한 해악을 식별하고, 프로덕션 환경에서 발생하는 해악을 모니터링해야 합니다. 여기에는 모델 실패, 오용, 과의존, 보안 남용, 그리고 테스트 데이터 세트에서는 드러나지 않을 수 있는 다운스트림 영향이 포함됩니다.

정의

정의는 이익과 해악의 공정한 분배와 관련됩니다. AI 시스템은 보호 대상 속성, 프록시 변수, 불균일한 데이터 품질 또는 학습 데이터에 내재된 과거 패턴으로 인해 특정 집단에게 체계적으로 불이익을 주어서는 안 됩니다.

이 원칙은 알고리즘 편향과 직접적으로 연결됩니다. 사기 탐지 모델은 전체적으로는 우수한 성능을 보이면서도 특정 고객 세그먼트에서는 더 높은 위양성률을 발생시킬 수 있습니다. 헬스케어 모델은 과거에 충분한 치료를 받지 못한 집단에 대해 위험을 과소 예측할 수 있습니다. 정의는 시스템 전반의 정확도뿐 아니라 하위 집단별 평가를 요구합니다.

설명 가능성

설명 가능성은 사람들이 AI 시스템을 평가하고, 이의를 제기하며, 관리할 수 있을 만큼 시스템이 충분히 이해 가능해야 함을 의미합니다. 여기에는 시스템이 어떻게 결과에 도달했는지를 다루는 설명 가능성과 시스템의 작동 방식에 대해 누가 책임을 지는지를 다루는 책임성이 포함됩니다.

저위험 추천 엔진의 경우, 설명 가능성은 일반적인 공시와 해석 가능한 성능 보고 정도를 요구할 수 있습니다. 크레딧, 고용, 헬스케어, 공공 부문 관련 의사 결정의 경우, 보다 상세한 문서화, 결정에 대한 설명, 이의 제기 경로, 감사 기록이 요구될 수 있습니다.

AI 시스템이 연구 환경을 벗어나 비즈니스 프로세스, 공공 서비스, 소비자 제품으로 확산되면서 윤리 프레임워크는 더욱 구체화되었습니다. 이러한 프레임워크는 여전히 앞서 언급한 기본 원칙에 뿌리를 두고 있지만, 이를 기술, 법무, 리스크, 비즈니스 팀이 실제로 적용할 수 있는 통제 수단으로 구체화합니다.

공정성

공정성은 AI의 결과물이 사람을 차별해서는 안 됨을 의미합니다. 팀은 흔히 인구통계학적 형평성, 기회 균등, 확률 균등, 보정과 같은 지표로 공정성을 평가한 후, 시스템의 목적과 리스크 프로파일에 부합하는 지표를 선정합니다. 지표가 윤리적 판단을 대체할 수는 없지만, 모델이 오류를 불균등하게 분배하고 있는지를 드러내는 데 도움이 됩니다.

투명성

투명성은 사용자가 AI가 관여되어 있다는 사실과 시스템의 목적, 사용되는 데이터 또는 신호, 그리고 그 한계를 인지할 수 있어야 함을 의미합니다. 생성형 AI 시스템의 경우 투명성은 콘텐츠가 AI로 생성되었다는 공개, 검색 소스에 대한 문서화, 모델 카드, 평가 결과, 그리고 정확성이나 완결성에 관한 한계 등을 포함할 수 있습니다.

책임성

책임성은 시스템의 동작에 대해 개인 또는 조직이 답변할 의무가 있음을 의미합니다. 모델은 결과물을 생성할 수 있지만, 자체적으로 배포를 승인하거나 규제 리스크를 감수하거나 고객에게 인시던트를 설명하거나 유해한 패턴을 시정할지 여부를 결정할 수는 없습니다. 책임성을 확보하려면 명시된 담당자, 에스컬레이션 경로, 그리고 시스템을 중단하거나 변경할 수 있는 권한이 필요합니다.

개인정보 보호

개인정보 보호는 개인 데이터 사용을 최소화하고 민감한 속성을 보호하며 동의를 존중하고 2차 사용을 제한하는 것을 의미합니다. AI 시스템에서 개인정보 보호는 데이터 최소화, 액세스 제어, 보존 기간 제한, 익명화, 합성 데이터, 또는 특정 개인의 정보 노출 위험을 줄이는 차등 개인정보 보호 기법 등을 포함할 수 있습니다. 

안전성과 견고성

AI의 안전성과 견고성은 시스템이 예상되는 조건과 예상치 못한 조건 모두에서 안정적으로 작동함을 의미합니다. 모델은 실패 모드, 적대적 입력, 드리프트, 안전하지 않은 출력, 그리고 의도된 용도를 벗어난 동작에 대해 테스트되어야 합니다. 미국 국립표준기술연구소(NIST)는 신뢰할 수 있는 AI의 특성으로 유효성 및 신뢰성, 안전성·보안·회복탄력성, 책임성 및 투명성, 설명 가능성 및 해석 가능성, 개인정보 보호 강화, 그리고 유해 편향이 관리되는 공정성을 제시합니다.

이의 제기 가능성

이의 제기 가능성은 AI 시스템의 영향을 받는 사람들이 결정에 이의를 제기하고 구제를 요청할 수 있음을 의미합니다. 이 원칙은 AI가 고용, 신용, 주거, 헬스케어, 교육, 공공 복지 또는 기타 중대한 결과에 영향을 미칠 때 특히 중요합니다. 이의 제기가 가능한 시스템은 데이터를 정정하고, 사람의 검토를 요청하며, 어떤 근거로 결과가 도출되었는지 이해할 수 있는 경로를 제공합니다.

AI 윤리 프레임워크는 기관, 관할권, 대상 독자에 따라 다르지만 인권, 공정성, 투명성, 안전성, 책임성, 인간의 감독과 같은 유사한 개념으로 수렴되는 경우가 많습니다.

AI 윤리에 관한 UNESCO 권고

인공지능 윤리에 관한 UNESCO 권고는 2021년에 채택되었으며, UNESCO는 이를 AI 윤리에 관한 최초의 글로벌 표준으로 소개하고 있습니다. UNESCO는 이 권고가 194개 회원국에 적용되며 인권과 존엄성을 중심에 두고 투명성, 공정성, 인간의 감독을 강조한다고 밝히고 있습니다.

UNESCO 프레임워크는 AI를 기술적 거버넌스 문제로만 다루지 않고 사회·경제·인권 문제로 다루기 때문에 그 범위가 넓습니다. 정책, 교육, 문화, 노동, 환경, 젠더, 개발 등 다양한 영역을 다루므로 여러 관할권과 이해관계자 그룹에 걸쳐 AI를 검토해야 하는 조직에 유용합니다.

OECD AI 원칙

OECD AI 원칙은 혁신적이고 신뢰할 수 있으며 인권과 민주적 가치를 존중하는 AI를 지향합니다. 이 원칙은 포용적 성장, 지속 가능한 발전과 웰빙, 공정성과 개인정보 보호를 포함한 인권과 민주적 가치 존중, 투명성과 설명 가능성, 견고성·보안·안전성, 그리고 책임성을 다룹니다.

OECD 원칙은 간결하고 정책 지향적이라는 점에서 조직에 유용합니다. 이 원칙은 신뢰할 수 있는 AI를 위한 규범적 프레임워크를 확립하는 동시에 컨텍스트, 리스크, 산업에 따른 구현 방식은 유연하게 선택할 수 있도록 여지를 남겨둡니다.

신뢰할 수 있는 AI를 위한 EU 윤리 가이드라인

EU의 신뢰할 수 있는 AI 윤리 가이드라인은 합법적이고 윤리적이며 견고한 시스템을 중심으로 하는 유럽식 AI 접근 방식을 확립하는 데 기여했습니다. 이 가이드라인은 인간의 주체성과 감독, 기술적 견고성과 안전성, 개인정보 보호와 데이터 거버넌스, 투명성, 다양성과 공정성, 사회적·환경적 웰빙, 그리고 책임성 등의 요건을 제시합니다.

이 가이드라인은 이후 유럽의 규제 관련 작업에도 영향을 주었습니다. EU 인공지능법은 윤리 프레임워크가 아니라 법적 프레임워크이지만, 특정 AI 시스템을 대상으로 AI 리스크 관리, 데이터 거버넌스, 투명성, 인간의 감독, 시판 후 모니터링 등 윤리와 인접한 여러 사안을 의무로 규정하고 있습니다.

IEEE 7000 시리즈

IEEE 7000 시리즈는 엔지니어링과 시스템 설계에서 윤리를 실질적으로 구현하는 데 중점을 둡니다. 이는 엔지니어링 팀이 설계 결정이 내려진 이후 외부 검토 단계에서 윤리를 다루는 것이 아니라, 가치, 이해관계자 우려 사항, 윤리적 리스크를 시스템 요구사항에 통합할 수 있는 방법을 제공합니다.

AI 팀에 이 기준이 유용한 이유는 많은 윤리적 실패가 어떤 데이터를 수집할지, 어떤 결과를 최적화할지, 어떤 사용자를 테스트에서 제외할지, 어떤 로그를 보존할지, 영향을 받는 사람들에게 얼마나 많은 설명을 제공할지와 같은 제품 또는 아키텍처 선택에서 시작되기 때문입니다.

미국 AI 권리 장전 청사진

미국 AI 권리 장전 청사진은 자동화된 시스템에 대한 다섯 가지 보호 원칙, 즉 안전하고 효과적인 시스템, 알고리즘 차별 방지, 데이터 프라이버시, 고지 및 설명, 그리고 인간 대안·심의·대체 수단을 제시합니다.

이 청사진은 구속력 있는 연방법은 아니지만 권리 중심의 AI 원칙을 유용하게 정리한 문서입니다. 특히 자격, 기회, 액세스 또는 필수 서비스에 영향을 미치는 시스템을 구축하는 팀에 관련성이 높습니다.

기업의 AI 원칙

많은 기술 기업이 공정성, 안전성, 투명성, 책임성, 개인정보 보호, 인간에 대한 이익을 다루는 AI 원칙을 발표해 왔습니다. 가장 유용한 기업 원칙은 실제 의사결정에 반영될 수 있을 만큼 구체적입니다. 예를 들어 “AI는 공정해야 한다”는 선언보다는, 배포 전 하위 그룹 평가를 요구하는 정책, 승인된 사용 사례가 등록된 모델 레지스트리 항목, 유해 출력에 대한 문서화된 에스컬레이션 경로, 시스템을 중단할 권한을 가진 시정 담당자를 지정하는 방식이 훨씬 더 효과적입니다.

AI 윤리는 팀의 실제 업무 방식을 변화시킬 때 비로소 의미를 가집니다. 조직이 윤리 원칙을 반복 가능한 실행 체계로 전환하는 데 도움이 되는 몇 가지 실무가 있습니다.

• 윤리 검토 위원회: 영향력이 큰 AI 시스템은 시스템의 목적, 영향을 받는 이해관계자, 예측 가능한 해악, 완화 계획을 평가할 수 있는 교차 기능 그룹의 배포 전 검토를 통해 이점을 얻을 수 있습니다. 위원회는 기술, 법무, 보안, 개인정보 보호, 리스크, 비즈니스 관점을 포괄해야 하며, 시스템의 승인, 거부 또는 변경 요구에 대한 명확한 권한을 갖춰야 합니다.

• AI 영향 평가: AI 영향 평가는 시스템의 사용 목적, 영향을 받는 그룹, 데이터 소스, 이익, 해악, 완화 조치, 잔여 리스크를 문서화합니다. 이를 통해 팀은 배포 전에 이해관계자에 미치는 해악을 체계적으로 검토하고, 시스템이 변경될 때 다시 참조할 수 있는 기록을 남길 수 있습니다.

• 편향 감사: 편향 감사는 통계적 테스트와 정성적 검토를 결합합니다. 통계적 측면에서는 하위 집단 간 오류율, 오탐, 미탐, 캘리브레이션을 비교할 수 있습니다. 정성적 측면에서는 지표만으로는 파악하기 어려운 불이익이 데이터, 레이블, 비즈니스 프로세스 또는 사용자 경험에서 발생하는지 검토합니다. 추적성을 통해 팀은 출력 결과를 편향되었거나 대표성이 부족할 수 있는 학습 데이터까지 역추적할 수 있습니다.

• 레드팀 테스트: AI 레드팀 테스트는 적대적, 안전하지 않은, 또는 의도하지 않은 동작에 대해 시스템을 검증합니다. 생성형 AI의 경우 프롬프트 인젝션, 탈옥, 데이터 유출, 유해한 지시, 할루시네이션 기반 주장 등이 포함될 수 있습니다. 예측 AI의 경우 분포 변화, 조작 시도, 엣지 케이스, 오용 시나리오 등이 포함될 수 있습니다.

• 사용자 동의 및 고지: 사용자는 의사 결정, 추천 또는 상호작용에 AI가 실질적으로 관여할 때 이를 인지할 수 있어야 합니다. 동의는 사용자가 시스템의 작동 방식, 사용되는 데이터, 이용 가능한 대안을 명확히 이해할 때 가장 의미 있습니다.

• 인시던트 대응 및 시정 조치: 윤리적 실패에는 사후 분석뿐만 아니라 대응 절차도 필요합니다. 유해한 출력, 편향된 의사 결정 패턴, 개인정보 노출 또는 안전하지 않은 추천이 발생하면 분류, 담당 주체 지정, 사용자 커뮤니케이션, 시정 조치, 재발 모니터링이 이루어져야 합니다.

• 윤리 교육: 기술 팀은 원칙을 설계 선택에 연결할 수 있는 실무 중심의 윤리 교육을 필요로 합니다. 검색 파이프라인을 개발하는 개발자, 학습 레이블을 선정하는 데이터 사이언티스트, 성공 지표를 정의하는 프로덕트 매니저 모두 공정성, 개인정보 보호, 자율성, 안전성에 영향을 미칠 수 있는 의사 결정을 수행합니다.

이것이 바로 윤리 기반 설계의 핵심입니다. 윤리 검토가 배포 이후에 추가되는 것이 아니라 AI 수명 주기 전반에 내재화되는 것입니다.

AI 윤리가 어려운 이유는 이해관계자마다 동일한 원칙을 서로 다르게 평가할 수 있고, 올바른 답은 맥락에 따라 달라지는 경우가 많기 때문입니다. 견고한 AI 윤리 실무를 구현하려는 조직은 여러 가지 과제에 직면하게 됩니다. 

가치 다원주의

가치 다원주의란 사람과 문화마다 가치의 우선순위가 다르다는 것을 의미합니다. 예를 들어 개인의 개인정보 보호를 강조하는 시스템은 집단 안전에 필요한 데이터를 제한할 수 있습니다. 광범위한 액세스를 위해 설계된 시스템은 더 강력한 보호가 필요한 그룹에게 리스크를 초래할 수 있습니다. 글로벌 조직은 하나의 문화적 또는 제도적 규범이 모든 환경에 적용된다고 가정하기보다는, 이러한 트레이드오프를 명시적으로 다룰 수 있는 방식을 마련해야 합니다.

원칙 간의 충돌

윤리 원칙들은 서로 충돌할 수 있습니다. 선행은 결과 개선을 위해 더 많은 데이터를 활용하는 것을 지지할 수 있지만, 개인정보 보호는 해당 데이터를 최소화하는 것을 지향합니다. 투명성은 사용자가 시스템을 이해하도록 돕는 반면, 보안은 공개할 수 있는 구현 세부 정보의 범위를 제한할 수 있습니다. 안전성을 위해서는 사용자 자율성을 제한하는 조치가 필요할 수 있습니다. 윤리 관련 업무는 이러한 충돌을 없애기보다는 문서화하고 관리하는 활동을 포함하는 경우가 많습니다.

윤리 워싱

윤리 워싱은 조직이 원칙을 발표하면서도 이를 실제로 시행하지 않을 때 발생합니다. 팀이 검토 게이트, 담당 주체, 증거 요건, 미준수 시 결과를 함께 정의하지 않는 한, 원칙을 담은 페이지만으로는 유해한 모델이 프로덕션에 도달하는 것을 막을 수 없습니다.

생성형 AI 관련 이슈

생성형 AI는 저작권, 동의, 노동 대체, 허위 정보, 유해 콘텐츠, 그리고 개방적 액세스와 오용 방지 사이의 트레이드오프와 관련된 새로운 윤리적 갈등을 만들어 냈습니다. 창작의 자유는 지식재산권과 충돌할 수 있습니다. 개방형 모델의 가용성은 연구와 혁신을 지원하는 동시에 이중 용도로 인한 위험을 증가시킬 수 있습니다. 자동화는 생산성을 높일 수 있지만, 조직이 직원을 재교육하는 속도보다 더 빠르게 직무를 변화시킬 수 있습니다.

시행상의 공백

AI 윤리는 그 자체만으로는 강제력을 갖기 어렵습니다. 일부 국가와 지역에서는 특정 고위험 AI 시스템에 대해 EU 인공지능법이 규정하는 것처럼 윤리와 관련된 원칙을 법률로 성문화하기 시작했으며, GDPR과 같은 기존 법률도 이미 자동화된 의사 결정, 개인정보 보호, 데이터 활용에 영향을 미치고 있습니다. 그러나 많은 윤리적 의무는 여전히 조직의 거버넌스, 조달 기준, 산업별 규정, 공공 책임성에 의존하고 있습니다.

윤리 원칙이 플랫폼 통제 수단으로 연결될 때 AI 윤리는 더 실질적으로 시행될 수 있습니다. 예를 들어 생성형 AI 어시스턴트를 구축하는 팀은 어시스턴트가 어떤 테이블과 열에서 데이터를 검색할 수 있는지, 민감한 속성에 어떤 정책이 적용되는지, 어떤 모델 버전이 승인되었는지, 어떤 안전 통제 장치가 안전하지 않은 응답을 필터링하는지, 그리고 결과에 의문이 제기되었을 때 누가 계보를 검토할 수 있는지 알아야 합니다.

Snowflake의 책임 있는 AI 프로그램은 Snowflake 자체 AI 개발 전반에 걸쳐 윤리적 약속을 실질적으로 운영할 수 있도록 지원하며, 고객이 자체 AI 워크로드에 적용할 수 있는 패턴을 제공합니다. Snowflake에서는 이러한 패턴이 윤리 원칙을 거버넌스, 문서화, 런타임 통제와 연결합니다.

Cortex Guard는 언어 모델의 특정 안전하지 않거나 유해한 응답을 필터링하는 등 팀이 LLM 출력에 안전 통제를 적용할 수 있도록 설계되었습니다. Cortex AI Guardrails는 지원되는 환경에서 프롬프트 인젝션 및 탈옥 공격과 관련된 위험을 줄이는 데 도움을 주기 위해 마련되었습니다.

Snowflake Horizon Catalog는 AI 워크로드를 위한 거버넌스 컨텍스트를 제공합니다. 계보, 태그, 마스킹 정책, 민감 데이터 분류를 비롯해 팀이 데이터 자산을 관리하고 이해할 수 있도록 지원합니다. 민감 데이터 분류, 태그 기반 마스킹 정책, 감사를 위한 액세스 이력 등 AI를 위한 컨텍스트와 거버넌스를 제공합니다.

Snowflake Model Registry는 팀이 Snowflake에서 모델과 관련 메타데이터를 관리할 수 있도록 지원함으로써 투명성과 책임성을 뒷받침합니다. 모델 소유자는 버전, 아티팩트, 메타데이터를 관리할 수 있으며, Snowflake의 인터페이스에는 지표와 같은 모델 버전 메타데이터가 표시됩니다.

플랫폼이 관련 데이터를 노출하고, 액세스 정책을 적용하며, 모델 동작을 문서화하고, AI 워크로드 전반에 감사 추적을 제공할 수 있을 때 윤리 원칙을 일관되게 적용하기가 더 쉬워집니다. Snowflake의 ISO/IEC 42001 자격 인증은 새롭게 부상하는 AI 거버넌스 요건에 부합함을 외부에서 검증받았음을 보여주기도 합니다.

제품, 운영, 의사 결정 워크플로우에 AI를 도입하는 조직에게 윤리는 실행과 분리될 수 없습니다. 윤리는 어떤 시스템을 진행할지, 어떤 시스템에 인간의 감독이 필요한지, 어떤 위험을 완화해야 하는지, 그리고 고객, 규제 기관 또는 내부 검토자가 의사 결정 과정을 물었을 때 어떤 기록이 존재해야 하는지를 결정해야 합니다. 궁극적으로 AI 시스템의 신뢰성은 성능만으로 결정되는 것이 아니라, 그 이면에 있는 의사 결정의 무결성에 의해 결정될 것입니다.