인공지능 완벽 가이드

대부분의 기업 조직은 인공지능 여정의 시작에 있지 않습니다. 그들은 생산 중인 모델, 진행 중인 파일럿 및 배포 속도에 따라잡고 있는 거버넌스 대화를 가지고 있습니다. 팀은 이제 올바른 AI 아키텍처, 데이터 의존성 및 평가 전략을 선택하는 방법을 결정해야 하며, AI 생애 주기 전반에 걸쳐 일관된 거버넌스, 보안 및 운영 통제를 적용해야 합니다. 이는 종종 MLOps 관행을 통해 구현됩니다.

이는 일반적인 AI 전략 이상의 것을 요구합니다. 예측 모델, 문서 분류기, RAG 애플리케이션 및 에이전틱 시스템은 다르게 구축되고, 다르게 실패하며, 데이터, 인프라 및 감독에 대해 서로 다른 요구를 합니다. 무엇을 구축할지, 무엇을 확장할지, 무엇을 거버넌스할지에 대한 결정은 이러한 차이를 고려해야 하며, 그 주위의 기업 통제를 분열시키지 않아야 합니다.

이 가이드는 이를 위한 참고 자료입니다. 주요 AI 분야, 시스템이 어떻게 훈련되고 평가되는지, 기업이 이를 효과적으로 배포하는 곳, 그리고 배포가 시간이 지나도 유지되는지를 결정하는 거버넌스, 보안 및 데이터 고려 사항을 다룹니다.

인공지능은 단일 분야가 아니라 많은 중첩된 하위 분야로 구성된 광범위한 분야입니다. 예를 들어, 기계 학습 (ML)은 AI의 하위 집합으로, 명시적인 규칙을 따르기보다는 데이터에서 통계적 패턴을 학습하는 시스템입니다. 딥 러닝은 ML의 하위 집합으로, 복잡하고 고차원적인 데이터의 표현을 학습하는 층화된 신경망입니다. 생성형 AI는 딥 러닝의 산물로, 기존 입력을 분류하는 대신 새로운 출력을 생성하는 기초 모델입니다.

각 층은 그 위의 층의 데이터 품질, 인프라 및 평가 요구 사항을 상속받습니다. 생성적 AI 배포는 모든 것을 포함하는 ML 배포이기도 합니다.

이 분야는 또한 약 인공지능(Narrow AI)와 인공 일반 지능(AGI)을 구분합니다. 약 인공지능은 현재 생산 중인 모든 AI 시스템을 설명하며, 특정 작업이나 도메인에 최적화되어 있습니다. AI에 대한 기업의 결정은 항상 약 인공지능과 관련이 있으며, 이에 적용되는 거버넌스 프레임워크, 평가 관행 및 위험 모델이 포함됩니다. AGI는 인간 수준 또는 그 이상의 임의의 도메인에서 추론하고 학습할 수 있는 시스템으로, 여전히 연구 목표로 남아 있습니다.

대부분의 AI 시스템은 동일한 기본 루프를 따릅니다. 데이터가 입력되고, 모델이 이를 학습하며, 그 모델은 새로운 데이터에 대한 예측이나 출력을 생성하는 데 사용됩니다. 각 세 가지 단계 (훈련, 추론 및 미세 조정)는 독특한 인프라 및 거버넌스 요구 사항을 가지고 있습니다.

훈련은 모델이 패턴을 인식할 수 있도록 대량의 레이블이 있는 데이터 또는 레이블이 없는 데이터에 노출되는 과정입니다. 딥 러닝 시스템의 경우, 이는 일반적으로 주어진 출력과 가장 관련성이 높은 입력의 부분을 학습하기 위해 주의 메커니즘을 사용하는 변환기 아키텍처를 포함합니다. 대부분의 생성적 AI 애플리케이션을 뒷받침하는 대형 기본 모델인 기초 모델을 훈련하는 데는 역사적으로 대규모 연구 기관과 클라우드 제공업체만 접근할 수 있었던 규모의 컴퓨팅이 필요합니다.

추론은 훈련된 모델이 사용될 때 발생하는 일입니다. 사용자가 쿼리를 제출하면 모델이 응답을 생성하고 그 응답이 거의 실시간으로 반환됩니다. 추론 지연, 비용 및 신뢰성은 규모에서 중요해지는 운영상의 문제로, 특히 고객을 대상으로 하는 애플리케이션에서 더욱 그렇습니다.

미세 조정은 사전 훈련된 모델을 특정 도메인이나 작업에 맞게 조정하는 것으로, 더 작고 목표가 명확한 데이터 세트를 사용합니다. 이는 처음부터 훈련하지 않고도 기초 모델의 기능을 원하는 조직에 일반적인 경로이지만, 미세 조정 데이터가 시간이 지남에 따라 생산 입력과 다를 경우 모델 드리프트의 위험을 초래합니다.

AI 배포의 실제 병목 현상이 모델 자체인 경우는 드뭅니다. 400명의 고위 데이터 및 기술 임원을 대상으로 한 MIT 기술 리뷰 인사이트 설문 조사에서 응답자의 45%가 통합 복잡성을, 40%가 데이터 거버넌스를 AI 이니셔티브의 가장 큰 도전 과제로 언급했습니다. 데이터 품질, 거버넌스 및 컴퓨팅 인프라는 모델 선택보다 결과를 더 일관되게 형성합니다.

Snowflake Cortex Agents 시작을 위한 비디오 튜토리얼을 시청하세요.

연구자들은 일반적으로 메모리 및 추론 능력에 따라 AI 시스템을 네 가지 범주로 분류합니다.

반응형 → 제한된 메모리 → 마음의 이론 → 자기 인식

실제로 현재 생산 중인 모든 시스템은 처음 두 가지 유형에 해당합니다.

실용적인 의미: 오늘날의 AI는 제한된 맥락 내에서 작동합니다. 작업에서 잘 수행되는 모델은 해당 작업을 위해 훈련되었고 생산에서 보는 데이터와 유사한 데이터로 평가되었기 때문에 그렇게 됩니다. 일반화하는 것처럼 보이는 시스템은 보통 매우 큰 제한된 메모리 모델이거나 넓은 훈련 범위를 가진 좁은 시스템입니다. 일반 지능이 아닙니다.

다음 분야들은 응용 AI의 주요 분과를 나타냅니다. 각 분야는 고유한 방법, 기준 및 실패 모드를 가지고 있습니다. AI 시스템을 구축하거나 평가하는 팀에게 주어진 응용 프로그램이 어떤 분야에 해당하는지를 이해하는 것은 데이터 요구 사항, 평가 기준 및 위험에 대한 올바른 질문을 하는 출발점입니다.

기계 학습은 통계 모델을 역사적 데이터에 훈련시켜 입력을 분류하고, 결과를 예측하거나 패턴을 드러냅니다. 핵심 설계 결정인 특징 공학, 하이퍼파라미터 조정, 앙상블 방법 모두 모델 복잡성, 해석 가능성 및 일반화 간의 트레이드오프를 포함합니다. 대부분의 기업 예측 분석은 ML에서 실행됩니다.

딥 러닝은 다중 계층의 인공신경망을 활용하여 이미지, 오디오, 텍스트, 시계열 신호 등 복잡한 데이터의 표현을 학습합니다. 경사 하강법과 역전파를 포함한 여러 핵심 기술은 이러한 네트워크가 명시적인 공학 없이 자동으로 특징을 학습할 수 있게 합니다. 딥 러닝은 현재 소비자 애플리케이션에서 AI로 설명되는 대부분의 기능을 지원합니다. 딥 러닝에 대해 더 알아보기 >

자연어 처리 (NLP)은 시스템이 인간 언어를 해석하고, 분류하고, 생성할 수 있게 합니다. 현대 NLP는 주로 변환기 기반 언어 모델에 기반하고 있으며, 문서 분류에서 대화형 인터페이스, 코드 생성에 이르기까지 다양한 응용 프로그램의 기초가 됩니다. 자연어 처리에 대해 더 알아보기 >

컴퓨터 비전은 시각 데이터(이미지 및 비디오)에 딥 러닝을 적용하여 객체 탐지, 이미지 분류, 결함 식별 및 얼굴 인식과 같은 작업을 수행합니다. 제조, 물류, 의료 및 보안 분야에서 널리 배포되고 있습니다. 컴퓨터 비전에 대해 더 알아보기 >

강화 학습은 에이전트가 보상 신호를 극대화하기 위해 환경에서 행동을 취하도록 훈련합니다. 이는 AlphaGo와 같은 게임 플레이 시스템의 기초이며, 로봇 공학, 자율 시스템 및 수정된 형태로 인간 피드백으로부터의 강화 학습(RLHF)을 통한 언어 모델 훈련에 점점 더 관련성이 높아지고 있습니다. 강화 학습에 대해 더 알아보기 >

생성형 AI는 종종 텍스트에 적용될 때 대형 언어 모델 (LLMs)이라고 불리는 대규모 기초 모델을 사용하여 새로운 콘텐츠: 텍스트, 코드, 이미지, 오디오 및 합성 데이터를 생성합니다. 주요 기능에는 제로샷 학습(작업별 훈련 예제 없이 작업 수행)과 사고의 연쇄 유도(문제를 단계별로 해결하도록 모델을 안내)가 포함됩니다. 많은 조직에서 도입 속도가 평가 체계를 앞지르고 있으며, 이는 기획 단계가 아니라 실운영 환경에서 먼저 불거져 나오는 거버넌스 리스크입니다. 생성형 AI에 대해 더 알아보기 >

멀티모달 AI는 텍스트, 이미지, 오디오, 비디오 등 다양한 입력을 공유 임베딩 공간에서 결합하여 단일 모델이 데이터 유형 간에 추론할 수 있도록 합니다. 이는 기초 모델 개발의 현재 최전선이며, 문서, 다이어그램 및 비구조적 미디어를 함께 처리해야 하는 응용 프로그램에 점점 더 관련성이 높아지고 있습니다.

AI 에이전트는 단순한 챗봇보다 능력이 훨씬 더 뛰어납니다. 에이전트는 여러 단계를 계획하고, 외부 도구를 사용하며, 외부 출처에서 맥락을 검색하고, 행동을 취할 수 있습니다. 예를 들어, 고객 지원 챗봇은 질문에 답할 수 있지만, 에이전트는 문의를 받고, 관련 계정 기록을 검색하고, 지식 기반을 교차 참조하며, 해결책을 초안하고, 지원 티켓을 열 수 있습니다. 대부분 자율적으로 수행됩니다.

이 능력은 또한 에이전틱 시스템이 기업 AI 스택에서 가장 높은 위험 범주가 되는 이유입니다. 오류는 단계별로 누적되므로, 배포 전에 인간의 감독이 계획되어야 합니다.

또한, AI 에이전트는 접근할 수 있는 정보의 품질에 따라 달라집니다 — 검색 품질, 맥락 관리 및 도구 신뢰성은 모델 자체만큼 중요합니다. 오래되었거나 불완전하거나 잘못 범위가 설정된 데이터에서 작동하는 에이전트는 빠른 속도로 자신감 있고 그럴듯한 오류를 생성합니다.

에이전틱 AI는 현재 기업 AI의 가장 빠르게 발전하는 분야이며, 거버넌스 프레임워크는 여전히 이를 따라잡고 있습니다. 에이전틱 시스템을 구축하는 팀은 배포 전에 범위, 에스컬레이션 경로 및 실패 모드를 정의해야 하며, 배포 후가 아닙니다. AI 에이전트 자세히 알아보기 >

기업의 AI 도입은 워크플로우, 데이터 입력, 그리고 평가 기준이 명확히 이해된 영역에 집중되는 경향이 있습니다. 아래의 예시들은 추측성 프로젝트나 초기 단계의 실험이 아니라, AI가 이미 프로덕션 환경에 적용되어 활용 중인 영역들에 초점을 맞추고 있습니다.

의사결정 지원은 분석가와 운영자의 판단을 모델이 생성한 추천으로 보강합니다. 예를 들어 위험 점수, 신용 심사, 임상 의사결정 지원, 공급망 최적화 등이 있습니다.

자동화는 문서 처리, 이메일 분류, 지원 티켓 라우팅, 데이터 입력, 코드 리뷰와 같이 처리량이 많고 규칙을 기반으로 하는 업무를 처리합니다. 핵심 가치는 참신함이 아니라, 신속한 처리량과 일관성에 있습니다.

콘텐츠 생성은 생성형 AI를 사용하여 초안, 요약, 번역, 제품 설명 및 내부 문서를 대규모로 생성합니다. 품질 관리 및 평가 인프라가 여기에서는 모델 선택보다 더 중요합니다.

개인화는 추천 엔진, 동적 가격 책정, 개별화된 마케팅 및 적응형 제품 경험을 이끌어냅니다. 이 시스템들은 종종 조직 내에서 가장 오랜 기간 운영된 ML 배포이며, 가장 많은 역사적 기술 부채를 안고 있습니다.

사기 및 이상 탐지는 딥러닝을 사용하여 기준에서 벗어나는 패턴을 식별합니다. 대표적인 예로 금융 사기, 네트워크 침입, 제조 결함, 데이터 품질 이슈 등이 있습니다.

예측은 수요 계획, 용량 관리, 재무 예측 및 위험 모델링에 시간 시계열 모델과 ML을 적용합니다.

이 프레젠테이션을 시청하여 생성적 AI와 가속화된 컴퓨팅이 모든 산업을 어떻게 변화시키고 있는지 이해하세요.

AI 거버넌스는 더 이상 미래의 배포를 준비하는 기획 단계의 과제가 아닙니다. 많은 조직이 이제 이미 프로덕션 환경에 배포된 시스템을 관리(거버넌스)하고 있습니다. 여기에는 기업 차원의 통제 체계, 소유권 구조, 모니터링 관행이 완전히 정립되기 전에 구축된 모델과 애플리케이션도 포함됩니다.

규제 환경이 이를 더욱 긴급하게 만들었습니다. EU AI 법은 위험 수준에 따라 계층화된 요구 사항을 설정합니다. 채용, 신용, 법 집행 및 중요한 인프라에 사용되는 시스템은 가장 엄격한 의무를 지닙니다. NIST AI 위험 관리 프레임워크는 모델 생애 주기 전반에 걸쳐 AI 위험을 식별, 평가 및 관리하기 위한 자발적이지만 널리 채택된 구조를 제공합니다. 두 가지 모두 거버넌스가 배포가 아닌 설계에서 시작된다고 가정합니다. 이는 그 단계를 건너뛴 조직들이 이제는 먼저 와야 했던 구조를 소급하여 구축하고 있다는 것을 의미합니다.

기업 AI 위험은 세 가지 범주로 나뉩니다.

• 데이터 위험은 훈련 데이터의 품질, 편향, 출처 및 개인 정보를 포함합니다.
• 모델 위험은 정확성, 보정, 드리프트 및 해석 가능성을 포함합니다.
• 운영 위험은 모델 출력이 결정, 사람 및 시스템에 미치는 하류 영향을 포함합니다.

이러한 위험을 관리하려면 체계적인 평가가 필요합니다. 이는 배포 전에 모델 동작을 테스트하기 위한 정의된 프로세스, 생산 중 모니터링 및 비즈니스 문제가 되기 전에 드리프트를 포착하는 것을 포함합니다.

기업의 AI 배포 과정에서도 동일한 패턴이 나타납니다. 초기 단계부터 평가 체계 구축에 투자한 팀은 실운영 환경으로 넘어가기 전에 오류 유형을 잡아내지만, 그렇지 못한 팀은 결국 사용자 불만이 접수된 후에야 문제를 역추적하게 됩니다.

AI 품질은 데이터 품질의 함수입니다. 이 관계는 이 가이드에서 다루는 모든 분야에 걸쳐 유지됩니다. 비대표적인 데이터로 훈련된 심층 학습 모델은 나쁜 데이터로 훈련된 로지스틱 회귀가 실패하는 방식과 동일하게 실패합니다. 단지 덜 명확하게 실패할 뿐입니다.

현대 AI의 데이터 요구 사항은 깨끗하고 레이블이 지정된 데이터 세트를 넘어섭니다. 여기에는 팀이 권한을 가진 데이터로만 모델을 학습시키도록 하는 거버넌스 기반의 접근 제어, 학습과 프로덕션 환경 전체에서 피처(Feature)가 동일한 의미를 유지하게 하는 명확한 비즈니스 정의, 모델의 동작을 원래의 입력값까지 추적할 수 있는 데이터 리니지(흐름) 및 출처, 그리고 추론(Inference) 시 지연이나 병목 현상 없이 모델에 데이터를 공급할 수 있는 고성능 인프라가 포함됩니다.

운영 현실은 데이터 엔지니어링 작업이 AI로 상당히 전환되었다는 것입니다. MIT 기술 리뷰 인사이트 설문조사에 따르면 데이터 엔지니어는 이제 AI 프로젝트에 37%의 시간을 할애하고 있으며, 이는 2023년의 19%에서 증가한 수치입니다. 2년 만에 거의 두 배가 되었습니다. 이러한 변화는 데이터 플랫폼 팀이 AI 준비가 완료된 데이터를 단순히 이론적으로 접근 가능한 수준을 넘어, 실제로 안정적으로 활용할 수 있도록 제공해야 한다는 압박을 가하고 있습니다.

Snowflake AI 자세히 알아보기

신뢰할 수 있는 엔터프라이즈 AI는 모델을 둘러싼 운영 체제에 달려 있습니다. 여기에는 평가 방법, 거버넌스 기반의 데이터 접근 제어, 모니터링 관행, 소유권 구조를 비롯해 잘못된 출력, 드리프트,, 성능 저하, 의도하지 않은 동작이 발생했을 때를 위한 에스컬레이션(비상 보고 및 대응) 경로가 포함됩니다. 아래의 가이드는 AI 시스템이 고립된 배치에서 신뢰할 수 있는 생산 서비스로 이동하는 데 도움이 되는 분야를 다룹니다.