Cortex Training으로 구축하는 기업 맞춤형 인텔리전스

모든 프로덕션 AI 애플리케이션은 고객 선호도, 사용 패턴, 결과 등 비즈니스에 관한 수백만 개의 가치 있는 데이터 포인트를 생성하지만, 대부분의 기업은 이를 전혀 활용하지 못합니다. 많은 기업은 비용이 높고 비즈니스에 대한 세밀한 이해가 부족한 폐쇄형 파운데이션 모델 위에 에이전트를 구축하는 방식을 기본값처럼 선택합니다. 오픈 웨이트 모델이 프런티어 모델에 견줄 만큼 경쟁력을 갖추면서, 기업은 자체 데이터와 컨텍스트를 활용해 AI를 맞춤화할 기회를 얻고 있습니다. 하지만 이를 위해서는 전통적으로 복잡하고 비용이 많이 드는 GPU 인프라를 관리하거나, 유연성과 제어력이 제한적인 관리형 API에 의존해야 했습니다.

오늘 Snowflake는 오픈 웨이트 LLM을 맞춤화하고 배포할 수 있는 서버리스 오퍼링인 Cortex Training의 퍼블릭 프리뷰를 발표합니다. Cortex Training을 사용하면 팀은 익숙한 학습 프레임워크를 활용하거나, 저수준 서버리스 API로 고급 사용자 지정 학습 루프를 구축할 수 있습니다. 이 모든 작업은 GPU 프로비저닝, 스케줄링, 체크포인팅, 분산 실행의 복잡성을 관리하지 않고도 가능합니다.

Cortex Training은 고도로 맞춤화 가능하고 최적화된 오픈소스 백엔드 위에 구축되어, 복잡한 자체 관리형 베어메탈 학습 클러스터의 유연성과 효율성을 간소화된 서버리스 경험으로 제공합니다. 벤치마크 결과, 경쟁 서버리스 오퍼링 대비 비용을 최대 61% 낮출 수 있는 것으로 나타났습니다.^[1] 따라서 모델을 맞춤화하고 배포할 때 팀은 더 이상 단순성을 위해 유연성이나 비용 효율성을 포기할 필요가 없습니다.

Cortex Training을 통해 팀은 Snowflake의 통합 데이터 플랫폼에서 학습 준비가 완료된 데이터 세트를 손쉽게 큐레이션하고 에이전트 트레이스와 로그를 캡처해, 모델 맞춤화와 개선을 위한 피드백 루프를 만들 수 있습니다.

기성 오픈 웨이트 모델은 기본적으로 범용적이지만, 사후 학습을 통해 각 기업의 도메인, 독점 데이터, 사용 사례, 예산에 맞게 고도로 최적화할 수 있습니다. SFT와 RL 같은 사후 학습 방법을 통해 LLM은 바람직한 행동이 무엇인지, 그리고 조직의 특정 컨텍스트를 활용해 더 정확하고 비용 효율적인 의사 결정을 내리는 방법을 학습합니다.

SFT는 모델에 바람직한 행동이 무엇인지 학습시킵니다. 기업은 고품질 예시를 활용해 고객 서비스 에이전트가 문제를 진단하고, 고객과 소통하며, 에스컬레이션 정책을 적용하고, 검증된 도구 호출 및 워크플로우 패턴을 따르도록 학습시킬 수 있습니다. 모든 단계를 프롬프트로 지정하는 대신, 모델은 성공적인 상호작용을 통해 기업이 기대하는 업무 수행 방식을 학습합니다.

RL은 원하는 결과를 달성하기 위해 더 나은 의사 결정을 내리는 방법을 모델에 학습시킵니다. 시범 사례에서 학습하는 SFT와 달리, RL은 문제 해결, 정책 준수, 지연 시간, 비용처럼 측정 가능한 결과에 대한 피드백을 통해 행동을 최적화합니다. 예를 들어 고객 서비스 에이전트는 어떤 상황에서 티켓팅 시스템을 실행하거나 청구 API를 호출하거나 사람에게 에스컬레이션해야 하는지 학습할 수 있습니다. 여러 상호작용 경로에서 얻은 피드백을 학습함으로써 품질, 속도, 비용의 균형을 유지하면서 불필요한 도구 호출과 단계를 피하고 태스크를 더 효과적으로 완료하는 방법을 찾아낼 수 있습니다.

Cortex Training은 맞춤화된 오픈 웨이트 모델을 구축하고 배포하기 위한 Snowflake의 서버리스 오퍼링입니다. AI 팀은 SFT, RL, 사용자 지정 학습 루프를 세밀하게 제어할 수 있고, Snowflake는 GPU 인프라를 관리하므로 개발자는 클러스터 운영이 아니라 모델 개선에 집중할 수 있습니다.

Cortex Training은 고도로 맞춤화 가능하고 최적화된 오픈소스 백엔드 위에 구축되어, 복잡한 자체 관리형 베어메탈 배포의 유연성과 효율성을 간소화된 서버리스 경험으로 제공합니다. 다양한 오픈 웨이트 모델 패밀리, 지도 파인튜닝(SFT), 강화학습(RL)을 전체 파라미터 또는 LoRA 학습으로 지원하며, SkyRL, Hugging Face TRL, veRL 같은 인기 오픈소스 프레임워크를 통한 오케스트레이션도 지원합니다.

이 플랫폼은 전체 모델 수명 주기를 지원합니다. 선도적인 오픈 웨이트 모델을 벤치마크하고, 인기 학습 프레임워크나 저수준 서버리스 학습 API로 맞춤화하며, 체크포인트를 평가 및 비교하고, OpenAI 호환 추론 엔드포인트를 통해 배포할 수 있습니다. 이를 통해 프로덕션 데이터와 피드백이 점점 더 뛰어나고 전문화된 모델을 만들어 내는 지속적인 플라이휠이 형성됩니다.

Cortex Training은 모델 수명 주기 전반으로 Snowflake 거버넌스 제어를 확장합니다. 역할 기반 액세스 제어는 학습 데이터, 모델 학습, 배포, 추론을 관리하며, 데이터, 모델 가중치, 옵티마이저 상태는 Snowflake의 관리형 환경 안에 유지됩니다.

Cortex Training은 서버리스 API를 제공하므로 팀은 GPU 인프라를 프로비저닝하고 운영하는 대신 학습 로직에 집중할 수 있습니다.

학습 루프는 학습 스크립트가 제어하고, 순전파와 역전파, 옵티마이저 단계, 가중치 동기화, 생성 같은 GPU 집약적 작업은 Cortex Training API가 처리합니다. 모델이 어떻게 학습할지는 사용자가 정의하고, GPU, 분산 실행, 모델 상태, 체크포인팅은 Snowflake가 관리합니다.

Snowflake는 프로덕션 에이전트 트레이스와 로그 캡처부터 학습 데이터 큐레이션, 비즈니스별 요구에 맞춘 오픈 웨이트 모델 맞춤화, 추론 요구에 맞춘 배포까지 이어지는 모델 개선 플라이휠을 지원합니다.

성공적인 모델 맞춤화는 고품질 학습 데이터에서 시작됩니다. Snowflake의 데이터 플랫폼을 사용하면 팀은 Cortex AI Functions, SQL, Snowpark로 정형 및 비정형 엔터프라이즈 데이터를 정리, 필터링, 보강, 레이블 지정해 학습 준비가 완료된 데이터 세트로 만들 수 있습니다. Cortex AI Gateway는 프로덕션 에이전트와 모델 학습 사이의 피드백 루프를 완성하는 데 도움이 됩니다. 팀은 에이전트 트레이스, 로그, 모델 상호작용을 캡처해 에이전트 동작을 이해하고 개선 기회를 파악할 수 있습니다. 이러한 신호를 애플리케이션 결과 및 사람의 피드백과 결합하면 SFT, 선호도 최적화, RL을 위한 고가치 학습 데이터 세트를 큐레이션할 수 있습니다. 즉, 실제 에이전트 경험을 지속적으로 개선되는 모델로 전환할 수 있습니다.

맞춤화에 투자하기 전에 먼저 워크로드를 기준으로 오픈 웨이트 모델을 테스트하세요. 애플리케이션에 중요한 기준인 품질, 지연 시간, 비용을 중심으로 후보 모델을 비교하세요. Cortex Training은 Qwen, GLM, Nemotron, Gemma, DeepSeek 같은 패밀리를 포함한 풍부한 오픈 웨이트 모델 카탈로그를 제공하며, 모델 벤치마킹을 위한 배치 및 스트리밍 추론도 지원합니다.

강력한 기반 모델을 확보했다면 태스크에 가장 적합한 학습 전략으로 모델을 조정하세요. Cortex Training은 Qwen, Nemotron, Gemma, DeepSeek 등을 포함한 최첨단 오픈 웨이트 모델을 다양한 파라미터 크기에 걸쳐 지원합니다. 팀은 SFT, RL, 직접 선호도 최적화, 증류, 지속적 사전 학습, 중간 학습에 LoRA 또는 전체 파라미터 학습을 사용할 수 있습니다.

Cortex Training은 Hugging Face TRL, PrimeRL, veRL, SkyRL 같은 인기 사후 학습 프레임워크와 통합되므로, 이미 이러한 프레임워크를 사용하는 팀도 빠르게 온보딩할 수 있습니다. 또한 OpenHands 같은 에이전트 플랫폼과 통합되어 모델과 전체 에이전트 하니스를 학습할 수 있습니다. 이러한 통합을 넘어, 서버리스 API는 엔터프라이즈 워크로드를 위한 에이전트 주도 모델 맞춤화를 지원해 학습 복잡성을 줄이고 전문 AI 역량 없이도 맞춤화를 활용할 수 있게 합니다.

더 높은 제어력이 필요한 고급 ML 팀은 저수준 API를 사용해 사용자 지정 손실 함수, 모델 아키텍처, 학습 루프를 정의할 수 있습니다. 예를 들어 Cortex Training은 롤아웃, 즉 모델 응답이나 에이전트 상호작용을 생성하고, 모델 가중치를 업데이트하며, 시스템 전반에서 해당 가중치를 동기화하는 API를 제공합니다. 이러한 기본 구성 요소는 행동을 반복적으로 생성하고, 결과를 평가하며, 그 결과를 활용해 시간이 지날수록 모델을 개선하는 RL 워크플로우를 가능하게 합니다.

이러한 유연성은 기반 인프라까지 확장됩니다. Cortex Training은 GPU에서 실행되는 코드에 대한 전체 가시성을 사용자에게 제공하는 오픈소스 백엔드 플랫폼인 Arctic Platform을 기반으로 구동됩니다. 고급 팀은 PR을 제출해 기여하고, 더 넓은 AI/ML 커뮤니티에서 등장하는 기법과 혁신을 학습 워크로드에 통합할 수 있습니다.

레시피, 통합, 스킬 전체 목록은 Cortex Training 예시에서 확인할 수 있습니다.

학습은 새 모델이 측정 가능한 수준으로 더 나아졌을 때만 가치가 있습니다. Cortex Training을 사용하면 팀은 학습된 체크포인트를 로드해 배치 추론에 사용하거나, 엔드포인트 뒤에 배포해 평가 및 애플리케이션 테스트에 활용할 수 있습니다. Snowflake ML Experiments를 사용하면 학습 실행을 추적하고, 사용자 지정 지표를 기록하며, 성능을 관찰하고, 실험 전반의 실행을 비교할 수 있습니다. 자동 로깅에 의존하는 대신 어떤 데이터가 캡처되는지 완전히 제어할 수 있습니다. 체크포인트는 서버 측에 유지되므로 팀은 학습을 재개하거나 이전 체크포인트에서 새 실험을 시작할 수 있습니다.

모델이 필요한 품질 및 비용 목표를 충족하면 팀은 해당 모델을 추론용으로 배포할 수 있습니다.

Cortex Training은 전용 GPU 기반의 OpenAI 호환 추론 엔드포인트를 지원합니다. 여기에는 인터랙티브 애플리케이션과 에이전트를 위한 스트리밍 추론과 비인터랙티브 요구를 위한 배치 추론이 포함됩니다.

이후 프로덕션 애플리케이션이 새로운 경로, 평가, 결과를 생성하면 수명 주기가 다시 시작됩니다. 벤치마크 → 학습 → 롤아웃 생성 → 평가 → 배포 및 서비스 제공 → 프로덕션에서 학습 → 재학습. 이 루프를 통해 엔터프라이즈 데이터와 애플리케이션 경험은 점점 더 뛰어나고 전문화된 모델로 발전합니다.

Cortex Training은 즉시 사용할 수 있는 최적화된 구성을 제공하며, 고급 팀은 이를 특정 워크로드에 맞게 조정하거나 개선 사항을 업스트림에 기여할 수 있습니다. 사용량은 GPU 시간 기준으로 청구되므로, 더 빠른 학습은 곧바로 비용 절감으로 이어집니다.

다른 서버리스 학습 API와 비교했을 때 Cortex Training은 LoRA 학습에서 뛰어난 비용 효율성을 제공합니다. 자체 벤치마크에서 Cortex Training은 경쟁 서버리스 학습 API 제품(Tinker 등)보다 비용이 최대 61% 낮았습니다.^[1]

• 시작을 돕기 위해 기존 Snowflake 계정 안에서 완전히 실행되는 사용하기 쉬운 Quickstart 노트북을 준비했습니다.
• 시작하기 리포지토리를 살펴보거나, 바로 사용할 수 있는 레시피 중 하나를 선택하세요.
• Cortex Training에 대해 자세히 알아보려면 설명서를 확인하거나 웹 페이지를 방문하세요.
• 도움이 필요하거나 Snowflake의 AI 전문가와 상담하려면 계정 팀에 문의하세요.

1.  비용 비교 방법론: 경쟁 서버리스 API 오퍼링의 가격은 2026년 10월 22일 해당 웹 페이지에 게시된 가격을 기준으로 합니다. 자료 5에 명시된 컨텍스트 길이로 Cortex Training에서 LoRA SFT 학습 워크로드를 실행하고, H200 GPU당 처리량을 측정했습니다. 이 처리량(toks/sec)을 사용해 (price_per_second / throughput) x 1M 공식으로 Cortex Training의 토큰 100만 개당 가격을 계산했습니다. ↩