AI 투자는 빠르게 늘고 있지만, 비즈니스 가치가 항상 그 속도를 따라가는 것은 아닙니다. 기업이 더 많은 에이전트와 AI 애플리케이션을 배포하는 상황에서 모든 요청에 최고 성능의 모델을 사용하면 성과는 크게 개선되지 않은 채 비용만 늘어날 수 있습니다. 중요한 것은 어떤 모델이 가장 뛰어난지가 아닙니다. 각 작업에 가장 적합한 모델이 무엇인지, 그리고 이를 대규모로 어떻게 선택할 것인지가 핵심입니다.
Snowflake는 Snowflake Cortex AI의 두 가지 새로운 기능을 통해 조직이 이러한 균형을 달성하도록 지원합니다. Cortex AI Gateway의 동적 모델 라우팅(곧 PrPr 예정)은 에이전트 연결을 통제하고, 요청을 지능적으로 전달하며, AI 사용량을 최적화하는 통합 기반을 제공합니다. 또한 Snowflake는 DeepSeek-V4-Flash(PrPr)와 GLM-5.3(출시 예정)을 포함해 오픈 모델 포트폴리오를 확대함으로써 조직이 각 워크로드에 적합한 모델을 더욱 유연성 있게 선택할 수 있도록 지원합니다.
더 나은 AI 경제성은 태스크에 맞는 모델 선택부터
AI 경제성은 작업에 필요한 수준 이상의 인텔리전스에 비용을 지불하지 않을 때 향상됩니다. Snowflake는 컴퓨팅, 모델, 데이터, 컨텍스트를 측정 가능한 비즈니스 가치로 전환하는 이러한 역량을 ‘인텔리전스 효율성’이라고 부릅니다. 모든 요청에 가장 비싼 옵션을 기본 적용하는 대신, 필요한 품질을 적정 수준의 최저 비용으로 제공할 수 있는 모델을 각 태스크에 연결하는 것입니다.
원칙은 간단합니다. 모든 작업에 가장 강력한 모델이 필요한 것은 아닙니다. 예를 들어 주간 업무 현황 요약을 생성하는 작업에는 전체 포트폴리오의 리스크를 종합적으로 분석하는 태스크와 같은 수준의 인텔리전스가 필요하지 않습니다. 문제는 수십 개의 모델이 끊임없이 발전하고 개선되는 가운데 각 태스크에 가장 적합한 모델을 판단하고, 그 매핑을 지속적으로 유지하는 데 있습니다.
Cortex AI Gateway의 동적 모델 라우팅
동적 모델 라우팅을 활용하면 Cortex AI Gateway가 에이전트 실행의 각 단계에서 작업을 안정적으로 완료할 수 있는 가장 경제적인 모델을 선택합니다. 복잡도가 낮거나 반복적인 작업은 더 효율적인 모델로 보내고, 심층적인 추론이 필요한 워크로드는 프런티어 모델로 라우팅합니다. 이를 통해 개발팀이 모델 선택 로직을 직접 구축하고 유지하지 않아도 불필요한 추론 비용을 줄일 수 있습니다. 또한 모델의 선택지와 기능, 가격이 달라져도 애플리케이션이나 에이전트를 재구축할 필요 없이 라우팅 결정을 유연하게 조정할 수 있습니다.
이 기능은 Snowflake에 이미 구축된 엔터프라이즈 거버넌스 통제 체계 내에서 작동합니다. 관리자가 승인한 모델만 선택 대상으로 고려하고, 조직의 기존 데이터 레지던시 정책도 그대로 준수합니다. 이를 통해 모든 요청은 승인된 규정 준수 범위 안에서 처리됩니다. 아울러 모든 라우팅 결정은 로그로 기록되므로 관리자와 규정 준수 팀은 어떤 요청이 어떤 모델에 의해 처리됐는지 확인할 수 있습니다.
초기 테스트에서도 유의미한 효율성 향상이 확인됐습니다. 한 내부 평가에서는 동적 모델 라우팅이 프런티어 모델만 사용하는 방식과 비슷한 품질을 제공하면서도 데이터 빌드 도구(dbt) 파이프라인 워크로드를 최대 3배 높은 토큰 효율성으로 완료했습니다. 또 다른 코딩 워크로드 테스트에서는 엔지니어링 팀이 약 25% 적은 토큰을 사용하면서도 풀 요청 처리량은 동일하게 유지했습니다.1
Snowflake가 라우팅 계층을 관리하므로 새로운 모델이 추가되거나 기존 모델의 상대적 강점이 달라져도 모델 선택 방식은 이에 맞춰 최적화됩니다. 그 결과 고객은 애플리케이션을 재설계하거나 복잡한 라우팅 로직을 직접 관리하지 않아도, 지속적으로 개선되는 라우팅의 이점을 누릴 수 있습니다.
오픈 모델 지원 확대: DeepSeek-V4-Flash 0731 및 GLM-5.3
라우터의 성능은 선택할 수 있는 모델의 수준에 달려 있습니다. 동적 모델 라우팅은 필요한 품질 기준을 충족하는 모델 중 비용이 가장 낮은 모델로 각 요청을 전달해 비용을 절감합니다. 성능과 효율성을 갖춘 모델 풀이 확대될수록 경제성도 향상됩니다. 새로운 모델이 풀에 추가될 때마다 고객은 더 낮은 비용으로 더 나은 성능을 확보할 수 있습니다. 바로 이러한 이유로 오늘날 오픈 모델 에코시스템은 불과 몇 달 전보다 훨씬 더 중요해졌습니다.
Snowflake는 Snowflake Cortex AI에서 DeepSeek-V4-Flash 0731(프라이빗 프리뷰)과 GLM-5.3(모델 가용성에 따라 변경될 수 있으며 프라이빗 프리뷰로 곧 제공 예정3)을 비롯한 선도적인 오픈 모델에 대한 고객 액세스를 확대합니다. 이 모델들은 Anthropic, Google, OpenAI, SpaceXAI, Mistral AI, Meta의 모델로 구성된 기존 포트폴리오에 추가됩니다. 이에 따라 사용자는 워크로드별로 품질과 성능, 비용의 최적 조합을 선택할 수 있는 더 폭넓은 옵션을 확보하게 됩니다.
Snowflake CoCo를 에이전트 하네스로 사용해 ADE-bench에서 평가한 결과, DeepSeek-V4-Flash는 74.4%를 기록해2 테스트 대상 중 가장 우수한 독점 모델을 앞섰습니다. 이는 단순한 오차 수준의 차이가 아닙니다. 데이터 팀에 가장 중요한 영역에서 OSS 모델이 최첨단 독점 모델을 따라잡았다는 신호입니다. 이번에 발표하는 모델은 GLM 5.3이지만, 이전에 테스트한 GLM-5.2 결과도 주목할 만합니다. ADE-bench에서 66%의 견고한 데이터 엔지니어링 정확도2를 기록했으며, 벤치마크에 포함된 모든 모델 중 토큰 사용량이 가장 적었습니다. 따라서 비용과 지연 시간이 중요한 대규모 자체 호스팅 워크로드를 운영하는 팀에 매우 적합한 모델입니다.
DeepSeek-V4-Flash 0731은 현재 CoCo에서 프라이빗 프리뷰로 제공되며, GLM-5.3도 곧 출시됩니다. GLM-5.3은 자체 호스팅이 가능하며 데이터를 고객 환경 내에 유지하도록 설계됐습니다.
Snowflake는 추론이 안전한 경계 내에서 이루어지도록 서드 파티 API를 프록시하는 대신 이러한 오픈 모델을 직접 제공합니다. Snowflake는 원시 엔터프라이즈 데이터에서 에이전틱 작업 완료까지 이어지는 전체 경로를 운영합니다. 여기에는 데이터, 추론을 실행하는 컴퓨팅, 모델 가중치, 전체 과정을 오케스트레이션하는 에이전트 하네스가 포함됩니다. 이를 통해 얻는 주요 이점은 다음과 같습니다.
추론이 거버넌스가 적용된 데이터 가까이에서 실행되므로 전송 비용과 지연 시간을 줄일 수 있습니다.
스택을 직접 제어함으로써 범용 엔드포인트가 제공하는 방식에 의존하지 않고, 엔터프라이즈 워크로드에서 실제로 발생하는 액세스 패턴에 맞춰 최적화할 수 있습니다.
데이터는 Snowflake의 거버넌스 경계 안에 유지되므로, 오픈 모델에도 기존 데이터에 적용되는 역할 기반 액세스 제어와 감사 추적이 동일하게 적용됩니다.
시간이 지날수록 높아지는 AI 경제성
동적 모델 라우팅과 지속적으로 확장되는 오픈 모델 포트폴리오를 결합하면 인텔리전스 활용 효율성을 지속적으로 높일 수 있습니다. 동적 라우팅은 일상적인 워크로드를 더 효율적인 대안으로 전달해 고비용 프런티어 모델에 대한 불필요한 의존을 줄입니다. 동시에 성능이 뛰어난 오픈 모델의 선택지가 확대되면 라우팅 계층은 각 요청에 대해 품질과 비용 효율성을 모두 갖춘 옵션을 더 많이 확보할 수 있습니다.
시스템이 실제 사용을 통해 학습할수록 경제성은 더욱 향상됩니다. 다양한 워크로드에서 모델 평가가 축적될수록 라우팅 결정은 더욱 정교해집니다. 각 작업은 품질, 지연 시간, 비용, 거버넌스 요구 사항에 따라 적절한 수준의 지능을 갖춘 모델과 연결될 수 있습니다. 새로운 모델이 추가되고 기존 모델의 성능이 향상될수록, 비즈니스에 필요한 결과를 훼손하지 않으면서 더 많은 워크로드를 효율적인 모델로 처리할 수 있습니다.
그 결과 조직은 모델 성능 향상의 이점을 지속적으로 누리는 동시에, 비즈니스 성과당 평균 비용을 단계적으로 낮추며 시간이 갈수록 효율성이 높아지는 시스템을 구축할 수 있습니다. 이를 위해 애플리케이션을 재구축하거나 모델 선택을 하드코딩하거나 복잡한 라우팅 로직을 수동으로 관리할 필요도 없습니다. 엔터프라이즈 거버넌스는 요청이 사전에 정의된 규정 준수, 성능, 비용 기준을 벗어나지 않도록 지원합니다. 이를 통해 조직은 더 강력한 통제력과 지속 가능한 경제성을 바탕으로 AI를 확장할 수 있습니다.
1 Snowflake 내부 테스트 결과를 기준으로 하며, 방법론과 테스트 조건은 요청 시 제공됩니다. 개별 결과는 워크로드와 구성에 따라 달라질 수 있습니다.
2 효율성 점수는 실제 분석 및 데이터 엔지니어링 작업에서 AI 에이전트를 평가하기 위해 dbt가 개발한 프레임워크인 ADE-bench를 활용한 내부 테스트 결과를 기준으로 합니다.
3 본 콘텐츠에는 향후 제품 제공에 대한 미래 전망 진술이 포함되어 있으며, 이는 제품 제공에 대한 약속이 아닙니다. 실제 결과 및 제공 내용은 다를 수 있으며, 알려지거나 알려지지 않은 위험 및 불확실성의 영향을 받을 수 있습니다. 자세한 내용은 최신 10-Q를 참조하십시오.
