고객과 대화를 나누다 보면 한 가지 분명한 긴장 관계가 나타나는 것을 알 수 있습니다. 기업들은 AI에 공격적으로 투자하고 있지만, 동시에 그 경제성에 대해서도 더욱 엄격하게 따지고 있습니다. 이제 직원들의 AI 사용이나 토큰 소비량의 증가를 보여주는 것만으로는 더 이상 충분하지 않습니다. 사용량은 입력값일 뿐입니다. 중요한 질문은 그 결과를 통해 기업이 무엇을 얻느냐는 것입니다.
기업이 던져야 할 질문은 명확합니다. “더 빠르게 움직이고 있는가?” “비용을 절감하고 있는가?” “더 나은 제품과 고객 경험을 창출하고 있는가?” 궁극적으로 AI는 측정 가능한 비즈니스 가치로 이어져야 합니다.
저는 이를 인텔리전스 효율성이라고 정의합니다. 즉 기업이 컴퓨팅, 모델, 데이터, 컨텍스트를 얼마나 효과적으로 비즈니스 성과로 전환하는지를 나타내는 개념입니다. 매출 증대, 비용 절감, 실행 가속화 등이 이에 해당합니다. 이러한 효율성을 달성하려면 모델 유연성이 필요합니다. 작업에 가장 적합한 모델을 자유롭게 사용할 수 있어야 할 뿐만 아니라, 비용과 속도, 성능을 기준으로 각 작업을 적절한 모델에 연결하는 지능형 라우팅 역량도 갖춰야 합니다. 지난 수년간 업계는 개별 모델의 역량을 최적화하는 데 주력해 왔습니다. 이제 기업은 성과를 중심으로 주변 시스템 전반을 최적화해야 합니다.
이러한 변화는 새로 등장한 오픈 모델들이 AI 비용 구조를 근본적으로 바꾸면서 시작되었습니다. 특히 간단하고 명확한 작업의 경우, 주요 오픈 모델은 프런티어 모델 대비 훨씬 저렴한 비용만으로도 강력한 성능을 발휘합니다. 오픈 모델이 계속 발전하고 모델 선택지가 확대되면서, 생태계 전반에서 경쟁과 혁신이 가속화되고 비용은 낮아질 것입니다.
바로 이 지점에서 기업을 위한 거대한 기회가 열릴 것으로 봅니다. 작업당 비용이 낮아지면 AI 도입에 대한 장벽도 그만큼 낮아집니다. 이를 통해 과거에는 자동화 비용이 지나치게 높았던 워크플로우도 경제성을 확보하게 되며, 조직은 더 자유롭게 실험하고 개선하며, 궁극적으로 훨씬 광범위한 비즈니스 영역에 AI를 배포할 수 있습니다.
하지만 모델마다 비용, 품질, 지연 시간 곡선상에서 차지하는 위치가 다르며, 그 위치는 계속해서 변하고 있습니다. 현재 특정 작업에 가장 적합한 모델이 6개월 뒤에도 최선이라는 보장은 없습니다. 따라서 인텔리전스 효율성을 실현하려면 기업은 유연한 모델 포트폴리오를 채택할 필요가 있습니다.
고객과의 대화에서도 이미 이러한 변화가 나타나고 있습니다. 질문의 중심이 “어떤 모델을 표준으로 삼고 어디에 적용해야 하는가?”에서 “각 작업에 가장 적합한 모델을 어떻게 지속적으로 선택할 것인가?”로 이동하고 있습니다.
Snowflake는 Anthropic, Google, Mistral AI, OpenAI 및 SpaceXAI의 선도적인 오픈 모델과 독점 모델을 한데 모은 중립적인 엔터프라이즈 플랫폼을 구축했으며, GLM-5.3 및 DeepSeek-V4-Flash 0731 지원을 추가해 모델 선택의 폭을 더욱 넓혀갈 예정입니다.
이러한 자유와 유연성은 Snowflake가 에이전틱 엔터프라이즈를 바라보는 관점의 핵심입니다. 모델이 계속 진화함에 따라, 기업은 자사 데이터와 컨텍스트의 범위 내에서 이러한 혁신의 혜택을 온전히 누릴 수 있어야 합니다.
Snowflake는 빌더를 위한 Snowflake CoCo와 비즈니스 사용자를 위한 Snowflake CoWork를 통해 이를 실현하고자 합니다. CoCo와 CoWork는 모든 데이터에서 원활하게 작동하며, 하나의 대화형 인터페이스에서 다양한 모델, 에이전트, 워크플로우 및 시스템을 활용할 수 있도록 지원합니다. 모델은 시스템의 중요한 구성 요소이지만, 사용자가 지속적으로 관리해야 하는 대상이 되어서는 안 됩니다.
여기서 기업이 해결해야 할 다음 과제가 등장합니다. 바로 AI의 효과적인 오케스트레이션입니다. Snowflake가 오늘 Cortex AI Gateway의 동적 모델 라우팅을 선보이는 이유도 고객이 각 작업에 적합한 모델을 활용하도록 지원하기 위해서입니다. 이제 고객은 승인할 모델과 중요하게 고려할 절충 요소를 직접 정의할 수 있습니다. Cortex AI Gateway는 이러한 정책과 실제 비용 및 성능 데이터를 바탕으로 각 작업을 평가하고, 사용 사례별로 가장 적합한 모델을 선택합니다.
이뿐만 아니라, 시스템은 결과를 통해서도 학습합니다. 한 모델이 작업을 완료하면 다른 모델이 결과의 품질을 평가합니다. 이를 통해 지속적인 피드백 루프가 형성되고 향후 라우팅 결정이 개선됩니다. 모델이 발전하고 시장 환경이 변화하면 시스템도 이에 맞춰 적응하며, 품질, 비용, 지연 시간을 지속적으로 개선합니다.
초기 벤치마크 결과에 따르면 이러한 접근 방식은 단일 모델에만 의존할 때보다 동일한 품질 수준에서 더 뛰어난 경제성을 제공합니다. 이 기능은 CoCo와 CoWork에 직접 통합되어 있어, 새로운 모델이나 기능이 등장하더라도 고객은 기존 에이전트와 워크플로우에서 가격 및 성능 최적화의 이점을 누릴 수 있습니다.
오늘 발표한 내용에는 Snowflake가 창립 초기부터 일관되게 지켜 온 철학이 담겨 있습니다. 중대한 기술 전환에는 복잡성이 뒤따릅니다. Snowflake의 역할은 고객을 대신해 그 복잡성을 해소하는 것입니다. Snowflake는 데이터 인프라에서 이미 이를 실현했으며, 이제 AI에서도 같은 역할을 수행하고 있습니다. 기업은 업무에 가장 적합한 지능을 자유롭게 활용하고, 모델 선택과 라우팅, 최적화에 수반되는 복잡성은 Snowflake가 관리합니다. 이것이 Snowflake가 고객의 진정한 인텔리전스 효율성 실현을 지원하는 방식입니다.
