Moonshot AI의 오픈 웨이트 모델인 Kimi K3를 이제 Snowflake Cortex AI에서 프라이빗 프리뷰로 사용할 수 있습니다. K3가 Cortex AI에 추가되면서 팀은 작업에 맞는 모델을 고를 수 있는 선택지가 하나 더 생겼습니다. 복잡한 작업에도 K3의 최상위급 추론 성능을 활용할 수 있으므로, 비용이 더 높은 독점 모델은 꼭 필요한 작업에만 쓸 수 있습니다.
출시 시점에 프리뷰 고객은 Snowflake Cortex AI Functions 및 Snowflake Cortex Inference를 통해 Kimi K3를 사용할 수 있으며, Snowflake CoCo, Snowflake Cortex Agents, Snowflake CoWork에서도 곧 지원될 예정입니다.
Moonshot이 발표한 평가에 따르면, K3는 실제로 작동하는 GPU 컴파일러를 처음부터 자율적으로 구축했고, 복잡한 천체물리학 연구를 2시간 만에 재현했으며, 대규모 리포지토리에서는 며칠에 걸친 코딩 세션을 지속했습니다. 이 결과로 볼 때 K3는 여러 단계를 거치고, 두 가지 이상의 입력 유형을 다루며, 컨텍스트를 계속 이어 가야 하는 작업에 맞게 설계된 모델입니다. 아래 섹션에서는 이러한 역량이 Snowflake에서 어떻게 구현되는지 살펴봅니다.
장시간 실행 작업을 위해 설계된 Kimi K3
Kimi K3는 Moonshot의 Stable LatentMoE 프레임워크를 사용해 토큰당 896개 전문가 중 16개를 활성화하는 2.8조 개 파라미터 규모의 전문가 혼합 모델입니다. Moonshot에 따르면 K3는 이전 모델인 K2 대비 확장 효율이 2.5배 향상되었습니다.
실무 관점에서 이 아키텍처는 여러 단계를 거치고 두 가지 이상의 입력 유형을 다루는 작업에 맞춰 설계되었습니다. Moonshot은 대표 사례로 리포지토리를 탐색하고, 터미널 도구를 오케스트레이션하며, 스크린샷을 활용해 결과를 개선하는 장시간 코딩 세션을 꼽습니다. 리서치 관련 사례에서는 문헌 검토, 실행 가능한 코드, 검증, 인터랙티브 시각화를 결합합니다. 팀 입장에서는 리포지토리 단위의 개발, 연구 종합, 분석 워크플로우처럼 모델이 여러 차례의 대화에 걸쳐 컨텍스트를 이어 가야 하는 작업이 여기에 해당합니다.
위 사례는 모델 자체의 역량을 설명한 것으로, 실제로 사용할 수 있는 입력, 도구, 컨텍스트 한도, 출력 처리 방식은 사용하는 Snowflake 환경과 구성에 따라 달라집니다.
출처: Moonshot AI, Kimi K3: Open Frontier Intelligence 및 Hugging Face
Snowflake에서 Kimi K3로 가능한 활용 사례
Kimi K3는 Snowflake의 모델 선택지에 오픈 웨이트 모델 옵션을 추가합니다. 프라이빗 프리뷰 기간에는 별도의 추론 환경을 배포하지 않고도 팀의 작업과 품질 요구 사항에 맞춰 Kimi K3를 평가할 수 있습니다.
곧 제공 예정인 Snowflake CoCo, Snowflake CoWork, Cortex Agents의 Kimi K3 지원을 통해 이러한 평가 범위는 코딩, 리서치, 데이터 에이전트 워크플로우로 확대됩니다.
- Snowflake CoCo로 개발 리포지토리 단위의 작업은 눈앞의 파일 하나만으로 해결되지 않습니다. 개발자는 여러 모듈에 걸쳐 호출 흐름을 추적하고, 기존 테스트를 이해하며, 변경 사항을 실제로 작동하는 결과까지 이어 가야 할 수도 있습니다. Kimi K3는 장시간 코딩에 초점을 맞춘 모델이므로, CoCo에서 이러한 리포지토리 단위 작업으로 성능을 평가해 볼 만합니다.
Kimi K3로 새 세션을 시작한 뒤, 완료 기준이 분명하고 범위가 명확한 작업을 맡겨 보세요. Moonshot은 K3가 대화 기록이 보존되는 방식에 민감한 모델이기 때문에 다른 모델로 진행 중이던 세션을 K3로 전환하지 않도록 권장합니다. - 데이터 에이전트에 리서치 접목 Snowflake CoWork와 Cortex Agents에서 K3가 지원되면 팀은 에이전트에서 사용할 수 있는 데이터와 도구를 기반으로 리서치 및 분석 워크플로우를 평가할 수 있게 됩니다. 예를 들어 Kimi K3를 사용해 고객 리서치 노트를 비교하고, 상충되는 요구 사항을 식별한 뒤, 각 권장 사항의 근거를 담은 브리프 자료를 작성할 수 있습니다.
벤치마크 결과
아래는 Moonshot AI가 공개한 평가표에서 코딩, 에이전트, 추론, 비전 벤치마크 결과를 발췌한 것입니다. 자세한 방법론, 평가 하네스 세부 정보, 각주는 Moonshot AI의 Kimi K3 모델 카드에서 확인할 수 있습니다.
| 벤치마크 | Kimi K3 결과 |
|---|---|
| DeepSWE | 67.5 |
| ProgramBench | 77.8 |
| Terminal-Bench 2.1 | 88.3 |
| FrontierSWE | 81.2 |
| BrowseComp | 91.2 |
| DeepSearchQA | 95.0 |
| ResearchRubrics | 76.2 |
| GDPval-AA v2 | 1686 |
| GPQA Diamond | 93.5 |
| AA-LCR | 74.7 |
| OmniDocBench | 91.1 |
| PerceptionBench | 58.5 |
출처: Moonshot AI
Cortex AI Functions로 리서치 요약
Cortex AI Functions는 모델 호출을 SQL로 가져옵니다. 분석가는 별도의 API 클라이언트를 작성하지 않고도 AI_COMPLETE를 사용해 리서치 노트를 비교하거나 문서 텍스트를 요약할 수 있습니다. 아래는 가상의 제품 인터뷰 데이터를 사용한 예제로, 다른 설정 없이 그대로 실행할 수 있습니다.
SELECT AI_COMPLETE(
'kimi-k3',
'Compare these fictional product research notes. Interview A: export jobs time out on large reports. Interview B: users need scheduled exports. Interview C: report definitions are hard to reuse. Group the needs, explain how they differ, and propose follow-up questions. Use only the supplied notes.'
) AS research_summary;OpenAI SDK로 Kimi K3 호출
Kimi K3는 Chat Completions 요청 형식을 지원하므로 개발자는 OpenAI SDK로 Snowflake Cortex REST API를 통해 Kimi K3를 호출할 수 있습니다. SNOWFLAKE_PAT는 Snowflake 프로그래매틱 액세스 토큰으로, SNOWFLAKE_ACCOUNT_URL은 계정의 HTTPS URL로 설정합니다.
import os
from openai import OpenAI
account_url = os.environ["SNOWFLAKE_ACCOUNT_URL"].rstrip("/")
client = OpenAI(
api_key=os.environ["SNOWFLAKE_PAT"],
base_url=f"{account_url}/api/v2/cortex/v1",
)
response = client.chat.completions.create(
model="kimi-k3",
messages=[{
"role": "user",
"content": (
"Compare these fictional product research notes. "
"Interview A: export jobs time out on large reports. "
"Interview B: users need scheduled exports. "
"Interview C: report definitions are hard to reuse. "
"Group the needs, explain how they differ, and propose "
"follow-up questions. Use only the supplied notes."
),
}],
)
print(response.choices[0].message.content)시작 전 알아둘 사항
- 대화 기록이 중요합니다. K3는 사고 기록이 보존되는 방식으로 학습되었습니다. 다른 모델로 진행 중인 세션에서 K3로 전환하거나 사고 내용을 삭제하는 하네스를 사용하면 출력 품질이 저하될 수 있습니다. K3를 평가할 때는 새 세션으로 시작하세요.
- 모델이 선제적으로 행동할 수 있습니다. K3는 사소한 문제가 있거나 의도가 모호하면 명확한 설명을 요청하지 않고 사용자 대신 직접 조치할 수 있습니다. 시스템 프롬프트에 제약 조건을 명시하고, 엄격한 경계가 필요한 배포 환경에서는 에이전트 승인 권한도 적절히 설정해야 합니다.
- Moonshot은 K3의 전반적인 사용자 경험이 “가장 강력한 독점 모델인 Claude Fable 5와 GPT 5.6 Sol에는 아직 미치지 못한다”고 밝혔습니다. 따라서 K3는 모든 워크로드를 그대로 대체하는 모델이 아니라, 평가해 볼 만한 강력한 오픈 웨이트 옵션으로 접근해야 합니다.
시작하기
어떤 모델이 가장 적합한지는 작업에 따라 달라집니다. 프라이빗 프리뷰 기간에 Kimi K3는 별도 인프라를 프로비저닝하지 않고도 Cortex AI Functions와 Cortex Inference를 통해 평가할 수 있는 고급 오픈 웨이트 모델을 팀에 제공합니다. 모델 ID kimi-k3를 사용해 이미 잘 이해하고 있는 작업을 실행하고 결과를 비교해 보세요.
과거에는 이 정도 규모의 오픈 웨이트 모델을 쓰려면 전용 인프라와 이를 실행할 팀이 필요했습니다. 이제는 모델 ID만 바꾸면 됩니다. Snowflake의 관리형 AI 플랫폼에 새로운 모델이 추가될 때마다 팀이 평가할 수 있는 범위는 넓어지며, K3는 여러 단계를 거쳐야 끝나는 작업에 맞게 설계된 모델이라는 선택지를 더합니다.
자세히 알아보기
- Cortex Agents로 에이전트 애플리케이션 구축하기: Cortex Agents를 통해 엔터프라이즈 데이터에 기반한 AI 경험을 구축하는 방법을 알아보세요.
- Snowflake CoWork 시작하기: Snowflake CoWork에 대해 자세히 알아보고 시작 가이드로 직접 사용해 보세요.
- Snowflake CoCo로 구축 시작하기: Snowflake CoCo에 대해 자세히 알아보고 CoCo Desktop 시작 가이드를 통해 직접 체험해 보세요.
Cortex REST API를 사용하면 원하는 엔드포인트나 SDK로 주요 프런티어 모델에 액세스할 수 있습니다. 모든 추론은 Snowflake 경계 안에서 실행되므로, 데이터는 거버넌스 경계 안에서 안전하게 유지됩니다. 자세한 내용은 Cortex REST API에서 확인해 보세요.
미래 전망 진술
본 페이지에는 당사의 향후 제품 제공과 관련된 미래 전망 진술이 포함되어 있으며, 이는 어떠한 제품 제공에 대한 약속이나 보장을 의미하지 않습니다. 실제 결과 및 제공 내용은 달라질 수 있으며, 알려지거나 알려지지 않은 위험과 불확실성의 영향을 받을 수 있습니다. 보다 자세한 내용은 최신 10-Q를 참조하세요.
