기업들은 모델의 동작과 결과를 완전히 제어하기 위해 자체 데이터와 컨텍스트에 맞춰 오픈 웨이트 모델을 조정하는 방식을 점점 더 많이 선택하고 있습니다.
이제 Thinking Machines Lab의 최신 오픈 웨이트 모델 Inkling 2 Small을 Snowflake Cortex Training(퍼블릭 프리뷰)에서 사용할 수 있습니다. 팀은 기존에 사용하던 거버넌스 제어를 그대로 적용하면서, 데이터가 저장된 곳에서 자체 엔터프라이즈 워크로드를 대상으로 Inkling 2 Small의 벤치마킹, 사후 학습, 평가 및 서빙을 시작할 수 있습니다.

Inkling 2 Small이란?
Inkling 2 Small은 Thinking Machines Lab의 2세대 모델입니다. 전체 매개변수 5,940억 개 중 170억 개를 활성화하는 전문가 혼합(MoE) 모델로, 이미지 입력과 가변적인 추론 수준을 지원합니다.
Inkling 2 Small은 장시간에 걸쳐 수행하는 에이전트 작업에 맞춰 설계됐습니다. Thinking Machines Lab은 여러 에이전트 하네스에서 수십만 개의 장시간 코딩 태스크를 활용해 강화학습(RL)으로 모델을 훈련했습니다. Thinking Machines Lab에 따르면, 이 모델은 지시를 더 충실히 따르고 변경 사항을 신중하게 검토하며 요청하지 않아도 자체 작업을 검증합니다. 이에 따라, 실제 에이전트 루프에서 더 쉽게 활용할 수 있습니다. 코딩 성능에서도 그 결과가 나타나며, SWE-Bench Pro v2 (Hard)에서 86.3%, DeepSWE v1.1에서 72.1%를 기록했습니다.
이 모델은 멀티모달도 지원합니다. 이미지 입력을 통해 시각적 피드백을 반영할 수 있어 인터페이스와 디자인을 반복해서 구축하고 개선하는 등의 작업이 가능합니다. 토큰당 활성화되는 매개변수가 170억 개에 불과하므로, MoE 아키텍처는 비슷한 규모의 밀집 모델보다 낮은 추론 비용으로 높은 성능을 제공합니다. 오늘 가중치가 Apache 2.0 라이선스로 공개됨에 따라 기업은 자체적으로 맞춤화한 모델의 소유권을 온전히 유지할 수 있습니다.
Snowflake에서 Inkling 2 Small 활용하기
Snowflake의 서버리스 서비스인 Cortex Training은 오픈 웨이트 LLM의 맞춤화와 배포를 간편하고 유연하며 비용 효율적으로 수행할 수 있도록 설계됐습니다. 기존 Cortex Training의 풍부한 오픈 웨이트 모델 카탈로그에는 Qwen, GLM, Nemotron, Gemma, DeepSeek 등의 모델 제품군이 포함돼 있습니다. 이제 Inkling 모델 제품군도 이 카탈로그에서 사용할 수 있습니다. 현재 Inkling 2 Small은 사후 학습과 추론을 모두 지원합니다.

자료 1: Cortex Training은 지도 파인튜닝, 강화학습, 직접 선호 최적화, 증류 등 다양한 모델과 훈련 방법을 지원합니다. 주요 사후 학습 프레임워크와 통합되며 사용자 지정 손실 함수와 아키텍처도 사용할 수 있습니다.
시작하기
오픈 웨이트 모델의 경쟁력이 최첨단 모델에 점점 가까워지면서, 기업에는 AI를 맞춤화해 정확도를 높이고 비용을 낮출 기회가 열리고 있습니다. Cortex Training을 사용하면 기업은 거버넌스가 적용된 엔터프라이즈 데이터와 컨텍스트를 바탕으로 오픈 웨이트 모델을 유연하고 비용 효율적으로 사후 학습하고 배포할 수 있습니다. Cortex Training의 최신 혁신을 자세히 알아보려면 출시 관련 블로그 게시물, GitHub 리포지토리, 웹 페이지를 확인하세요.




