TS Imagine, 생성형 AI 대규모 도입으로 30% 비용 절감과 4,000시간 이상의 업무 효율 확보

월요일 아침, 금융 시장의 거래가 시작됩니다. 전 세계의 전문가들이 업무를 시작하기 위해 컴퓨터에 접속합니다. 포트폴리오 매니저와 트레이딩 총괄, 최고 리스크 책임자까지 이들이 의사결정을 내리는 데 사용하는 데이터는 수백만 명의 삶과 경제적 활동에 중대한 영향을 미칠 수 있습니다. 그렇기에 데이터는 무엇보다 정확해야 합니다.

이러한 중대한 과제들은 TS Imagine이 고객을 위해 매일 책임지고 해결해 나가는 영역입니다. 통합 전자 프런트 오피스 트레이딩, 포트폴리오 관리, 위험 관리를 지원하는 최고 수준의 SaaS 플랫폼인 TS Imagine은 2,000만 개 이상의 금융 상품에 대해 즉시 활용 가능한 고품질 기본 제공 데이터를 제공합니다. 데이터 관리 팀은 이 데이터를 큐레이션하고 정규화해, 다국적 은행과 대형 헤지 펀드를 비롯한 500곳 이상의 기관 전문가들이 오늘날 빠르게 변화하는 시장에서 수익 창출에 집중할 수 있도록 지원합니다. 

1980년대에 설립된 두 기업의 합병으로 탄생한 TS Imagine은 트레이딩과 위험 관리 영역 전반에서 기술, 팀, SaaS 제품이 서로 단절된 상태로 운영되고 있었습니다. 여러 데이터 공급업체의 라이선스를 동시에 사용했고, 수작업으로 인해 오류 가능성이 커지면서 비효율이 발생했습니다. 최고 운영 및 데이터·분석 책임자 Thomas Bodenski는 생성형 AI 도구를 조직 전반에 효과적으로 도입하기 위해 데이터를 자동화하고 통합하며 프로세스를 단순화해야 한다는 점을 인식하고 있었습니다. 

지난 3년간 TS Imagine이 데이터 전략을 실행하는 과정에서 Bodenski는 사내에서 자체 개발한 솔루션을 Snowflake로 대체하며 이러한 과제를 해결했습니다. AI 데이터 클라우드와 Cortex AI를 도입하면서 글로벌 데이터 및 분석 조직은 운영을 간소화하는 동시에 생성형 AI 사용 사례를 전사적으로 확산시켜, 업무 소요 시간을 줄이고 정보 접근의 민주화를 실현하고 있습니다. 

처음에는 Snowflake 도입에 대한 내부 공감대를 형성하기가 쉽지 않았습니다. Bodenski의 일부 동료들은 하나의 플랫폼만으로 필요한 모든 요구 사항을 충족할 수 있을지에 대해 의문을 제기했습니다. Snowflake의 지원을 받아 TS Imagine은 수억 건의 가격 및 가격 상호작용 데이터를 기반으로 집계 데이터를 분석, 표준화, 공유하는 데모를 파일럿으로 진행했습니다. 이는 Snowflake 없이는 도전할 수 없었던 데이터 규모였습니다. 그 결과 TS Imagine 팀은 해당 접근 방식의 실효성을 확신하게 되었습니다. 

프라이빗 Snowflake Marketplace 리스팅을 통해 고객과의 안전한 데이터 공유가 손쉽게 이루어졌으며 데이터 규모에 대한 부담도 자연스럽게 해소되었습니다. “매주 약 10억 행씩 데이터가 증가합니다.”라고 Bodenski는 말합니다. “Snowflake를 사용하면 그런 수준의 데이터 볼륨은 더 이상 부담이 되지 않습니다. 기술적으로도 문제가 없고 충분히 처리 가능한 수준입니다.” 

하지만 진정한 전환점은 TS Imagine이 생성형 AI를 전사적으로 구현한 데 있었습니다. Bodenski와 글로벌 AI 엔지니어링 총괄 Cathy Siu는 생성형 AI를 통해 이메일과 같은 비정형 데이터를 머신러닝 시스템이 활용할 수 있는 정형 데이터로 전환할 수 있다고 판단했습니다. 특히 문맥상 관련성이 높은 최신 데이터를 검색하는 메커니즘과 대규모 언어 모델(LLM)의 강력한 생성 역량을 결합한 검색 증강 생성(RAG)은 실질적인 비즈니스 가치를 창출할 수 있는 기술적 해법이었습니다. 이에 Siu는 RAG 사용 사례를 개발했습니다. 

초기에는 GPT-4-Turbo와 Chroma DB를 사용했습니다. 높은 정밀도를 확보했지만 사용 사례를 운영 환경에 적용하기 위해서는 여전히 프롬프트 엔지니어링과 수많은 시행착오, 그리고 엔지니어링 팀의 지원이 필요했습니다. Cortex AI가 제공된 이후에는 일주일도 채 걸리지 않아 해당 사용 사례를 이전할 수 있었습니다. Snowflake 플랫폼의 직관적인 사용성을 바탕으로 그녀는 직접 AI를 구현해 대규모로 운영에 적용했으며 그 결과 비용을 30% 절감하고 워크플로우 효율성을 크게 높였습니다.

이제 데이터 분석 팀은 생성형 AI나 RAG 기반 사용 사례를 구축, 관리, 운영하는 데 필요한 모든 역량을 갖추고 동일한 예산과 인력으로 더 많은 성과를 창출하고 있습니다. 직원들은 수작업 데이터 준비나 이메일 분류 대신 전략적인 업무에 집중할 수 있습니다. Snowflake의 보안과 통제가 적용된 환경 외부로 데이터를 이동하거나 공유할 필요가 없어, TS Imagine은 고객이 요구하는 엄격한 데이터 개인정보 보호와 보호 기준을 충족하는 동시에 높은 제품 품질을 안정적으로 제공합니다.

TS Imagine에게 이메일 수집은 미션 크리티컬한 업무입니다. 매년 약 10만 통의 이메일이 수신되며, 여기에는 데이터 공급자가 전달하는 데이터 제품 변경과 관련된 핵심 알림이 포함됩니다. 이러한 정보를 제때 확보해야 TS Imagine은 제품을 테스트하고 사전에 대비할 수 있습니다. “이런 변경에 대비하지 못하면 프로덕션 가동 중단이 발생할 수 있습니다.”라고 Bodenski는 말합니다. 그러나 인사이트를 도출하기보다 데이터 관리 팀 구성원들은 이메일을 하나하나 수작업으로 확인해야 했고, 이 과정에서 인적 오류를 피하기 어려웠습니다.

첫 번째 RAG 기반 사용 사례로 TS Imagine은 Cortex AI를 활용해 이메일 수집을 자동화했습니다. 오류가 발생하기 쉬운 분류 작업에 연간 4,000시간을 투입하는 대신, AI가 중복되거나 관련 없는 이메일을 삭제하고 해당 이메일에 대해 JIRA 티켓을 생성, 할당, 우선순위 지정, 일정 관리까지 수행합니다. 2023년 12월 이 프로세스를 도입한 이후 알림 누락은 단 한 건도 발생하지 않았습니다.

TS Imagine 팀은 매월 약 5,000건의 고객 지원 요청을 처리합니다. Snowflake 도입 이전에는 전체 현황을 파악하고 추적하기가 쉽지 않았습니다. Cortex AI를 도입한 이후에는 티켓을 감정, 복잡성, 긴급성, 명확성, 고유성, 영향도 기준으로 분류해 고객 관리자와 지원 팀이 고객 이슈를 더 빠르게 식별하고 효과적으로 대응할 수 있게 됐습니다.

TS Imagine은 트레이딩 및 위험 관리 제품에 포함된 증권 약관 PDF를 직접 검토하던 방식에서 벗어나 Snowflake의 대규모 언어 모델 Arctic과 Mistral, Llama 등 다양한 LLM을 활용해 문서를 정형 데이터로 변환하고 이를 자동으로 분류, 요약, 구문 분석하고 있습니다. 

TS Imagine은 비교적 최근에 설립됐지만 30년간 축적된 문서와 프로세스, 정보를 보유한 두 회사가 합병해 출범한 기업입니다. 간단한 답을 원하는 숙련된 관리자부터 온보딩 중인 신입 직원까지 회사 데이터를 찾기 위해 여러 곳을 오가야 하는 환경은 모두에게 피로감을 주었습니다. 

정보 탐색 효율을 높이고 직원 생산성을 가속화하기 위해 Siu는 회사 지식 기반을 구성하는 수만 건의 문서, 아티클, 지원 티켓 등 다양한 항목을 Snowflake Cortex AI로 처리한 뒤 Snowflake의 Streamlit을 활용해 챗봇을 구축했습니다. 이제 직원들은 직관적인 사용자 인터페이스에서 질문하며 답변을 찾는 데 소요되던 시간을 줄이고 조직 전반의 지식 격차를 효과적으로 해소하고 있습니다.

McKinsey에 따르면 Snowflake를 통해 Bodenski와 그의 팀은 아직 약 90%의 기업이 도달하지 못한 수준의 성과를 이미 달성했습니다. 바로 생성형 AI를 대규모로 도입한 것입니다. 하지만 이는 시작에 불과합니다. Snowflake에서는 개발과 배포가 간편한 만큼, 이들의 한계는 오직 상상력뿐입니다.