저는 산업, 기업 규모, 지역을 막론하고 회사 임원들과 이런 대화를 자주 나누곤 합니다. 임원들은 수년간 데이터 인프라에 투자해 왔다고 설명합니다. 전환 프로그램은 이미 진행 중이고, 팀도 진지하게 작업을 수행하고 있습니다. 그리고 AI 구현을 시작하려면 먼저 전환을 완료해야 한다는, 합리적인 결론에 이르렀습니다.
그러면 저는 그들에게 이렇게 말합니다. ‘완료’라는 상태는 결코 오지 않습니다. 완성된 데이터 자산 환경을 기다리다 보면, 지금 바로 입증할 수 있는 가치 실현이 지연될 수 있습니다.
최근 조사 결과에 따르면 전 세계 엔터프라이즈 중 97%가 AI 이니셔티브를 적극 추진하고 있지만, 자사의 데이터가 이를 지원할 준비가 되어 있다고 답한 비율은 5%에 불과합니다. 대부분의 조직은 이 격차를 기다려야 할 이유로 받아들입니다. 하지만 앞서가는 조직은 이 격차를 출발점으로 삼습니다.
Snowflake의 새로운 eBook ‘Break the Sequence’는 엔터프라이즈 AI의 가장 큰 제동 요인을 짚어 봅니다. 바로 AI를 시작하려면 전환이 먼저 완료되어야 한다는 믿음입니다.
좋은 조언이 어떻게 잘못된 규칙이 되었나
AI를 활용하기 전에 데이터를 먼저 정비하라는 조언은 다른 시대를 전제로 만들어졌습니다. 엔터프라이즈 데이터가 독점 스토리지 형식의 온프레미스 사일로에 머물던 시절에는 여러 시스템 전반에서 분석을 실행하려면 먼저 데이터를 물리적으로 한곳에 모아야 했습니다. 그에 따라 자리 잡은 시퀀스는 기술적으로 타당했습니다. 마이그레이션하고, 중앙화하고, 거버넌스를 적용한 뒤 구축하는 방식이었습니다. 각 단계가 다음 단계를 가능하게 했고, 결국 누구도 그 방식을 의심하지 않게 되었습니다.
시간이 지나면서 조직은 이 조언을 더 엄격한 규칙으로 바꾸었습니다. 모든 레거시 플랫폼을 완전히 걷어내고 마이그레이션을 끝내기 전에는 AI를 시작하지 말라는 규칙입니다. 이는 잘못된 해석이지만, 실제로 널리 받아들여진 메시지는 바로 이 버전이었습니다.
‘완료’는 불가능한 기준
데이터 자산 환경은 결코 완벽하게 완료되지 않습니다. 새로운 애플리케이션은 계속 등장합니다. 규정은 바뀝니다. 기업은 다른 회사를 인수합니다. AI 모델은 진화합니다. 가치를 창출하기 전에 모든 것이 완벽해지기만을 계속 기다린다면, 결국 어떤 가치도 창출하지 못합니다.
경쟁이 치열한 시장에서는 아무것도 하지 않는 리스크가 가장 큰 리스크인 경우가 많습니다. AI가 운영상의 우위를 계속 키워 가는 시장에서는 기다리며 보내는 분기마다 경쟁사가 그만큼 격차를 벌립니다.
AI 앞에서 정체된 조직의 3가지 유형
AI를 시작하기 전에 전환이 완료되어야 한다는 가정이 틀렸다면, 왜 여전히 많은 대규모 조직이 이 방식을 따르고 있을까요? 대부분의 엔터프라이즈는 세 가지 유형 중 하나에 속합니다.
산전수전을 겪은 조직: 데이터 자산 환경을 전환하는 데 수년의 시간과 막대한 자본을 투입한 조직입니다. 이들은 데이터 웨어하우스, 데이터 레이크, 레이크하우스에 대한 제안을 모두 들어 봤습니다. AI 제안도 같은 약속을 다시 포장한 것처럼 들릴 수 있습니다. 이제 이들은 전환을 마무리할지, AI를 시작할지 선택하라는 요구를 받고 있지만, 두 가지는 함께 추진할 수 있습니다.
백지 상태의 조직: 아직 대규모 전환을 완료하지 못했고, 조직이 수년 뒤처져 있다는 말을 들을 수 있는 조직입니다. 하지만 이러한 진단은 중요한 장점을 놓칩니다. 동일한 기술 부채와 매몰 비용이 없다면 리더는 과거의 인프라 패턴을 재현하는 대신 오늘날의 기술 환경에 맞춰 설계할 수 있습니다.
전략은 있지만 실행 단계에서 막힌 조직: AI 전략과 리더십의 지시는 있지만, 전환 백로그가 실행을 가로막고 있는 조직입니다. 장애물은 기술적인 문제처럼 보이지만, 실제로는 AI를 시작하려면 데이터 플랫폼이 먼저 완성되어야 한다는 가정에 기반합니다.
이들 조직은 출발점은 다르지만 같은 결정을 마주합니다. 전환을 계속 AI의 선행 조건으로 볼 것인지, 아니면 AI 구현과 현대화를 병행할 것인지의 결정입니다.
두 트랙을 동시에 실행하는 방식
주방을 리모델링하고 있다고 가정해 보겠습니다. 그런데 리모델링 중에도 요리를 해야 한다면 어떻게 해야 할까요? 집 안 다른 곳에 임시 주방을 만들고, 공사가 진행되는 동안에도 그 집에서 계속 생활할 것입니다. 비즈니스도 마찬가지입니다.
병행 모델은 이 논리를 AI에 적용합니다. 작업을 동시에 실행되는 두 개의 트랙으로 나누는 방식입니다.
트랙 1은 AI 구현입니다. 90일 안에 입증할 수 있는 비즈니스 성과를 정하고, 이를 뒷받침하는 데이터를 찾아 구축을 시작합니다. 그 데이터는 완벽하지 않고, 분산되어 있으며, 원래 있던 시스템에 그대로 존재합니다. 어떤 엔진이 해당 데이터를 다루든 동일하게 적용되는 하나의 정책 계층을 사용해, 데이터가 있는 자리에서 거버넌스를 적용합니다. AI 워크로드는 오늘 바로 그 기반 위에서 실행됩니다.
트랙 2는 현대화입니다. 마이그레이션은 계속되고, 레거시 시스템은 통합되며, 파이프라인은 개선됩니다. 이 작업은 자체 일정과 자체 마일스톤에 따라 진행됩니다. 차이점은 이 작업이 더 이상 AI 구현을 가로막지 않는다는 점입니다. 마이그레이션이 완료되면 그 결과는 트랙 1에서 이미 구축한 것과 연결됩니다. 버려지는 것은 없고, 기다려야 하는 것도 없습니다.
두 트랙은 서로에게도 방향을 제시합니다. AI 워크로드가 실제 시스템 전반에서 실제로 가동되면 어떤 통합에 우선순위를 둬야 하는지, 어떤 레거시 플랫폼은 기다려도 되는지가 명확해집니다. 프로덕션 AI 사용 사례에서 나온 증거가 로드맵을 이끌고, 입증된 가치의 순서에 따라 현대화를 추진하게 됩니다.
이는 기존 투자의 가치를 확장합니다. 모든 플랫폼 결정, 모든 마이그레이션, 이미 구축된 모든 파이프라인은 계속 유효합니다. 병행 모델은 현재 보유한 것을 기반으로 일관된 거버넌스를 적용하면서도 지금 바로 성과를 제공합니다. eBook ‘Break the Sequence'에서는 이를 도약 전략이라고 부릅니다. 과거의 순차 모델이 만든 대기열은 건너뛰되, 필요한 작업 자체는 건너뛰지 않는 방식입니다.
‘충분히 준비된’ 상태란 무엇인가
시작을 위한 기준은 대부분의 조직이 생각하는 것보다 낮습니다. 다음 조건만 갖춰도 출발할 수 있습니다.
- 데이터가 어디에서 오는지 알고 있습니다.
- 누가 소유자인지 알고 있습니다.
- 해당 데이터에 대한 액세스를 관리할 수 있습니다.
- 데이터의 한계를 이해하고 있습니다.
- 비즈니스가 그 데이터를 바탕으로 의사 결정을 내릴 의지가 있습니다.
대부분의 대규모 엔터프라이즈는 전환 프로그램이 완료되기 전에도 이미 보유한 데이터로 이 기준을 충족할 수 있습니다.
농부의 성공은 수확으로 평가되며, 트랙터는 그 일을 돕는 도구입니다. AI에도 같은 원칙이 적용됩니다. 플랫폼은 인프라의 더 많은 부분을 처리하고, 도메인 전문가는 AI가 의사 결정과 성과를 개선할 수 있는 지점을 찾아냅니다.
변화의 핵심은 바로 여기에 있습니다. 이미 보유한 데이터와 전문성을 활용해 지금 가치를 입증하고, 현대화는 병행해 계속 추진하는 것입니다.
농부가 집중해야 할 것은 수확
시작 조건이 명확해지면 초점은 AI가 가치를 창출할 수 있는 지점을 아는 사람들에게로 이동합니다. 이전에는 엔터프라이즈에서 AI를 실행하려면 대규모 수평 팀이 필요했습니다. 데이터를 이동하고 변환하는 데이터 엔지니어, 모델을 구축하는 데이터 사이언티스트, 결과를 해석하는 분석가, 이들 사이를 조율하는 프로그램 관리자가 필요했습니다.
이 모델은 바뀌고 있습니다. 데이터 플랫폼이 이제 이러한 수평 팀이 수작업으로 처리하던 더 많은 업무를 담당하기 때문입니다.
제가 즐겨 사용하는 비유는 농부입니다. 농부라면 트랙터가 발명되었다고 해서 화를 내지는 않을 것입니다. 농부의 일은 밭을 가는 것이 아니라 수확을 극대화하는 것이며, 트랙터는 그 일을 돕습니다.
비즈니스에서 AI를 전략적으로 배포할 때도 같은 철학이 적용됩니다. 플랫폼은 인프라를 처리하고, 도메인 전문가는 비즈니스 성과를 내려면 AI를 어디에 적용해야 할지 찾아냅니다.
리테일에서는 가격 인하 최적화를 이해하는 바이어가 그 역할을 합니다. 제조업에서는 다운타임이 어디에서 비용을 발생시키는지 아는 운영 관리자가 그 역할을 합니다. 금융 서비스에서는 사용 사례를 이해하는 신용 분석가나 규정 준수 담당자가 그 역할을 합니다.
변화의 핵심은 바로 여기에 있습니다. 이미 보유한 데이터와 전문성을 활용해 지금 가치를 입증하고, 현대화는 병행해 계속 추진하는 것입니다.
전체 eBook을 다운로드하여 기존 운영 방식을 종식시킨 5가지 변화, 병행 모델과 실제 작동 방식, 첫 AI 성과를 이사회에 제시하기 위한 단계를 확인해 보세요.
