기업이 에이전틱 AI 워크로드를 프로덕션으로 전환하는 데 필요한 검증된 경로 세 가지
인공지능은 지난 2년 동안 기업의 운영 방식을 변화시켰습니다. 생성형 AI 시대가 본격화되면서, 여러 기업이 AI 투자에 대해 분명한 ROI를 입증해야 하는 부담을 느끼고 있습니다.
초기에 AI에 투자한 이들은 훌륭한 성과를 거뒀습니다. Enterprise Strategy Group이 최근 실시한 설문조사에 따르면, 이들 중 92%가 생성형 AI 이니셔티브를 통해 비용을 회수했다고 응답했습니다. 하지만 많은 조직이 여전히 생성형 AI 프로젝트를 계획, 파일럿 또는 전환하는 단계에 있습니다.
Accenture에서 AWS Business Group의 Technology & Capability Lead를 맡고 있는 Chris Wegmann은 다음과 같이 말합니다. “우리 팀은 수천 개의 AI 프로젝트에서 경험을 축적해 왔습니다. 특히 생성형 AI를 확장하는 과정에서, 경영진급 리더의 28%가 조직의 적절한 확장을 방해하는 주요 요인으로 데이터 또는 기술 인프라의 제한을 꼽았습니다. 여기에는 적절하지 못한 데이터, 구식 시스템을 비롯하여 테스트를 거친 블루프린트나 거버넌스 모델의 부족이 포함됩니다. 멀티 에이전트 시스템의 채택이 가속화될 것을 고려하면, 이로 인해 기업이 AI 도입 시도에서 기업 전반에 걸친 규모 확장으로 전환할 때 새로운 과제가 나타날 수 있습니다."
그는 또한 다음과 같이 덧붙입니다. “조직이 AI 시대에 대비하려면 AI가 실제로 영향을 미칠 수 있는 비즈니스 영역을 식별하는 것부터 시작해야 합니다. AI가 자신 있게 추론하고 행동할 수 있도록 데이터와 지식 자산을 준비하는 데도 투자해야 하고요. 그리고 신뢰할 수 있는 우선 순위 워크플로우에서 파일럿을 진행한 후, 기능 전반에 걸쳐 확장하고 조율하며 규모를 조정해야 합니다. 이런 방식으로 시작하면 조직은 매번 혁신의 흐름에 맞춰 성장할 수 있는 AI 역량을 확보할 수 있습니다.”
한편, 이와 같은 강력한 기술의 힘에 대해 몇 가지 우려도 제기되고 있습니다. 조직은 AI 에이전트가 의도된 경계 내에서 작동될 수 있도록 하고, 주요 결정에 대한 인간의 통제권을 유지하며, 새로운 잠재적 위험에 대해 정기적으로 위험 평가를 수행해야 합니다. 이뿐만 아니라, 조직은 더 정교한 시스템과 그 잠재적 상호작용을 이해하고 관리해야 하며, 이와 함께 AI 에이전트가 복잡한 다단계 작업을 수행하고 직원들이 기존 소프트웨어 도구에 비해 에이전틱 AI가 가져오는 조직 변화에 적절한 교육을 통해 적응할 수 있도록 보장해야 합니다.
미주 지역에서 클라우드 제휴를 이끌고 있는 제 동료인 Maulie Dass는 최근 Harvard Business Review와의 대담에서 기업 내 AI 도입에 대한 4가지 주요 과제를 설명했습니다.
Snowflake는 고객이 AI로의 전환을 탐색하고 포괄적이며 통합된 에이전틱 솔루션을 구축할 수 있도록 지원하고자, Accenture, Amazon Web Services(AWS), Anthropic과 같은 생태계 리더와 협력합니다.
업계를 선도하는 글로벌 시스템 통합자, 클라우드 및 LLM 파트너의 심도 있는 통합 기능과 역량을 제공함과 동시에, 신뢰할 수 있는 전문 지식을 통해 사용 사례를 식별하고 작업에 적합한 도구를 구현할 수 있도록 지원함으로써, Snowflake는 고객이 복잡성을 줄이면서 유연성을 유지하는 방식으로 에이전틱 AI 이니셔티브를 구축하고 배포할 수 있도록 돕고 있습니다. Snowflake는 AI 모델과 도구를 데이터가 이미 존재하는 곳에 연결합니다. 이 모든 것은 복잡한 데이터 파이프라인 구축의 어려움이나, 측정 가능한 결과와 진척 상황을 지연시키는 데이터 세트의 이동 및 복사로 인한 보안 위험 없이 이루어집니다.
이 블로그 게시물에서는 연결된 생태계가 가지는 결합의 힘을 강조하며, 프로덕션에 바로 사용 가능한 에이전트를 구축하는 데 필요한 세 가지 전략을 제시합니다. 더 자세한 내용은 Snowflake의 eBook “대규모로 AI 에이전트 배포하기: POC 이후 단계로 넘어가는 세 가지 패턴”(영문)을 살펴보세요.
프로덕션 단계의 AI 에이전트를 위한 기반
에이전트 유형에 대해 파악하기 전에, 에이전틱 AI를 성공적으로 배포하는 데 무엇이 필요한지 이해해야 합니다. 견고한 데이터 파운데이션은 모든 AI 이니셔티브의 핵심입니다. 에이전트는 통합되고, 거버넌스가 적용되며, 신뢰할 수 있는 고품질의 정형 및 비정형 데이터에 접근할 수 있어야 합니다. 이렇게 현대적이며 AI를 즉시 사용할 수 있는 데이터 환경은 에이전트가 효과적으로 기능하는 데 필수적입니다. Snowflake에서는 항상 데이터 전략과 AI 전략은 불가분의 관계라고 말합니다.
다음으로 살펴볼 것은 데이터가 안전한 클라우드 환경에 있도록 지원하는 보안 및 거버넌스 제어입니다. 두 가지 모두 타협할 수 없는 부분이죠. Snowflake는 Anthropic 및 AWS와 같은 파트너와 협력하며, 데이터가 있는 곳에서 실행되는 선도적인 LLM을 제공합니다. Snowflake는 Amazon Bedrock Agentcore, Amazon SageMaker Studio 및 Canvas, Amazon Q for Business와 같은 AWS 서비스와의 네이티브 통합 및 구현 패턴 구축에 많은 투자를 해 왔으며, 이를 통해 고객은 보안이나 사용 편의성에 대한 영향 없이 Snowflake와 AWS가 제공하는 혜택을 손쉽게 누릴 수 있습니다. 마지막으로, Snowflake와 AWS는 에이전틱 상호운용성을 확보하고자 모델 컨텍스트 프로토콜(MCP) 및 A2A(Agent-2-Agent)와 같은 개방형 표준에 서로 많은 노력을 기울였습니다. 이에 따라 조직은 다른 공급자의 에이전트와 도구 간의 협업에 대한 방해 없이 에이전트와 도구를 특정 사용 사례에 맞게 조정할 수 있습니다.
모든 것을 이루는 기초는 유연하고 신뢰할 수 있으며 확장 가능한 클라우드 기반 인프라입니다. 이 인프라는 오늘날 높은 성능의 컴퓨팅과 함께, 앞으로의 비즈니스 요구에 즉각적으로 대응할 수 있는 범용적인 기반을 제공합니다.
오늘날 기업이 에이전틱 AI를 배포하는 데 필요한 검증된 경로 세 가지
프로덕션에 에이전트를 배포한 기업들에서 한 가지 패턴을 확인할 수 있었습니다. 해당 기업들의 에이전트는 세 가지로 분류할 수 있는데, 상대적으로 배포 및 관리가 쉬운 패턴부터 더 많은 구성이 필요한 패턴까지 복잡도 순에 따라 살펴보도록 하겠습니다.
데이터 에이전트: 데이터 에이전트는 정형 및 비정형 데이터 모두에서 매우 정확한 데이터 기반 인사이트에 집중합니다. AWS 서비스는 Snowflake Intelligence를 보완하며, Snowflake Cortex Agents(Analyst 및 Search)와 같은 도구를 호출하여 데이터가 Snowflake 또는 S3에 있든지 간에 포괄적인 데이터 액세스와 처리를 가능하게 합니다. 이와 같은 통합은 클라우드 경계 전반에서 안전하고 통합된 데이터 인사이트를 도출하는 핵심입니다.
대화형 에이전트: 대화형 에이전트는 널리 알려진 비즈니스 워크플로우에 직접 내장된 대화형 인터페이스를 강조합니다. Amazon Q는 Snowflake Cortex Agents와 원활하게 통합되어 기업이 이메일, 채팅 도구 또는 콘텐츠 리포지토리와 같은 친숙한 도구 내에서 지능형 챗봇을 배포할 수 있도록 지원합니다. 이 파트너십을 통해 사용자가 이미 작업하는 곳에 AI 어시스턴트를 제공할 수 있습니다.
멀티 에이전트 시스템: 멀티 에이전트 시스템은 복잡한 다단계 작업을 위해 여러 특화된 에이전트를 조정합니다. Strands Agents는 SDK로 이 워크플로우를 구축하고, A2A 프로토콜은 해당 워크플로우 내의 에이전트가 간편하고 안전하게 통신할 수 있도록 지원합니다. Amazon Bedrock Agents는 조정자로서 LLM을 활용하여 다단계 워크플로우에 대해 지능형 지시를 내립니다. 이러한 통합으로 고객은 Snowflake와 AWS의 전문 에이전트를 결합 및 조합하여 비할 데 없는 유연성과 강력한 성능을 얻을 수 있습니다.
프로덕션에 즉시 사용할 수 있는 AI 에이전트 도입 여정의 시작
Agentic AI는 기업이 실험을 넘어 AI의 가치를 활성화할 수 있는 강력한 경로를 제공합니다. Snowflake, AWS, Anthropic의 프로덕트 팀은 복잡성 없이 AI 에이전트를 통해 의미 있는 비즈니스 성과를 이끌어내기 위해 필요한 도구와 서비스를 사용할 수 있도록 턴키 통합을 구축하는 데 힘쓰고 있습니다.
하지만 그렇다고 해서 여정이 순탄할 것이라는 의미는 아닙니다. 적절한 기술을 찾는 것은 퍼즐의 한 조각일 뿐입니다. 고객은 Accenture와 같은 파트너와 협력함으로써 여러 공급자로부터 깊이 있는 전문 지식을 확보하여 주요 문제를 해결하고 혁신적인 결과를 이끌어내는 데 적절한 기술을 활용할 수 있습니다.
Wegmann은 다음과 같이 말합니다. “우리 연구에 따르면 AI는 미국의 모든 산업에서 근무 시간의 44%에 잠재적인 영향을 미칠 수 있습니다. 경영진급 리더의 92%는 조직 내 구성원이 AI를 효율적으로 사용할 수 있도록 교육받았다고 믿고 있으나, 실제로는 직원의 72%만이 이에 동의하며 교육 지원을 위한 리소스 부족과 함께 AI를 일상 업무에 통합하는 데 어려움이 있다고 말합니다. 또한 55%의 직원이 보다 포괄적인 교육이 필요하다고 느끼고 있으며, 45%는 책임 있는 사용에 대한 명확한 지침이 마련되면 생성형 AI 도구를 사용하는 데 도움이 될 것이라고 보고 있습니다.”
여기서 요점은 무엇일까요? 모두 비슷한 문제를 겪고 있다는 겁니다. 거대한 변화가 나타나는 이 시대를 헤쳐 나가려면 자체 생태계를 잘 활용해야 합니다.
Snowflake의 eBook “대규모로 AI 에이전트 배포하기: POC 이후 단계로 넘어가는 세 가지 패턴”(영문)을 지금 바로 다운로드하세요. 이 eBook을 통해 조직이 AI 개념 증명(POC)에서 프로덕션으로 전환하는 데 도움이 되는 기술 블루프린트, 구체적인 도구 통합, 고객 성공 사례 및 실용적인 고려 사항을 살펴볼 수 있습니다.
