명확한 기준과 전략이 요구되는 에이전틱 관리

90년대 히트작 중 하나인 '제리 맥과이어'라는 영화에 대해 말했을 때, 많은 사람이 가장 먼저 떠올리는 상징적인 장면이 있습니다. 스포츠 에이전트인 제리가 그의 클라이언트에게 묻죠. “로드, 내가 널 위해 뭘 해줄 수 있을까?” 그러자 로드는 딱 한 가지가 있다고 말합니다. 음악이 울려 퍼지는 가운데, 그는 "내가 원하는 건 돈이야, 제리! 그 말을 듣고 싶어”라고 외칩니다. 제리가 “돈을 많이 줄게!”라고 외치자, 로드는 “아니, 제대로 말해. '돈방석에 앉게 해 줄게.'라고!” 

여기서 교훈을 파악할 수 있습니다. 인센티브가 일치하면 모두가 승자가 된다는 사실입니다. 할리우드처럼 항상 쉽게 이룰 순 없겠지만, 불가능한 일도 아닙니다.

모두를 위한 에이전트 시대 

에이전틱 AI의 출현으로, 운동선수와 배우뿐만 아니라 모두가 자신의 에이전트를 가질 수 있게 됐다고 말해도 과언이 아닙니다. AI 어시스턴트는 이미 우리 삶 속에 깊숙이 들어와 있습니다. 소프트웨어 개발자들은 구현하고자 하는 아이디어나 콘셉트를 어시스턴트에게 설명하여 코드를 작성합니다. 이른바 바이브 코딩(vibe coding)이라는 이 신조어는 올해 3월 메리엄-웹스터 사전에 등재될 정도로 매우 빠르게 확산되었습니다. 이러한 추세는 이제 마케터에게는 바이브 마케팅으로, 비즈니스 분석가에게는 바이브 분석으로 퍼져 나갔으며, 일상 업무를 효율화하기 위해 AI를 사용하는 다른 모든 이들에게도 영향을 미쳤습니다. 

시간이 지남에 따라, 이러한 AI 어시스턴트는 점점 더 에이전트화되어 소프트웨어나 캠페인을 생성할 뿐만 아니라 실행할 수 있게 될 것이며, AI 에이전트는 설계된 작업을 할당받아, 자율적으로 기능하며 복잡한 워크플로우에서 협력하여 작업할 수 있는 능력을 갖출 것입니다. 최근 연구에 따르면, 현재 10%의 대기업이 AI 에이전트를 어떤 형태로든 사용하고 있으며, 절반 이상이 내년에 이를 사용할 계획이고, 82%는 향후 3년 이내에 사용할 계획이라고 합니다. 경영진은 이러한 변화가 워크플로우 자동화를 71%, 고객 서비스를 64% 향상시킬 것으로 기대하고 있습니다. 기대감이 매우 높다고 할 수 있습니다.

에이전트의 성과 달성 가능성 

AI 어시스턴트는 이미 그 효과를 입증했습니다. Snowflake의 2025년 연구에 따르면, 생성형 AI 초기 사용자들이 다음과 같은 성과를 얻었다고 나타났습니다. 초기 사용자의 92%가 생성형 AI 프로젝트에서 이미 ROI를 달성했다고 답했습니다. 바이브 코더에게는 다음과 같은 긍정적인 결과가 있었습니다. 응답자의 62%가 코드 품질을 눈에 띄게 개선했으며, 56%는 버그 탐지 및 해결 시간을 단축했다고 답했습니다. 또한, AI로 생성한 개인화된 오퍼와 추천이 고객 또는 잠재 고객의 참여를 향상시키고(63%) 전환율 및 클릭률을 높인다는(55%) 결과도 나타났습니다. 바이브 마케터에게 좋은 소식이라고 할 수 있겠네요. 

하지만 AI 에이전트는 이보다 더 큰 도전이 될 수 있습니다. 인간과 유사한 AI의 모든 행동이 반드시 바람직한 것은 아닙니다. 뉴스를 통해 일탈적이고 기만적인 AI의 행동에 관한 이야기를 자주 들을 수 있습니다. 예를 들어, 이익을 극대화하라는 지시를 받은 에이전트 브로커는 불법임을 알면서도 내부자 거래를 실행했습니다. 이는 마치 인간처럼 목표가 윤리를 앞설 수 있음을 보여줍니다. AI는 또한 메시지가 반복적으로 전달되면서 내용이 왜곡되는 '전화기 게임'처럼, 점진적인 인지적 편향을 보이기도 합니다. 우리가 기대했던 것은 인간의 지능을 재현하는 것이었으며, 이를 통해 좋은 것과 나쁜 것이 함께 나타나고 있습니다. 

이렇게 이미 알려진 우려에도 불구하고, 57%의 대기업 경영진은 잠재적인 생산성 이점이 위험을 넘어설 것이라고 생각합니다. 아마도 이 새롭고 예측할 수 없는 "동료"를 관리하는 방법을 파악하고 있다고 자신하는 것처럼 보입니다.

리더십의 관리 책임은 필수적

AI가 일자리에 미치는 영향에 대한 많은 우려가 논의되어 왔습니다. 동시에 이런 얘기를 들으신 적도 있을 겁니다. “AI가 당신의 직업을 대체하지는 않겠지만, AI를 사용하는 누군가가 언젠가는 당신의 자리를 대체할 거예요.” 이에는 에이전트와 전체 인력을 효과적으로 활용하고 관리하는 역량이 포함됩니다. 에이전트 시대의 관리는 막연한 '감(vibe)'이 아닌, 명확한 기준과 전략을 요구합니다. 강력한 리더십과 확고한 원칙, 이 두 가지가 바로 관리의 핵심입니다.

사회 과학자들은 수년 전부터 주체-대리인 이론(principal-agent theory)을 통해 작업 위임 과정을 연구해 왔습니다. 이 이론에 따르면, '주체(principal)'는 '대리인(agent)'에게 업무를 위임합니다. 하지만 정보 불균형, 인센티브 불일치, 또는 이해관계 상충으로 인해 대리인은 주체가 원하는 대로 행동하지 않을 수 있습니다. 관리 관행은 이러한 불일치 문제를 해결하는 데 도움이 됩니다. 여기서 다행인 것은, 사람 대리인을 관리하는 여러 모범 사례는 에이전틱 AI에도 적용되며, 프로세스를 적용할 새로운 도구도 존재한다는 점입니다. 이러한 모범 사례는 책임 있는 AI를 보장하는 데 필수적이라고 할 수 있습니다. 

AI 에이전트를 관리하는 사람은 주체로서의 역할을 받아들이고, 이에 따라 에이전틱 AI를 채용하고 관리해야 합니다. 관리자가 수행해야 할 내용은 다음과 같습니다.

• 명시적인 ‘작업 설명’을 통한 역할 정의: 고객과 채팅, 문서 해석, 데이터 분석, 이상 징후 탐지, 콘텐츠 제작, 이벤트 트리거 등 어떤 역할을 수행할까요? 또한, 이 역할에 어느 정도의 자율성과 권한을 부여할 계획인가요?

• 구매 또는 구축할 올바른 AI 모델 ‘후보’ 식별: 다양한 AI 및 생성형 AI 도구는 서로 다른 기능을 가지고 있습니다. Snowflake AI 옵저버빌리티는 마치 사람을 인터뷰하는 것처럼, 대체 LLM을 평가하여 잠재적 적합성을 파악하는 데서 시작합니다.

• 적절한 교육 데이터를 통한 에이전트 온보딩: 요구 사항이 충돌할 때는 엄격한 우선순위를 정해 모델이 특정 업무를 수행하도록 준비시켜야 합니다. Snowflake에서는 손쉬운 데이터 액세스 및 공유를 통해 훈련에 필요한 데이터 자산을 확장합니다. RAG 아키텍처는 에이전트가 액세스할 수 있는 컨텍스트 데이터가 항상 준비될 수 있도록 보장합니다. 

• 출력 및 결과 성과 지표 설정: '작업'을 정의한 후에는 성공적인 작업과 그 성과를 측정할 방법을 정의해야 합니다. Snowflake AI 옵저버빌리티를 활용하면 특정 지표를 기준으로 에이전트의 성과를 판단할 평가 프레임워크를 설정할 수 있습니다. 예를 들어, RAG 에이전트를 평가할 경우, 지표에는 일관성, 검색된 콘텐츠의 컨텍스트 관련성, 출처에 대한 근거 및 답변 관련성이 포함될 수 있습니다.

• 성능 모니터링, 완화 전략 호출, 규칙 시행: 설정된 기준, 기대치, 윤리적 규범에 따라 성능을 지속적으로 평가하여 이상 징후를 파악하고 수정해야 합니다. 신뢰 임곗값과 더불어 훈련 데이터 증강 같은 완화 전략을 설정해야 합니다.

• 에이전트가 스스로와 동료를 모니터링할 수 있도록 지시 및 권한 부여: AI 에이전트 자체가 거버넌스의 일부가 될 수 있으며, 에이전트에게 건설적인 피드백 프로세스를 부여하면 스스로 작업을 검토하고 개선할 수 있습니다. AI 에이전트는 감독자가 AI 에이전트이든 인간이든 관계없이 문제가 발생하면 스스로 해결하거나 에스컬레이션하도록 학습합니다.

인간에 대한 관리 과학은 100년 이상 존재해 왔습니다. 기존의 관리 과학은 훌륭한 출발점이라 할 수 있지만, 새로운 에이전트 시대에 필요한 기술을 업데이트할 필요가 있습니다. ​생성형 AI에 대한 필수 가이드로 에이전틱 관리 기술을 향상시키고, Snowflake 데이터 클라우드 아카데미의 Generative AI & ML School에서 실습 교육을 받아보세요. 

그리고 제리 맥과이어와 같이 프로 스포츠 세계로 나아갈 생각이 있다면, Snowflake의 eBook 게임 체인저: 생성형 AI가 스포츠를 혁신하는 방법을 다운로드하세요.