eBook

생성형 AI의 파격적인 ROI

글로벌 연구 결과에 따르면 기업들은 생성형 AI로 큰 성과를 거두고 있습니다. 이에 해당 기업들의 전략을 면밀히 분석하고 그 결과를 수치로 정량화했습니다.

Enterprise Strategy Group의 연구 결과에 따르면
  • 전 세계 조직의 약 60%가 이미 생성형 AI를 사용하고 있습니다.
  • 이러한 얼리 어답터 조직 중 92%는 생성형 AI 이니셔티브에서 성과를 거뒀다고 밝혔습니다.
  • ROI를 측정했다고 응답한 조직들의 평균 ROI는 41%로 나타났습니다.

생성형 AI의 성공 실현

생성형 AI는 새롭고 복잡한 기술임에도 불구하고 IT, 사이버 보안 등 여러 비즈니스 라인으로 확산되고 있습니다.

  • 설문에 응답한 AI 얼리 어답터들은 IT 운영(70%), 마케팅(44%), 고객 지원(56%), 사이버 보안(65%) 등에 생성형 AI를 사용하고 있다고 밝혔는데

  • 55%는 생산성과 효율성 향상을 위해 직원 대상 솔루션에 우선순위를 두고 있다고 응답했고

  • 88%는 생성형 AI를 도입한 후 효율성이 실질적으로 개선되었다고 보고했습니다.

93%

생성형 AI 이니셔티브가 대부분 또는 매우 성공적이라고 응답한 얼리 어답터의 비율

데이터 전략 정의

얼리 어답터들은 몇 개의 LLM을 사용할까요? 상업용 LLM과 오픈 소스 LLM 중 어떤 것을 선호할까요? 어떤 데이터 관련 과제들이 가장 큰 불만과 비용 초과를 초래했을까요?

  • 얼리 어답터의 96%는 LLM을 훈련, 튜닝 또는 증강하고 있다고 밝혔습니다.

  • 59%는 내년까지 3개 이상의 LLM을 배포할 예정이라고 응답했습니다.

  • 64%는 데이터 사일로 간 통합이 어렵다고 답했습니다.

  • 단 11%만이 비정형 데이터가 AI에 활용될 준비가 되어 있다고 보고했습니다.

2025년 말까지 자율형 에이전트가 일부 업무를 담당할 것으로 예상한다고 답한 얼리 어답터의 비율 

산업별 현황 요약

이 섹션에서는 데이터를 세분화하여 생성형 AI 활용과 관련한 어려움과 성공 요인을 6개 주요 산업별로 분석합니다.

  • 헬스케어 조직에서는 생성형 AI가 HR에 획기적인 영향을 미치고 있다는 응답률이 상대적으로 높았습니다.

  • 마케팅 회사의 경우 고객 대상 프로젝트보다 내부 용도로 생성형 AI를 사용할 가능성이 50% 더 높게 나타났습니다. 

  • 리테일 업체는 비정형 데이터 관련 문제 보고율이 가장 낮은 것으로 확인됩니다(45% vs. 6개 산업 전체 평균 55%).

  • 금융 서비스, 제조 및 테크놀로지 등 보다 자세한 산업별 분석 내용은 전체 보고서를 통해 확인하실 수 있습니다.

광고 및 마케팅 회사의 68%는 직원 대상 챗봇을 도입해 활용하고 있습니다(전체 평균 50%).

글로벌 관점 8개 지역별 분석

악의적 행위자는 ML 인프라 계층 자체로 침투하여 모델이 잘못된 답변을 제공하도록 유도하거나, 더 심각한 경우 모델이 훈련된 데이터 등 개인 정보를 누설하도록 만들 것입니다. 따라서 조직은 AI를 운영하기 위해 엄격한 보안 접근 방식을 수립해야 할 것입니다. 

영국 기업의 경우 소프트웨어 개발 및 디버깅에 생성형 AI를 사용할 가능성이 9%p 더 높은 것으로 나타났습니다.

기업의 수익을 높이는 생성형 AI

Enterprise Strategy Group은 생성형 AI 도입의 첫 번째 물결이 기업들에 어떤 변화를 일으키고 있는지 알아보기 위해 1,900명의 비즈니스 및 IT 리더를 대상으로 설문조사를 실시했습니다. 

그 결과, 기업들의 수익을 높여주고 있는 것으로 나타났습니다.

자세한 내용은 전체 보고서를 다운로드하여 확인하세요.

eBook 다운로드

방법론

Enterprise Strategy Group은 이 보고서를 준비하면서 2024년 11월 21일부터 2025년 1월 10일까지 포괄적인 온라인 설문조사를 실시했습니다. 이 설문조사의 응답자는 모두 직원 500명 이상을 두고 있는 조직의 대표자로서 이 중 약 39%는 직원 5,000명 이상의 조직을, 47%는 직원 1,000~4,999명 규모의 조직을, 그리고 14%는 직원 500~999명 규모의 기업을 대표합니다.

본 보고서와 이를 뒷받침하는 연구의 목적은 엔터프라이즈 조직이 생성형 AI 기술을 통해 겪고 있는 경험을 더 잘 이해하는 것입니다. 따라서 해당 온라인 설문조사는 다음과 같은 두 가지 핵심 특징을 충족하는 얼리 어답터 조직을 파악하고자 진행되었습니다. 첫째, 이미 생성형 AI를 사용하여 프로덕션 환경에서 비즈니스 프로세스를 강화하고 실행하는 조직일 것, 둘째, 현재 사용 중인 생성형 AI 기술이 소비자급 ‘기성’ 솔루션(예: ChatGPT 구독)을 넘어, 자체 독점 데이터로 훈련 및 튜닝하여 정확성과 관련성을 개선할 수 있는 상업용 및 오픈 소스 모델일 것입니다.

이처럼 얼리 어답터 그룹을 가려내는 과정을 통해 기업들이 현재까지 생성형 AI를 얼마나 광범위하게 도입했는지 확인할 수 있었습니다. 3,324명의 응답자 중 1,900명(57%)이 상업용 또는 오픈 소스 생성형 AI 솔루션을 사용하고 있다고 답했습니다.

1,900명의 얼리 어답터가 소속되어 있는 분야는 IT 및 사이버 보안(52%), 소프트웨어 개발(13%), 데이터 운영(8%), 그리고 기타 비즈니스 영역(예: 마케팅, 고객 지원, 제조, 27%)으로 구성되었습니다. 또한 설문 응답자들은 조사 대상으로서 자격을 갖추기 위해 자사의 AI 전략에 대한 지식과 영향력을 보고해야 했고, 직급은 C 레벨 임원부터 고경력 실무자까지 다양했습니다. 또한, 응답자들은 미국(45%), 캐나다(8%), 영국(8%), 프랑스(8%), 독일(8%), 호주 및 뉴질랜드(8%), 일본(8%), 한국(8%) 등 전 세계 다양한 지역에 분포해 있습니다. 

이 표본의 오차 범위는 95% 신뢰 수준에서 ±2%이며 본 보고서의 그림과 표에 제시된 수치의 총합은 반올림으로 인해 100%가 되지 않을 수 있습니다.