eBook
생성형 AI의 파격적인 ROI
글로벌 연구 결과에 따르면 기업들은 생성형 AI로 큰 성과를 거두고 있습니다. 이에 해당 기업들의 전략을 면밀히 분석하고 그 결과를 수치로 정량화했습니다.

Enterprise Strategy Group의 연구 결과에 따르면
- 전 세계 조직의 약 60%가 이미 생성형 AI를 사용하고 있습니다.
- 이러한 얼리 어답터 조직 중 92%는 생성형 AI 이니셔티브에서 성과를 거뒀다고 밝혔습니다.
- ROI를 측정했다고 응답한 조직들의 평균 ROI는 41%로 나타났습니다.
생성형 AI의 성공 실현
생성형 AI는 새롭고 복잡한 기술임에도 불구하고 IT, 사이버 보안 등 여러 비즈니스 라인으로 확산되고 있습니다.
설문에 응답한 AI 얼리 어답터들은 IT 운영(70%), 마케팅(44%), 고객 지원(56%), 사이버 보안(65%) 등에 생성형 AI를 사용하고 있다고 밝혔는데
55%는 생산성과 효율성 향상을 위해 직원 대상 솔루션에 우선순위를 두고 있다고 응답했고
88%는 생성형 AI를 도입한 후 효율성이 실질적으로 개선되었다고 보고했습니다.

93%
생성형 AI 이니셔티브가 대부분 또는 매우 성공적이라고 응답한 얼리 어답터의 비율
데이터 전략 정의
얼리 어답터들은 몇 개의 LLM을 사용할까요? 상업용 LLM과 오픈 소스 LLM 중 어떤 것을 선호할까요? 어떤 데이터 관련 과제들이 가장 큰 불만과 비용 초과를 초래했을까요?
얼리 어답터의 96%는 LLM을 훈련, 튜닝 또는 증강하고 있다고 밝혔습니다.
59%는 내년까지 3개 이상의 LLM을 배포할 예정이라고 응답했습니다.
64%는 데이터 사일로 간 통합이 어렵다고 답했습니다.
단 11%만이 비정형 데이터가 AI에 활용될 준비가 되어 있다고 보고했습니다.
2025년 말까지 자율형 에이전트가 일부 업무를 담당할 것으로 예상한다고 답한 얼리 어답터의 비율
산업별 현황 요약
이 섹션에서는 데이터를 세분화하여 생성형 AI 활용과 관련한 어려움과 성공 요인을 6개 주요 산업별로 분석합니다.
헬스케어 조직에서는 생성형 AI가 HR에 획기적인 영향을 미치고 있다는 응답률이 상대적으로 높았습니다.
마케팅 회사의 경우 고객 대상 프로젝트보다 내부 용도로 생성형 AI를 사용할 가능성이 50% 더 높게 나타났습니다.
리테일 업체는 비정형 데이터 관련 문제 보고율이 가장 낮은 것으로 확인됩니다(45% vs. 6개 산업 전체 평균 55%).
금융 서비스, 제조 및 테크놀로지 등 보다 자세한 산업별 분석 내용은 전체 보고서를 통해 확인하실 수 있습니다.
광고 및 마케팅 회사의 68%는 직원 대상 챗봇을 도입해 활용하고 있습니다(전체 평균 50%).
글로벌 관점 8개 지역별 분석
악의적 행위자는 ML 인프라 계층 자체로 침투하여 모델이 잘못된 답변을 제공하도록 유도하거나, 더 심각한 경우 모델이 훈련된 데이터 등 개인 정보를 누설하도록 만들 것입니다. 따라서 조직은 AI를 운영하기 위해 엄격한 보안 접근 방식을 수립해야 할 것입니다.
영국 기업의 경우 소프트웨어 개발 및 디버깅에 생성형 AI를 사용할 가능성이 9%p 더 높은 것으로 나타났습니다.
기업의 수익을 높이는 생성형 AI
Enterprise Strategy Group은 생성형 AI 도입의 첫 번째 물결이 기업들에 어떤 변화를 일으키고 있는지 알아보기 위해 1,900명의 비즈니스 및 IT 리더를 대상으로 설문조사를 실시했습니다.
그 결과, 기업들의 수익을 높여주고 있는 것으로 나타났습니다.
자세한 내용은 전체 보고서를 다운로드하여 확인하세요.
eBook 다운로드
방법론
Enterprise Strategy Group은 이 보고서를 준비하면서 2024년 11월 21일부터 2025년 1월 10일까지 포괄적인 온라인 설문조사를 실시했습니다. 이 설문조사의 응답자는 모두 직원 500명 이상을 두고 있는 조직의 대표자로서 이 중 약 39%는 직원 5,000명 이상의 조직을, 47%는 직원 1,000~4,999명 규모의 조직을, 그리고 14%는 직원 500~999명 규모의 기업을 대표합니다.
본 보고서와 이를 뒷받침하는 연구의 목적은 엔터프라이즈 조직이 생성형 AI 기술을 통해 겪고 있는 경험을 더 잘 이해하는 것입니다. 따라서 해당 온라인 설문조사는 다음과 같은 두 가지 핵심 특징을 충족하는 얼리 어답터 조직을 파악하고자 진행되었습니다. 첫째, 이미 생성형 AI를 사용하여 프로덕션 환경에서 비즈니스 프로세스를 강화하고 실행하는 조직일 것, 둘째, 현재 사용 중인 생성형 AI 기술이 소비자급 ‘기성’ 솔루션(예: ChatGPT 구독)을 넘어, 자체 독점 데이터로 훈련 및 튜닝하여 정확성과 관련성을 개선할 수 있는 상업용 및 오픈 소스 모델일 것입니다.
이처럼 얼리 어답터 그룹을 가려내는 과정을 통해 기업들이 현재까지 생성형 AI를 얼마나 광범위하게 도입했는지 확인할 수 있었습니다. 3,324명의 응답자 중 1,900명(57%)이 상업용 또는 오픈 소스 생성형 AI 솔루션을 사용하고 있다고 답했습니다.
1,900명의 얼리 어답터가 소속되어 있는 분야는 IT 및 사이버 보안(52%), 소프트웨어 개발(13%), 데이터 운영(8%), 그리고 기타 비즈니스 영역(예: 마케팅, 고객 지원, 제조, 27%)으로 구성되었습니다. 또한 설문 응답자들은 조사 대상으로서 자격을 갖추기 위해 자사의 AI 전략에 대한 지식과 영향력을 보고해야 했고, 직급은 C 레벨 임원부터 고경력 실무자까지 다양했습니다. 또한, 응답자들은 미국(45%), 캐나다(8%), 영국(8%), 프랑스(8%), 독일(8%), 호주 및 뉴질랜드(8%), 일본(8%), 한국(8%) 등 전 세계 다양한 지역에 분포해 있습니다.
이 표본의 오차 범위는 95% 신뢰 수준에서 ±2%이며 본 보고서의 그림과 표에 제시된 수치의 총합은 반올림으로 인해 100%가 되지 않을 수 있습니다.