KPMG가 2026년 9월 24일 Global AI Pulse 3분기 결과를 발표했습니다. 20개국 경영진 2,131명을 조사했습니다. 89%가 AI로 측정 가능한 가치를 얻었다고 답했습니다.
그러나 AI 가치를 비용과 일관되게 대조하는 조직은 12%입니다. ROI를 확립한 조직에서는 이 비율이 48%로 4배입니다.
ROI 확립 조직의 86%는 공식 AI 하네스 레이어를 운영합니다. 전체 평균은 55%입니다. 앞선 조직은 도입 속도보다 측정과 운영 구조에서 달랐습니다.
AI에 얼마를 썼는지는 대부분 압니다.
그 돈으로 무엇을 샀는지 답할 수 있는 회사는 열 곳 중 한 곳 남짓입니다.
AI 비용을 들여다보는 기업은 이미 많습니다. KPMG 조사에서 61%는 도입 승인 단계에서 AI 비용을 검토합니다. 59%는 운영 단계에서도 비용을 모니터링합니다. 그런데 그 비용이 만든 가치와 맞춰 보는 곳은 12%입니다.
KPMG는 이 상태를 "계량기가 돌아가는 것은 보이는" 단계라고 부릅니다. 지출 규모는 알아도 그 돈으로 얻은 성과는 모르는 상태입니다. 이번 3분기 조사에는 선도 조직과 나머지가 갈리는 지점이 수치로 나옵니다.
AI 투자는 줄지 않았습니다. 조사 기업의 향후 12개월 AI 지출 계획은 평균 2억 1,000만 달러로, 1분기 1억 8,600만 달러보다 13% 늘었습니다. 지역 간 성숙도 격차는 16%p에서 8%p로 절반으로 줄었습니다.
KPMG는 경쟁 우위의 기준이 도입 속도에서 운영 역량으로 옮겨 간다고 봅니다. 6월에 다룬 빅테크의 AI 예산 조이기는 비용 절감에 관한 글이었습니다. 이번 조사의 초점은 그 비용과 성과의 연결입니다.
첫째, 기업들은 비용은 보지만 가치와 연결하지 못합니다. 응답 기업의 89%가 AI에서 측정 가능한 가치를 얻었다고 답했습니다. 비용을 검토하는 곳(61%)과 운영 중 비용을 추적하는 곳(59%)도 절반을 넘습니다. 하지만 조직 전체에서 가치를 비용과 일관되게 대조하는 곳은 12%입니다. 과제 대부분에서 대조한다는 곳도 26% 있습니다.
KPMG는 이 차이를 재무 통제와 경제적 관리로 구분합니다. 비용 추적에서 멈추면 재무 통제이고, 비용을 성과와 맞춰 판단해야 경제적 관리입니다. 어느 과제를 스케일업하고 언제 접을지는 두 번째 단계에서야 정할 수 있습니다.
둘째, 선도 조직과 나머지의 격차는 측정에서 가장 큽니다. ROI를 확립했다고 답한 조직에서는 48%가 가치를 비용과 일관되게 대조합니다. 전체 평균의 4배입니다. 이 그룹의 비용 대시보드 보유율도 77%로 실험 단계 조직(43%)보다 훨씬 높습니다. 보고서는 가치 실현 비율이 가장 크게 떨어지는 구간도 여기로 봅니다. 가치를 한 번 보고하는 수준에서 반복해 재현하는 수준으로 넘어가는 구간입니다.
셋째, 성숙도가 높을수록 AI 하네스 레이어 보유율도 오릅니다. AI 하네스 레이어는 모델과 업무 사이에서 AI의 권한을 통제하는 도구와 규칙의 층입니다. 전체의 55%가 부서를 가로지르는 공식 레이어를 운영합니다. 실험 단계는 31%, 확산 단계는 58%, ROI 확립 조직은 86%입니다. ROI 확립 조직의 65%는 이 레이어를 전사에 적용했습니다.
넷째, 레이어는 통제 기능부터 갖춰졌습니다. 보안·신원 통제와 데이터 접근 통제가 각각 43%로 가장 흔합니다. AI 출력 모니터링 41%, 비용·사용량 추적 37%가 뒤를 잇습니다. 어떤 일을 어떤 모델에 맡길지 정하는 모델 라우팅은 23%로 가장 드뭅니다. KPMG는 이를 "교환대보다 문지기를 먼저 세웠다"고 표현합니다. 모델 라우팅 보유율은 실험 단계 17%, ROI 확립 조직 41%입니다.
측정과 라우팅은 따로 떼어 볼 수 없습니다. 보고서에 따르면 비용과 가치를 연결한 조직은 세 가지를 할 수 있습니다.
하나는 작업마다 비용 대비 효과가 가장 큰 모델을 고르는 일입니다. 비용이 가치를 넘어선 배치를 걷어내고, 이사회에 AI 지출의 성과를 설명하는 일이 나머지 둘입니다. 통제 기능만 있는 레이어로는 어느 것도 할 수 없습니다.
| 항목 | 실험 단계 | ROI 확립 |
|---|---|---|
| 가치를 비용과 일관되게 대조 | 질문 안 함 | 48% |
| 공식 AI 하네스 레이어 운영 | 31% | 86% |
| AI 비용 대시보드 | 43% | 77% |
| 모델 라우팅 기능 | 17% | 41% |
| 직원의 AI 에이전트 채택이 뚜렷함 | 15% | 48% |
| AI 예산에 사이버·데이터 보안 포함 | 36% | 71% |
| 단일 글로벌 모델 공급사에 주로 의존 | 19% | 6% |
출처: KPMG International (2026), Global AI Pulse Q3 2026. 실험 단계 n=268, ROI 확립 n=208.
다섯째, AI 판단의 책임자를 명시한 곳은 53%입니다. 35%는 COO, 최고AI책임자, CIO 같은 특정 임원을 지정했습니다. 18%는 CEO나 경영위원회가 직접 책임집니다. KPMG는 책임자 없는 통제 레이어가 정책 문서에 머문다고 봅니다. 책임 소재가 분명해야 통제가 실제 의사결정에 반영된다는 설명입니다.
여섯째, 에이전트 채택은 한 분기 만에 25%에서 34%로 올랐습니다. 직원들의 AI 에이전트 채택이 뚜렷하다고 답한 비율입니다. 미국 추적 표본에서는 16%에서 36%로 두 배 넘게 뛰었습니다. 성숙도별로 보면 격차가 더 큽니다. ROI 확립 조직은 채택 48%에 저항 3%이고, 실험 단계는 채택 15%에 저항 26%입니다.
일곱째, 가치 입증의 가장 큰 장애물은 리스크입니다. 응답 기업은 AI 효과 입증이 어려운 이유로 사이버 보안과 개인정보를 먼저 꼽았습니다. 측정의 어려움, 인력 부족, 낮은 채택률은 그 뒤였습니다. 선도 조직일수록 보안 비용을 AI 예산에 편성합니다. 그 비율은 ROI 확립 조직 71%, 실험 단계 36%입니다.
여덟째, 선도 조직은 모델 공급사를 한 곳에 몰지 않습니다. 실험 단계 조직의 19%는 단일 글로벌 모델 공급사에 주로 의존합니다. 소수 공급사에 의존하는 곳도 29%입니다. ROI 확립 조직에서는 각각 6%와 8%로 떨어집니다. 공급사 한 곳이 약관을 바꾸거나 모델 제공을 중단해도 업무를 이어 가려면 이런 분산이 필요합니다.
조사 기업이 계획한 AI 투자는 향후 12개월 평균 2억 1,000만 달러입니다. 이 돈을 가치와 일관되게 대조하는 곳은 12%입니다. 나머지 88%는 과제 전체를 같은 기준으로 비교하지 못한 채 다음 예산을 편성합니다. 이러면 비용이 가치를 넘은 배치를 골라내기 어렵고, 성과가 나는 과제에 예산을 더 싣기도 어렵습니다.
과제마다 월 비용, 절감한 업무 시간이나 늘어난 매출, 측정 방법, 측정 주기를 한 표에 적습니다. 빈칸이 많은 과제부터 점검합니다. 클로드에 아래 프롬프트를 넣으면 초안 표가 나옵니다. (1시간)
아래는 우리 팀이 운영 중인 AI 과제 목록입니다. 과제마다 다음 네 가지를 표로 정리해 주세요. 1. 월 비용(라이선스, 사용량 요금 포함) 2. 만든 가치(줄어든 업무 시간, 늘어난 매출, 줄어든 오류 중 해당 항목) 3. 가치를 재는 방법 4. 측정 주기 값을 모르는 칸은 비워 두고, 누가 채워야 하는지 담당자 역할을 적어 주세요. [과제 목록 붙여넣기]
KPMG는 처음부터 네 요소를 함께 설계하라고 권합니다. 통제(보안·데이터 접근·출력 모니터링)와 책임(지정된 책임자)이 앞의 두 칸입니다. 오케스트레이션(모델 라우팅)과 비용 경제(비용과 성과의 연결)가 나머지 두 칸입니다. 칸마다 있음, 일부, 없음을 표시하면 빈 곳이 드러납니다. (팀 회의 30분)
AI가 낸 판단이 틀렸을 때 누가 설명할지 정합니다. 그 사람이 어떤 모델과 어떤 통제가 관여했는지 추적할 수 있는지도 함께 확인합니다. KPMG 조사에서 이런 책임자를 지정한 곳은 53%입니다. (이번 주)
모델 공급사가 약관을 바꾸거나 모델 제공을 중단하는 상황을 가정합니다. 그때 멈추는 업무와 대체 모델 유무를 목록으로 만듭니다. 대체 수단이 없는 업무가 이번 분기 우선 과제입니다. (이번 분기)
모든 수치가 자기 보고 방식의 설문 결과입니다. ROI를 확립했는지도 응답자가 스스로 판단했습니다. 89%가 측정 가능한 가치를 얻었다는 수치도 회사마다 다른 기준으로 잰 결과입니다.
상관관계이지 인과관계가 아닙니다. ROI 확립 그룹은 208곳으로 전체의 약 10%입니다. 하네스 레이어가 ROI를 만들었는지는 이 조사로 가릴 수 없습니다. ROI를 낸 기업이 여력이 생겨 레이어를 갖췄을 수도 있습니다. 보고서도 "연관돼 있다"는 표현을 씁니다.
발표 주체가 이 분야의 컨설팅을 판매합니다. KPMG는 보고서 말미에 거버넌스와 운영 모델 재설계 서비스를 소개합니다. 수치의 신뢰도와 별개로, 결론이 KPMG의 컨설팅 수요와 맞닿아 있다는 점은 감안해야 합니다.
대기업 중심 표본입니다. 매출 5,000만 달러 이상(한국 등 10개국은 1억 달러 이상) 기업만 대상입니다. 한국도 20개국에 포함됐지만, 공개 보고서에서 한국 단독 수치는 확인되지 않습니다.
AI 성과가 좋은 조직의 차이는 도입 규모보다 측정과 운영 구조에 있었습니다. 첫걸음은 비용 옆에 가치를 적는 일입니다.
AI 하네스 레이어: 모델과 업무 사이에서 AI가 할 수 있는 일을 통제하는 도구와 규칙의 층입니다.
모델 라우팅: 작업마다 어떤 모델이나 에이전트가 처리할지 정해 보내는 기능입니다.
모델 주권: AI 모델과 데이터, 지식재산이 어디에 있고 누가 어떤 조건으로 통제하는지에 관한 문제입니다.
멀티 에이전트 시스템: 여러 AI 에이전트가 역할을 나눠 하나의 업무를 함께 처리하는 구조입니다. 조사 기업의 38%가 개발하거나 도입하고 있습니다.
ROI 확립 단계: KPMG가 나눈 AI 여정 5단계 중 마지막 단계입니다. 실험, 전략 수립, 확산, 채택 확대 다음입니다. 단계는 응답자가 스스로 골랐습니다.
- KPMG International. (2026, September 24). New KPMG AI Pulse Survey: As AI maturity converges, leading organizations show what AI at scale requires [Press release]. KPMG. (원문 보기 ↗)
- KPMG International. (2026, September). Global AI Pulse Q3 2026: AI at scale: Accountability, resilience and economics [Report]. KPMG. (원문 보기 ↗)