AI 투자 수익률을 결정하는 것은 기술이 아니라 7가지 경영 원칙입니다.
CFO가 AI 가치 책임을 맡은 조직은 76%가 높은 성과를 달성합니다.
측정 성숙도가 일정 수준을 넘으면 성과가 급격히 올라갑니다.
AI에 370억 달러를 쏟아부었는데,
아직도 "ROI를 어떻게 측정하죠?"라고 묻고 있다면,
그건 AI 문제가 아니라 경영 문제입니다.
CIO의 71%는 "2년 안에 AI 가치를 증명하지 못하면 예산이 동결되거나 삭감될 것"이라고 답했습니다. (출처: HBR, 2026) AI 투자에 생존 시한이 붙은 셈입니다.
미국 기업들은 2025년 한 해에만 생성형 AI에 370억 달러를 쏟아부었습니다. (출처: HBR, 2026) HBR 연구팀은 1,006명의 경영진을 대상으로 AI 투자 수익률의 결정 요인을 조사했습니다. 응답자의 45%는 "상당한 가치를 얻고 있다"고 답했고, 또 다른 45%는 "보통 수준의 가치"를 보고했습니다. 그러나 핵심은 이 숫자가 아닙니다. 가장 높은 성과를 낸 조직은 가장 정교한 기술을 가진 곳이 아니라, 가장 체계적인 경영 원칙을 갖춘 곳이었습니다.
HBR 연구팀은 AI 투자 수익률을 좌우하는 7가지 경영 원칙을 다음과 같이 정리했습니다.
원칙 1. AI로 달성할 가치를 먼저 정의하라. 단기 ROI를 추구하는 조직과 장기 전환을 추구하는 조직은 성과를 측정하는 방식이 다릅니다. 실제로 응답 기업의 14%는 "상당한 가치를 얻고 있다"고 답하면서도, ROI는 "미미하다"고 밝혔습니다. "AI로 무엇을 달성할 것인가"를 조직이 먼저 합의해야 올바른 지표를 세울 수 있습니다.
원칙 2. AI 가치 측정의 책임을 CFO에게 맡겨라. CFO가 AI 가치 측정을 책임지는 조직의 76%가 높은 성과를 달성했습니다. 반면 CIO/CTO가 책임지는 조직은 53%, 현업 임원이 책임지는 조직은 32%에 그쳤습니다. (출처: HBR, 2026) 재무 리더가 참여하면 조직 전체에 신뢰와 엄격함이 생깁니다. 싱가포르 DBS은행은 2021년부터 각 사업부 CFO가 AI 가치를 검증해 연간 보고서에 공시하고 있습니다.
원칙 3. 유행이 아니라 문제에 맞는 AI 유형을 선택하라. 가장 큰 가치를 거둔 기업의 50%는 분석형 AI(가격 책정, 타겟팅)를 사용했습니다. 규칙 기반 AI와 자동화를 활용한 기업이 40%로 뒤를 이었습니다. 반면 생성형 AI에서 최대 가치를 보고한 기업은 9%에 불과합니다. (출처: HBR, 2026) 비즈니스 문제에 맞는 AI 유형을 골라야 성과가 나옵니다.
원칙 4. 측정 성숙도를 단계적으로 높여라. 이 연구는 AI 측정 성숙도를 6단계로 나눴습니다. 측정 없이 파일럿만 하는 0단계 조직의 고성과 비율은 4%입니다. 사후 평가를 실시하는 3단계에서 44%로 급등하고, 공식 보고 체계를 갖춘 5단계에서는 85%에 이릅니다. 3단계가 성과의 변곡점입니다. (출처: HBR, 2026)
원칙 5. 직원과 리더를 함께 교육하라. 응답 기업의 58%는 직원에게 AI 도구 교육을 실시하지 않았고, 29%는 경영진의 AI 지식이 부족하다고 인정했습니다. 직원과 경영진을 모두 교육한 조직은 그렇지 않은 조직보다 가치 실현율이 23%p 높았습니다. (출처: HBR, 2026)
원칙 6. AI에 맞게 데이터를 준비하라. 응답 기업의 55%는 자사 데이터가 AI에 적합하지 않다고 답했습니다. (출처: HBR, 2026) 아무리 좋은 기술을 도입해도 데이터가 준비되지 않으면 가치로 이어지지 않습니다. 데이터의 품질과 접근성이 AI 성과의 기반입니다.
원칙 7. 에이전틱 AI 등 차세대 기술을 선제적으로 실험하라. 에이전틱 AI(스스로 판단하고 작업을 수행하는 AI)를 도입한 기업은 높은 성과를 보고할 확률이 22% 높았습니다. 다만 전체 응답 기업 중 에이전틱 AI에서 최대 가치를 거뒀다고 답한 비율은 2%에 그쳐, 아직은 초기 단계입니다. 지금부터 실험하고 학습하는 조직이 향후 경쟁력을 갖게 됩니다.
AI 투자 가치를 체계적으로 측정하지 않는 조직은 구체적인 비용을 치르게 됩니다.
예산 삭감 리스크가 현실이 됩니다. CIO의 71%는 "2년 안에 AI 가치를 증명하지 못하면 예산이 동결되거나 삭감될 것"이라고 답했습니다. (출처: HBR, 2026) 370억 달러 규모의 투자가 성과 근거 없이 유지되기는 어렵습니다.
교육과 데이터 공백이 성과를 깎아먹습니다. 응답 기업의 58%는 직원 AI 교육을 실시하지 않았고, 55%는 데이터가 AI에 맞게 준비되지 않은 상태입니다. (출처: HBR, 2026) 7가지 원칙 중 하나라도 빠지면 투자 대비 가치 실현율이 급격히 떨어집니다.
이 프로젝트가 단기 ROI를 노리는지, 장기 전환을 목표로 하는지, 시장 방어가 목적인지를 명시합니다. "무엇을 달성할 것인가"를 A4 1장으로 정리하면 됩니다. (예상 30분)
"파일럿만 하고 측정은 안 한다"면 0단계입니다. "사후 평가를 실시하고 있다"면 3단계입니다. 아래 프롬프트를 클로드에 입력하면 바로 진단할 수 있습니다. (예상 15분)
우리 회사의 AI 프로젝트 현황을 알려줄게. [프로젝트명, 도입 시기, 측정 방법, 보고 체계를 나열] HBR의 AI 측정 성숙도 6단계 기준으로 우리 회사가 몇 단계인지 진단하고, 다음 단계로 가려면 무엇을 해야 하는지 알려줘.
재무팀이 AI 가치 측정에 참여하는 것만으로도 성과에 대한 체감이 달라집니다. DBS은행은 이 방식으로 연간 보고서에 AI 가치를 공시하고 있습니다. (예상 10분, 회의 초대 발송)
"도구는 쓰고 있지만 교육은 없다"면, 주 1회 30분 실습 세션부터 기획하면 됩니다. 직원 저항은 문제가 아닙니다. 응답자의 13%만이 직원 저항을 장벽으로 꼽았습니다. 진짜 장벽은 교육과 프레임워크가 없는 것입니다. (예상 20분, 현황 파악)
측정 자체가 목적이 되면 역효과가 납니다. 보고서 양을 늘리는 것은 성과가 아닙니다. 이 연구는 측정을 "보고 업무"가 아니라 "경영 원칙"으로 다뤄야 한다고 강조합니다. 측정의 초점은 의사결정을 개선하는 데 맞춰야 합니다.
에이전틱 AI의 높은 성과는 아직 초기 수치입니다. 에이전틱 AI를 도입한 기업은 22% 높은 성과를 보고했지만, 전체 응답 기업 중 에이전틱 AI에서 최대 가치를 거뒀다고 답한 비율은 2%에 불과합니다. 표본이 작기 때문에 해석에 주의가 필요합니다.
인력 감축 효과는 과장되어 있습니다. 실제로 발표된 인력 감축 가운데 AI가 원인인 경우는 2%에 불과합니다. (출처: HBR, 2026) 나머지는 다른 이유로 감축하면서 AI를 명분으로 내세운 경우입니다. AI 투자를 인건비 절감으로만 정당화하면 진짜 가치를 놓치게 됩니다.
AI 투자의 승패를 가르는 것은 기술력이 아닙니다. 가치를 정의하고, 측정하고, 책임지는 경영의 기본기가 결과를 결정합니다.
- Davenport, T. H., & Srinivasan, L. (2026, March). 7 Factors That Drive Returns on AI Investments, According to a New Survey [Article]. Harvard Business Review. (원문 보기 ↗)