AX(AI 전환)의 가치는 어디에서 나오는가: 핵심 업무 기능이 IT 프로젝트를 앞서는 이유

AX(AI 전환)의 성과는 영업, 고객 서비스, 운영 같은 핵심 업무에서 나옵니다. ROI가 발생하는 지점과 AI 활용 사례 선정법, 파일럿을 전사로 확산하는 방법을 정리했습니다.

Hanna
Industry Trend Analyst

핵심 요약

이제 대부분의 기업은 AI를 도입할지 말지를 고민하지 않습니다. 관심은 'AI가 실제로 어디에서 수익을 내는가'로 옮겨 갔습니다. BCG가 2025년 경영진 1,250명을 조사한 결과 AI 잠재 가치의 70%가 핵심 업무 기능에 집중되어 있습니다. 영업·마케팅, 제조, 공급망, 가격 책정 같은 영역입니다. 그러나 2026년 3월 Harvard Business Review Analytic Services 조사에서 AI로 높은 수준의 측정 가능한 가치를 얻었다고 답한 조직은 16%에 그쳤습니다.

이 격차는 대개 기술의 문제가 아닙니다. AX(AI 전환)를 바라보는 경영 전략의 문제입니다. 많은 기업이 여전히 AI를 IT 프로젝트로 다룹니다. 도구를 배포하고, 사용자 수를 세고, 절감 시간을 보고합니다. 앞서가는 기업은 매출을 만들고 고객을 응대하는 조직 안에서 일하는 방식 자체를 바꿉니다.

기업 AI는 어디에서 가장 큰 가치를 창출합니까?

기업 AI는 IT 프로젝트가 아니라 영업, 고객 서비스, 운영 같은 핵심 업무 기능에서 가장 큰 가치를 창출합니다. BCG의 2025년 조사는 AI 잠재 가치의 70%가 핵심 업무 기능에 있다고 보고, R&D, 영업·마케팅, 제조, 공급망, 가격 책정을 꼽았습니다. 이 영역에서는 같은 업무가 하루 종일 반복되므로 작은 개선도 크게 쌓입니다.

성과를 내는 기업도 늘고 있습니다. 고위 리더 1,330명을 조사한 BCG의 Applied AI Index 2026은 기업의 7.5%를 "future-built"(AI 활용이 가장 앞선 기업)로 분류했고, 41%는 AI를 본격적으로 확대하고 있습니다. future-built 기업의 매출 성장률은 후발 기업의 2.4배였습니다.

AX 전략을 세울 때 함께 살펴볼 점이 두 가지 있습니다.

AI ROI 근거가 가장 뚜렷한 핵심 기능은 어디입니까?

고객 서비스는 현재 가장 탄탄한 근거를 갖춘 분야 중 하나입니다. 동료 심사 학술지 Quarterly Journal of Economics에 게재된 연구는 한 Fortune 500 소프트웨어 기업의 상담원 5,172명을 추적했습니다. AI 어시스턴트를 쓴 상담원은 시간당 해결 채팅 수가 평균 15% 늘었고, 경험이 적은 상담원은 30% 늘었습니다. 시차를 둔 도입 방식 덕분에 AI의 순수한 효과를 가려낼 수 있었습니다. 컨택센터가 생성형 AI를 시험하기에 적합한 이유도 여기에 있습니다. 업무가 반복적이고 규칙이 명확하며 성과를 바로 셀 수 있습니다.

AI ROI 측면에서 핵심 업무 기능이 IT 프로젝트보다 유리한 이유는 무엇입니까?

AI ROI 측면에서 핵심 업무 기능이 유리한 이유는 도구 하나가 아니라 매출을 만드는 방식을 바꾸기 때문입니다. 절감한 시간이 ROI로 이어지려면 업무 흐름을 재설계해 그 시간이 생산량 증가나 비용 절감으로 바뀌어야 합니다.

덴마크 연구가 이를 잘 보여 줍니다. 약 25,000명의 근로자 응답을 소득과 근무시간 공식 기록에 연결한 워킹 페이퍼에 따르면 AI 챗봇은 근무시간을 평균 2.8% 절감했지만 소득과 기록된 근무시간에는 유의미한 영향이 없었습니다. 대부분의 사용자는 아낀 시간을 다른 업무에 썼고, 8.4%에게는 AI 결과물 검토 같은 새 업무가 생겼습니다. 고용주가 AI 활용을 적극 장려한 곳에서는 근로자가 보고한 효과가 10~40% 더 컸습니다.

기업 설문도 같은 결과를 보여 줍니다. HBR Analytic Services 연구에서 AI를 주로 업무 흐름 안에 통합한 곳은 18%에 불과했지만, 이를 내재화한 조직의 71%는 중간 수준 이상의 가치를 얻었습니다. 도구 배포에서 멈춘 AX는 활동만 만들고, 핵심 업무 흐름을 바꾼 AX는 성과를 만듭니다.

AI를 IT 프로젝트로 추진하면 사용자 수와 절감 시간으로 성공을 측정하고, CIO나 중앙 AI 조직이 책임을 지며, 결과는 대개 산발적인 시간 절감에 그칩니다. 반면 AI로 핵심 업무 흐름을 바꾸면 건당 비용 같은 하나의 재무 지표로 성공을 측정하고, 현업 리더가 성과를 책임지며, 그 결과는 비즈니스 지표의 측정 가능한 변화로 나타납니다.

백오피스 성과는 핵심 기능 중심의 AX 전략과 상충합니까?

백오피스 성과는 핵심 기능 중심의 AX 전략과 상충하지 않으며, 가치는 대량 업무가 있는 곳에서 나옵니다. 가장 뚜렷한 성과는 AI가 비용이나 매출 지표와 명확히 연결된 업무를 맡을 때 나타납니다. 반면 범용 AI 도구를 조직 곳곳에 조금씩 뿌리는 방식은 실패합니다.

MIT NANDA의 2025년 보고서는 분석 대상 기업의 약 95%가 생성형 AI로 측정 가능한 손익 효과를 거의 얻지 못했다고 밝혔습니다. Fortune은 가장 큰 수익이 아웃소싱 축소 같은 백오피스 업무 자동화에서 나왔다고 보도했습니다. BCG APAC 보고서는 AI 가치의 약 40%가 지원 부문에 있다고 보지만, 고객 서비스를 지원 부문으로 분류합니다. 성과는 부서가 아니라 업무의 특성에서 나옵니다. 업무량이 많고, 규칙이 명확하며, 재무팀이 이미 추적하는 비용이 있다는 점입니다. 95%라는 수치는 신중히 해석해야 하지만 교훈은 분명합니다. 전문 업체에서 구매한 AI 도구의 성공률은 약 67%였던 반면, 자체 개발한 도구는 그 3분의 1 수준이었습니다.

기업은 어떤 AI 활용 사례에 투자해야 합니까?

기업은 처리량이 많고 규칙 기반이며 손익(P&L) 지표와 직접 연결되는 AI 활용 사례에 투자해야 합니다.

그러나 HBR Analytic Services 데이터를 보면 AI 에이전트는 소프트웨어 개발(35%)과 IT 운영(31%)에서 가장 많이 쓰이고, 구매(9%), 제조(10%), 공급망(11%)에서 가장 적게 쓰입니다. 제조와 공급망은 BCG가 AI 가치가 가장 많이 몰린다고 본 핵심 기능인데도 그렇습니다. 이 간극은 잘 고른 AI 활용 사례에 기회가 되지만, 응답자의 69%는 레거시 시스템을 장애 요인으로 꼽았습니다.

투자할 프로젝트와 단순한 실험은 어떻게 구분합니까?

AI 모델을 고르기 전에 모든 아이디어를 다섯 가지 기준으로 점검합니다.

  1. 처리량: 업무가 자주 발생해 작은 개선도 실제 금액으로 이어집니다.
  2. 규칙과 데이터: 의사결정이 문서화된 정책을 따르고, AI가 데이터에 접근할 수 있습니다. 대표적인 방법은 답변 전에 사내 문서를 먼저 찾아보는 RAG(검색 증강 생성)입니다.
  3. 재무 연계: 건당 비용이나 전환율처럼 프로젝트가 성공하면 달라지는 기존 지표가 있습니다.
  4. 책임자 지정: 현업 리더가 해당 지표를 책임지고 프로세스를 바꿀 권한을 갖습니다.
  5. 핵심 시스템 연동: AI 결과물을 손으로 옮기지 않고 주요 업무 시스템에 바로 저장합니다.

3번이나 4번을 통과하지 못한 아이디어는 AI 투자가 아니라 실험입니다. 규모를 작게 유지하고 주요 ROI 보고에서 제외하십시오.

업무 기능별 AI ROI는 어떻게 측정합니까?

업무 기능별 AI ROI는 하나의 지표를 정하고 도입 전 기준치와 비교 그룹 대비 변화를 추적해 측정합니다. 절감 시간은 투입 요소일 뿐 성과가 아닙니다.

IT 의사결정권자 830명을 조사한 Futurum의 2026년 상반기 조사에서 직접적인 재무 효과를 ROI 기준으로 꼽은 응답은 21.7%로 거의 두 배가 됐고, 생산성 향상은 23.8%에서 18.0%로 줄었습니다.

실무적인 측정 방법은 네 가지입니다.

  • 기준치: 도입 전 최소 한 번의 사업 주기 동안 목표 지표를 기록합니다.
  • 비교 그룹: QJE 고객 지원 연구처럼 일부 팀에 먼저 적용합니다.
  • 전체 비용: 라이선스뿐 아니라 모델 운영, 시스템 연동, 사람의 검토, 교육 비용을 포함합니다.
  • 점검 주기: 운영 지표는 매월, 재무 성과는 분기마다 확인합니다.

입력값을 정확하게 잡으면 ROI 계산은 간단합니다.

수식의 각 항목은 지표 변화량, 처리량, 건당 가치, 운영 비용, 총 투자액을 뜻합니다.

기업 AI의 주도권은 현업과 IT 중 누가 가져야 합니까?

기업 AI의 성과는 현업 리더가 책임지고, IT는 플랫폼, 데이터, 보안 통제를 운영하는 구조가 바람직합니다. 이 역할 분담이 AI 운영 모델의 핵심입니다. BCG APAC 연구는 hub-and-spoke 모델을 설명합니다. 중앙 AI 조직이 표준과 공용 플랫폼을 맡고, 현업 조직이 프로젝트를 실행하며 가치 실현을 책임집니다. MIT NANDA도 일선 관리자에게 권한을 준 것을 성공 요인으로 꼽았습니다.

예산도 이미 이 구조를 따릅니다. 기업 AI 지출의 80% 이상이 IT 예산 밖에서 집행되고 있습니다.

AI가 안전한 범위 안에서 작동하도록 하는 규칙, 즉 가드레일에는 특히 주의가 필요합니다. HBR 조사에서 92%가 AI 에이전트에 규칙 기반 가드레일이 필요하다고 답했지만, 이를 실제로 정의한 조직은 48%였습니다. BCG에 따르면 기업의 42%가 2030년까지 에이전트에 실질적인 의사결정 권한을 줄 것으로 예상하지만, 필요한 통제 장치를 모두 갖춘 곳은 5%에 불과합니다.

기업은 어떻게 AI 파일럿을 전사적 성과로 확산할 수 있습니까?

AI 파일럿을 전사적 성과로 확산하려면 업무 흐름을 재설계하고 현업 책임자를 지정해 운영 변화로 투자합니다. 파일럿에서 AI의 효과가 입증되더라도 프로세스, 역할, 예산을 바꾸지 않으면 확산은 실패합니다. 이후 프로젝트가 첫 프로젝트의 기반을 재사용할 때 확산은 성공합니다. BCG에 따르면 선도 기업은 가치가 큰 소수의 업무 흐름을 처음부터 끝까지 재설계한 뒤 효과가 검증된 방식을 확대합니다.

실무 단계는 다섯 가지입니다.

  1. 업무 흐름은 2~3개만 고릅니다. 재무 연계나 책임자 기준을 통과하지 못한 파일럿은 중단합니다.
  2. 도입 전에 재설계합니다. 불필요한 단계를 없애고 사람이 검토할 지점을 정합니다.
  3. 한 번 만들고 재사용합니다. 검색, 시스템 연동, 관리 체계를 공용으로 구축하면 이후 비용이 낮아집니다.
  4. 접근권만 주지 말고 활용에 투자합니다. 덴마크 연구에서는 고용주가 장려한 곳의 챗봇 이용률이 83%로, 그렇지 않은 곳(47%)의 거의 두 배였고, 교육은 근로자 집단 간 격차를 줄였습니다.
  5. 운영 비용과 관리 비용을 예산에 반영합니다. Futurum 조사에서 기업의 절반 가까이가 AI 지출 계획을 초과했지만, 그중 프로젝트를 중단하거나 축소한 곳은 17.2%였습니다.

운영 지표가 먼저 개선되고 재무 성과는 그 뒤에 따라온다고 보는 것이 현실적입니다.

결론: AX(AI 전환) 전략은 이제 무엇에 집중해야 합니까?

AX(AI 전환) 전략은 이제 매출, 서비스, 비용을 좌우하는 대량의 핵심 업무 흐름에 집중해야 합니다. 기업 설문은 가치의 대부분이 핵심 기능에 있다고 말하고, 동료 심사 연구는 고객 서비스에서 뚜렷한 성과를 확인했으며, 국가 행정 데이터는 도구를 나눠 주는 것만으로는 거의 차이가 없음을 보여 줍니다. 현업 리더가 성과를 책임지게 하고, IT가 공용 플랫폼을 운영하게 하며, 절감 시간이 아닌 재무 변화를 측정하십시오. 이렇게 하는 기업은 AI를 IT 비용에서 경영 전략의 일부로 바꿉니다. 먼저 현재 추진 중인 AI 활용 사례를 다섯 가지 기준으로 점검하고, 지표나 책임자가 없는 파일럿을 정리해 보시기 바랍니다.

About This Article

본 아티클은 메이크봇의 글로벌 리서치 조직이 영어로 초안을 작성한 후, 국내 엔터프라이즈 환경과 시장 맥락에 맞춰 한국어로 재구성·편집되었습니다. 메이크봇은 단순한 번역이나 요약이 아닌, 글로벌 AI 시장에서 논의되는 구조적 변화와 기술 흐름을 한국 기업이 실제로 적용 가능한 전략 언어로 전환하는 것을 콘텐츠의 핵심 원칙으로 삼고 있습니다. 본 아티클에 담긴 관점과 해석은 메이크봇이 수행해 온 다수의 엔터프라이즈 AI 프로젝트에서 축적된 실무 경험, 글로벌 리서치 조직의 지속적인 시장·기술 분석, 그리고 메이크봇 CEO의 기술적·전략적 검토를 거쳐 완성되었습니다.

This article is also available in English.

Continue the Conversation

본 아티클에서 제시한 접근 방식을 실제 생성형 AI 전환에 적용해보고 싶다면,
메이크봇과 논의해보세요.

AI 전환 상담 신청하기

Latest stories

More Stories

Makebot Insight Center

기술 도입을 넘어, 기업의 경쟁력을 재정의하는 메이크봇만의 독보적인 데이터와 통찰을 만나보세요.

[최신백서]

Vol.05 | 모델이 아니라 연결이 이긴다: 6대 산업 AI 구축을 위한 수직적 인텔리전스

AI전략 백서 시리즈 전체보기