생성형 AI를 둘러싼 논쟁은 이제 기술 트렌드의 영역을 넘어, 경영 판단의 문제로 이동하고 있습니다. GPU, 데이터센터, 모델 개발에 수조 달러가 투입되는 상황에서, 많은 경영진은 한 가지 질문 앞에서 멈춥니다. 지금의 AI 투자는 전략적 선택인가, 아니면 또 하나의 거품인가.
메이크봇이 글로벌 리서치와 실제 엔터프라이즈 AI 도입 사례를 분석한 결과, 이 질문은 단순한 시장 과열 논쟁으로는 설명되지 않습니다. 현재의 AI 확산은 소비자 유행이나 단기 기술 사이클이 아니라, 기업 인프라 구조 자체가 재편되는 과정에 더 가깝기 때문입니다.
이 지점에서 IBM의 CEO 아르빈드 크리슈나(Arvind Krishna)는 분명한 입장을 밝힙니다.
“지금 우리는 AI 버블 한가운데에 있는가?”
그의 답은 단호합니다. 아니오.
아르빈드 크리슈나의 판단은 기대감이나 낙관론이 아니라, 경제적 펀더멘털, 실제 도입 데이터, 과거 인프라 투자사의 반복된 패턴에 기반합니다. 그는 현재의 AI 투자를 투기적 과열이 아니라, 향후 수십 년간 기업 생산성과 산업 구조를 바꿀 엔터프라이즈 인프라 전환의 출발점으로 규정합니다.
이 글은 그의 분석을 중심으로, 왜 AI 붐이 ‘거품’이 아니라 지속 가능한 구조적 변화인지, 그리고 이 흐름 속에서 어떤 기업만이 장기적 승자가 될 수 있는지를 살펴봅니다.
아르빈드 크리슈나가 강조하는 AI 붐에 대한 5가지 핵심 포인트
- AI는 소비자 유행이 아니라 엔터프라이즈 인프라 혁명에 가깝습니다.
- 현재의 AI 투자는 시간이 지날수록 1,000배 더 저렴해질 것이며, 결국 합리적인 투자로 귀결될 것입니다.
- 일부 투자자는 손실을 보겠지만, 산업 자체가 붕괴되지는 않을 것입니다. 이는 과거 인프라 붐과 같은 맥락입니다.
- AI의 가치는 AGI 달성 여부에 달려 있지 않습니다. 이미 기업 생산성 향상만으로도 막대한 경제적 효과가 나타나고 있습니다.
- IBM은 하이브리드 클라우드, 신뢰 기반 엔터프라이즈 AI, 그리고 양자 컴퓨팅과 같은 장기 전략을 통해 유리한 위치를 확보하고 있습니다.
2025년 12월 1일 진행된 심층 인터뷰에서 크리슈나는 지금의 AI 물결이 투기적 과열이 아니라, 향후 수십 년간 이어질 기업·산업 인프라 전환의 출발점임을 데이터 기반으로 설명했습니다.
이 글은 그의 인사이트에 시장 전반의 분석을 더해, 왜 AI 붐이 실체를 가진 흐름인지, 왜 지속될 수밖에 없는지, 그리고 IBM이 다음 지능형 컴퓨팅 시대에서 어떤 위치에 서 있는지를 살펴봅니다.
맥킨지(McKinsey) : 57% 자동화가 가능한데도 일자리는 왜 사라지지 않는가. 여기서 더 읽어보세요!
첫 번째 원칙: AI는 소비자 유행이 아니라 기업 인프라입니다
크리슈나가 가장 중요하게 구분하는 지점은 B2C 중심의 유행 사이클과, 조용히 전 세계 산업을 바꾸고 있는 B2B 중심의 구조적 전환입니다.
그는 특히 초대형 소비자 AI 영역에서 차입에 의존한 일부 투자가 실패할 수 있다는 점을 인정합니다. 하지만 이 질문에 대해서는 단호한 입장을 보입니다.
“지금 우리가 AI 버블에 있다고 생각하나요? 아닙니다.”
이유는 간단합니다. 엔터프라이즈 AI는 대중적 유행에 대한 기대가 아니라, 측정 가능한 생산성 향상과 운영 효율, 그리고 실제 비즈니스 시스템의 현대화에 기반하고 있기 때문입니다.
일부 모델이나 기업이 사라지더라도, 지금 구축되고 있는 연산 인프라, 네트워크, 스토리지, 하이브리드 클라우드 시스템은 2000년대 초반의 광섬유 투자처럼 장기적으로 가치를 만들어낼 것입니다.
크리슈나는 이 두 시기를 정확히 겹쳐서 바라봅니다. 광섬유 투자는 수많은 금융 붕괴를 낳았지만, 그 인프라는 결국 인터넷 시대의 핵심 기반이 되었습니다. 마찬가지로 데이터센터부터 모델 프레임워크에 이르는 AI 인프라는 초기 변동성을 넘어 오래 살아남을 구조적 자산입니다.
AI 비용은 1,000배 낮아집니다 - 지금의 투자가 합리적인 이유
일부 비판론자들은 GPU와 AI 인프라에 드는 천문학적 비용이 지속 가능하지 않다고 말합니다. 크리슈나 역시 현재 지출 규모가 크다는 점에는 동의합니다. 그러나 그는 경제 구조가 결국 균형을 찾게 될 것이라고 봅니다.
그가 제시한 세 가지 비용 하락 곡선은 다음과 같습니다.
1. 반도체 성능의 10배 향상
- 경쟁 심화, 소재 과학의 발전, 새로운 아키텍처 도입이 이를 이끌고 있습니다.
2. 칩 설계 효율의 10배 개선
- NVIDIA뿐 아니라 Groq, Cerebras와 같은 신흥 기업들이 경쟁을 가속하고 있습니다.
3. 소프트웨어 최적화를 통한 10배 효율 향상
- 양자화, 압축, 캐싱, 배포 방식 개선이 여기에 포함됩니다.
이를 모두 합치면 결과는 명확합니다.
10 × 10 × 10 = 향후 5년 내 AI 비용 1,000배 감소
이는 단순한 비용 절감이 아니라, 지금의 투자가 버블처럼 붕괴되는 것이 아니라 장기 가치로 흡수될 것임을 보여주는 핵심 논거입니다.
모든 자본이 성공하지는 않지만, 산업은 살아남습니다
크리슈나는 리스크를 과소평가하지 않습니다. 그는 다음과 같이 말합니다.
“지금 투입되고 있는 자본 중 일부는 회수되지 못할 것입니다.”
다만 그는 자본의 성격을 명확히 구분합니다.
- 주식 자본: 큰 수익을 얻을 가능성이 있습니다.
- 부채 자본: 투기적 경쟁 속에서 더 취약합니다.
- 인프라 자산: 장기적으로 활용 가치가 유지됩니다.
이는 광섬유 붐과 매우 닮아 있습니다.
많은 기업이 실패했고 투자자들은 수십억 달러의 손실을 입었지만, 오늘날 모든 주요 기업은 그 인프라의 혜택을 누리고 있습니다.
그래서 크리슈나는 단언합니다. 일부 투자자가 손실을 보더라도, AI 산업 자체는 버블이 아닙니다.
AI 교육 전쟁의 시작 - 구글의 1.4조 투자와 한국 대학의 생존 전략. 더 보기!
진짜 가치를 만드는 것은 AGI 경쟁이 아닙니다
크리슈나의 또 다른 핵심 주장 역시 분명합니다. 그는 현재의 LLM 기반 AI가 AGI에 도달할 확률을 0~1% 수준으로 보고 있습니다.
이 점이 중요한 이유는 AI 붐이 불확실한 ‘돌파적 진화’에 의존하지 않는다는 사실을 보여주기 때문입니다.
그가 보는 진짜 경제적 가치는 다음 영역에 있습니다.
- 기업 자동화
- 업무 흐름 보조 및 증강
- 데이터 인텔리전스
- 산업 특화 AI 시스템
- 도메인에 최적화된 모델
- 하이브리드 클라우드 통합
AGI 없이도 그는 수조 달러 규모의 기업 생산성 향상이 가능하다고 전망합니다. 그래서 AGI를 전제로 한 과도한 가치 평가 논쟁에도 흔들리지 않습니다. 엔터프라이즈 AI는 이미 명확하고 현실적인 ROI를 보여주고 있기 때문입니다.
엔터프라이즈 도입은 이미 측정 가능한 성과를 만들어내고 있습니다
크리슈나는 IBM 내부에서 확보한 드문 정량 데이터를 제시합니다.
IBM의 생성형 코드 어시스턴트를 도입한 6,000명의 IBM 개발자들은 단 4개월 만에 생산성이 45% 향상되었습니다.
이는 가설적 가치가 아닙니다. 문서로 입증된 조직 차원의 생산성 개선이며, 엔터프라이즈 CEO라면 누구나 꿈꾸는 지표입니다.
이 수치가 의미하는 바는 매우 큽니다. 만약 이러한 엔터프라이즈 AI 도입 효과가 보험, 물류, 금융, 헬스케어 등 산업 전반으로 확산된다면, 그 거시경제적 영향은 과거 어떤 기술 사이클보다도 훨씬 클 것입니다.
크리슈나는 더 나아가, AI가 범용 개발 계층으로 자리 잡으면서 “10억 개의 새로운 애플리케이션이 탄생할 것”이라고 전망합니다.
AI 버블이 존재하지 않는 진짜 이유
크리슈나의 논지는 세 가지 핵심 축에 기반하고 있습니다.
첫 번째 축: AI 경제는 소비자 중심이 아니라 인프라 중심입니다
AI는 소비자 유행을 먼저 타는 산업이 아닙니다.
인터넷과 광섬유 전환처럼, 투기 사이클을 넘어 장기간 존속하는 인프라 자산의 성격을 지니고 있습니다.
두 번째 축: 엔터프라이즈 ROI는 이미 측정 가능하고, 재현 가능하며, 가속되고 있습니다
45%의 생산성 향상에서 시작해, 수십억 개의 애플리케이션 생태계로 확장되는 흐름이 이미 관측되고 있습니다.
세 번째 축: AI는 기하급수적으로 저렴해지고 효율적으로 진화할 것입니다
1,000배 수준의 비용 하락은 장기적인 경제 구조 자체를 근본적으로 변화시킵니다.
이와 동시에, 소비자 중심의 투기적 AGI 베팅은 실패할 수 있습니다. 그러나 엔터프라이즈 AI 시장은 복리적으로 성장할 것입니다.
그래서 크리슈나는 다음과 같이 확신합니다. AI 버블은 존재하지 않습니다. 다만 장기적·근본적 기술 전환 과정에서 자본 배분이 왜곡되고 있을 뿐입니다.
이것이 AI 개발의 미래에 의미하는 것
크리슈나의 분석을 바탕으로, 향후 AI 산업에서는 다음과 같은 변화가 예상됩니다.
1. 전 산업에 걸친 대규모 엔터프라이즈 AI 현대화
헬스케어, 제조, 물류, 금융, 공공 부문, 에너지 사업까지 모든 영역에서 AI 도입이 가속화될 것입니다.
2. 하이브리드 AI 아키텍처의 부상
멀티 클라우드, 소버린 클라우드, 온프레미스 AI가 결합된 구조가 표준이 될 것입니다.
3. AI 네이티브 개발 스택의 확산
크리슈나는 스마트폰 앱 붐을 훨씬 뛰어넘는 ‘10억 애플리케이션 시대’를 예측합니다.
4. 모델 경쟁에서 비용 경쟁으로의 전환
정확도보다 중요한 것은 효율입니다. 미래의 경쟁은 누가 더 저렴하고 효율적인 AI를 제공하는가에 달려 있습니다.
5. 새로운 컴퓨팅 계층의 등장: 양자 컴퓨팅 + AI
IBM은 차세대 계산 패러다임에서 핵심적 역할을 수행하는 것을 목표로 하고 있습니다.
한국의 AI 혁신을 세계에 알리다: 이탈리아 SIGIR 2025에서 공개된 메이크봇의 HybridRAG 프레임워크. 여기 읽어보세요!
결론
AI를 둘러싼 논쟁의 핵심은 기술이 아닙니다. 자본이 어디에 쓰이고 있으며, 그 자본이 어떤 구조적 자산으로 전환되고 있는가의 문제입니다. 이 관점에서 보면, 현재의 AI 확산은 버블이라기보다 엔터프라이즈 인프라 전환의 초기 비용 구간에 가깝습니다.
아르빈드 크리슈나가 반복해서 강조하는 지점도 여기에 있습니다. 일부 기업과 투자자는 사라질 수 있습니다. 특히 소비자 중심의 과도한 기대와 부채 기반의 투기적 베팅은 실패할 가능성이 큽니다. 그러나 그 과정에서 구축되는 연산 인프라, 하이브리드 클라우드, 데이터 파이프라인, 엔터프라이즈 AI 도구는 사라지지 않습니다. 오히려 이후 수십 년간 산업 전반의 생산성을 끌어올릴 기반으로 남습니다.
중요한 사실은, AI의 경제적 가치는 AGI라는 불확실한 도착점에 달려 있지 않다는 점입니다. 이미 자동화, 업무 증강, 개발 생산성, 운영 효율이라는 영역에서 측정 가능하고 재현 가능한 ROI가 나타나고 있습니다. 이는 ‘언젠가 될지도 모르는 기술’이 아니라, 이미 작동하고 있는 인프라입니다.
따라서 경영진이 던져야 할 질문은 “AI 버블인가 아닌가”가 아닙니다.
“우리 조직은 이 인프라 전환의 어느 지점에 서 있는가”,
“파일럿을 넘어서 실제 운영과 비용 구조를 감당할 준비가 되어 있는가”입니다.
AI 시대의 승자는 가장 화려한 모델을 가진 기업이 아니라, 가장 빠르게 AI를 운영 인프라로 흡수한 조직이 될 것입니다. 그리고 이 변화는 이미 시작되었습니다.
메이크봇: AI 전략을 실제 비즈니스 성과로 바꾸는 기술
AI가 구조적 인프라 전환의 단계로 진입한 지금, 기업이 직면한 과제는 모델 선택이 아니라 어떻게 안전하고 지속 가능한 방식으로 AI를 운영 환경에 흡수할 것인가입니다. 실제 현장에서는 데이터 분산, 비용 통제, 보안·규제, 그리고 파일럿 이후 확장(Scaling)이 가장 큰 장애물로 작용합니다.
엔터프라이즈 환경에서 AI를 전사적으로 도입한다는 것은, 개별 솔루션을 도입하는 문제가 아니라 조직 전반의 업무 흐름과 커뮤니케이션 채널, 지식 접근 방식, 운영 구조를 하나의 AI 계층으로 통합하는 작업을 의미합니다. 이 과정에서 챗봇, 상담 채팅, 문서 검색, 콜봇, 내부 업무 지원이 각각 분절된 솔루션으로 존재할 경우, 비용은 증가하고 거버넌스와 운영 복잡성은 급격히 높아집니다.
그래서 전사 확장 단계에서는 특정 기능에 특화된 단일 솔루션보다, 동일한 철학과 아키텍처 위에서 모든 LLM 기반 접점을 통합적으로 제공할 수 있는 파트너가 필요합니다. 데이터 구조, 보안 정책, 비용 최적화 로직, 모델 운영 방식이 일관되지 않으면, AI는 오히려 조직의 부담이 되기 때문입니다.
메이크봇(Makebot)은 RAG·LLM 챗봇(BotGrade), AI 기반 상담 채팅(MagicTalk), 문서 검색(MagicSearch), AICC 콜봇(MagicVoice), 그리고 LLM 기반 업무지원 플랫폼(MagicWorks)을 단일 엔터프라이즈 AI 스택으로 제공하는 한국 내 거의 유일한 기업입니다. 이는 단순히 제품 라인업이 많다는 의미가 아니라, 전사 관점에서 AI를 설계·운영·확장할 수 있는 구조를 처음부터 전제로 설계해 왔다는 뜻입니다.
이러한 통합 역량은 AI를 파일럿에서 실제 운영으로, 다시 조직 전체로 확장하는 과정에서 결정적인 차이를 만듭니다. 엔터프라이즈 AI의 성패는 ‘어떤 모델을 쓰는가’가 아니라, 누가 이 복잡한 전환을 끝까지 책임질 수 있는가에 달려 있기 때문입니다.
메이크봇은 바로 그 역할을 수행합니다.
👉 엔터프라이즈 AI 전환 전략을 논의해보세요: www.makebot.ai
📩 문의: b2b@makebot.ai
