AI 혁명이 그 어느 때보다 빠르게 확산되고 있습니다. 딜로이트의 최신 보고서 「The State of Gen AI in the Enterprise: Now decides next」에 따르면, 10곳 중 8곳(78%)의 기업이 내년도 AI 예산을 늘릴 계획이라고 답했습니다.
이러한 대규모 투자 확대는 AI가 단순한 실험 기술이 아닌, 본격적인 비즈니스 인프라로 자리 잡고 있음을 보여주는 결정적인 신호입니다. 기업들은 이제 AI를 선택이 아닌 필수로 인식하며, 그에 상응하는 재정적 투자를 감행하고 있습니다.
생성형 AI 중심으로 재편되는 예산 구조
이번 딜로이트 보고서에서 가장 눈에 띄는 점은 생성형 AI(Generative AI) 를 중심으로 한 AI 예산 재편입니다.
전체 AI 예산 중 20~39%를 생성형 AI에 배정하는 기업 비율은 12%p 증가한 반면, 20% 미만만 할당하던 기업은 6%p 감소했습니다. 이는 생성형 AI가 이제 실험 단계를 넘어 핵심 운영으로 자리 잡고 있음을 방증합니다.
실제로 미국 기업들은 2025년 한 해에만 3,000억 달러 이상을 AI에 투자할 예정입니다. 이는 기업 역사상 손꼽히는 기술 투자 규모이며, 초거대 언어 모델(LLM) 기반 기술이 경쟁력의 핵심 축으로 부상했음을 의미합니다.
생성형 AI가 기업 문화를 변화시키는 방법. 여기에서 자세히 읽어보세요!
인프라 수요 폭증: AI 시대의 새로운 물리적 기반
AI 확산은 기술뿐 아니라 인프라 전반에 걸친 수요 증가로 이어지고 있습니다. 딜로이트에 따르면, AI 데이터센터 전력 수요는 2024년 4GW에서 2035년 123GW로 30배 이상 증가할 전망입니다.
2024년에는 전체 데이터센터 전력 수요 중 12%만이 AI 용도였지만, 2035년에는 전체 수요의 70%가 AI에 사용될 것으로 예상됩니다.
이러한 수요는 전력에만 국한되지 않습니다. 미국 내 AI 슈퍼컴퓨터, 반도체, 서버 제조 시설에 향후 4년간 1조 달러 이상이 투자될 예정입니다. 이는 초거대 언어 모델 도입이 상당한 물리적 인프라를 요구하며, 제조, 건설, 에너지 산업 전반에 파급 효과를 미치고 있다는 점을 시사합니다.
가트너가 전망하는 2025년 10대 기술 트렌드. 여기에서 읽어보세요!
규제 컴플라이언스, 최대 난제로 부상
투자 열기와는 별개로, AI 도입 과정에는 여전히 막대한 도전과제가 존재합니다. 가장 큰 장벽은 규제 컴플라이언스(38%)로, 전년 대비 10%p 증가했습니다. 이어서 리스크 관리(32%), 도입 실행의 어려움(27%)이 주요 과제로 꼽혔습니다.
특히, 69%의 기업은 AI 거버넌스 전략 완전 구현에 1년 이상이 걸릴 것으로 예상하며, 기술 문제가 아닌 조직 전체의 구조적 변화가 필요함을 시사합니다. 이러한 현실은 생성형 AI의 성숙도와 함께, 규제 환경 역시 복잡하고 실질적인 문제로 부상하고 있음을 보여줍니다.
경영진과 실무진 사이의 시각 차이
딜로이트의 조사에 따르면, 생성형 AI 도입에 대해 경영진과 실무진 간에 뚜렷한 인식 차이가 존재합니다.
경영진(CxO) 중 21%는 "Gen AI가 이미 우리 조직을 변화시키고 있다"고 답한 반면, 일반 임직원 중에서는 불과 8%만이 그렇게 느끼고 있었습니다. 이러한 인식 격차는 도입 속도에 대한 기대치에서도 드러납니다. 경영진의 47%만이 "스케일링까지 12개월 이상 걸릴 것"이라 응답한 반면, 일반 임직원에서는 60%가 그렇게 보았습니다.
AI 도입의 성공을 위해선 경영진의 비전과 실무진의 현실이 정렬되어야 한다는 점이 강조됩니다.
다음 세대 기술, ‘Agentic AI’
생성형 AI를 넘어, 딜로이트는 ‘Agentic AI’를 차세대 핵심 기술로 지목했습니다. 이는 사람의 개입 없이 자율적으로 과제를 수행하는 AI 소프트웨어로, 기업 리더의 52%가 가장 주목할 기술로 평가했습니다. 또, 45%는 다중 에이전트 시스템(Multi-agent Systems)을 차세대 기술로 보고 있습니다.
이미 68%의 기업이 자율형 에이전트 개발을 적극적으로 검토 중이며, 이는 기존 LLM 기반 시스템에서 한 단계 진화한 형태로 할 수 있습니다.
ROI와 확장 현실의 괴리
투자 열기는 뜨겁지만, 현실적인 확장(Scaling)은 여전히 신중합니다. 응답자의 3분의 2 이상은 "현재 진행 중인 실험 중 30% 이하만이 3~6개월 내 완전히 확장될 것"이라 밝혔습니다.
하지만 고도화된 도입을 이룬 조직의 경우, ROI(투자 대비 수익)는 긍정적입니다. 전체 응답자의 74%는 "기대 이상의 ROI를 달성했다"고 답했으며, 이는 단순한 기술 적용이 아닌, 정교한 전략과 실행력이 전제되어야 가능하다는 점을 보여줍니다.
산업별 도입 양상: IT, 마케팅, 사이버보안
분야별로 보면, 가장 앞선 생성형 AI 도입 부문은 IT(28%)였습니다. 이는 LLM 기술의 특성상, 기술적 이해와 관리가 필요한 영역이기 때문입니다.
그 외에도 산업별 특화 도입이 나타나고 있습니다.
- 마케팅(소비재 중심)
- 운영(에너지, 제조, 산업 분야)
- 사이버보안(금융 서비스 중심)
특히 사이버보안 분야에서는 44%가 기대 이상의 ROI를 기록, 가장 성공적인 도입 사례로 꼽혔습니다.
전략적 시사점: 기술보다 조직이 먼저다
딜로이트의 이번 보고서는 생성형 AI 성공을 위해선 조직 전반의 전략적 전환이 필요하다는 점을 강조합니다.기술의 속도보다 조직 변화의 속도가 더 중요하며, 데이터 역량, 리스크 관리, 규제 대응, 인재 확보 등 통제 가능한 요소 중심의 준비가 관건입니다.
AI 도입을 고려 중인 기업이라면, 단순한 기술 적용이 아닌 전사적 계획과 정책, 거버넌스 체계를 갖춘 접근이 필요합니다. 78%의 기업이 AI 예산을 확대한다는 사실은, 생성형 AI와 초거대 언어 모델 기술이 이제 실험 단계를 넘어 기업 필수 기술로 자리매김했다는 신호입니다.
아시아 태평양 지역의 새로운 세대가 생성형 AI 혁신을 주도하다: 2024 딜로이트 보고서. 더 보기!
지금, 78%의 AI 투자 대열에 합류할 때입니다
딜로이트 보고서가 보여주듯, AI에 대한 기업의 투자 확대는 명확한 트렌드입니다. 그러나 규제와 실행이라는 두 가지 큰 장벽을 넘어야만 진정한 ROI 실현이 가능합니다. 메이크봇의 검증된 LLM 솔루션은 업계 맞춤형 최적화, 안정성, 거버넌스 체계를 통해 이러한 장벽을 뛰어넘을 수 있도록 돕습니다.
대한민국 No.1 기업용 LLM 챗봇 솔루션, 메이크봇과 함께 AI 투자의 가치를 실현해보세요.
지금 바로 시작하기: makebot.ai
기업 문의: b2b@makebot.ai
