서론 (Introduction)

엔터프라이즈 AI는 대부분의 기술이 좀처럼 도달하지 못하는 지점, 즉 거의 보편적인 수준의 도입률을 넘어섰습니다. 전 세계 기업의 10곳 중 9곳에 가까운 조직이 이미 비즈니스 어딘가에서 AI를 활용하고 있습니다. 그러나 기업 전체 차원에서 측정 가능한 재무적 성과는 여전히 드물며, 이는 '고성과 기업'이라 불리는 소수 그룹에 집중되어 있습니다. 이 역설이야말로 CEO Dario Amodei가 이끄는 Anthropic이 프론티어 AI 시장에서 스스로를 포지셔닝하는 방식의 핵심입니다 - 단순한 모델 제공업체가 아니라, 안전한 AI와 엔터프라이즈 인텔리전스가 서로 경쟁하는 우선순위가 아니라 본질적으로 동일한 원칙이라는 데 베팅하는 기업으로서 말입니다. 이 기사는 Amodei가 공개적으로 밝혀온 프론티어 AI, AI 안전성, AI 거버넌스에 대한 견해를 살펴보고, McKinsey와 Deloitte의 최신 검증된 리서치 데이터를 결합해, 책임 있는 AI 개발이 어떻게 단순한 컴플라이언스 비용을 넘어 실질적인 엔터프라이즈 ROI 성장 동력으로 자리잡고 있는지 설명합니다.

딜로이트: AI가 비즈니스 전략을 개편하는 가운데, 리더의 70%가 ‘민첩성’을 최우선으로 삼고 있습니다. 여기에서 최신 인사이트를 살펴보세요! 

누구도 증명을 요구하지 않았던 도입 붐

생성형 AI의 도입 속도는 최근 몇 년간 등장한 그 어떤 엔터프라이즈 기술보다도 빠르게 확산되고 있습니다. 105개국 약 2,000개 기업을 대상으로 한 McKinsey의 State of AI in 2025 서베이에 따르면, 최소 한 개 이상의 업무 영역에서 AI를 활용하는 기업 비율은 88%로, 전년도의 78%에서 크게 증가했습니다. 두 개 이상의 업무 영역에서 AI를 사용하는 기업은 전체의 3분의 2에 달하며, 절반은 세 개 이상의 영역에서 AI를 활용하고 있다고 답했습니다.

그러나 도입의 '폭'은 도입의 '깊이'를 앞질러 왔습니다. 같은 서베이에 따르면 파일럿 단계를 넘어 AI 프로그램을 본격적으로 확장한 기업은 약 3분의 1에 불과하며, 대다수는 업계에서 흔히 '파일럿 연옥(pilot purgatory)'이라 부르는 단계에 머물러 있습니다. 더욱 주목할 점은, 전체 응답 기업 중 기업 차원의 EBIT에 실질적인 영향을 미쳤다고 답한 비율이 39%에 그쳤으며, 그중 대부분도 AI로 인한 EBIT 기여도가 5% 미만이라고 답했다는 것입니다.

이것이 바로 Anthropic이 자사의 엔터프라이즈 전략을 구축해온 배경입니다 - 단순히 도입 수치를 좇는 것이 아니라, 아키텍처와 신뢰성, 신뢰를 통해 가치 격차를 좁힐 는 전략입니다.

• 88%의 기업이 최소 하나의 업무 영역에서 AI를 활용 중 (McKinsey, 2025)
• 약 33%가 파일럿 단계를 넘어 AI 프로그램을 확장
• 단 6%만이 "AI 고성과 기업"(EBIT 영향 5% 이상)으로 분류
• 매출 50억 달러 이상 기업의 거의 절반이 확장 단계에 도달한 반면, 매출 1억 달러 미만 기업은 29%에 그침

검색을 넘어: LLM·RAG가 개편하는 B2B 마케팅의 새로운 룰. 여기에서 전문가 분석을 읽어보세요! 

Anthropic의 베팅: 안전성은 부가 기능이 아니라 인프라입니다

Amodei는 Anthropic의 미션을 하나의 명확한 베팅으로 반복해서 설명해왔습니다. AI 전환기를 가장 안전하게 통과하는 방법은 프론티어 시스템을 신중하게 구축하고, 안전장치를 배포 이후에 덧붙이는 것이 아니라 처음부터 설계에 내재화하는 것이라는 것입니다. Anthropic의 Responsible Scaling Policy(RSP)는 2023년 9월 처음 발표된 이후 프론티어 AI 개발사 중 최초의 정책으로 평가받고 있으며, 점점 더 강력해지는 모델의 배포를 단계별 안전장치로 통제하는 'AI Safety Level' 체계를 수립했습니다 - Amodei는 이를 위험 병원체의 위험도를 분류하는 생물안전등급(biosafety level) 체계에 직접 비유한 바 있습니다.

이러한 구조는 이후 업계 전반의 대응에도 영향을 미쳤습니다. 2025년 2월 파리 AI 행동 정상회의 기준, 16개 이상의 프론티어 AI 기업이 이와 유사한 안전·보안 계획을 공개하기로 약속했다고 Anthropic은 밝혔습니다.

Amodei는 AI 개발의 권력 집중 문제 - 자사가 속한 문제이기도 한 - 에 대해서도 이례적으로 솔직한 태도를 보여왔습니다. 2025년 11월 CBS 60 Minutes 인터뷰에서 Anderson Cooper와 나눈 대화 중, 그는 "소수의 기업, 소수의 사람들에 의해 이런 결정이 내려지는 상황이 매우 불편합니다(I'm deeply uncomfortable with these decisions being made by a few companies)"라고 말하며, 이것이 자신이 줄곧 자율 규제가 아닌 외부 규제를 지지해온 핵심 이유 중 하나라고 덧붙였습니다. 그는 2025년 6월 New York Times 기고문에서도 비슷한 취지의 발언을 했는데, 주(州) 단위 AI 규제를 10년간 동결하려는 법안 조항에 반대하며 "AI는 너무나 빠르게 발전하고 있습니다(AI is advancing too head-spinningly fast)"라고 경고했습니다. 연방 차원의 대안 없이 10년간 규제를 동결하는 것은 시기상조라는 것이 그의 입장입니다.

이처럼 프론티어에서 기술을 구축하면서 동시에 외부 가드레일을 주장하는 이중적 태도는, Anthropic이 자체적인 AI 거버넌스 요건을 갖추어야 하는 엔터프라이즈 구매자들에게 자사를 어필하는 핵심 전략이기도 합니다.

엔터프라이즈 구매자들이 공감하는 이유

프론티어 AI 벤더를 평가하는 엔터프라이즈 구매 담당자들은 단순한 성능 지표뿐 아니라 신뢰성까지 점점 더 중요하게 고려하고 있습니다. 포춘 500대 기업의 구매 담당자가 Anthropic AI 시스템을 경쟁 프론티어 모델과 나란히 비교할 때, 그 판단 기준은 벤치마크 점수보다 벤더가 각 역량 단계에서 모델의 행동을 어떻게 통제하는지를 감사 가능한 형태로 문서화할 수 있는지에 점점 더 무게가 실리고 있습니다. 금융, 헬스케어, 공공 부문과 같은 규제 산업에서는 문서화되고 감사 가능한 안전 프레임워크가 이제 선택이 아니라 필수 조건이 되고 있습니다. 특히 다음과 같은 배경에서 이는 구매 심사의 필수 관문으로 자리 잡고 있습니다:

• 각국 관할권에서 AI 기반 의사결정에 대한 규제 감시가 강화되고 있습니다
• 이사회는 대규모 AI 배포를 승인하기 전 문서화된 리스크 완화 방안을 요구합니다
• 고객과 임직원은 AI 기반 의사결정에 대한 설명 가능성을 기대합니다
• 모델 역량이 커질수록 사이버 및 데이터 거버넌스 리스크도 함께 확대됩니다

디지털 커머스의 분기점: AI 챗봇은 왜 매출 엔진이 되는가. 여기에서 향후 동향을 확인해 보세요! 

성과 격차: AI 선도 기업과 후발 기업을 가르는 진짜 요인

최근 엔터프라이즈 AI 리서치에서 가장 주목할 만한 발견은 어떤 도구를 사용하는가가 아니라, 그 도구를 어떻게 활용하는가에 있습니다. McKinsey의 AI 고성과 기업 분석(EBIT의 5% 이상과 '유의미한 가치'를 AI에 귀속시키는 기업으로 정의)에 따르면, 이들과 나머지 시장 사이에는 뚜렷한 행동 차이가 존재합니다:

• 워크플로우 재설계: 고성과 기업은 다른 기업보다 AI를 중심으로 워크플로우를 근본적으로 재설계했을 가능성이 거의 3배 더 높습니다 (55% 대 20%)
• 비용 절감을 넘어선 목표 의식: 고성과 기업은 AI를 통해 점진적 개선이 아닌 전면적·혁신적 비즈니스 변화를 추구할 의향이 3배 이상 높습니다
• 리더십의 주인의식: 고성과 기업의 경영진이 AI 이니셔티브에 실질적인 주인의식을 가지고 직접 AI 활용을 솔선수범할 가능성이 3배 더 높습니다
• 투자 강도: 고성과 기업은 디지털 예산의 20% 이상을 AI에 투자하는 비율이 다른 조직보다 약 5배 더 높습니다
• 휴먼인더루프 원칙: 고성과 기업은 모델 결과물에 대한 인간 검증이 필요한 시점을 명확히 정의한 프로세스를 갖추고 있을 가능성이 훨씬 높습니다

(위 수치는 McKinsey의 2025년 State of AI 글로벌 서베이 기준입니다.)

Deloitte의 병행 리서치도 이러한 경향을 뒷받침하지만, ROI에 대한 그림을 다소 복잡하게 만들기도 합니다. State of Generative AI in the Enterprise 4분기 보고서(2025년 1월)에서 Deloitte는 기업의 약 4분의 3이 가장 진전된 생성형 AI 이니셔티브가 ROI 기대치를 충족하거나 초과했다고 답했다고 밝혔습니다 - 그러나 동시에 3분의 2 이상의 기업은 현재 진행 중인 AI 실험 중 30% 이하만이 향후 3~6개월 내 완전히 확장될 것으로 예상한다고 답했습니다. 한편 유럽·중동 지역 임원 1,854명을 대상으로 한 Deloitte의 더 최근 서베이(2025년 10월)에 따르면, 일반적인 AI 유스케이스가 만족스러운 ROI를 내기까지 걸리는 기간은 평균 2~4년이며, 1년 이내에 투자금을 회수했다고 답한 기업은 전체의 6%에 불과했습니다 - 이는 '기대치를 충족하는 것'과 '조직 전체 차원에서 빠르게 투자금을 회수하는 것'이 서로 다른 이야기임을 보여줍니다. 같은 서베이에서는 응답 기업의 85%가 전년 대비 AI 투자를 늘렸고 91%는 향후에도 투자를 늘릴 계획이라고 답했지만, 진정한 'AI ROI 리더'로 분류된 기업은 전체의 5분의 1 수준에 그쳤습니다.

출처: McKinsey 2025년 State of AI 글로벌 서베이

LLM은 RAG 없이도 제대로 작동할까? 여기에서 AI의 미래를 살펴보세요! 

성장 지렛대로서의 거버넌스, 걸림돌이 아닙니다

엔터프라이즈 AI 전략에서 흔히 퍼진 오해 중 하나는 AI 거버넌스와 책임 있는 AI가 배포 속도를 늦추는 걸림돌이라는 인식입니다. 그러나 데이터는 정반대의 결과를 보여줍니다: 체계적인 거버넌스는 오히려 더 빠르고 지속 가능한 확장과 상관관계를 보입니다. McKinsey의 조사에 따르면 AI를 사용하는 기업의 51%가 최소 한 차례 이상 부정적인 결과를 경험했다고 답했으며 - 가장 흔한 사례는 부정확한 결과, 사이버보안 노출, 지적재산권 문제였습니다 - 흥미롭게도 고성과 기업은 AI 유스케이스를 약 2배 더 많이 운영함에도 불구하고 이러한 사고를 더 많이 보고하는데, 이는 단순히 더 큰 규모와 더 중요한 업무 영역에서 AI를 운영하고 있기 때문입니다. 중요한 점은, 고성과 기업이 동종 기업보다 더 폭넓은 범위의 리스크를 완화하고 있다는 것이며, 이는 거버넌스를 걸림돌이 아니라 확장을 가능케 하는 요소로 취급하고 있음을 보여줍니다.

Deloitte의 AI ROI 리서치 역시 이러한 흐름을 뒷받침합니다: 여전히 가치 입증에 어려움을 겪는 기업들은 AI 도입을 명확한 전략보다는 뒤처질지 모른다는 두려움에서 비롯된 대응으로 묘사하는 경우가 많은 반면, 데이터 준비, 변화 관리, 거버넌스 인프라에 신중하게 투자하는 선도 기업들은 6~12개월의 확장 주기 동안 더 강력하고 지속 가능한 성과를 보고하고 있습니다.

정체된 AI 이니셔티브의 공통 패턴:

• 통합된 전환 로드맵 없이 파편화된 AI 전략
• AI의 역량을 활용한 재설계 없이 기존 워크플로우를 그대로 자동화
• 동종 기업 대비 낮은 투자 수준 (디지털 예산의 5% vs. 20% 이상)
• 모델 결과물에 대한 인간 검증 프로세스의 부재 또는 미비
• 설계 원칙이 아닌 후행적 컴플라이언스 절차로 취급되는 거버넌스

지속 가능한 가치 창출로 이어지는 패턴:

• 효율성 목표 위에 성장과 혁신 목표를 함께 설정
• 경영진이 직접 AI 활용을 시원하고 주도
• 처음부터 구축된 체계적이고 감사 가능한 안전·검증 프레임워크
• 파일럿이 아닌 확장을 전제로 구축된 부서 간 데이터·기술 인프라

LLM 시대, 마케팅 자동화는 무엇이 달라지는가. 여기에서 기업들이 어떻게 변화하고 있는지 확인해 보세요! 

엔터프라이즈 인텔리전스의 다음 단계: 신중하게 통제되는 에이전트 시스템

엔터프라이즈 AI의 다음 프론티어는 에이전트 기반 시스템입니다 - 인간의 개입을 최소화하며 다단계 작업을 계획하고 실행할 수 있는 시스템입니다. McKinsey의 2025년 데이터에 따르면 62%의 기업이 최소한 AI 에이전트를 실험하고 있으며, 기업 내 어느 영역에서든 에이전트 시스템을 확장하고 있다고 답한 비율은 23%에 그쳤습니다. 그마저도 대부분은 하나 또는 두 개의 업무 영역에 한정되어 있으며, 기업 전체 차원의 확장은 아직 드뭅니다. 도입은 IT와 지식관리 영역에 집중되어 있으며, 산업별로는 기술, 미디어·통신, 헬스케어가 선두를 달리고 있습니다.

바로 이 지점에서 Amodei의 안전 우선 철학이 단순한 입장 표명을 넘어 실질적인 의미를 갖게 됩니다. 거래 실행, 기록 수정, 외부 시스템과의 상호작용처럼 실제 행동을 취할 수 있는 에이전트 시스템은 초안 텍스트를 생성하는 챗봇보다 훨씬 높은 리스크를 수반합니다. Anthropic의 단계별 AI Safety Level 프레임워크와, 모델이 결과를 도출하는 과정을 이해하는 데 중점을 둔 해석가능성(interpretability) 연구는 - 결과가 '무엇'인지뿐 아니라 '왜' 그런 결과가 나왔는지를 이해하는 것 - 기업이 에이전트 시스템에 업무상 중요한 자율성을 부여하기 전에 필요로 하는 감사 가능성 요건을 정면으로 다루고 있습니다.

Amodei는 자사조차도 가장 강력한 모델이 어떻게 결과물을 도출하는지 완전히 이해하지 못하고 있다는 점을 공개적으로 인정한 바 있습니다 - 이는 프론티어 AI 리더십 사이에서는 보기 드문 솔직함입니다 - 그러면서 해석가능성 연구의 발전이야말로 더 자율적인 시스템을 안전하게 배포할 수 있는 가장 유망한 경로라고 강조했습니다. 엔터프라이즈 구매자 입장에서 이는 실질적인 거버넌스 질문으로 이어집니다: 벤더가 문제가 발생하기 전에 에이전트의 행동을 설명하고 통제할 수 있는가, 아니면 문제가 발생한 이후에야 대응할 수 있는가?

한국의 AI 혁신을 세계에 알리다: 이탈리아 SIGIR 2025에서 공개된 메이크봇의 HybridRAG 프레임워크. 여기서 더 읽어보세요!

결론: 안정성과 확장성을 경쟁이 아니라 수렴하고 있습니다

엔터프라이즈 AI 시장은 지난 3년간 '도입은 쉽지만 가치 창출은 어렵다'는 사실을 증명해왔습니다. Amodei의 공개 발언과 McKinsey, Deloitte의 폭넓은 리서치가 공통적으로 시사하는 바는, 이 격차를 좁히는 조직은 단순히 AI를 가장 빠르게 도입한 기업이 아니라 가장 신중하게 도입한 기업이라는 점입니다: 워크플로우를 재설계하고, 실질적인 규모로 투자하며, 사고가 발생한 뒤 뒤늦게 대응하는 대신 처음부터 거버넌스를 AI 프로그램에 내재화한 기업들입니다.

Anthropic에게도 이와 동일한 논리가 모델 레벨에서 작동합니다. AI 안전성과 상업적 경쟁력이 서로 상충하는 것이 아니라 서로를 강화한다는 베팅은, Amodei 스스로 밝혔듯 확정된 사실이라기보다는 하나의 도박에 가깝습니다 - 모델이 더 자율적으로 진화할수록, 그리고 거버넌스를 잘못 설계했을 때의 위험이 그만큼 커질수록, 이 베팅은 계속 시험대에 오를 것입니다. 어떤 벤더를 선택하든 엔터프라이즈 리더들에게 실질적으로 남는 메시지는 동일합니다: 앞으로 다가올 엔터프라이즈 인텔리전스의 시대는 신뢰와 투명성, 절제된 확장을 후행적인 컴플라이언스 비용이 아니라 핵심 경쟁 인프라로 다루는 조직에게 보상을 안겨줄 것입니다.

가장 중요한 곳에서 성과를 내는 거버넌스 우선 AI

Amodei와 McKinsey가 모두 가리키고 있는 결론은 같습니다. 거버넌스를 사후 조치가 아닌 핵심 인프라로 다루는 기업이 AI 도입과 측정 가능한 가치 사이의 격차를 실제로 좁히고 있습니다. 메이크봇(Makebot)은 헬스케어, 금융, 공공기관 등 다양한 산업에 걸쳐 1,000개 이상의 기업 고객이 신뢰하는 대한민국 대표 생성형 AI 및 LLM 솔루션 전문 기업입니다. 독자적인 멀티 LLM 플랫폼, 할루시네이션 최소화와 감사 가능성을 지원하도록 설계된 하이브리드 RAG 아키텍처, 권한 인식 검색(permission-aware search), 폐쇄형 네트워크 배포, 그리고 사고가 발생한 이후에 덧붙이는 것이 아니라 처음부터 내재화된 휴먼인더루프 설계를 바탕으로, 메이크봇은 AI 파일럿이 확장되기를 기다리는 조직이 아니라 실질적이고 지속 가능한 가치를 포착하는 조직을 만드는 데 필요한 거버넌스 기반의 설명 가능한 AI 인프라를 제공합니다.

자율성을 요구하기 전에 신뢰를 먼저 구축하는 엔터프라이즈 AI, 메이크봇과 함께 시작하십시오