Key Takeaways

• Deloitte의 2026년 설문조사(비즈니스 리더 3,235명 대상)에 따르면, 기업 중 단 21%만이 에이전틱 AI에 대한 성숙한 거버넌스 체계를 갖추고 있다고 답했습니다. 이는 약 다섯 곳 중 네 곳이 제대로 된 관리 체계 없이 AI 에이전트를 운영하고 있다는 뜻입니다.
• Gartner는 2027년 말까지 에이전틱 AI 프로젝트의 40% 이상이 중단될 것으로 예측합니다. 원인은 모델 성능 부족이 아니라 비용 증가, 불명확한 비즈니스 가치, 취약한 리스크 통제입니다.
• PwC의 2026 AI Performance Study에 따르면 상위 20% 기업이 AI가 창출하는 경제적 가치의 약 4분의 3을 차지하며, 이들 선도 기업은 AI 거버넌스에도 오히려 더 많은 투자를 하고 있습니다.
• Schellman의 2026 State of AI Governance Report에 따르면 거버넌스가 성숙한 기업은 그렇지 않은 기업보다 3배 이상 높은 비율로 프로덕션 환경에서 AI 에이전트를 운영하고 있습니다(78% 대 22%).
• 이 격차는 자금이 아니라 조직의 문제입니다. 조직의 90%가 이미 AI 거버넌스를 위한 예산을 확보했지만, 공식 정책을 갖춘 곳은 57%, 문서화된 사고 대응 계획을 갖춘 곳은 44%에 불과합니다.

엔터프라이즈 AI 에이전트는 더 이상 소규모 테스트 프로젝트에 머물지 않습니다. 지금 이 순간에도 AI 에이전트는 고객 환불을 승인하고, 고객지원 티켓을 분류하며, 실제 운영 중인 시스템에서 데이터를 가져오고, 재무·인사·고객서비스 전반의 업무 흐름을 시작하고 있습니다. 이 과정에서 사람의 검토는 거의 이루어지지 않습니다. 그러나 Deloitte가 비즈니스 및 IT 리더 3,235명을 대상으로 실시한 글로벌 설문조사에 따르면, 이를 관리할 만큼 성숙한 거버넌스 체계를 갖췄다고 답한 기업은 단 21%에 불과합니다. 이는 약 79%의 기업이 엔터프라이즈 AI 에이전트를 운영하면서도, 에이전트가 어떤 결정을 스스로 내릴 수 있는지, 모든 행동이 기록되고 있는지, 문제가 발생했을 때 누가 책임을 지는지와 같은 기본적인 질문에 명확히 답하지 못하고 있다는 뜻입니다. 이 글에서는 이러한 격차에 대해 데이터가 실제로 무엇을 보여주는지, 그 원인은 무엇인지, 그리고 에이전틱 AI를 진정한 비즈니스 가치로 전환하는 기업과 조용히 위험을 쌓아가는 기업 사이의 차이를 살펴봅니다.

숫자로 보는 거버넌스 격차

24개국 리더 3,235명을 인터뷰한 Deloitte의 State of AI in the Enterprise 2026 보고서에 따르면, 응답자 중 단 21%만이 에이전틱 AI에 대한 성숙한 거버넌스 체계를 갖추고 있다고 답했습니다. 다시 말해 약 80%는 어떤 결정에 사람의 승인이 필요한지에 대한 명확한 기준, 실시간 모니터링 체계, 에이전트 행동에 대한 완전한 기록과 같은 기본적인 요소를 여전히 갖추지 못한 상태입니다.

도입 속도가 빨라지면서 이 격차는 더욱 벌어지고 있습니다. 같은 설문조사에서는 2027년까지 조직의 74%가 최소 "보통" 수준으로 AI 에이전트를 활용할 것으로 예상했으며, 23%는 광범위한 활용을 예상했습니다. Gartner의 연구도 같은 흐름을 보여줍니다. Gartner는 2027년 말까지 에이전틱 AI 프로젝트의 40% 이상이 중단될 것으로 예측하며, 그 원인으로 비용 증가, 불명확한 비즈니스 가치, 취약한 리스크 통제를 꼽았습니다. 또한 Gartner는 수천 개에 달하는 "에이전틱 AI" 공급업체 중 실제로 진정한 자율 기능을 제공하는 곳은 약 130곳에 불과하다고 추정하며, 이러한 현상을 "에이전트 워싱(agent washing)"이라고 표현했습니다.

에이전틱 AI가 기존 거버넌스 모델을 무너뜨리는 이유

기존의 AI 거버넌스 규정 대부분은 사람이 결과물을 먼저 검토한 뒤 사용하는 방식, 즉 초안을 작성하거나 제안을 내놓는 **대규모 언어 모델(LLM)**을 전제로 만들어졌습니다. 그러나 에이전틱 AI는 이 전제를 완전히 바꿔놓습니다. 에이전트는 단순히 행동을 제안하는 데 그치지 않고 실제로 그 행동을 수행할 수 있습니다. 환불을 처리하고, 기록을 수정하며, 다른 시스템을 작동시키기도 합니다. 이 과정에서 여러 결정이 자연스러운 검토 지점 없이 연속적으로 이어지는 경우가 많습니다.

이러한 이유로 콘텐츠 검토를 중심으로 구축된 엔터프라이즈 AI 거버넌스는 에이전트 관련 위험을 통제하는 데 계속 실패하고 있습니다. AI 에이전트 보안은 LLM 단독으로는 발생하지 않았던 문제들, 즉 에이전트가 필요 이상의 접근 권한을 갖게 되는 상황, 여러 에이전트가 예측 불가능하게 서로 조율하는 상황, 작은 오류가 눈덩이처럼 커지는 상황까지 다뤄야 합니다. Deloitte는 성숙한 에이전틱 AI 거버넌스를 구체적으로 정의합니다. 명확한 승인 범위, 실시간 모니터링, 그리고 완전한 감사 추적이 그것입니다. 에이전틱 AI 거버넌스를 기존 AI 정책의 부속물 정도로 취급하고 독립된 전문 영역으로 다루지 않는 것이, 이러한 격차를 만드는 주요 원인 중 하나입니다.

AI 선도 기업과 AI 후발 기업을 가르는 요인

25개 산업 분야의 임원 1,200명 이상을 대상으로 한 PwC의 2026 AI Performance Study에 따르면, 소수의 기업이 AI를 통한 재무적 성과 면에서 크게 앞서 나가고 있으며, 거버넌스는 이들 기업에게 희생해야 할 요소가 아니라 오히려 뚜렷한 차별화 요인으로 작용하고 있습니다.

• 상위 20% 기업이 AI가 창출하는 경제적 가치의 약 4분의 3을 차지합니다.
• 이들은 개별적인 업무 처리보다 새로운 성장 기회를 포착하는 데 AI를 활용할 가능성이 2~3배 더 높습니다.
• 단순히 기존 프로세스 위에 도구를 얹는 대신, AI를 중심으로 업무 흐름 자체를 재설계할 가능성이 2배 더 높습니다.
• 거버넌스에 대한 투자를 늘리는 동시에, 자율적으로 이루어지는 의사결정을 늘릴 가능성이 2.8배 더 높습니다.

MIT의 NANDA 연구도 이러한 흐름을 뒷받침합니다. 조사 대상 기업의 95%가 생성형 AI 도입에서 측정 가능한 재무적 성과를 내지 못한 반면, 외부 공급업체로부터 도구를 구매하고 파트너십을 맺은 경우의 성공률은 약 67%였습니다. 반면 자체적으로 개발한 경우의 성공률은 그 3분의 1 수준에 그쳤습니다.

거버넌스 격차의 조직적 원인

이는 대개 자금 문제가 아닙니다. Schellman의 2026 State of AI Governance Report에 따르면 조직의 90%가 이미 AI 거버넌스를 위한 예산을 확보했지만, 공식적인 정책을 갖춘 곳은 57%에 불과하며, 문서화된 사고 대응 계획을 갖춘 곳은 44%에 그칩니다. 같은 조사에서는 응답자의 74%가 지금 당장 AI 컴플라이언스 감사를 통과할 수 있다고 자신했지만, 프로그램이 완전히 성숙했다고 답한 비율은 27%에 불과했습니다.

이는 기술의 문제가 아니라 사람과 프로세스의 문제입니다.

• 정책은 법무, 컴플라이언스, 보안, 비즈니스 부서 간의 합의가 필요하기 때문에, 예산 승인이 정책 수립보다 훨씬 빠르게 이루어집니다.
• AI 리스크 관리 체계는 대부분 사이버보안 대응 방식을 그대로 빌려온 것으로, 여러 단계를 스스로 수행하는 자율 에이전트를 염두에 두고 설계된 것이 아닙니다.
• 조직의 42%에서는 AI 도입에 대한 책임이 대개 CIO 또는 IT 책임자인 임원 한 명에게 집중되어 있어, 의사결정과 위험 부담이 한 사람에게 몰리는 구조적 위험이 존재합니다.

거버넌스가 성숙한 기업들은 훨씬 더 나은 성과를 보고합니다. 57%는 효율성이 개선되었다고 답했고, 49%는 규제 대응력이 강화되었다고, 43%는 확장이 더 쉬워졌다고 답했습니다. 이들 기업은 또한 거버넌스가 미성숙한 기업에 비해 실제 프로덕션 환경에서 에이전트를 운영하는 비율이 3배 이상 높았습니다(78% 대 22%).

AI 선도 기업과 AI 후발 기업 비교

이 두 유형의 차이는 거의 모든 측면에서 나타납니다. Deloitte의 연구에 따르면 거버넌스가 성숙한 기업은 소규모로 시작해 신중하게 확장하는 반면, 거버넌스가 뒤처진 기업은 명확한 기준 없이 서둘러 확장합니다. 

Schellman에 따르면 거버넌스 성숙 기업의 78%가 실제 프로덕션 환경에서 에이전트를 운영하고 있는 반면, 거버넌스 후발 기업은 22%에 그칩니다. PwC의 데이터에 따르면 거버넌스 성숙 기업은 감독을 유지하면서도 자율적 의사결정을 2.8배 더 확대할 가능성이 높고, 워크플로우를 AI 중심으로 재설계할 가능성도 2배 더 높습니다. 반면 거버넌스 후발 기업은 자율성이 모니터링 체계를 엎지르고, 기존 프로세스 위에 도구만 추가하는 데 그칩니다. 

정책 측면에서도 Schellman의 조사에 따르면 거버넌스 성숙 기업은 공식 정책과 문서화된 대응 체계를 갖춘 반면, 후발 기업은 예산만 확보했을 뿐 문서화된 계획이 없는 경우가 많습니다. 그 결과 거버넌스 성숙 기업은 효율성, 규제 대응력, 확장성 면에서 더 나은 성과를 보고하는 반면, Gartner의 연구에 따르면 거버넌스 후발 기업은 파일럿이 중단되거나 프로젝트가 취소될 위험이 더 높습니다.

AI 에이전트 확장 시 흔히 겪는 과제

• 불명확한 의사결정 경계: 에이전트가 스스로 수행할 수 있는 행동과 사람의 승인이 필요한 행동을 공식적으로 문서화한 기업은 많지 않습니다.
• 불완전한 기록: 에이전트가 실제로 무엇을 했는지에 대한 전체 로그가 없으면, 문제 조사는 사후 추측에 의존할 수밖에 없습니다.
• 규제 대응력 격차: 94%는 이미 AI 규제가 시행 중인 지역에서 사업을 운영하고 있지만, EU AI Act에 대비되어 있다고 답한 비율은 29%, APAC 규정에 대비되어 있다고 답한 비율은 12%에 불과합니다.
• 이사회 차원의 사각지대: 제3자 AI 리스크를 정기적으로 논의하는 이사회는 36%에 불과합니다.
• 속도가 감독을 앞지르는 현상: 비용 증가, 불명확한 가치, 취약한 통제라는, Gartner가 프로젝트 취소의 주요 원인으로 꼽은 것과 동일한 조합입니다.

거버넌스 프레임워크 구축하기

Deloitte의 연구에 따르면 선도 기업들은 거버넌스를 도입 이후가 아니라 도입과 동시에 구축합니다.

• 에이전트를 가동하기 전에 승인 기준을 명확히 정의합니다.
• 실시간 모니터링 체계와 완전한 감사 추적 기능을 구축합니다.
• 에이전트 관리 책임을 IT, 법무, 컴플라이언스, 비즈니스 부서가 공동으로 나눠 맡도록 하고, 임원 한 명에게 집중시키지 않습니다.
• 위험도가 낮은 사용 사례부터 시범 도입하고, 거버넌스 역량이 따라올 수 있는 범위 내에서만 확장합니다.

결론: 거버넌스가 곧 성장 전략이 되고 있다

데이터가 가리키는 결론은 하나입니다. 엔터프라이즈 AI의 가장 큰 걸림돌은 모델의 성능이 아니라 감독 체계입니다. 79%라는 거버넌스 격차는 기업의 의지나 예산이 부족하다는 뜻이 아닙니다. 실제로 투자는 꾸준히 늘고 있습니다. 이는 대부분의 기업이 여전히 AI 에이전트 거버넌스를 나중에 처리해도 되는 부수적인 문제로 취급하고 있다는 뜻입니다. 그러나 거버넌스는 사실 에이전틱 AI 프로그램이 실제 업무 환경에서 살아남을 수 있는지를 결정짓는 근본적인 토대입니다. PwC에 따르면 AI 경제적 가치의 4분의 3을 차지하는 상위 20% 기업, 그리고 3배 이상 높은 비율로 에이전트를 프로덕션에 운영하는 거버넌스 성숙 기업들은, 거버넌스와 성장이 서로 경쟁하는 목표가 아니라 사실상 같은 전략이라는 것을 증명하고 있습니다. 처음부터 거버넌스를 함께 구축하는 것이야말로, 프로그램이 스스로를 증명할 기회를 얻을 수 있는지를 결정짓는 핵심 요소입니다.

거버넌스는 사후에 추가하는 것이 아니라 처음부터 내재화하는 것입니다

데이터는 분명합니다. 성숙한 AI 거버넌스를 갖춘 기업은 그렇지 않은 기업보다 3배 이상 높은 비율로 AI 에이전트를 실제 프로덕션 환경에서 운영하고 있습니다. 메이크봇(Makebot)은 헬스케어, 금융, 공공기관 등 다양한 산업에 걸쳐 1,000개 이상의 기업 고객이 신뢰하는 대한민국 대표 생성형 AI 및 LLM 솔루션 전문 기업입니다. 독자적인 멀티 LLM 플랫폼, 감사 수준의 로깅을 갖춘 HybridRAG 아키텍처, 권한 인식 검색, 그리고 배포 시점부터 내재화된 휴먼인더루프 설계를 바탕으로, 메이크봇은 기업이 단순한 속도가 아닌 실질적인 감독 체계를 갖추고 AI 에이전트를 프로덕션 환경에서 운영하는 데 필요한 거버넌스 기반 AI 인프라를 제공합니다.

처음부터 거버넌스가 내재화된 엔터프라이즈 AI, 메이크봇과 함께 구축하십시오