들어가며

거의 모든 병원의 의무기록 관리 부서를 들여다보면 하나의 역설과 마주하게 됩니다. 페타바이트 단위의 임상 지식이 존재하지만, 정작 그 대부분에는 실제로 접근할 수 없다는 역설입니다. 퇴원 요약서, 정책 매뉴얼, 자격 증명 서류, 감염 관리 프로토콜은 분명 존재하지만, 스캔된 PDF와 팩스 잔여물, 그리고 어떤 검색창으로도 제대로 해석할 수 없는 정적인 문서 형태로 남아 있습니다. 이는 과거 세대의 기술적 공백이 아니라, 생성형 AI가 다른 산업을 재편하고 있는 지금 이 순간에도 지속되는 병원 지식의 기본값입니다. 그 결과는 수치로도 확인됩니다. 의료진은 병원 어딘가에 이미 존재하는 답을 찾아 헤매느라 상당한 시간을 소모하고 있습니다. 이 기사는 왜 병원 지식 관리가 뒤처져 왔는지, 최신 엔터프라이즈 AI 도입 데이터가 이 격차 해소에 대해 무엇을 말해주는지, 그리고 실제 ROI를 확보한 헬스시스템과 여전히 파일럿 단계에 머물러 있는 헬스시스템을 가르는 조직적·기술적 요인은 무엇인지 살펴봅니다.

새로운 연구 결과, AI가 처방 위험을 조기에 감지해 약물 안전성을 개선하다. 여기에서 최신 인사이트를 확인해 보세요! 

PDF에 갇힌 병원 지식이 초래하는 숨은 비용

헬스케어 업계가 겪고 있는 문제는 데이터의 부족이 아니라 데이터에 대한 접근성의 부족입니다. IDC의 조사에 따르면 비정형 헬스케어 정보의 비중은 약 80%에 달하며, 여기에는 입력된 메모, 스캔된 서식, 방사선 영상, 그리고 애초에 검색이 아니라 단순 보관을 목적으로 만들어진 PDF가 포함됩니다. 이러한 불균형은 매일 누적됩니다. 하나의 헬스시스템이 하루에도 수십 페타바이트의 임상·운영 데이터를 생성하지만, 그 대부분은 평범한 언어로 질문해도 답을 찾아주는 시스템 어디에도 담기지 못한 채 방치돼 있습니다.

임상 현장에서 치르는 대가는 이미 여러 데이터로 입증돼 있습니다. AMA의 Organizational Biopsy 데이터에 따르면 의사들은 주당 평균 57.8시간을 근무하지만, 그중 27.2시간만 직접 환자 진료에 사용합니다. 13시간은 문서 작성, 오더 입력 등 간접 진료 업무에, 7.3시간은 순수 행정 업무에 소요됩니다. 이는 단순한 인력 문제가 아니라 병원 지식 관리의 문제입니다. 정책 문서, 프로토콜, 이전 임상 맥락이 공유 드라이브와 레거시 포털 곳곳에 흩어진 정적 PDF 형태로만 존재할 때, 모든 의료진은 하루에도 수십 번씩 동일한 정보 검색 문제를 처음부터 다시 풀어야 합니다.

• 헬스케어 데이터의 80%가 비정형이며 사실상 검색이 불가능합니다(IDC).
• 의사의 20.9%가 여전히 근무 시간 외에 주 8시간 이상을 EHR 업무에 사용하며, 이는 2022년과 동일한 수준입니다(AMA).
• 헬스케어 데이터 유출 사고의 평균 비용은 건당 742만 달러로, 14년 연속 전 산업군 중 가장 높은 수준입니다(IBM의 2025 Cost of a Data Breach Report 인용). 지식이 통제되지 않은 파일 형태로 존재할수록 이러한 리스크는 더 커집니다.

Philips 설문 조사: 대다수 의료진, AI 활용하지만 공식 교육은 부재. 여기서 자세히 알아보세요! 

헬스케어 분야의 생성형 AI만으로는 부족한 이유

헬스케어 분야의 생성형 AI는 신기한 기술에서 당연한 기대치로 매우 빠르게 자리를 잡았습니다. AMA의 2026 Physician Survey on Augmented Intelligence에 따르면 의사의 81%가 이미 업무에 AI를 활용하고 있으며, 이는 AMA가 처음 조사를 시작한 2023년의 38%보다 두 배 이상 늘어난 수치입니다. Deloitte의 2026 US Health Care Outlook Survey는 헬스플랜과 헬스시스템의 C-레벨 임원 120명을 대상으로 조사했는데, 여기서도 비슷한 인식 변화가 확인됩니다. 응답자의 80% 이상이 생성형 AI와 agentic AI 모두 올해 중간 이상의 유의미한 가치를 창출할 것으로 기대했지만, 정작 AI를 실제 규모로 운영하고 있다고 답한 조직은 3분의 1 정도에 그쳤습니다.

이러한 기대와 실제 인프라 사이의 간극은 업계 전반에서도 확인됩니다. Deloitte의 더 광범위한 2026 Global Health Care Outlook은 미국을 포함한 여러 국가의 헬스시스템을 조사한 결과, 현재 특정 영역에서 규모 있게 생성형 AI를 운영 중인 헬스시스템은 약 30%에 불과하며, 전사적으로 도입한 곳은 단 2%에 그친다고 밝혔습니다. 유창한 텍스트를 생성할 수 있는 헬스케어 LLM이라 해도 "우리 병원의 현재 패혈증 대응 프로토콜이 무엇인가"라는 질문에 정확히 답할 수 있는 것은 아닙니다. 그 답은 올바르고, 최신이며, 해당 기관에 특화된 PDF를 찾아내는 데 달려 있는데, 이는 범용 모델이 애초에 학습하도록 설계되지 않은 영역이기 때문입니다. 이는 정확히 MIT의 Project NANDA가 산업 전반에서 확인한 실패 패턴과 일치합니다. 범용 AI 도구는 개별적이고 유연한 작업에서는 뛰어난 성과를 내지만, 기관의 맥락을 유지하지 못하고 조직의 실제 운영 방식에 맞춰 적응하지 못하기 때문에 엔터프라이즈 워크플로우 안에서는 결국 멈추고 맙니다.

AI 건강 상담 도우미, 불필요한 병원 방문을 줄일 수 있을까? 초기 데이터가 말하는 것들. 여기서 계속 읽어보세요! 

헬스케어 RAG: 엔터프라이즈 RAG가 PDF를 답변으로 바꾸는 방법

바로 이 지점에서 헬스케어 RAG, 즉 검색 증강 생성(retrieval-augmented generation)이 판을 바꿉니다. 모델의 고정된 학습 데이터에만 의존하는 대신, RAG 아키텍처는 질의가 들어오는 시점에 조직 자체의 문서에서 관련 구절을 검색한 뒤, 그 검색 결과에 근거해 답변을 생성합니다. 병원의 경우, 이는 헬스케어 AI 챗봇이 오래된 일반 지식으로 추측하는 대신 현재 유효한 감염 관리 정책 PDF에서 정확한 문단을 그대로 가져올 수 있다는 의미입니다.

Gartner는 이 카테고리, 즉 헬스케어 엔터프라이즈 검색을 AI 어시스턴트와 AI 에이전트를 위한 기반 계층으로 규정하면서, 이러한 플랫폼을 "엔터프라이즈 저장소 전반에 걸친 정보의 검색과 통합을 가능하게 하는" 도구라고 설명하며, 이를 통해 사람과 기계 모두가 정보를 바탕으로 행동할 수 있다고 덧붙입니다. 또한 Gartner는 2029년까지 기업의 40%가 GraphRAG 기법을 활용하게 될 것으로 전망했는데, 이는 복잡하고 상호 연결된 질의에 대한 사실 정확도를 높이기 위한 것으로, 하나의 임상 질문이 여러 개의 연관 문서(프로토콜, 개정안, 규제 업데이트 등)에 걸쳐 있는 경우가 많은 헬스케어 영역과 직접적으로 관련이 있습니다.

엔터프라이즈 RAG를 일반 소비자용 챗봇과 구분 짓는 핵심은 거버넌스입니다.

• 소스 근거(Source grounding) - 모든 답변은 모델의 기억이 아니라 특정하고 버전 관리가 된 문서로 추정됩니다.
• 접근 제어(Access control) - 검색 과정은 역할 기반 권한을 준수하며, 이는 HIPAA가 적용되는 환경에서 특히 중요합니다.
• 최신성(Freshness) - 정책 PDF가 업데이트되면 검색 인덱스도 함께 업데이트되며, 모델 재학습을 기다릴 필요가 없습니다.
• 감사 가능성(Auditability) - 결과가 출처를 인용하기 때문에, 컴플라이언스 및 품질 관리 팀이 사후에 주장의 근거를 검증할 수 있습니다.

7명 중 1명은 병원 대신 AI를 찾는다 - 연구 결과가 말하는 것. 여기서 더 알아보세요! 

엔터프라이즈 헬스케어 AI 파일럿에서 측정 가능한 ROI로

AI 투자에 관한 거시적 데이터는 비즈니스 사례를 구축하려는 병원 IT 리더에게 유용한 현실 점검 지표가 됩니다. McKinsey의 2025 State of AI 설문은 105개국 1,993명의 응답자를 대상으로 진행됐는데, 조직의 88%가 최소 한 개 이상의 비즈니스 기능에서 AI를 사용하고 있으며, 이는 1년 전의 78%에서 늘어난 수치입니다. 하지만 전사적 수준에서 EBIT 영향을 보고한 조직은 39%에 불과했고, 5% 이상의 EBIT 영향을 달성해 "AI 고성과 조직"으로 분류되는 비율은 겨우 6%였습니다. 거의 3분의 2에 해당하는 조직은 여전히 확장되지 못하는 파일럿 단계에 머물러 있습니다.

MIT의 Project NANDA 데이터는 이보다 더 냉혹합니다. 300건의 공개 AI 도입 사례와 153건의 경영진 설문을 분석한 결과, 생성형 AI 파일럿의 95%가 측정 가능한 손익 효과를 전혀 내지 못했으며, 유의미한 가치를 창출한 비율은 5%에 불과했습니다. 특히 주목할 만한 점은, 전문 벤더로부터 도입하거나 파트너십을 맺은 조직의 성공률이 약 67%에 달한 반면, 자체 구축을 선택한 조직은 성공률이 약 33%에 그쳤다는 사실입니다. 이는 병원이 엔터프라이즈 헬스케어 AI의 빌드 대 바이(build-versus-buy) 의사결정을 내릴 때 직접적으로 참고할 만한 시사점입니다.

긍정적인 측면도 있습니다. Microsoft가 후원한 IDC의 Business Opportunity of AI 연구는 4,000명 이상의 비즈니스 리더를 인터뷰한 결과, 생성형 AI에 투자한 조직은 투자한 1달러당 평균 3.70달러의 수익을 얻었으며, 상위 성과 조직은 10.30달러에 달했다고 밝혔습니다. 다만 헬스케어는 IDC가 조사한 8개 산업 가운데 금융서비스, 미디어·통신, 모빌리티, 소매·소비재, 에너지, 제조업에 이어 7위에 그쳤으며, 헬스케어보다 낮은 순위를 기록한 산업은 교육이 유일했습니다. 이는 임상 및 행정 문서 워크플로우에서 아직 상당한 ROI 잠재력이 활용되지 않고 있다는 뚜렷한 신호입니다.

AI 모델이 강력해질수록 헬스케어 AI 거버넌스가 더욱 중요해지는 이유. 여기서 전체 기사를 살펴보세요! 

높은 ROI를 내는 병원과 파일럿에 머무는 병원의 차이

McKinsey와 MIT 모두 동일한 근본 원인을 지목합니다. AI 도입과 AI 가치 창출 사이의 격차는 기술적 문제가 아니라 조직적 문제라는 것입니다. 고성과 조직은 기존 프로세스에 챗봇을 그대로 얹는 대신 워크플로우 자체를 AI 중심으로 재설계합니다. 반면 뒤처진 조직은 AI를 하나의 기능 요청 정도로만 취급합니다.

병원의 경우 이러한 차이는, 기존 인트라넷에 좁은 범위의 헬스케어 AI 챗봇을 얹는 방식과, 정책 저장소·자격 증명 파일·EHR 문서·지식 베이스를 아우르는 통제된 헬스케어 엔터프라이즈 검색 계층을 구축한 뒤 답변 소요 시간과 임상·행정 결과를 함께 측정하는 방식 사이의 선택으로 나타납니다.

엔터프라이즈 병원이 더 안전한 Healthcare AI Systems를 위해 RAG와 GPT-5를 결합하는 방법. 여기서 더 자세히 알아보세요! 

AI 기반 병원 지식 검색 전략 수립하기

연구 결과를 실제로 적용한다는 것은 AI 기반 병원 지식 검색을 단일 챗봇 프로젝트가 아니라 인프라로 취급한다는 의미입니다. 실질적인 성과를 내고 있는 헬스시스템들은 대체로 다음과 같은 일관된 순서를 따릅니다.

• PDF 백로그를 정리하고 구조화하기 - 인덱싱에 앞서 부서, 민감도, 업데이트 빈도에 따라 정책·프로토콜·서식을 분리합니다.
• 일반 챗봇 대신 엔터프라이즈 RAG를 선택하기 - 고정된 모델이 아니라 현재 유효하고 버전 관리가 된 기관 문서에 근거해 모든 답변을 생성합니다.
• 임상·컴플라이언스 검토 절차를 내장하기 - 환자 안전과 관련된 사안은 특히, AI 출력을 최종 답변이 아니라 승인이 필요한 초안으로 취급합니다.
• 마찰이 크지만 리스크는 낮은 사용 사례부터 시작하기 - 행정 정책 조회, 자격 증명 상태 확인, 공급망 문서 관리 등은 임상 의사결정 지원보다 더 빠르게 ROI를 보여주는 경향이 있습니다.
• 답변 소요 시간과 절감된 직원 근무 시간을 측정하기 - 단순한 도입률이나 사용량이 아니라 이를 기준으로 삼아야 활동을 성과로 착각하지 않을 수 있습니다.

한국의 AI 혁신을 세계에 알리다: 이탈리아 SIGIR 2025에서 공개된 메이크봇의 HybridRAG 프레임워크. 여기서 더 읽어보세요!

앞으로의 방향: 병원 디지털 전환의 인프라가 되는 AI

이제 방향성 자체는 더 이상 논쟁의 대상이 아닙니다. 50개 헬스시스템과 50개 헬스플랜에 속한 100명의 헬스케어 기술 임원을 대상으로 2025년 9월에 진행된, 이 기사에서 다룬 세 번째 별도의 Deloitte 조사에 따르면, 응답자의 61%가 이미 agentic AI 이니셔티브를 구축·운영 중이거나 예산을 확보했으며, 85%는 향후 2~3년 내 투자를 더 늘릴 계획이라고 답했습니다. 98%는 최소 10% 이상의 비용 절감을 기대한다고 밝혔습니다. 이러한 투자를 실제 성과로 전환하는 조직은, AI를 보여주기식 파일럿이 아니라 잠긴 PDF와 그 안의 정보를 필요로 하는 사람들을 연결하는 인프라로 취급하며 병원 디지털 전환을 이끄는 조직이 될 것입니다. 실험에서 인프라로의 이러한 전환이야말로 McKinsey가 말하는 상위 6%의 고성과 조직과 MIT가 말하는 상위 5%의 성공한 파일럿을, 그렇지 못한 나머지 조직들과 가르는 결정적 요인입니다. 병원 입장에서 진짜 보상은 더 화려한 챗봇이 아니라, 조직이 이미 가지고 있는 지식을 매번 다시 발견할 필요가 없는 인력입니다.

그렇다면, 누구와 실행할 것인가

MIT 데이터가 가리키는 방향은 분명합니다. 전문 벤더와 함께한 조직의 성공률은 67%, 혼자 만든 조직은 33%였습니다. 병원이 마주한 질문은 "AI를 도입할까"가 아니라 "누구와 인프라를 만들 것인가"입니다.

메이크봇은 헬스케어 분야를 위해 준비된 파트너입니다. 흩어진 PDF와 문서에서 정확한 근거를 찾아내는 HybridRAG는 SIGIR 2025에서 발표한 기술로 뒷받침되고, 사내 검색(MagicSearch)부터 상담(MagicTalk), 콜봇(MagicVoice), 폐쇄망 업무 플랫폼(MagicWorks)까지 필요한 계층을 한 곳에서 갖췄기에, 핵심적인 부분에 AI를 도입하여조직에 맞게 넓혀갈 수 있습니다.

메이크봇의 목표는 병원 한 곳의 업무를 개선하는 것이 아니라, 병원 전체가 하나의 지식 위에서 움직이게 만드는 것입니다. 흩어진 문서를 찾는 데 쓰이던 시간이 사라질 때, 조직 전체의 속도가 달라집니다. 그 지점에서 병원의 경쟁력이 갈립니다.