핵심 요약

• 헬스케어는 침해 비용이 가장 높고, AI를 이용한 공격은 늘고 있습니다. IBM의 2026년 연구에서 헬스케어 침해 1건당 평균 비용은 664만 달러였으며, 악의적 침해 4건 중 1건에 AI가 활용되고 있습니다.
• 진짜 관문은 신원 확인 절차입니다. 공격자들은 탈취한 개인정보로 헬스케어 분야 IT 헬프데스크를 속인 바 있습니다. 같은 질문을 던지는 AI 에이전트도 같은 방식으로 속을 수 있습니다.
• 가장 취약한 곳은 AI를 둘러싼 시스템입니다. 침해된 API, 플러그인, 클라우드 구성 오류가 AI 침해의 가장 흔한 원인이었으며, AI 침해를 겪은 조직의 92%는 적절한 AI 접근 통제를 갖추지 못했습니다.
• AI 선도 조직은 성장의 일부로 위험을 관리합니다. McKinsey 응답자 중 AI 고성과 조직은 6%에 불과하며, 이들은 다른 조직보다 워크플로우를 재설계하고 성과를 측정하며 AI 위험을 관리할 가능성이 높습니다.
• 병원은 새 HIPAA 규정을 기다릴 필요가 없습니다. Security Rule 개정안의 최종 확정은 2027년 7월로 예상되지만, 현행 규정은 지금도 적용됩니다.

서론: 소프트웨어가 된 병원의 첫 창구

점점 더 많은 병원에서 환자가 전화를 걸었을 때 처음 듣는 목소리는 AI 에이전트입니다. 이 에이전트는 발신자를 확인하고, 진료를 예약하고, 청구 문의에 답하며, 전자건강기록(EHR)을 조회하기도 합니다. 이 때문에 환자 접근 AI 에이전트는 병원에서 공격에 가장 크게 노출된 영역 중 하나입니다. 외부에 공개되어 있고, 24시간 운영되며, 매우 가치가 높은 데이터와 연결되어 있기 때문입니다.

기업들은 헬스케어 AI 에이전트를 비롯한 AI 에이전트 활용을 확산하고 있지만, AI를 둘러싼 신원 및 접근 통제는 이를 따라가지 못하고 있습니다. 이 글에서는 PHI 데이터 보안과 헬스케어 신원 보안이 어디에서 무너지는지, 그리고 왜 헬스케어 AI 보안을 처음부터 설계에 포함해야 하는지 살펴봅니다.

수익보다 빠르게 확산되는 AI 에이전트

McKinsey의 State of AI in 2026 설문에서 응답자 1,719명 중 44%가 조직 전반에서 AI를 확대하고 있다고 답했습니다. 전년의 38%보다 높아진 수치입니다. 그러나 응답자의 80%가 생산성 향상을 체감한다고 답했음에도, 대표적인 영업이익 지표인 EBIT에 조금이라도 효과가 있었다고 답한 비율은 37%에 그쳤습니다.

헬스케어 분야에는 두 가지 부담이 더해집니다.

• 자체 개발은 위험도 직접 떠안는다는 뜻입니다: 병원이 에이전트를 직접 구축하면 보안 위험 역시 병원이 온전히 책임지게 됩니다.
• 많은 프로젝트가 중단될 것입니다: Gartner는 비용 증가, 불분명한 가치, 미흡한 위험 통제로 인해 2027년 말까지 에이전틱 AI 프로젝트의 40% 이상이 중단될 것이라고 예측했습니다.

미흡한 위험 통제는 에이전트 프로젝트가 성과를 내기 전에 중단되는 이유 중 하나입니다.

PHI와 신원 위험은 실제로 어디에 있는가

공격의 주요 표적은 신원 확인 절차입니다

많은 에이전트가 이름, 생년월일, 주소로 발신자를 확인합니다. 공격자가 이미 이 정보를 알고 있다면 이 방식은 통하지 않습니다. HHS Health Sector Cybersecurity Coordination Center(HC3)의 경보는 탈취한 개인정보를 가지고 헬스케어 분야 IT 헬프데스크에 전화를 건 뒤, 직원을 설득해 새 MFA 기기를 등록하게 한 공격자들의 사례를 소개했습니다. 같은 질문을 던지는 AI 에이전트도 똑같이 쉽게 속을 수 있습니다. AI를 활용한 침해의 대부분이 딥페이크 사칭이나 AI 기반 악성코드를 이용했다는 점을 고려하면, 음성 복제는 위험을 더욱 키웁니다.

대화 자체가 새로운 유출 경로가 됩니다

헬스케어 LLM(대규모 언어 모델)은 시스템 지침, 환자의 메시지, 환자 기록을 한꺼번에 처리합니다. OWASP Top 10 for LLM Applications 2026은 프롬프트 인젝션을 1위, 민감 정보 노출을 2위, 과도한 권한을 3위로 꼽았습니다. 병원에서는 발신자가 에이전트에게 다른 환자의 예약 내역을 읽어 달라고 지시하는 상황이 생길 수 있습니다.

AI 침해의 가장 큰 원인은 연결된 시스템입니다

AI 모델이나 애플리케이션이 침해된 경우, 가장 흔한 원인은 침해된 API, 애플리케이션 또는 플러그인(27%)과 클라우드 구성 오류(27%)였습니다. 가장 중요한 것은 운영을 시작한 뒤 AI를 얼마나 잘 보호하느냐입니다.

대응에 실패했을 때의 비용

IBM의 2026년 연구에서 헬스케어 침해 1건당 평균 비용은 664만 달러로 모든 산업 가운데 가장 높았습니다. IBM의 X-Force 분석은 대부분의 AI 방어 체계가 여전히 취약하다는 점을 보여줍니다.

• 접근 통제: AI 모델과 데이터에 접근 통제를 적용한 조직은 40%에 불과합니다.
• 머신 신원: 비인간 신원을 적극적으로 보호하는 조직은 절반에 못 미칩니다.
• 공격 비용: 프롬프트 인젝션 침해의 평균 피해액은 589만 달러였습니다.

긍정적인 면도 있습니다. 보안 업무에 AI와 자동화를 활용한 조직은 침해 1건당 평균 193만 달러를 절감했습니다.

HIPAA는 느리지만 강화되고 있습니다

HIPAA Security Rule 개정안은 MFA, 일부 예외를 제외한 ePHI 암호화, 기술 자산 목록, 데이터 흐름도, 벤더 보호 조치에 대한 연례 점검을 의무화하는 내용을 담고 있습니다. 최종 규정은 2027년 7월로 예상되지만, 현행 규정은 계속 유효합니다. 헬스케어 데이터 개인정보 보호 규정은 지금 운영 중인 모든 에이전트에 이미 적용되고 있습니다.

더 안전한 환자 접근 에이전트를 구축하는 방법

핵심 원칙은 간단합니다. 에이전트는 발신자가 증명한 것 이상으로 발신자를 신뢰해서는 안 됩니다. 단계별 신원 확인 모델은 요청의 민감도에 맞춰 확인 수준을 높입니다.

진료 시간, 주차, 적용 보험 같은 공개 정보 문의에는 신원 확인이 필요 없으며, 에이전트는 공개 정보만 제공합니다. 진료 예약이나 변경 같은 예약 요청에는 환자 기록 대조와 일회용 인증 코드가 필요하며, 에이전트는 예약 시스템만 사용할 수 있습니다. 검사 결과 상태, 청구서, 처방 갱신 같은 PHI 요청에는 환자 포털 로그인 또는 그에 준하는 확인이 필요하며, 에이전트는 확인된 환자의 데이터만 조회할 수 있습니다. 전화번호, 주소, 대리인 접근 권한 같은 계정 변경에는 강력한 인증과 별도 채널을 통한 확인이 필요하며, 에이전트는 직접 변경하지 않고 직원 검토로 넘깁니다.

가장 중요한 것은 계정 변경에 대한 규칙입니다. 연락처 변경은 HC3가 보고한 공격자들이 새 MFA 기기를 등록할 때 노린 바로 그 지점입니다.

통제는 AI 지침이 아니라 코드에 두어야 합니다

프롬프트 인젝션과 과도한 권한에 관한 OWASP 가이드는 시스템 차원의 제한을 권고합니다.

• 좁은 도구: 광범위한 EHR 검색 대신 "예약 변경" 같은 단일 기능만 제공합니다.
• 한 명의 환자로 범위 고정: 모든 데이터 요청은 서버에서 확인된 환자로 필터링합니다.
• 사람의 승인: 고위험 작업은 직원이 승인합니다.
• 에이전트도 하나의 계정: 키를 주기적으로 교체하고, 모든 행동을 기록하며, 고위 직원 계정처럼 권한을 검토합니다. 바로 이 지점에서 헬스케어 분야의 AI 보안과 신원 관리가 만납니다.

성과를 내는 조직과 정체된 조직의 차이

좋은 설계에는 명확한 규칙, 역할, 감독 체계, 즉 헬스케어 AI 거버넌스가 뒷받침되어야 합니다. McKinsey 설문에서 AI 고성과 조직은 다음과 같은 차이를 보였습니다.

• 워크플로우: 약 4분의 3이 워크플로우를 근본적으로 재설계했습니다. 다른 조직은 4분의 1 수준입니다.
• 측정: AI 효과를 측정하는 정해진 프로세스를 갖춘 비율이 두 배에 달합니다.
• 위험: 의도치 않은 행동을 포함한 AI 위험을 줄이기 위해 노력하고 있을 가능성이 더 높습니다.

AI로 가장 큰 가치를 얻는 기업은 AI 위험도 더 많이 관리하고 있습니다. 설문은 두 요소가 함께 나타난다는 사실을 보여주며, 이는 보안이 성장을 늦춘다는 통념에 의문을 제기합니다.

환자 접근 영역에서 AI 후발 조직은 파일럿 단계에 머무는 반면, AI 선도 조직은 성과를 내며 확장합니다. 후발 조직은 기존 통화 스크립트에 에이전트만 추가하고, 개인정보 질문에만 의존하며, 에이전트에 광범위한 EHR 접근 권한을 줍니다. 또한 IT 부서가 봇을 전담하고 컴플라이언스 검토는 출시 후에 진행하며, 처리한 통화 수로 성과를 측정합니다. 반면 선도 조직은 단계별 신원 확인을 중심으로 프로세스를 재설계하고, 위험도가 높은 요청일수록 강력한 확인을 적용하며, 한 명의 환자로 범위를 고정한 좁은 도구만 제공합니다. 원무·예약, 보안, 개인정보 보호, 임상 부서 리더가 공동으로 책임지고, 해결된 문의, 보안 사고, 문의당 비용으로 성과를 측정합니다.

섀도 AI도 경계해야 합니다. 일부 부서는 공식 검토 없이 자체 AI 도구를 도입하며, IBM에 따르면 침해를 겪은 조직의 68%가 섀도 AI를 관리하는 정책을 갖추지 못했습니다. 헬스케어 AI 거버넌스는 이러한 사례를 조기에 포착해야 합니다.

병원 경영진을 위한 단계별 실행 계획

1. 모든 요소를 목록화하고 매핑합니다. ePHI와 연결된 모든 에이전트, 모델, 데이터 저장소, 연결 지점을 기록하고 데이터 흐름도를 작성합니다.
2. 요청을 위험도별로 분류합니다. 각 단계에 필요한 최소 신원 확인 수준을 정합니다.
3. 신원 확인을 강화합니다. 연락처 변경에는 별도 채널을 통한 확인을 요구합니다.
4. 에이전트의 권한을 제한합니다. 좁은 도구를 사용하고 고위험 작업은 직원에게 넘깁니다.
5. 공격자의 관점에서 테스트합니다. 출시 전에 프롬프트 인젝션, 음성 복제, 사회공학 기법으로 에이전트를 직접 공격해 봅니다.
6. 가치와 위험을 함께 추적합니다. 해결된 문의 수를 신원 확인 실패 및 보안 사고와 함께 보고합니다.

결론: 보안이 곧 AI 에이전트의 수익입니다

AI를 노린 공격은 늘고 있으며, AI를 통해 침해된 조직의 92%는 적절한 AI 접근 통제를 갖추지 못했습니다. 병원에서는 헬스케어 분야의 생성형 AI가 환자가 가장 먼저 마주하는 창구가 되고 있습니다. 신원 확인부터 권한 제한, 거버넌스에 이르기까지 헬스케어 AI 보안을 AI 전략의 기반으로 삼는 병원은 환자를 보호하고, 더 넓게 활용할 수 있을 만큼 신뢰받는 에이전트를 만들 수 있습니다.

AI 첫 관문, 보안부터 설계하다

환자 접근 AI 에이전트를 도입하는 병원에는 처음부터 보안과 컴플라이언스를 고려해 설계된 플랫폼이 필요합니다. 메이크봇(Makebot)의 CareAI는 국내 500개 이상의 의원 및 병원이 신뢰하는 플랫폼으로, 실시간 EMR 연동을 통해 검증된 병원 데이터에 기반한 답변만을 제공합니다. 24시간 AI 콜봇과 카카오톡 챗봇은 환자 응대를 통제된 시스템 안에서 처리해 원무 업무 부담을 줄이고 예약 부도율을 30% 감소시킵니다. 헬스케어 및 기업용 AI 솔루션 전반이 궁금하시다면 메이크봇(Makebot)을 방문해 보세요.