기업들은 매일 기존 분석 도구로는 제대로 읽어낼 수 없었던 방대한 양의 고객 언어 데이터를 쏟아내고 있습니다. 고객지원 티켓, 통화 녹취록, 챗봇 로그, 앱 리뷰, 소셜미디어 언급, 설문 응답 원문, NPS 코멘트에 이르기까지 그 형태는 매우 다양합니다. 대부분의 기업에게 이 방대한 비정형 데이터는 그동안 채굴해야 할 자산이 아니라 저장 비용만 발생시키는 부담이었습니다. 대규모 언어 모델(LLM)은 이 공식을 근본적으로 바꾸고 있습니다. 기존의 Voice of the Customer(VoC) 프로그램을 대체하는 것이 아니라, 처음으로 고객이 실제로 하는 말 전체를 거의 실시간으로 읽고 구조화하고 실행에 옮길 수 있게 해주는 것입니다. 이러한 변화는 LLM 시대, 마케팅 자동화는 무엇이 달라지는가에서 다룬 것처럼, 피드백 분석을 상담 부서의 부수적 업무에서 마케팅의 핵심 역량으로 끌어올리고 있습니다.

이러한 변화가 지금 중요한 이유는 AI 도입률과 AI 성과 사이의 격차가 엔터프라이즈 기술 업계를 관통하는 핵심 화두로 떠올랐기 때문입니다. 전 세계 조직의 10곳 중 9곳에 가까운 곳이 AI를 정기적으로 사용한다고 답했지만, 대다수는 여전히 이를 측정 가능한 비즈니스 가치로 전환하지 못하고 있습니다. 그 이유가 무엇인지, 그리고 파일럿 단계에 머물러 있는 기업들과 AI 고객 피드백 분석으로 실질적인 성과를 내는 마케팅·CX 팀을 가르는 요인이 무엇인지 살펴보는 것이 이 글의 목적입니다.

마케팅이 늘 안고 있던 비정형 데이터 문제

마케팅·CX 팀에게 고객 피드백이 부족했던 적은 없습니다. 문제는 이를 대규모로 처리할 역량이 부족했다는 점입니다. 구조화된 설문과 NPS 점수는 감성의 극히 일부만을 포착할 뿐이며, 더 풍부한 시그널은 오픈텍스트 코멘트와 상담 기록, 리뷰 스레드 속에 담겨 있습니다. 그러나 기존의 키워드 기반 도구는 이를 단순한 '긍정/부정/중립' 태그로 납작하게 만들어버리고 맙니다.

이 문제의 규모는 이미 여러 연구를 통해 잘 입증되어 있습니다. Gartner와 IDC의 연구는 비정형 데이터가 전체 엔터프라이즈 데이터의 80~90%를 차지한다고 일관되게 밝히고 있으며, IDC는 2025년까지 전 세계 데이터스피어(datasphere) 규모가 약 175제타바이트에 이를 것으로 전망했습니다. 이 중 비정형 형태의 데이터, 즉 문서, 녹취록, 이미지, 대화 기록 등이 대부분을 차지합니다. 이러한 방대한 규모에도 불구하고, 대부분의 엔터프라이즈 데이터 인프라와 분석 도구는 여전히 구조화된 표 형태의 데이터를 중심으로 설계되어 있습니다. 그 결과, 고객이 실제로 사용하는 언어는 마케팅 전략을 설계하는 시스템에 거의 반영되지 못하는 사각지대가 지속적으로 발생하고 있습니다.

바로 이 지점이 LLM이 메우고자 하는 격차입니다. 기존의 자연어 처리(NLP) 방식이 경직된 키워드 매칭이나 감성 사전에 의존했던 것과 달리, LLM은 맥락과 반어법, 한 문장 안에 섞여 있는 복합적인 감정, 도메인 특화 언어까지 해석해냅니다. 불과 몇 년 전만 해도 대규모로는 사실상 불가능했던 수작업 태깅 과정 없이도, LLM은 이를 통해 자유 형식의 텍스트 피드백을 구조화된 조회 가능한 데이터로 전환할 수 있게 해주었으며, 이는 대규모 고객의 소리(VOC) 분석을 가능하게 하는 핵심 전환점이 되고 있습니다. 이는 RAG(검색 증강 생성)가 엔터프라이즈 데이터의 힘을 어떻게 끌어내는가에서 다룬 흐름과도 맞닿아 있습니다. 비정형 정보를 대규모로 조회 가능하게 만드는 기술이 마침내 현실화된 것입니다.

감성 점수에서 마케팅 시그널로

마케팅 분야의 생성형 AI가 가져온 실질적인 변화는 정적인 감성 점수 산출에서 동적인 시그널 생성으로의 전환입니다. 기존의 고객 감성 분석은 '이 댓글이 긍정적인가, 부정적인가'라는 좁은 질문에 답하는 데 그쳤습니다. 반면 LLM 기반 시스템은 '이 고객이 실제로 우리에게 전달하려는 메시지는 무엇이며, 왜 중요하고, 우리는 무엇을 해야 하는가'라는 훨씬 폭넓은 질문에 답합니다.

실제로 이는 다음과 같은 방식으로 구현됩니다.

• 대규모 테마 추출 - 사전에 정의된 분류 체계 없이도 수천 건의 상담 티켓이나 리뷰를 새롭게 부상하는 주제(예: 특정 결제 단계에 대한 불만 급증)별로 자동 클러스터링합니다.
• 근본 원인 파악 - 채팅, 이메일, 소셜미디어 등 여러 채널에 흩어져 있는 문제 언급을 하나로 연결해 제품 또는 마케팅 팀이 즉시 실행할 수 있는 인사이트로 제공합니다.
• 감정 및 의도 탐지 - 불만은 있지만 여전히 충성도가 높은 고객과, 이탈 위험 신호를 보내는 고객을 구분해냅니다. 이는 단순한 감성 점수보다 리텐션 마케팅에 훨씬 더 중요한 정보입니다.
• 메시징·포지셔닝 피드백 루프 - 고객 피드백에서 반복적으로 나타나는 언어 패턴을 캠페인 카피, FAQ 콘텐츠, 제품 메시지에 직접 반영함으로써, 브랜드 가이드라인이 상정하는 언어가 아니라 고객이 실제로 사용하는 언어를 마케팅에 담아냅니다. 이와 동일한 흐름은 생성형 AI가 브랜드 전략과 디지털 광고를 재현하는 방식에서도 확인할 수 있습니다. 메시징이 하향식 가정이 아니라 실제 고객 언어를 기반으로 구축되고 있다는 점입니다.

Gartner의 고객 분석 관련 연구 역시 이러한 흐름을 명확히 뒷받침합니다. 케이스 요약이나 근본 원인 분석과 같은 상담 후(postinteraction) AI 활용 사례는 이제 단순한 상담 부서의 효율화 도구를 넘어, 고객 여정 및 마케팅 분석의 핵심 입력값으로 인식되고 있습니다. 비용 절감 도구에서 마케팅 인텔리전스 레이어로의 이러한 재정의야말로 지금 일어나고 있는 진짜 전환이며, 이는 검색을 넘어: LLM·RAG가 재편하는 B2B 마케팅의 새로운 룰에서 다룬 것과 같은 흐름입니다. RAG 파이프라인이 점점 더 엔터프라이즈 마케팅 아키텍처의 중심에 자리 잡고 있습니다.

왜 일부 기업만 성과를 내고 대다수는 정체되어 있는가

불편한 진실은, LLM을 활용해 고객 피드백 분석을 시도하고 있는 대부분의 기업이 아직 뚜렷한 성과를 내지 못하고 있다는 점입니다. MIT Project NANDA의 "State of AI in Business 2025" 보고서는 임원 50명 이상 인터뷰, 리더 약 150명 대상 설문, 공개된 AI 도입 사례 300건 분석을 토대로, 생성형 AI 파일럿의 약 95%가 손익(P&L)에 측정 가능한 영향을 주지 못했다고 밝혔습니다. 이는 엔터프라이즈 GenAI 투자 규모가 300억~400억 달러에 달하는 것으로 추정되는 상황에서 나온 결과입니다. 실제로 스케일업된 가치를 창출한 파일럿은 전체의 약 5%에 불과했습니다. 이는 AI 파일럿이 POC에서 멈추는 이유와 해결책에서 다룬 패턴과 정확히 일치합니다. 유망해 보였던 개념 검증(POC) 결과가 실제 프로덕션 워크플로우로 이어지지 못하는 현상입니다.

MIT 연구진이 "GenAI Divide(GenAI 격차)"라고 명명한 이 현상은 근본적으로 기술의 문제가 아닙니다. 연구 결과는 승자와 나머지 기업을 가르는 일관된 패턴을 보여줍니다.

고성과 기업이 다르게 하는 것:

• 완전한 자체 구축을 시도하는 대신 전문 벤더와의 파트너십을 선택합니다 - MIT NANDA의 연구 결과에 따르면 외부 파트너십은 약 67%의 확률로 실제 배포 단계에 도달한 반면, 완전한 자체 구축 도구는 약 33%에 그쳤습니다.
• 일회성 분석 도구가 아니라, 맥락을 유지하고 피드백을 통해 지속적으로 학습하는 도구를 우선적으로 선택합니다.
• AI 결과물을 기존의 변화 없는 프로세스에 단순히 덧붙이는 대신, AI 결과물을 중심으로 워크플로우 자체를 재설계합니다 - McKinsey의 25개 조직 속성 분석에 따르면, AI 활용이 엔터프라이즈 수준의 EBIT 성과로 이어지는 데 가장 큰 영향을 미치는 요인은 워크플로우 재설계였습니다. 재설계하는 기업과 단순히 자동화만 하는 기업 사이의 이러한 차이는 AI 리더와 AI 팔로워를 가르는 것은 무엇인가?에서 더 자세히 다루고 있습니다.
• AI를 단순한 인력 감축 수단으로만 여기지 않고, 비용 효율화 목표와 함께 성장·혁신 목표를 함께 설정합니다.

정체된 기업들의 공통점:

• 피드백 분석 도구가 마케팅 기획, CRM, 제품 로드맵과 단절된 독립적인 파일럿 형태로 운영됩니다. AI 경쟁력은 도입이 아니다. 문제 정의가 경쟁력이다.에서 다룬 것처럼, 병목 현상의 원인은 도구 자체인 경우가 드뭅니다.
• 도메인에 맞게 커스터마이징되지 않은 범용 기성 모델에 과도하게 투자합니다 - MIT의 연구에 따르면 GenAI 예산의 절반 이상이 영업·마케팅 도구에 쏠리는 현상이 흔히 나타나는 반면, 실제로 가장 높은 ROI는 백오피스 자동화에서 나오는 경우가 많습니다.
• 추출된 인사이트를 실행으로 전환할 명확한 담당자나 KPI가 없어, 유의미한 테마가 발견되어도 캠페인이나 제품 의사결정으로 이어지지 못합니다.
• 스케일업 속도를 과소평가합니다 - Deloitte의 State of Generative AI 연구에 따르면, 조직의 3분의 2 이상이 향후 3~6개월 내 전체 실험의 30% 이하만 완전히 스케일업될 것으로 예상하고 있으며, 이는 가장 진전된 이니셔티브가 파일럿 단계에서 ROI 기대치를 충족하거나 초과했다고 응답한 비율(약 4분의 3)과 대조를 이룹니다.

엔터프라이즈 활용 사례: 시그널이 실행으로 이어지는 지점

성공적으로 적용될 경우, LLM 기반 피드백 분석은 다음과 같은 구체적인 마케팅·CX 워크플로우에서 그 효과를 드러냅니다.

• 이탈 위험 마케팅 트리거. LLM이 좌절감이나 이탈 조짐을 나타내는 언어로 분류한 피드백은, CRM 데이터에 공식적인 해지 신호가 나타나기 전에 리텐션 캠페인 대상으로 자동 플래그됩니다. 이는 장바구니의 70%는 왜 결제 직전에 사라질까?에서 다룬 것과 밀접하게 연관된 패턴입니다. 해결되지 않은 마찰 신호가 가장 먼저 드러나는 지점이기 때문입니다.
• 캠페인 및 콘텐츠 정교화. 리뷰와 상담 채팅에서 반복적으로 나타나는 언어 패턴을 추출해, 고객이 실제로 사용하는 어휘와 이의 제기 내용을 반영하도록 제품 마케팅 카피를 재작성합니다.
• AI 챗봇 피드백 루프. AI 챗봇을 통한 상담 내용은 단순히 상담 종료 여부와 같은 컨테인먼트(containment) 지표뿐만 아니라, 만족도 시그널을 파악하기 위해서도 상담 후 분석됩니다. 이는 디플렉션율(deflection rate)만으로는 고객이 실제로 만족했는지 판단할 수 없다는 점이 갈수록 강조되고 있기 때문입니다. 이는 디지털 커머스의 분기점: AI 챗봇은 왜 매출 엔진이 되는가와 직접 맞닿아 있습니다. 해결 속도만큼이나 만족도 시그널이 중요하다는 점입니다.
• 경쟁·시장 인텔리전스. 경쟁사에 대한 공개 리뷰와 소셜미디어 언급을 LLM으로 분석해 포지셔닝 격차를 파악하고, 이를 시장 진입 메시징에 반영합니다. 이러한 역량은 AI 쇼핑 도우미가 기존 이커머스 검색을 대체하는 이유에서 다룬 흐름의 핵심에 점점 더 가까워지고 있습니다.
• 경영진·제품 보고. 수작업으로 작성하던 분기별 VoC 리포트를 테마 요약으로 대체해, 마케팅·제품 리더십이 지연된 스냅샷이 아니라 지속적으로 업데이트되는 감성 변화 현황을 확인할 수 있도록 합니다. 이러한 AI 기반 고객 인사이트 분석 체계는 리더십이 분기 단위가 아니라 상시로 시장 반응을 파악할 수 있게 해줍니다.

이러한 역량에 대한 수요는 실제 도입 데이터에서도 확인됩니다. Gartner의 2025년 연구에 따르면 고객 서비스 리더의 85%가 고객 대면형 대화형 생성형 AI를 탐색하거나 파일럿으로 도입할 계획이라고 답했으며, 별도의 Gartner 연구에서는 고객 서비스 리더의 91%가 AI 기반 솔루션 도입에 대한 경영진의 압박을 받고 있다고 응답했습니다. 이러한 압박은 상담 부서를 넘어 마케팅 영역으로도 점차 확산되고 있으며, 피드백에서 도출된 인사이트가 이제는 단순히 티켓을 종료하는 데 그치지 않고 캠페인 전략에까지 반영될 것으로 기대되고 있습니다.

신뢰 격차: 마케터가 간과할 수 없는 변수

기술적 역량만으로는 절반의 답밖에 되지 않습니다. PwC의 2025년 Customer Experience Survey는 경영진과 소비자 사이의 뚜렷한 인식 격차를 보여줍니다. 경영진의 약 10명 중 9명은 최근 몇 년간 고객 충성도가 높아졌다고 믿는 반면, 이에 동의하는 소비자는 10명 중 4명에 불과했습니다. 같은 설문조사에 따르면 소비자의 58%가 AI 도구를 활용해 브랜드와 상호작용하는 것이 '다소 편안한 정도'에 그치거나 '전혀 편안하지 않다'고 답했으며, 52%는 제품이나 서비스 경험이 좋지 않아 특정 브랜드 이용을 완전히 중단한 경험이 있다고 응답했습니다.

이는 LLM 기반 인사이트를 구축하는 마케팅 팀에게 직접적인 시사점을 줍니다. 데이터 파이프라인 자체는 기술적으로 완성도가 높더라도, 고객이 AI 기반 아웃리치에 긍정적으로 반응할지를 좌우하는 신뢰와 톤 관련 고려사항을 놓칠 수 있다는 것입니다. 이를 제대로 해내는 기업들은 모든 접점에 자동화를 일괄 적용하는 대신, 어디에 자동화를 적용하고 어디에서 인간의 판단으로 넘길지를 명확히 구분하는 경향을 보입니다. PwC의 연구는 이러한 균형을 AI가 강화된 CX 모델에서 충성도를 유지하는 핵심 요소로 규정하고 있습니다. 이는 AI 기반 고객 여정 맵핑이 기업 성장의 핵심 전략이 되는 이유와도 밀접하게 연결됩니다. 자동화 그 자체만큼이나, 여정 전반에서 자동화의 순서를 올바르게 배치하는 것이 중요하다는 점입니다.

두 갈래 길 비교: 정체된 파일럿 vs. 스케일업된 가치

마케팅·CX 리더를 위한 전략적 제언

• 좁은 범위의 고가시성 사용 사례부터 시작하십시오. 상담 기록에서 이탈 위험 시그널을 탐지하는 것처럼 범위를 좁혀 시작하고, 처음부터 전사 차원의 비정형 데이터 분석 전면 도입을 시도하지 않는 것이 좋습니다.
• 구축보다 도입을 우선하십시오. MIT의 벤더 파트너십 성공률 관련 연구 결과를 참고해, 자체 모델 개발에 나서기 전에 전문화된 AI 기반 고객 인사이트 플랫폼을 먼저 검토하십시오. 이는 RAG(검색 증강 생성)가 이커머스 상품 추천 정확도를 높이는 방법에서 제시한 접근 방식과도 일맥상통합니다.
• 인사이트를 실행으로 전환할 명확한 담당자를 지정하십시오. 테마가 담긴 대시보드는 이를 캠페인이나 제품 의사결정으로 전환할 책임자가 없으면 마케팅적 가치를 갖지 못합니다.
• 도구가 아니라 워크플로우 자체를 재설계하십시오. McKinsey의 연구는 모델 선택이 아니라 워크플로우 재설계가 EBIT 성과를 가장 잘 예측하는 요인이라고 명확히 밝히고 있습니다.
• 자동화뿐 아니라 신뢰 구축에도 예산을 배정하십시오. PwC가 밝힌 소비자의 AI 불편감 관련 조사 결과를 고려해, 감성 분석 자동화와 함께 명확한 인간 에스컬레이션 경로를 함께 마련해야 합니다.
• 현실적인 도입 일정을 수립하십시오. Deloitte의 연구 결과에 따르면, 파일럿 단계에서의 ROI가 견고해 보이더라도 대부분의 조직은 첫 3~6개월 내에는 GenAI 실험 중 일부만 스케일업할 수 있습니다. 몇 주가 아니라 여러 분기에 걸친 계획을 세우십시오. 이는 2026년 AI ROI를 이끄는 7가지 검증된 요인에서 제시한 결과와도 일치합니다.

결론

LLM 기반 고객 피드백 분석에서 실질적인 마케팅 가치를 이끌어내는 기업들은 단순히 가장 앞선 모델에 접근할 수 있는 기업이 아닙니다. 이들은 비정형 고객 언어를 전략적 자산으로 취급하고, 이를 중심으로 워크플로우 자체를 재구축한 기업들입니다. 현재의 데이터는 냉정한 현실을 보여줍니다. 소수의 기업만이 AI로부터 압도적인 성과를 거두고 있는 반면, 대다수는 확장되지 못하는 파일럿 단계에 머물러 있습니다. 그러나 흐름의 방향은 분명합니다. LLM이 표본이 아닌 고객 대화 전체를 경제적으로 분석할 수 있게 함에 따라, 진정한 Voice of the Customer 시그널에 기반한 AI 마케팅 분석은 단순한 자동화를 넘어 지속 가능한 경쟁우위로 자리 잡고 있습니다. 앞으로 12~24개월 안에 도입과 성과 사이의 격차를 좁히는 기업은, 고객 피드백을 상담 부서의 부산물이 아니라 지속적인 마케팅 인텔리전스 스트림으로 취급한 기업이 될 것입니다.