핵심 요약

‍

01. 만드는 속도는 생각의 속도가 됐습니다. 그러나 병목은 사라지지 않고 검증의 속도와 판단의 질로 옮겨갔습니다.

02. AI 쓰는 기업 88%, 크게 번 기업은 6%입니다. 맥킨지 조사에서 AI 사용은 3년 만에 55%에서 88%로 뛰었지만, 이익(EBIT)의 5% 이상을 AI로 만든 기업은 6%에 그쳤습니다.

03. 사람에게 '두 번째 루프'가 생겼습니다. 지시 → 생성 → 검증 → 판단으로 이어지는 이 루프를 얼마나 빠르고 정확하게 돌리느냐가 이제 조직의 속도를 정합니다.

04. AI는 창문으로 보고, 리더는 지도를 봅니다. AI는 대화창 안의 맥락만 압니다. 시스템 전체의 그림과 가치의 우선순위는 사람의 몫입니다.

05. AI는 벡터입니다. 속도는 이미 모두에게 주어졌고, 승부는 방향에서 갈립니다.

‍

서론

오래전 빌 게이츠의 『빌 게이츠@생각의 속도』를 읽었던 기억이 있습니다. 1999년에 나온 이 책에서 그는 2000년대를 '속도의 시대'로 규정했습니다. 기업 안의 정보가 디지털 신경망을 타고 생각만큼 빠르게 흐를 때, 비로소 시장의 변화에 제때 반응할 수 있다는 것이었습니다. 그때 그 책이 약속한 속도는 정보가 흐르는 속도였습니다.

그런데 요즘 저는 그 제목을 전혀 다른 의미로 다시 떠올립니다. 이제는 정보만이 아니라 보고서와 기획서, 계약서 검토 의견, 민원 답변과 고객 상담, 데이터 분석과 발표 자료, 코드와 특허 명세서까지 생각의 속도로 만들어지는 시대가 됐기 때문입니다.

저는 메이크봇을 8년째 이끄는 경영자이면서, 지금도 제품 코드를 직접 쓰는 개발자이고, 회사의 특허를 직접 설계하는 발명자입니다. 이 세 가지 일을 모두 AI와 함께 하면서, 세 자리에서 똑같은 장면을 보고 있습니다.

특허 명세서. 여러 단계로 나눈 AI 워크플로우로 초안을 만들면, 발명의 구성과 실시예가 예전과 비교할 수 없이 빨리 나옵니다. 그런데 초안이 빨라질수록 제 시간이 더 드는 곳이 생겼습니다. 청구항을 어디까지 넓게 잡을지, 이 한 단어가 나중에 권리 범위를 좁히지는 않을지 판단하는 일입니다.

음성 AI. 메이크봇의 AI 콜봇은 국내 한 금융기관 고객센터의 실제 상담 업무를 운영 환경에서 처리하고 있습니다. 기관 내부 서버에 sLLM을 구축해 데이터가 외부로 나가지 않도록 설계했습니다. 이 콜봇을 설계하며 가장 먼저 정한 원칙은 'AI가 얼마나 자유롭게 말하느냐'가 아니라 '얼마나 확실하게 검증된 말만 하느냐'였습니다. 전화는 한번 나간 말을 되돌릴 수 없고, 고객이 출처를 눈으로 확인할 수도 없기 때문입니다.

제품 개발. 예전에는 며칠 걸리던 기능을 이제는 AI와 한 나절 만에 만듭니다. 하지만 실제 업무처럼 써보고 나서야 숨은 결함이 보이고, 누구를 위한 기능인지 같은 결정은 끝까지 제 몫입니다.

세 자리에서 본 장면은 같았습니다. 만드는 속도는 생각의 속도가 됐지만, 병목은 사라진 것이 아니라 '검증'과 '판단'으로 옮겨갔을 뿐입니다. 올해 글로벌 학계와 업계는 이 현상에 '검증 병목(verification bottleneck)'이라는 이름을 붙였습니다. 이 글에서는 그 현상을 세 가지 관점으로 풀어보고, 공공·금융·헬스케어 리더가 지금 무엇을 해야 하는지 제안합니다.

1. 병목은 사라지지 않았다, 옮겨갔을 뿐이다

생성형 AI가 바꾼 것은 '만드는 비용'입니다. 그러나 그 결과물이 맞는지, 우리 조직에 맞는지 확인하는 비용은 거의 줄지 않았습니다. 2026년 9월 발표된 한 논문은 이를 별도의 메커니즘으로 규정했습니다. AI는 생산 속도를 높이지만, 주장·출처·계산을 검증하는 사람의 역량은 그만큼 늘리지 못한다는 것입니다.

경제학의 설명은 더 간결합니다. 올해 2월 발표된 한 논문은 이를 암달의 법칙에 비유합니다. AI가 보고서를 무한히 만들어도 실행할 가치가 있는 보고서는 사람의 판단을 하나씩 거쳐야 하므로, 조직이 실제로 내보낼 수 있는 양은 시니어가 검토할 수 있는 양을 넘지 못합니다.

숫자도 같은 이야기를 합니다. 맥킨지 조사에 따르면 AI를 쓰는 기업은 2023년 55%에서 2025년 88%로 늘었지만, AI로 이익(EBIT)의 5% 이상을 만든 기업은 6%에 그쳤습니다. 쓰는 것과 성과를 내는 것은 전혀 다른 이야기입니다.

현장도 같은 곳을 가리킵니다. 2026년 8월 미국 개발자 500명과 엔지니어링 리더 300명을 따로 조사했더니, 두 집단 모두 AI 결과물의 검토와 검증을 1순위 병목으로 꼽았습니다. 리더의 48%는 이를 가장 큰 거버넌스 공백으로 지목했습니다.

더 놀라운 근거도 있습니다. 비영리 연구기관 METR의 무작위 대조 실험에서, 자기 코드를 잘 아는 숙련 개발자들은 AI를 쓸 때 오히려 19% 더 오래 걸렸습니다. 그런데도 본인들은 20% 빨라졌다고 믿었습니다. AI의 제안은 방향은 맞지만 정확히 필요한 것은 아닌 경우가 많았고, 이를 검토하고 고치는 시간이 절약한 시간보다 컸기 때문입니다.

연구진은 이 결과를 일반화하지 말라고 당부합니다. 경영진이 주목할 것은 숫자보다 체감과 실측의 간극입니다. "AI로 빨라졌다"는 보고를 받으면, 검토와 수정에 쓴 시간까지 세었는지 물어야 합니다.

2. AI가 빨라지자, 사람에게 두 번째 루프가 생겼다

제 경험은 METR의 결과와 조금 다릅니다. 저는 AI를 쓰면서 개발도 문서 작업도 모두 빨라졌습니다. 다만 빨라진 만큼 검증의 무게가 커졌고, 검증을 잘하려면 먼저 AI에게 무엇을 어떤 기준으로 만들라고 할지 명확히 지시해야 했습니다.

그렇게 새로운 루프가 생겼습니다. 명확히 지시하고, AI가 만들고, 사람이 검증하고, 판단해서 다시 지시하는 루프입니다. 예전에는 구현이 느렸기 때문에 생각할 시간이 충분했습니다. 지금은 구현이 순식간이라, AI가 내놓는 속도를 따라갈 또 하나의 생각의 속도가 필요해졌습니다.

이것은 제 개인의 감각만은 아닙니다. 학계는 AI 협업을 '생성과 검증의 루프'로 설명하기 시작했고, 앞서 소개한 보고서도 해법을 "AI가 쓰기 전에 맥락과 기준을 주고, 쓴 뒤에 검증하라"로 정리합니다. 이때 루프의 속도를 가르는 것이 검증 가능성, 즉 결과가 맞는지 얼마나 싸고 빠르게 확인할 수 있느냐입니다.

역설적으로 개발은 운이 좋은 분야입니다. 코드는 돌려보면 되고 테스트를 자동화할 수 있습니다. 반면 보고서·법률 의견·상담 답변의 오류는 그럴듯해 보이는 형태로 숨어 있습니다. 그래서 공공·금융·헬스케어처럼 문서와 상담이 많은 조직일수록, 루프의 병목은 검증에서 생기고 검증을 빠르게 하는 장치가 성패를 가릅니다.

3. AI는 창문으로 보고, 리더는 지도를 본다

제가 AI를 아무리 써도 끝까지 놓지 않는 것은 의사결정입니다. AI는 대화창에 주어진 맥락 안에서만 봅니다. 조직의 전략, 고객의 실제 상황, 다른 부서의 사정, 과거에 왜 그렇게 결정했는지 같은 시스템 전체의 그림은 알지 못합니다. AI의 결과물이 아무리 그럴듯해도, 그것이 전체 그림 속에서 맞는지는 사람이 계속 판단해 줘야 합니다.

더 중요한 것은 가치의 문제입니다. 고객의 편리함을 앞세울지, 안전과 정확성을 앞세울지에 따라 같은 질문에도 전혀 다른 답이 나옵니다. 윤리적이고 도덕적인 판단은 AI가 아니라 AI를 다루는 사람에게 달려 있습니다.

판단을 AI에게 넘기면 어떤 일이 생기는지는 이미 데이터로 나왔습니다. HBR에 실린 연구는 겉만 그럴듯하고 알맹이는 없는 AI 결과물을 '워크슬롭(workslop)'이라 부릅니다. 미국 직장인의 41%가 이를 받아 봤고, 한 건을 수습하는 데 평균 약 2시간이 들었습니다. 그 부담은 팀장과 관리자에게 더 무겁게 떨어졌고, 연구진은 이를 개인의 태만이 아닌 리더십의 문제로 봅니다.

책임의 위치도 바뀌지 않습니다. 2023년 미국 뉴욕 연방법원은 ChatGPT가 지어낸 판례를 그대로 제출한 변호사들에게 5,000달러의 제재를 내리며, 제출물의 정확성을 보증하는 문지기 역할은 변호사에게 있다고 밝혔습니다. 공공·금융·헬스케어에서 이 문제는 생산성이 아니라 책임과 감사의 문제입니다. AI가 쓴 민원 답변이, AI가 안내한 진료 정보가 틀리면 책임은 결국 기관이 집니다.

4. AI는 벡터다: 속도는 모두에게, 승부는 방향에서

그렇다면 생성형 AI 시대의 승자는 누가 될까요? 저는 AI를 벡터라고 봅니다. 벡터에는 크기와 방향이 있습니다. 크기, 즉 속도는 기술이 줍니다. 하지만 AI를 쓰는 기업이 88%에 이른 지금, 모두가 비슷한 모델을 씁니다. 속도는 더 이상 차별화 요소가 아닙니다. 성과를 가르는 것은 방향입니다.

데이터도 같은 결론을 가리킵니다. 맥킨지가 25개 조직 요인을 분석했더니, AI의 이익 효과와 가장 크게 연결된 것은 모델이 아니라 업무 흐름의 재설계였습니다. 이를 실천한 기업은 21%에 불과했습니다. CEO가 AI 거버넌스를 직접 챙기는 것도 이익 효과와 강하게 연결됐는데, 그런 기업은 28%였습니다. AI로 가장 큰 가치를 낸 기업들은 효율만이 아니라 성장과 혁신을 함께 목표로 삼았습니다. 모두 응답자의 자기 보고에 기반한 상관관계이지만, 방향은 분명합니다.

그래서 저는 이렇게 예측합니다. 생성형 AI의 승자는 가장 빠른 AI를 가진 조직이 아닐 것입니다. 올바른 방향을 설정하고, 그 방향이 맞는지 가장 빠르게 확인하며 고쳐 나가는 조직입니다.

공공·금융·헬스케어 리더라면 지금 세 가지를 시작하시길 권합니다.

1. 방향을 먼저 정하십시오. AI로 무엇을 얼마나 만들지보다, 어떤 가치(안전, 정확성, 고객 편의)를 우선할지 경영진이 먼저 정해야 합니다.
2. 검증할 수 있는 업무부터 시작하십시오. 근거 문서가 분명한 안내·상담 업무부터 적용하고, 답변마다 근거를 보여주지 않는 AI는 배제하십시오.
3. 루프를 설계하십시오. 누가 지시하고, 누가 검증하고, 누가 승인하는지를 업무별로 정하는 것, 그것이 맥킨지가 말하는 업무 흐름 재설계의 출발점입니다.

결론: 새로운 생각의 속도는 판단의 속도다

빌 게이츠가 그렸던 생각의 속도는 이제 현실이 됐습니다. 그러나 희소해진 자원은 달라졌습니다. 답을 만드는 일은 더 이상 어렵지 않습니다. 그 답이 맞는지, 지금 상황에 맞는지, 조직이 그것을 근거로 움직여도 되는지를 아는 일이 어려워졌습니다.

그래서 AI 전환의 목표도 달라져야 합니다. 목표는 AI로 더 많이 만드는 것이 아니라, AI가 만드는 속도만큼 빠르게 지시하고 검증하고 판단할 수 있는 조직을 만드는 것입니다. 27년 전 빌 게이츠는 좋은 조직일수록 나쁜 소식이 빨리 퍼진다고 썼습니다. AI 시대에는 이렇게 바꿔 말하고 싶습니다.

AI의 오류가 가장 빨리 드러나는 조직이 가장 빠르게 움직입니다.

그것이 아마 생각의 속도가 갖게 된 새로운 의미일 것입니다.

메이크봇이 이 문제를 대하는 방식

헬스케어, 금융, 공공기관과 일하며 배운 것이 하나 있습니다. 쓸모 있는 답 하나로는 충분하지 않다는 것입니다. 조직은 그 답이 어디서 왔는지, 어떻게 검증됐는지, 언제 사람이 넘겨받아야 하는지를 함께 알아야 합니다.

그래서 저희는 점점 더 검증 가능성을 중심에 두고 AI를 만듭니다. 추적 가능한 출처, 반복 가능한 품질 테스트, 통제된 생성, 사람에게 넘기는 에스컬레이션, 그리고 감사 기록입니다.

이것들은 AI에 덧붙인 기능이 아닙니다. AI를 믿고 쓸 수 있게 만드는 기반입니다.