AI 생산성 역설: 리더십 부재와 ‘토큰 맥싱’의 진실

전문가 통찰 및 한줄평 (Insight)

“AI 도입으로 인한 생산성 향상이라는 장밋빛 전망 뒤에 숨겨진 리더십 부재와 비합리적인 성과 지표 설정이 어떻게 기업의 실제 성장을 저해하는지 명확히 보여주는 보고서다.

단순히 AI 도구를 사용하는 것을 넘어, 명확한 비전과 전략 하에 AI를 통합하고 직원의 두려움을 해소하는 것이 급선무임을 시사한다.

AI, 생산성은 높였으나 방향을 잃다

최근 보스턴 컨설팅 그룹(BCG)의 보고서는 AI가 실질적인 업무 생산성 향상으로 이어지고 있음에도 불구하고, 많은 기업이 그 성과를 제대로 활용하지 못하고 있다는 AI 생산성 역설(AI Productivity Paradox)을 명확히 지적하고 나섰다.

올 초 아폴로의 수석 이코노미스트 토르스텐 슬록이 거시 경제 데이터에서는 AI의 효과가 감지되지 않는다는 점을 지적한 것과 맥락을 같이 한다.

당시 직원들이 AI 활용을 통해 일주일의 하루에 해당하는 시간을 절약할 수 있다는 데이터가 나왔음에도 불구하고, 전반적인 경제 생산성 지표는 오히려 하락하는 의아한 현상이 관찰되었다.

이는 마치 1987년 로버트 솔로우 노벨 경제학상 수상자가 정보 기술(IT) 붐 시대에 관찰했던 유명한 ‘생산성 역설’을 연상시킨다.

당시에도 기술은 널리 보급되었으나, 경제 전반의 생산성 데이터에서는 그 효과를 찾아보기 어려웠던 것이다.

BCG의 2026년 글로벌 AI 워크 보고서는 약 12,000명의 현장 직원을 대상으로 한 설문 조사 결과, 응답자의 42%가 AI를 정기적으로 사용하여 일주일에 하루에 해당하는 8시간을 절약했다고 보고했지만, 놀랍게도 66%는 절약된 시간을 어떻게 활용해야 할지에 대한 지침을 거의 받지 못했다고 답했다.

절약된 시간의 절반은 더 전략적인 업무에 사용되지 않고 있는 실정이다.

리더십 부재: AI 도입의 가장 큰 장애물

BCG의 사람 및 조직 부문 글로벌 리더인 데이비드 마틴은 이러한 AI 생산성 역설이 궁극적으로는 인간적인 실패, 즉 리더십의 부재에서 비롯된다고 분석한다.

그는 “고위 경영진들이 AI를 사무실에서 왜, 어떻게 사용해야 하는지에 대한 비전과 전략을 명확하게 제시하는 데 어려움을 겪고 있다”고 지적했다.

이러한 불확실성은 직원들의 두려움을 증폭시키고, 그들이 어떤 목표를 추구해야 하는지 이해하기 어렵게 만든다.

이는 결국 AI의 도입, 활용, 그리고 전반적인 성과 창출에 부정적인 영향을 미친다.

기업들이 AI를 단순한 도구로 여기고 그 이상의 전략적, 조직적 통합을 고려하지 않는다면, 기술 도입 초기 단계의 생산성 향상이라는 긍정적인 신호만으로는 장기적인 경쟁 우위를 확보하기 어렵다는 결론에 이르게 된다.

리더들은 AI 기술 자체에 대한 이해뿐만 아니라, 이를 조직 문화와 업무 프로세스에 성공적으로 통합하기 위한 변화 관리 능력을 갖추어야 한다.

이를 위해 명확한 로드맵 제시, 정기적인 소통, 그리고 직원들의 불안감 해소를 위한 노력이 병행되어야 한다.

‘토큰 맥싱(Token Maxxing)’: 비효율적인 성과 지표의 함정

AI 기술이 생산성 향상을 약속하며 빠르게 확산되고 있지만, 실제 도입 과정에서는 예상치 못한 문제점들이 드러나고 있다.

특히, AI 모델 운영에 막대한 컴퓨팅 비용이 소요되고, 토큰 기반 가격 모델이 컴퓨팅 비용을 급격히 인상시키면서 실제 생산성 향상 폭을 훨씬 상회하는 경우가 발생하고 있다.

마이크로소프트가 Claude 코드 라이선스를 대폭 취소하고, 우버가 연간 AI 코딩 도구 예산을 4개월 만에 초과 소진한 사례는 이러한 비용 문제를 단적으로 보여준다.

엔비디아의 부사장 브라이언 카탄자로도 “우리 팀의 컴퓨팅 비용이 직원 인건비를 훨씬 초과한다”고 언급할 정도다.

더욱이, 이러한 높은 비용 부담에도 불구하고 많은 기업들이 직원들에게 AI 활용을 통한 생산성 향상을 강요하는 상황까지 발생하고 있다.

최근 파이낸셜 타임즈 보도에 따르면, 아마존 직원들은 회사의 AI 관련 성과 지표를 충족시키기 위해 ‘토큰 맥싱(token maxxing)’이라는 방식으로 AI를 과도하게 사용하고 있는 것으로 나타났다.

메타와 같은 다른 빅테크 기업들도 AI 사용자 리더보드를 설치하는 등 유사한 방식으로 AI 사용량 증대를 유도하고 있다.

D.A.

데이비드슨의 길 루리아는 이러한 전략이 토큰 사용량 증대에는 효과적일지 몰라도, 실질적인 성과 개선에는 미미하다고 지적하며, “사람들에게 어떤 자원을 더 많이 사용하면 성공할 것이라고 말하면, 당연히 그들은 더 많이 사용할 것이다.

이는 건강하지 않은 접근 방식”이라고 비판했다.

이는 성과 지표 설정의 근본적인 오류를 지적하는 것으로, 잘못된 지표는 오히려 비합리적인 행동을 유발할 수 있음을 시사한다.

AI 활용 및 비용 효율성 비교 분석

‘토큰 맥싱’ 시대의 종말과 새로운 접근

BCG의 마틴은 기업들이 AI 사용을 독려하는 것 외에 구체적인 지침을 제공하지 않는 것이 AI의 잠재적 이점을 사장시키는 이유라고 본다.

그는 “이러한 ‘토큰 맥싱’은 아마도 수명이 다했으며, 이제는 기업의 비용 구조에 상당한 부담을 주고 있다”고 말한다.

많은 기업이 직책에 상관없이 모든 직원에게 AI를 무분별하게 제공했지만, 이제는 누가 AI에 접근할 수 있는지, 그리고 그 비즈니스 케이스는 무엇인지 더욱 신중하게 판단할 것이라는 분석이다.

또한, AI 사용에 대한 명확한 목표 설정과 책임 추궁이 이루어질 것이며, 이는 과거 100년간 다른 비(非)AI 업무에서와 동일한 방식으로 적용될 것이다.

실제로, ‘토큰 맥싱’을 조장했던 빅테크 기업들 스스로가 AI 사용에 대한 인센티브를 종료하고 있다.

아마존은 직원들이 불필요한 작업을 위해 AI 봇을 경쟁적으로 사용하는 것을 막기 위해 내부 AI 사용 추적을 중단했다.

또한, 아마존의 한 고위 임원은 직원들에게 “단순히 AI를 사용한다는 이유만으로 AI를 사용하지 말라”고 지시한 것으로 알려졌다.

이는 AI 도입에 있어 진정한 가치 창출이 무엇인지에 대한 재고를 촉구하는 신호로 볼 수 있다.

옥타의 COO 에릭 켈레허는 AI 도입에 있어 상상력의 부족을 지적하며, 경영진들이 여전히 headcount(인력 규모)에만 집중하는 경향이 있다고 꼬집었다.

이는 AI를 통해 조직의 운영 방식을 근본적으로 재설계하려는 노력이 부족하다는 것을 의미한다.

라쿠텐 인터내셔널의 COO 애드리언 다운 콜슨은 C-레벨 경영진들이 “구식 운영체제로 작동하는 망가진 C-스위트(C-suite, 최고 경영진)를 AI로 고칠 수는 없다”는 뼈아픈 진실을 직시해야 한다고 강조했다.

AI 도입 성공의 열쇠: 비전 제시와 두려움 해소

AI를 전사적 운영 모델에 통합하여 성공을 거둔 기업들은 AI 도입을 촉진하고 생산성을 높이는 데 성공했지만, 또 다른 중요한 성공 요소는 직원들의 두려움을 완화하는 것이라고 마틴은 설명한다.

BCG의 최근 연구에 따르면, AI 에이전트를 단순한 도구가 아닌 ‘디지털 직원’으로 취급할 때 직원들은 자신들의 일자리가 대체될 것이라는 두려움을 더욱 크게 느낀다.

이러한 두려움은 협업을 저해하고, 직원들이 비밀리에 AI를 사용하는 경향을 강화시킨다.

마틴은 “사람들이 두려워하는 세상에서는 ‘동료들보다 앞서 나가 어떻게 나 자신을 가치 있게 포지셔닝할 수 있을까?’라고 생각하게 된다.

그 결과, 동료들과 무엇을 하고 있는지에 대해 이야기하는 것을 꺼리게 되며, 이는 조직이 더 빠르게 발전할 수 있는 능력에 엄청난 영향을 미친다”고 말했다.

이러한 AI 관련 두려움을 완화하는 한 가지 방법은 직원들에게 포괄적인 업스킬링 교육을 제공하는 것이다.

직원들이 더 많은 역량을 갖추었다고 느끼면, 다른 사람들과 자원을 공유할 가능성이 높아져 기업의 민첩성이 향상된다.

그는 “공유 문화는 매우 중요하지만, 두려움에 사로잡힌 직원들에게는 자연스러운 일이 아니다”라고 덧붙였다.

결국 AI 도입 성공은 기술 자체에 달려 있는 것이 아니라, 리더십의 명확한 비전 제시, 전략적 통합, 그리고 직원들과의 신뢰 구축에 달려 있다고 볼 수 있다.

결국, AI는 인간의 창의성과 전략적 판단을 대체하는 것이 아니라, 이를 증강(augment)하는 도구로서 활용될 때 가장 큰 가치를 발휘할 것이다.

한국 시장 역시 이러한 흐름에 주목하며, 단순한 기술 도입을 넘어 조직 문화와 리더십의 변화를 동시에 추진해야 할 것이다.

특히, AI 스타트업들은 자신들의 기술력을 효과적으로 증명하기 위해 구체적인 ROI(투자수익률) 분석과 함께, 고객사의 조직 문화 변화 컨설팅을 병행하는 전략을 고려해볼 수 있다.

또한, AI 도입으로 인한 일자리 변화에 대한 사회적 우려를 불식시키기 위한 정부 차원의 적극적인 직업 훈련 및 재교육 프로그램 마련이 시급하다.

IT 트렌드 최신 분석을 통해 급변하는 기술 환경에 대한 인사이트를 지속적으로 얻는 것이 중요하다.

자주 묻는 질문 (FAQ)

Q: AI 도입으로 생산성이 실제로 향상되고 있나요?

A: 네, BCG 보고서에 따르면 직원들의 42%가 AI 활용으로 업무 시간을 절약하고 있습니다.

하지만 절약된 시간을 어떻게 활용할지에 대한 명확한 지침이 부족하여 실제 생산성 향상으로 이어지지 못하는 경우가 많습니다.

Q: ‘토큰 맥싱’이란 무엇이며 왜 문제가 되나요?

A: ‘토큰 맥싱’은 AI 사용량이나 컴퓨팅 비용을 늘리는 것을 목표로 하는 비합리적인 성과 지표 추구 행태입니다.

이는 과도한 비용 발생과 실질적인 가치 창출로 이어지지 않는 문제를 야기합니다.

Q: AI 도입 실패의 가장 큰 원인은 무엇인가요?

A: AI 도입 실패의 가장 큰 원인은 리더십의 부재입니다.

경영진이 AI 활용에 대한 명확한 비전과 전략을 제시하지 못하고, 직원들의 두려움을 해소하지 못하는 경우 도입 효과가 떨어집니다.

Q: 한국 기업들이 AI 생산성 역설을 극복하기 위해 무엇을 해야 할까요?

A: 한국 기업들은 AI 활용에 대한 명확한 비전과 전략을 수립하고, 직원들의 AI 관련 두려움을 해소하기 위한 교육 및 소통에 투자해야 합니다.

또한, 비합리적인 성과 지표 대신 실질적인 가치 창출을 목표로 하는 접근 방식이 필요합니다.

관련 추천 상품

Book – 밑바닥부터 만들면서 배우는 LLM