인공지능(AI)은 현대 기업의 미래를 좌우할 핵심 기술로 각광받고 있습니다.

하지만 많은 기업이 AI의 잠재력을 충분히 활용하지 못하고, 단기적인 생산성 및 효율성 개선에만 초점을 맞추고 있다는 지적이 나옵니다.

과연 기업들은 AI의 진정한 ‘변혁적’ 힘을 어떻게 놓치고 있으며, 이를 극복하기 위한 전략은 무엇일까요?

CIO.com의 최근 분석 기사를 통해 이 중요한 질문에 대한 답을 찾아보고자 합니다.

AI 활용의 불편한 진실: 점진적 개선과 변혁적 잠재력

조사 기관 포레스터(Forrester)의 보고서에 따르면, 대다수 기업이 AI의 변혁적 힘을 아직 발휘하지 못하고 있습니다.

대신, 경쟁 우위로 이어지지 않는 점진적인 생산성 및 효율성 향상에만 집중하고 있죠.

포레스터의 최신 ‘Accelerate Your AI Voyage’ 보고서는 AI를 통한 내부 생산성 향상이 ‘미미한(marginal)’ 수준에 그치고 있다고 지적합니다.

이는 기업들이 AI 기술을 통해 더 의미 있는 성과를 도출하는 방법을 아직 찾아내지 못했기 때문입니다.

구체적인 수치를 보면 이 문제의 심각성이 드러납니다.

AI 의사결정권자 중 43%는 AI를 통한 생산성 개선을 측정하고, 41%는 효율성 개선을 측정하지만, 오직 32%만이 AI 성과를 수익 또는 매출과 연관 짓는다고 답했습니다.

포레스터 애널리스트들은 보고서에서 “직원 1만 시간 절약은 서류상으로는 좋아 보이지만, GPU 비용조차 충당하지 못하며, 재창조를 이끌어내지도 못한다”고 강하게 비판합니다.

바로 이 점진적 사고가 AI의 변혁적 잠재력과 기업의 현실 사이에 근본적인 괴리를 만들어내고 있는 것입니다.

단순 효율 넘어 ‘전략적 사고’로 전환하라

브라이언 홉킨스(Brian Hopkins) 포레스터 신기술 담당 부사장은 현재 효과적인 AI 전략을 가진 조직은 5~15%에 불과하며, 실제로는 그마저도 낮은 수치에 가깝다고 추정합니다.

그는 대부분의 조직이 생산성이나 효율성 향상에만 집중함으로써 AI의 진정한 힘을 놓치고 있다고 강조합니다.

“효율성은 전략이 아닙니다.

그것은 프로젝트 관리일 뿐입니다.

현재 프로세스를 점진적으로 개선하려는 시도일 뿐이죠.”

직원들에게 코파일럿 같은 도구를 제공하며 ‘무엇을 할지’ 지켜보는 방식은 결코 성공적인 접근법이 아니라는 것이 그의 주장입니다.

홉킨스 부사장은 “생산성에 점진적으로 투자하고, 그것이 AI가 제공하는 잠재력을 포착할 것이라는 생각은 어리석은 짓”이라고 단언합니다.

심지어 AI를 통한 생산성 개선은 종종 배포 후 일자리 감축으로 이어지는데, 이는 복잡하고 추악한 작업이 될 수 있다고 경고합니다.

CFO의 요구를 충족시키기 위해 해고가 필요하다면, 해고될 직원들이 과연 새로운 솔루션 구현을 도울 것인지에 대한 의문이 제기되는 지점입니다.

이러한 포레스터의 데이터는 최근 AI 에이전트 플랫폼 벤더 Decidr의 조사와도 일맥상통합니다.

미국 기업의 40%가 에이전트나 맞춤형 AI 모델 대신 ChatGPT 스타일 도구에서 AI 가치의 대부분을 얻고 있다고 합니다.

이는 AI 활용이 아직 단순 도구 활용 수준에 머물러 있음을 보여줍니다.

‘기능’ 아닌 ‘변혁’으로 AI를 바라봐야 하는 이유

다른 IT 리더들 또한 포레스터 연구에서 지적된 문제점에 공감합니다.

모바일 링크 트래킹 플랫폼 제공업체 Branch의 최고 AI 전환 책임자 크리스틴 파크(Christine Park)는 많은 기업이 “자율주행차 시대로 나아가는 세상에서 마차 수준의 AI 전략”에 집중하고 있다고 비유합니다.

이는 시장 변화 속도가 운영 모델보다 빠를 때 발생하는 현상으로, 리더들이 업무 자체가 어떻게 근본적으로 변화해야 하는지에 대한 고민 대신, 기능 내부의 좁은 효율성을 최적화하는 데만 몰두하고 있다는 분석입니다.

생산성 및 효율성 향상만으로는 대부분의 조직에 큰 변화를 가져올 수 없습니다.

진정한 AI 변혁은 개별 기능을 가능하게 하는 것을 넘어, 모든 워크플로우에 걸친 조정을 요구합니다.

파크는 “비용 효율성을 위한 AI는 ‘바닥을 올리는 것’일 뿐, 그 이상은 아니다”라며, 단기적 이익을 넘어설 수 없다고 말합니다.

비용 회피를 고려하면 비례적인 인력 증가 없이도 성장이 가능하지만, 이를 위해서는 ‘천장을 올리는’ 진정한 변혁이 필요하다는 것입니다.

대신, 현명한 조직은 AI를 수익과 인간 경험의 증폭 도구로 활용하는 데 집중해야 합니다.

이제 업무는 단계별 작업이 아닌 다차원적 워크플로우로 변화하고 있습니다.

파크는 “AI는 기능처럼 취급되고 있지만, 변혁처럼 취급되어야 한다”고 강조하며, 인간 중심의 관점에서 인력 교육, 역할 정의, 성공 측정 방식의 변화가 필요하다고 역설합니다.

AI는 단순히 새로운 도구가 아니라 인간의 변화를 수반하는 과정이기 때문입니다.

전체 워크플로우 재설계: ‘덫에 걸린 작업’을 제거하라

전문 서비스 제공업체 EY의 기술 부문 컨설팅 리더 마이크 플린(Mike Flynn) 역시 비즈니스 전반의 워크플로우 변혁을 강조합니다.

많은 조직이 태스크 레벨 자동화에 집중하고 있지만, 중요한 것은 워크플로우를 엔드투엔드로 재설계하는 것이라고 말합니다.

태스크 레벨 개선에만 초점을 맞추면, 기업은 AI 도구 및 컴퓨팅 비용을 추가하면서도 시스템에서 상당한 작업을 제거하지 못하게 됩니다.

플린은 이를 “덫에 걸린 작업(trapped work)”이라고 부릅니다.

AI를 도입했음에도 불구하고 기존의 불필요한 작업들이 그대로 남아 시스템에 갇혀버리는 현상이죠.

조직은 모든 워크플로우에 AI 중심 접근 방식을 취하고, 반복적인 인간 작업을 가능한 한 많이 제거하도록 프로세스를 재설계해야 한다고 플린은 권고합니다.

그런 다음, 필요할 때만 인간의 개입을 추가해야 합니다.

그는 “AI를 비즈니스 문제에 덧붙이는 식으로 생각한다면, AI를 계속 추가할수록 들어가는 노력의 양은 계속 증가할 것”이라며, “대신 AI가 프로세스에 내장되도록 프로세스를 재설계해야 한다”고 덧붙입니다.

지속적인 AI 전략을 수립하는 것은 단순히 직원들에게 몇 가지 AI 도구를 배포하는 것을 넘어섭니다.

EY는 고객들에게 다양한 AI 전략의 잠재적 결과를 파악하게 하는 AI 가치 청사진(AI value blueprint)을 제공합니다.

플린은 “기업들이 이것이 단순히 사람들에게 도구를 제공하고 기존 업무에 덧붙이는 것만큼 쉽지 않다는 것을 깨닫고 있다”며, “가장 중요한 것은 운영 프로세스를 재설계하는 것입니다.

이는 특정 AI 기술만큼이나 프로세스 변혁이자 인력 변혁입니다.”라고 강조합니다.

변혁의 도약: 비즈니스 성과와 구조적 준비

하지만 대부분의 조직은 아직 다음 단계로 나아갈 준비가 되어 있지 않다고 디자인, IT, AI 회사 Huge의 전 사장 토마스 프롬머(Thomas Prommer)는 지적합니다.

가격 재조정, 공급망 의사결정 등 실질적인 사용 사례는 대부분의 기업이 아직 갖추지 못한 모델 위험 관리 관행과 감사 추적을 필요로 합니다.

그는 “내부 생산성은 조직이 현재 거버넌스로 안전하게 테스트할 수 있는 유일한 사용 사례”라며, “코파일럿을 사용하는 이유는 코파일럿이 모델 위험 위원회를 필요로 하지 않기 때문”이라고 설명합니다.

점진적 이득에서 실질적 이득으로의 전환은 CEO, 행동주의 투자자 또는 경쟁 쇼크와 같이 변화를 강제할 무언가를 필요로 합니다.

CIO 혼자서는 이러한 변화를 이끌어내기 어렵다는 것이 그의 견해입니다.

그러나 일부 조직은 생산성 절감이 손익계산서(P&L)에 나타나지 않기 때문에 이미 생산성 절감을 넘어섰다고 프롬머는 말합니다.

“엔지니어의 하루 90분 절약은 P&L에 ‘우리가 15% 더 많은 기능을 출시했다’는 식으로 나타나지 않습니다.” 이처럼 실질적인 사용 사례로 전환한 기업들은 P&L 책임자가 자신의 숫자에 책임을 지고자 했기 때문입니다.

포레스터의 홉킨스 부사장은 어려움에도 불구하고 AI 전략을 재고하고 실질적인 변화에 집중할 것을 조직에 촉구합니다.

조직이 충분히 높은 목표를 설정한다면, AI를 통해 비즈니스 전체를 변혁하고 경쟁 우위를 확보할 수 있는 AI 활용 방안을 찾을 수 있을 것입니다.

포레스터는 IT 및 비즈니스 리더들에게 다음 네 가지 핵심 영역에 집중할 것을 조언합니다:

  • AI 이니셔티브에 대한 비즈니스 결과 및 성공 지표를 정의합니다.
  • 해당 비즈니스 결과와 연계된 AI 배포를 위한 특정 사용 사례를 식별합니다.
  • 장기적인 AI 전략을 지원할 구조를 확립합니다.

결론

AI는 단순한 도구를 넘어 기업의 근본적인 재창조를 이끌어낼 잠재력을 가지고 있습니다.

단기적인 생산성 및 효율성 개선에 안주하는 대신, 변혁적 사고방식으로 AI 전략을 재수립해야 할 때입니다.

비즈니스 전반의 워크플로우를 재설계하고, 인간 중심의 접근 방식으로 AI를 통합함으로써 기업은 비로소 AI가 가져올 진정한 경쟁 우위와 혁신을 경험할 수 있을 것입니다.

지금이 바로 AI의 ‘변혁적’ 도약을 위한 과감한 결단과 실행이 필요한 시점입니다.

출처: https://www.cio.com/article/4164622/enterprises-still-chase-incremental-not-transformational-ai-gains.html