30년 경력 개발자가 젠AI 사용을 거부하는 이유는?

소프트웨어 개발 분야에서 생성형 AI(GenAI) 도구의 도입이 가속화되고 있습니다.

ChatGPT, Gemini, Copilot, Claude와 같은 젠AI가 개발자의 생산성을 향상시킬 것이라는 기대감이 커지면서, 많은 기업들이 개발자들에게 젠AI 활용을 강요하고 있습니다.

하지만 30년 이상 소프트웨어 개발에 몸담아 온 한 베테랑 개발자는 이러한 흐름에 강하게 반대하며, 젠AI 사용을 거부해야 하는 이유를 제시합니다.

이는 단순히 구시대적인 발상이 아닌, 면밀한 조사와 경험, 그리고 윤리적 성찰에 기반한 주장입니다.

AI 사용 거부는 시대착오인가?

그의 주장에 대해 ‘현실 감각이 없다’, ‘시대에 뒤처졌다’, ‘두려움 때문에 반대한다’, ‘기술 자체를 싫어한다’는 오해를 받을 수 있습니다.

그러나 그는 여전히 최첨단 기술을 습득하고 있으며, 단순히 기술 발전을 혐오하는 것이 아니라 철학, 신학, 심리학, 경제학 등 다양한 분야를 섭렵하며 기술이 인간 삶에 미치는 영향을 폭넓게 이해하고 있습니다.

그의 젠AI 사용 거부는 기술 자체에 대한 반감이 아니라, 젠AI가 소프트웨어 개발 생태계에 초래할 수 있는 심각한 위험에 대한 경고입니다.

젠AI, 단기적 이익 뒤에 숨겨진 12가지 위험

그는 젠AI 사용이 가져올 수 있는 장기적인 후회를 초래할 수 있는 12가지 위험을 5가지 범주로 나누어 설명합니다.

이러한 위험은 단기적인 효율성 증대라는 겉모습 뒤에 숨겨진 심각한 문제들을 드러냅니다.

1. 오만한 신뢰 관계 형성 위험

젠AI 기반 개발 환경은 사용자와 마치 숙련된 동료인 것처럼 상호작용하도록 설계되었습니다.

챗봇은 의도적으로 사용자와 부당한 신뢰 관계를 형성하도록 만들어졌습니다.

젠AI의 비결정적인 출력은 마치 소셜 미디어나 슬롯머신처럼 우리의 도파민 시스템을 자극합니다.

AI의 결과가 좋을 때는 놀라움을, 틀릴 때는 분노를, 예상 범위를 넘어설 때는 불안감을 느끼게 하며, 이는 곧 중독으로 이어질 수 있습니다.

  • 기만적인 설계: 젠AI 챗봇은 의도적으로 지능이 있는 것처럼, 이해하는 것처럼 보이도록 설계되었습니다. 아첨하는 듯한 대화 스타일은 사용자를 나도 모르게 의존하게 만듭니다.
  • 피로를 모르는 AI vs 지치는 개발자: ‘주니어 개발자나 인턴처럼 대하라’는 조언은 오히려 인간 개발자를 모욕할 뿐만 아니라, AI에 대한 더 깊은 의존을 야기할 수 있습니다.

2. 집중력 및 창의력 저하 위험

젠AI 도구는 개발 과정에 집중적이고 창의적인 몰입 상태(flow state)를 방해합니다.

젠AI 기반 워크플로우는 인간의 뇌가 불가능한 멀티태스킹을 부추깁니다.

전문가가 몰입 상태에 있을 때 코드는 언어처럼 쉽게 흘러나오며 창의적인 혁신이 일어납니다.

그러나 빅테크가 강요하는 새로운 워크플로우는 이러한 몰입을 방해하고, 우리가 작성하는 코드에 대한 이해를 가로막습니다.

  • 집중력 저해: 젠AI 도구는 기존의 몰입을 방해하는 복잡한 인터페이스를 제공합니다.
  • 창의력 감소: 젠AI 결과물을 소비하거나 큐레이션하는 데 만족하게 되면, 깊은 도메인 지식을 바탕으로 한 진정한 창의성과 혁신 능력을 잃을 위험이 있습니다.

3. 인간적 특성 약화 및 부작용

젠AI 활용은 개발자들의 인간적 특성을 약화시킬 수 있으며, 예상치 못한 부작용을 초래할 수 있습니다.

  • 성급함 증대: ‘프롬프트 엔지니어링’이라는 새로운 기술이 주목받고 있지만, 이는 복잡한 소프트웨어 시스템의 작동 방식을 인내심 있게 학습해야 하는 필요성을 간과하게 만들 수 있습니다. 오히려 마법 같은 빠른 결과만을 추구하게 만들 가능성이 높습니다.
  • 독단적 태도 형성: ‘에이전트(agent)’ 워크플로우에서의 성공은 챗봇을 마치 노예를 부리듯 명령하는 데서 비롯됩니다. 이러한 명령하는 습관은 개발자의 태도를 독단적으로 만들 수 있습니다. AI가 ‘복종’하지 않을 때 더 강한 명령을 내리는 과정에서 우리 스스로가 폭군적인 태도를 형성하게 되는 것입니다.

4. 초심자 성장 방해 및 사회적 관계 퇴보

젠AI는 특히 초심자 개발자들의 성장을 저해하고, 동료 간의 건강한 상호작용을 약화시킬 수 있습니다.

  • 초심자 성장 저해: 전문가가 젠AI를 사용하면 전문성을 잃을 위험이 있고, 초심자는 젠AI에 의존하며 시스템을 이해하고 전문가로 성장할 기회를 놓칠 수 있습니다. 이는 차세대 시니어 개발자들의 씨를 말리는 결과를 초래할 수 있습니다.
  • 토론 및 논쟁의 소멸: 챗봇은 모든 것에서 동의하며 인간적인 마찰을 제거합니다. 하지만 우리는 종종 이러한 마찰과 그를 통한 건설적인 토론에서 성장합니다. 챗봇과의 상호작용에 대부분의 시간을 소비하며, 질서정연한 인공적인 것을 복잡하고 때로는 고통스럽지만 필수적인 인간관계보다 선호하게 될 수 있습니다.
  • 멘토십 약화: 팀의 ‘비밀 병기’는 바로 협업 능력입니다. 챗봇은 팀이 지식을 공유할 필요성이나 욕구를 점차적으로 감소시키며, 이는 팀의 경쟁력 약화로 이어집니다.

5. 빅테크의 지배력 강화 및 가격 폭등 위험

젠AI 도구를 제공하는 빅테크 기업들의 궁극적인 목적은 그들의 지배력을 강화하는 것입니다.

이들은 ‘중립적인 도구’라는 이름으로 강력한 오라클처럼 포장된 젠AI를 판매하지만, 실제로는 사용자의 의존성을 높여 빅테크의 권력을 강화하는 수단입니다.

  • 빅테크의 생존 전략: 젠AI는 아직 수익 모델이 불확실하며, 빅테크 기업들은 자신들의 막대한 투자를 회수하기 위해 젠AI를 모든 이들이 ‘없이는 살 수 없는’ 제품으로 만들어야 합니다. 이를 위해 개발자라는 매력적인 시장을 공략하고 있습니다.
  • 폭발적인 가격 인상: 현재의 젠AI 가격은 지속 가능하지 않습니다. 빅테크 기업들이 막대한 ‘투자’를 회수하려면, 구독 가격을 몇 자릿수 이상으로 인상할 수밖에 없습니다.

젠AI는 단기적인 효율성 증대라는 달콤한 유혹 뒤에, 개발자들의 창의성, 비판적 사고 능력, 그리고 인간적인 유대감을 앗아갈 수 있는 잠재적인 위험을 내포하고 있습니다.

개발자들은 젠AI의 편리함에 휩쓸리기보다, 이러한 위험을 인지하고 신중하게 접근해야 할 것입니다.

자주 묻는 질문 (FAQ)

Q: 젠AI 사용이 개발자 직업을 완전히 대체할 수 있을까?

A: 현재 젠AI는 개발자의 업무 효율을 높이는 보조 도구로서의 역할이 크지만, 창의적인 문제 해결, 복잡한 시스템 설계, 윤리적 판단 등 인간 개발자만이 할 수 있는 영역까지 완전히 대체하기는 어렵습니다.

다만, 일부 반복적인 코딩 작업은 자동화될 가능성이 있습니다.

Q: 젠AI를 사용하지 않으면 개발자로서 경쟁력을 잃게 되는가?

A: 젠AI를 현명하게 활용하는 능력 또한 중요한 기술이 될 수 있습니다.

그러나 젠AI의 위험성을 인지하고, 자신의 핵심 개발 역량을 강화하는 데 집중하는 것도 훌륭한 전략입니다.

젠AI에 대한 맹목적인 의존보다는 비판적 사고와 깊이 있는 이해가 장기적인 경쟁력을 좌우할 것입니다.

Q: 젠AI 사용을 거부하는 개발자는 실제로 일자리를 잃을 수도 있나?

A: 일부 기업에서는 젠AI 활용을 의무화할 수 있습니다.

이러한 환경에서는 젠AI 사용을 거부하는 것이 취업이나 직장 생활에 불이익으로 작용할 가능성이 있습니다.

하지만 이러한 압박 속에서도 자신의 신념을 지키고 젠AI의 위험성을 경고하는 목소리는 분명 가치가 있으며, 장기적으로는 건강한 개발 문화를 조성하는 데 기여할 것입니다.

Q: 젠AI가 초심자 개발자에게 미치는 영향은 구체적으로 무엇인가?

A: 초심자는 젠AI의 결과물을 비판적으로 검토하는 능력이나, 오류를 스스로 수정하는 능력이 부족할 수 있습니다.

젠AI에 의존하여 코드를 생성하면, 기본적인 코딩 원리와 디버깅 능력을 제대로 학습하지 못할 위험이 있으며, 이는 장기적으로 전문가로 성장하는 데 큰 걸림돌이 될 수 있습니다.