최근 AI 기술의 발전 속도가 가속화되면서, 우리가 상상하지 못했던 영역까지 파고들고 있습니다.

특히 보안 분야에서 AI의 역할은 더욱 중요해지고 있으며, 이는 긍정적인 측면과 함께 심각한 우려를 낳고 있습니다.

앤트로픽(Anthropic)의 새로운 AI 모델 ‘클로드 미토스(Claude Mythos)’ 발표는 이러한 변화를 극명하게 보여주는 사례입니다.

AI, 보안 취약점 탐색의 새로운 지평을 열다

지난달, 앤트로픽은 자사의 최신 AI 모델인 ‘클로드 미토스 미리보기’가 소프트웨어 보안 취약점을 찾는 데 탁월한 능력을 보여주었다고 발표했습니다.

이 모델의 강력한 성능 때문에 일반 대중에게 공개하는 대신, 선별된 기업에게만 자체 소프트웨어 스캔 및 수정 목적으로 제한적으로 제공하겠다는 것입니다.

이 발표는 AI 기술이 보안 분야에 미칠 영향에 대한 중요한 단서를 제공합니다.

앤트로픽의 모델이 뛰어난 것은 사실이지만, 놀랍게도 다른 AI 모델들 역시 비슷한 수준의 능력을 보여주고 있다는 점이 핵심입니다.

영국 AI 보안 연구소(UK’s AI Security Institute)의 조사에 따르면, 이미 공개된 오픈AI의 GPT-5.5 역시 유사한 수준의 능력을 갖추고 있다고 합니다.

또한, Aisle이라는 회사는 더 작고 비용 효율적인 모델을 사용해서도 앤트로픽이 발표한 결과를 재현하는 데 성공했습니다.

이러한 사실들은 최첨단 AI 모델이 더 이상 소수 기업의 전유물이 아니며, 광범위한 접근이 가능해지고 있음을 시사합니다. 앤트로픽이 미토스 모델을 공개하지 않은 것은 모델 운영의 막대한 비용과 대규모 공개를 위한 자원 부족 때문일 가능성이 높습니다.

하지만 이러한 제한적인 공개는 오히려 AI의 잠재적 능력을 과장하고 기업 가치를 부풀리려는 전략으로 해석될 수도 있습니다.

공격과 방어, AI로 인해 양극화되는 사이버 보안

그럼에도 불구하고, 현대 생성형 AI 시스템, 즉 앤트로픽뿐만 아니라 오픈AI 및 다양한 오픈소스 모델들이 소프트웨어 취약점을 찾아내고 이를 악용하는 데 점점 더 능숙해지고 있다는 사실은 분명히 우려스러운 현실입니다.

이는 사이버 보안의 공격과 방어 양 측면에 모두 중요한 영향을 미칩니다.

공격자들은 이러한 AI의 능력을 활용하여 다양한 시스템의 취약점을 자동으로 찾아내고 악용할 것입니다.

이는 랜섬웨어를 심어 금전적 이득을 취하거나, 첩보 목적으로 데이터를 탈취하거나, 혹은 군사적 충돌 시 시스템을 제어하는 등 세계 각국의 중요 시스템에 대한 침투를 용이하게 만들 것입니다.

결과적으로, 이러한 발전은 세상을 더욱 위험하고 불안정한 곳으로 만들 가능성이 높습니다.

반면, 방어자들 역시 동일한 AI 능력을 활용하여 이러한 취약점을 찾아내고 신속하게 패치할 수 있습니다.

예를 들어, 모질라(Mozilla)는 미토스 모델을 활용하여 파이어폭스(Firefox)에서 271개의 취약점을 발견하고 이를 수정했습니다.

이러한 취약점들은 공격자들에게 더 이상 노출되지 않을 것입니다.

미래에는 AI가 자동으로 소프트웨어 취약점을 발견하고 수정하는 것이 개발 과정의 표준이 되어 훨씬 더 안전한 소프트웨어를 만드는 데 기여할 것으로 예상됩니다.

하지만 이 과정이 순탄하지만은 않을 것입니다.

공격자들의 취약점 악용 시도와 함께, 모든 앱과 기기에 대한 잦은 소프트웨어 업데이트가 쏟아질 것으로 예상됩니다.

문제는 모든 시스템이 패치 가능한 것도 아니며, 패치가 가능한 시스템이라도 제대로 업데이트되지 않는 경우가 많다는 점입니다.

이는 상당수의 취약점이 지속적으로 남아있게 될 가능성을 시사합니다.

더욱이, 취약점을 발견하고 이를 악용하는 것이 발견하고 수정하는 것보다 더 쉽다는 점도 간과할 수 없습니다.

AI 시대, 우리가 직면할 단기적 위험과 장기적 전망

이 모든 상황은 단기적으로 더욱 위험한 미래를 예고합니다.

조직들은 이러한 새로운 현실에 맞춰 보안 전략을 재정비해야 할 것입니다.

하지만 우리는 장기적인 관점에 더욱 집중해야 합니다.

미토스 모델이 특별한 이유는 단순히 기존 모델보다 뛰어나기 때문이 아니라, 앞으로 등장할 더 발전된 AI 모델들의 전조이기 때문입니다.

AI는 불과 6개월 전보다 훨씬 더 능숙하게 소프트웨어를 작성하고 있습니다.

이러한 발전 추세가 계속될 것이며, 이는 곧 더욱 안전한 소프트웨어를 작성하는 능력 역시 향상될 것임을 의미합니다.

궁극적으로는 AI 기반의 방어 시스템이 AI 기반의 공격 시스템보다 우위를 점하게 될 것입니다.

AI, 단순한 코드를 넘어 사회 시스템 전반에 파급

이보다 더 흥미로운 것은 AI의 광범위한 사회적 함의입니다.

소프트웨어의 코드를 분석하는 데 뛰어난 AI의 검색, 패턴 매칭, 추론 능력은 유사한 복잡성을 지닌 다른 시스템에도 적용될 가능성이 높습니다.

예를 들어, 세법은 컴퓨터 코드는 아니지만, 입력과 출력을 가지는 알고리즘의 집합체입니다.

세법에도 ‘취약점’이 존재하는데, 우리는 이를 ‘세법상 허점(tax loopholes)’이라 부릅니다.

이러한 허점을 이용하는 전략은 ‘절세 전략(tax avoidance strategies)’이라 불리며, 이를 활용하는 전문가들은 ‘블랙햇 해커(black hat hackers)’에 비견될 수 있는 변호사와 회계사들입니다.

AI는 이미 우리 삶의 더 깊숙한 곳까지 파고들고 있습니다.

이러한 AI를 지원하는 기업의 통제권이 누구에게 있는지 여부는 중요하지 않을까요?

마치 AI가 복잡한 소프트웨어 시스템에서 수백 개의 취약점을 찾아내듯, 우리는 AI가 새롭고 발견되지 않은 수많은 세법상 허점들을 찾아낼 것이라고 예상해야 합니다.

주요 투자 은행들은 이미 비밀리에 이러한 연구에 착수했을 가능성이 높습니다.

이들은 미국, 영국 등 주요 국가의 세법 전체를 AI에 학습시키고, 돈을 절약할 수 있는 전략을 탐색하도록 지시했을 것입니다.

AI는 얼마나 많은 세법상 허점을 찾아낼까요?

열 개?

백 개?

천 개?

심지어 여러 국가의 세법을 넘나드는 복잡한 조세 회피 구조까지 AI가 분석해낼 수 있을까요?

우리는 아직 알 수 없습니다.

물론 AI가 작동하지 않는 전략들을 제시할 수도 있지만, 그 검증과 정당화, 그리고 부유층 고객에게 판매하는 역할은 변호사와 회계사들이 담당할 것입니다.

세법뿐만 아니라, 환경 규제, 식품 안전 규제 등 복잡한 규제 시스템이 존재하는 곳이라면 어디든 AI는 유사한 허점을 찾아낼 수 있습니다. 이는 결국 불안정한 컴퓨터 시스템보다 훨씬 더 심각한 결과를 초래할 것입니다.

세법상 허점은 정부의 세수 감소로 이어지고, 규제상의 허점은 강자들이 규칙을 회피하게 함으로써 사회 전반에 부정적인 영향을 미칩니다.

더욱이, 소프트웨어 공급업체는 며칠 안에 시스템을 패치할 수 있지만, 국가가 세법을 개정하는 데는 일반적으로 수년이 걸립니다.

이 과정은 정치적 로비의 영향력 아래 놓여 있어, 의원들이 입법을 바꾸는 것을 꺼리게 만듭니다.

수십 년간 악용되어 온 미국의 ‘카리에드 인터레스트(carried interest)’ 허점 사례가 이를 증명합니다.

AI 혁명, 인간 인지의 확장과 사회 시스템의 변화

AI 기술은 사회의 많은 부분을 재편할 준비를 하고 있습니다.

산업혁명이 인류에게 신체 외부에서 칼로리를 대규모로 소비할 수 있는 능력을 부여했다면, AI 혁명은 인류에게 인지적 과제를 신체 외부에서 대규모로 수행할 수 있는 능력을 부여할 것입니다.

우리의 현재 사회 시스템은 이러한 변화를 감당할 만큼 충분히 설계되지 않았습니다.

우리는 이미 AI가 발견하고 악용하는 수많은 소프트웨어 취약점의 홍수를 목격하고 있습니다.

그리고 곧 우리는 다양한 규칙 시스템 전반에 걸쳐 발생할 취약점의 홍수를 경험하게 될 것입니다.

이러한 새로운 현실에 적응하는 것은 어려운 일이겠지만, 우리는 선택의 여지가 없습니다.

자주 묻는 질문 (FAQ)

Q: 앤트로픽의 미토스 AI 모델이 공개되지 않는 이유는 무엇인가?

A: 미토스 모델은 소프트웨어 보안 취약점 탐색에 매우 강력한 성능을 보여, 잠재적 악용 가능성에 대한 우려 때문에 일반 공개가 제한되었습니다.

또한, 모델 운영에 막대한 비용이 소요되어 경제적인 이유도 복합적으로 작용했을 것으로 보입니다.

Q: AI가 사이버 보안에 미치는 긍정적 영향과 부정적 영향은 무엇인가?

A: 긍정적으로는 AI가 보안 전문가들이 놓칠 수 있는 취약점을 신속하게 발견하고 이를 패치하여 시스템을 더욱 안전하게 만드는 데 기여할 수 있습니다.

부정적으로는 공격자들이 AI를 악용하여 더욱 정교하고 대규모의 사이버 공격을 감행할 수 있게 되어 전반적인 보안 위협이 증가할 수 있습니다.

Q: AI가 세법 등 복잡한 사회 시스템에도 영향을 미칠 것으로 예상되는 이유는 무엇인가?

A: AI의 패턴 인식, 논리 추론 능력은 코드를 포함한 다양한 복잡한 규칙 체계에서 숨겨진 허점이나 비효율성을 찾아내는 데 효과적이기 때문입니다.

이러한 능력은 세법, 규제 등 인간이 만든 복잡한 시스템에도 동일하게 적용될 수 있어 새로운 형태의 허점 발굴과 악용 가능성이 있습니다.

Q: AI 시대에 개인이나 조직은 어떻게 대비해야 하는가?

A: AI의 발전 속도를 인지하고, 보안 위협 증가에 대비한 철저한 보안 체계 구축 및 업데이트가 필수적입니다.

또한, AI를 활용한 업무 효율성 증대 방안을 모색하되, AI가 야기할 수 있는 잠재적 위험성에 대해서도 충분히 숙지하고 대비하는 자세가 필요합니다.