최근 인공지능(AI) 분야의 선두 주자인 앤트로픽(Anthropic)이 자사의 최신 AI 모델인 ‘미토스(Mythos)’에 대한 잠재적인 보안 침해 가능성을 조사하고 있다는 소식이 전해졌습니다.

이는 AI 기술 발전의 양면성을 다시 한번 상기시키는 사건이며, 특히 사이버 보안 전문가들 사이에서 큰 우려를 낳고 있습니다.

미토스(Mythos) AI 모델, 어떤 기능과 목적을 가졌나?

앤트로픽은 챗봇 ‘클로드(Claude)’로 잘 알려진 AI 기업입니다.

이번에 문제가 된 ‘미토스’는 소프트웨어 취약점을 탐지하는 데 특화된 새로운 AI 모델입니다.

앤트로픽은 올 4월 ‘프로젝트 글래스윙(Project Glasswing)’의 일환으로 미토스를 소수의 주요 기업들에게만 제한적으로 공개했습니다.

아마존, 애플, 시스코, JP모건 체이스, 엔비디아와 같은 기업들이 여기에 포함되었습니다.

이 모델의 목표는 경쟁 AI 시스템보다 더 효과적으로 소프트웨어의 보안 취약점을 찾아내, 해커들이 악용하기 전에 기업들이 자체 방어를 강화하도록 돕는 것이었습니다.

즉, 미토스는 방어적인 목적으로 개발된 AI 도구라고 할 수 있습니다.

잠재적 보안 침해 사고의 전말

보도에 따르면, 앤트로픽은 현재 미토스 모델에 대한 무단 접근 가능성을 조사 중입니다.

이 의혹은 앤트로픽이 협력하는 제3자 공급업체 중 한 곳의 환경에서 발생한 것으로 알려졌습니다.

앤트로픽 측은 아직 자사 공급업체 환경 외부에서는 어떠한 침해 사실도, 앤트로픽 시스템 자체의 손상도 감지되지 않았다고 밝혔습니다.

하지만 이번 사안은 앤트로픽의 시스템 자체보다, AI 모델이 연동되는 외부 환경의 보안 취약점이 얼마나 치명적일 수 있는지를 보여줍니다.

블룸버그 통신은 관련 사안에 정통한 인물을 인용하여 소수의 무단 사용자들이 이 도구에 접근했다고 보도했으며, 앤트로픽은 수요일, 이 내용을 확인하고 조사를 시작했다고 밝혔습니다.

AI 모델 악용 가능성에 대한 전문가들의 우려

미토스 모델과 같은 강력한 AI가 잘못된 손에 들어갈 경우 발생할 수 있는 시나리오에 대해 연방 공무원, 보안 전문가, 국제통화기금(IMF)과 같은 글로벌 기관의 리더들까지도 깊은 우려를 표명해 왔습니다.

특히 은행, 병원, 정부 시스템 등 민감한 IT 인프라를 공격하는 데 악용될 수 있다는 점이 문제입니다.

사이버 보안 AI 기업 Assail의 CEO인 Alissa Valentina Knight는 과거 CBS 뉴스 인터뷰에서 “과거 인간이 네트워크를 해킹할 때도 우리는 따라잡기 어려웠는데, AI를 사용하는 지금은 훨씬 파괴적으로 빠르고 능력이 뛰어나기 때문에 따라잡을 수 없을 것”이라고 경고한 바 있습니다.

이는 AI 기술의 발전 속도가 보안 기술의 발전 속도를 초월할 수 있다는 ‘AI 격차’에 대한 근본적인 불안감을 드러냅니다.

기업들이 취해야 할 실질적인 보안 강화 방안

이번 미토스 모델 침해 의혹 사건은 모든 기업에게 다음과 같은 보안 강화 조치의 필요성을 강조합니다.

  • 공급망 보안 강화: AI 모델을 개발하거나 활용하는 과정에서 제3자 공급업체를 이용하는 경우, 해당 공급업체의 보안 정책 및 실제 보안 수준을 철저히 검증하고 지속적으로 모니터링해야 합니다.
  • 접근 통제 강화: AI 모델 및 관련 데이터에 대한 접근 권한을 최소한으로 제한하고, 다단계 인증(MFA)과 같은 강력한 인증 절차를 적용해야 합니다. 특히 개발 및 테스트 환경에 대한 엄격한 통제가 필수적입니다.
  • 이상 행위 탐지 시스템 구축: AI 모델의 사용 패턴을 실시간으로 분석하여 비정상적인 접근이나 활동을 즉시 탐지하고 대응할 수 있는 시스템을 마련해야 합니다. 이를 위해 AI 기반의 보안 솔루션을 도입하는 것도 고려해볼 수 있습니다.
  • 정기적인 보안 감사 및 취약점 점검: AI 모델 자체뿐만 아니라, 모델이 통합된 시스템 전반에 대한 정기적인 보안 감사와 취약점 점검을 수행해야 합니다.
  • 내부 인력 보안 교육: AI 모델을 다루는 내부 인력에 대한 보안 인식 교육을 강화하고, 잠재적인 보안 위협에 대한 경각심을 높여야 합니다.

AI 시대, 보안은 더욱 중요해집니다

앤트로픽의 미토스 AI 모델 보안 침해 가능성 조사는 AI 기술이 가져올 놀라운 발전과 함께, 그 이면에 숨겨진 심각한 보안 위협을 다시 한번 수면 위로 끌어올렸습니다.

AI는 우리 사회와 산업 전반에 혁신을 가져올 잠재력이 크지만, 동시에 이를 악용하려는 세력에게는 강력한 무기가 될 수도 있습니다.

이번 사건을 계기로 모든 기업과 개인은 AI 시대에 걸맞는 철저한 보안 의식과 시스템 구축에 더욱 힘써야 할 것입니다.

우리 모두가 AI 기술의 혜택을 안전하게 누릴 수 있도록, 보안은 이제 선택이 아닌 필수가 되었습니다.

출처: https://www.cbsnews.com/news/anthropic-investigates-mythos-ai-breach/