최첨단 인공지능(AI) 기술의 급격한 발전이 전 세계 공공 서비스 분야에 예상치 못한 파장을 일으키고 있습니다.

영국 국민보건서비스(NHS) 잉글랜드는 AI의 잠재적 해킹 위협에 대응하기 위해 자사가 개발한 소프트웨어 소스 코드를 공개적으로 접근할 수 없도록 조치를 취했습니다.

이는 공공 자금으로 개발된 소프트웨어는 원칙적으로 공개되어야 한다는 기존 방침을 뒤집는 결정으로, 기술계와 보안 전문가들 사이에서 뜨거운 논쟁을 불러일으키고 있습니다.

AI 발전과 높아지는 보안 우려

최근 AI 기술, 특히 언어 모델의 발전 속도는 놀랍습니다.

앤트로픽(Anthropic)에서 개발한 ‘미토스(Mythos)’와 같은 AI 모델은 방대한 양의 코드를 분석하고 잠재적인 취약점을 찾아내는 능력이 뛰어나다고 알려졌습니다.

NHS 잉글랜드는 이러한 AI 모델이 소프트웨어의 보안 취약점을 악용하여 시스템을 침해할 수 있다는 점을 심각하게 받아들였습니다.

이에 따라 기존 및 신규 소프트웨어 소스 코드 저장소를 기본적으로 비공개로 전환하고, 공개가 필요한 경우에도 엄격한 승인 절차를 거치도록 하는 새로운 지침을 직원들에게 하달했습니다.

이 조치는 5월 11일까지 완료될 예정입니다.

기존 방침과의 충돌: 투명성 vs. 보안

NHS 잉글랜드의 이번 결정은 해당 기관의 기존 서비스 표준과 상충되는 지점이 있습니다.

영국 공공 서비스에서 개발되는 소프트웨어는 ‘공공 자금으로 만들어졌기에, 특별한 이유가 없는 한 다른 조직이 재사용하고 개선할 수 있도록 소스 코드를 공개해야 한다’는 것이 기존 지침이었습니다.

이러한 오픈소스 정책은 개발 비용 절감, 기술 발전 가속화, 그리고 공공 서비스에 대한 신뢰와 투명성 증진이라는 긍정적인 효과를 가져왔습니다.

실제로 과거 영국의 우체국이 겪었던 ‘호라이즌 IT 시스템’ 스캔들은 소프트웨어 코드의 투명성이 부족하여 발생한 비극적인 사례로, 오픈소스 정책이 이러한 문제를 예방할 수 있음을 시사합니다.

보안 전문가들의 비판: 과도한 조치인가?

하지만 보안 전문가들은 NHS 잉글랜드의 이번 결정이 과도하며 오히려 역효과를 낼 수 있다고 지적합니다.

영국 정부 산하 AI 보안 연구소(AISI)의 조사에 따르면, 미토스 모델은 현재까지 ‘취약하고 방어가 미흡한 소규모 기업 시스템’에만 공격 능력을 보였을 뿐, 고도로 보안이 강화된 시스템에는 위협이 되지 않는다고 결론 내렸습니다.

따라서 NHS와 같이 잘 구축된 시스템에 즉각적인 위험을 초래할 가능성은 매우 낮다는 것입니다.

저명한 IT 전문가 테렌스 이든(Terence Eden)은 이번 조치가 AI에 대한 과장된 불안감에 휩쓸린 panicked reaction(성급하고 지나친 반응)일 수 있다고 비판합니다.

그는 오픈소스 소프트웨어가 오히려 더 많은 사람들의 검토를 통해 보안 취약점이 조기에 발견될 수 있어 더욱 안전하다고 주장하며, 이미 수년간 공개되어 백업 및 다운로드 형태로 존재할 소스 코드를 지금 와서 차단하는 것은 ‘말이 문을 닫는 격’이라고 비유했습니다.

오픈소스의 딜레마: 보안과 혁신의 균형점 찾기

이번 사태는 AI 시대에 공공 서비스의 보안과 투명성, 그리고 혁신 사이의 복잡한 균형점을 찾아야 하는 과제를 안겨줍니다.

AI 기술의 발달로 인해 잠재적인 위협은 분명 증가하고 있지만, 그렇다고 해서 모든 공개를 중단하는 것은 장기적으로 공공 서비스의 발전과 신뢰를 저해할 수 있습니다.

NHS 잉글랜드의 발표에 따르면, 이번 조치는 ‘일시적’이며, AI 모델 발전의 영향을 평가하는 동안 사이버 보안을 더욱 강화하기 위한 것이라고 합니다.

또한, 명확한 필요성이 있을 경우 소스 코드 공개를 계속할 것이라고 덧붙였습니다.

결국, 중요한 것은 AI 시대의 변화에 맞춰 기존의 원칙을 유연하게 적용하고, 잠재적 위협을 면밀히 분석하여 최적의 보안 및 공개 정책을 수립하는 것입니다.

미래를 위한 시사점: 기술 발전 속도에 발맞추는 정책

NHS 잉글랜드의 결정은 비단 영국만의 문제가 아닐 것입니다.

전 세계적으로 AI 기술이 급속도로 발전하면서, 이에 대한 대응 역시 신속하고 유연해야 함을 보여줍니다.

과거의 성공적인 정책이 현재의 새로운 위협에 그대로 적용되지 않을 수 있으며, 새로운 기술 발전에 대한 면밀한 분석과 함께, 기존의 투명성 및 개방성 원칙을 어떻게 조화롭게 유지할 것인가에 대한 깊이 있는 논의가 필요합니다.

기술 블로거로서 우리는 이러한 변화의 흐름을 주의 깊게 관찰하고, 긍정적인 방향으로 나아갈 수 있도록 인사이트를 공유해야 할 것입니다.

출처: https://www.newscientist.com/article/2524962-nhs-england-rushes-to-hide-software-over-ai-hacking-fears/