최근 기술 동향에서 프라이버시를 보호하면서 AI를 훈련하는 기술이 중요하게 부각되고 있습니다.

특히 스마트워치, 센서와 같은 우리의 일상적인 기기에서 이 기술이 어떻게 적용될 수 있을지에 대한 관심이 뜨겁습니다.

MIT 연구진이 이러한 한계를 극복하고, 더욱 정확하고 효율적인 AI 모델을 일상 기기에서 활용할 수 있는 새로운 방법을 제시했습니다.

이는 의료, 금융 등 민감한 데이터를 다루는 분야에 혁신적인 변화를 가져올 것으로 기대됩니다.

AI 훈련의 새로운 패러다임: 연합 학습의 한계

기존의 AI 훈련 방식은 대규모 데이터를 중앙 서버로 모아 처리하는 경우가 많았습니다.

하지만 이는 사용자의 개인 정보 유출 위험을 내포하고 있습니다.

이러한 문제를 해결하기 위해 등장한 것이 연합 학습(Federated Learning)입니다.

연합 학습은 데이터를 중앙 서버로 옮기지 않고, 각 기기에서 로컬 데이터를 사용하여 AI 모델을 훈련시키고, 그 업데이트 내용만 중앙 서버로 보내 종합하는 방식입니다.

이 방식은 데이터 프라이버시를 획기적으로 개선하지만, 모든 기기가 동일한 성능을 가지고 있지 않다는 현실적인 문제에 직면합니다.

스마트워치, 웨어러블 센서, 스마트폰 등 자원이 제한적인 엣지 디바이스(Edge Device)들은 연산 능력, 메모리, 네트워크 연결성이 부족하여 모델을 훈련하고 업데이트를 전송하는 데 상당한 시간이 소요됩니다.

이는 결국 전체 AI 훈련 과정의 지연과 성능 저하로 이어집니다.

MIT의 혁신: FTTE 프레임워크 등장

MIT 연구진은 이러한 연합 학습의 성능 저하 문제를 해결하기 위한 ‘FTTE(Federated Tiny Training Engine)’라는 새로운 프레임워크를 개발했습니다.

FTTE는 메모리 제약과 통신 병목 현상을 극복하여, 다양한 성능을 가진 이질적인(heterogeneous) 무선 기기 네트워크에서도 효율적으로 AI 모델을 훈련할 수 있도록 설계되었습니다.

FTTE의 핵심은 세 가지 혁신적인 접근 방식에 있습니다.

첫째, 전체 모델을 보내는 대신, 모델의 일부 매개변수(parameter)만 전송합니다.

이를 통해 각 기기에서 요구되는 메모리 용량을 크게 줄일 수 있습니다.

연구진은 특정 메모리 예산 내에서 모델의 정확도를 최대로 높일 수 있는 매개변수 조합을 찾아내는 특별한 탐색 절차를 사용했습니다.

이 예산은 네트워크 내에서 가장 메모리가 부족한 기기의 성능을 기준으로 설정됩니다.

비동기 업데이트와 가중치 적용의 비밀

둘째, 모델 업데이트를 비동기적으로 처리합니다.

기존 방식처럼 모든 기기의 응답을 기다리는 대신, 중앙 서버는 들어오는 업데이트를 일정 용량이 찰 때까지 누적한 후 훈련을 진행합니다.

이는 더 많은 기기가 훈련 과정에 참여할 수 있도록 하여, 강력한 기기들이 단순히 대기하는 시간을 줄이고 자원을 효율적으로 사용하게 합니다.

셋째, 각 기기에서 보낸 업데이트에 수신 시점에 따른 가중치를 적용합니다.

오래된 업데이트는 최신 업데이트보다 덜 중요한 것으로 간주되어 모델 훈련에 미치는 영향을 줄입니다.

이는 구식 데이터가 모델 성능을 저해하고 훈련 속도를 늦추는 것을 방지하는 데 중요한 역할을 합니다.

이러한 ‘반(semi)-비동기 방식’은 가장 성능이 낮은 기기까지도 훈련 과정에 참여시키면서, 성능이 좋은 기기가 오랫동안 유휴 상태에 머물러 자원을 낭비하는 것을 방지합니다.

81% 가속, 80% 메모리 절감: 놀라운 결과

연구진은 수백 대의 이질적인 기기와 다양한 모델, 데이터셋을 이용한 시뮬레이션을 통해 FTTE의 성능을 검증했습니다.

그 결과, FTTE는 표준 연합 학습 방식 대비 훈련 과정을 평균 81% 더 빠르게 완료했습니다.

또한, 기기 내 메모리 사용량을 80% 줄이고 통신 데이터 용량을 69% 감소시키면서도, 다른 기술과 거의 동등한 수준의 정확도를 달성했습니다.

물론, 속도를 높이는 과정에서 정확도에 약간의 절충이 발생할 수 있습니다.

하지만 이 미미한 정확도 하락은 속도 향상이라는 이점과 비교했을 때 충분히 수용 가능한 수준이며, 특히 배터리 수명에 민감한 엣지 디바이스의 효율성을 고려할 때 매우 매력적인 결과입니다.

FTTE는 더 많은 기기가 연결될수록 성능 향상 폭이 커지는 뛰어난 확장성을 보여주었습니다.

이러한 시뮬레이션 결과는 실제 수많은 엣지 디바이스 환경에서 FTTE가 얼마나 강력한 성능을 발휘할 수 있을지를 시사합니다.

미래 의료 및 금융 분야의 개인 정보 보호 강화

이번 MIT 연구진의 FTTE 프레임워크는 개인 정보 보호와 AI 기술의 접점을 넓히는 중요한 이정표가 될 것입니다.

의료 분야에서는 환자의 민감한 건강 데이터를 중앙 서버 없이 기기 자체에서 훈련에 활용하여 진단 정확도를 높이고, 금융 분야에서는 사용자 거래 기록 등을 안전하게 보호하면서 개인 맞춤형 서비스를 제공하는 데 기여할 수 있습니다.

또한, 교통, 스마트 홈 등 다양한 분야에서도 더욱 스마트하고 안전한 AI 서비스를 기대해 볼 수 있습니다.

앞으로 FTTE와 같은 기술이 발전하면서, 우리는 더욱 강력한 AI 성능을 일상 속에서, 그것도 개인 정보를 안전하게 보호받으며 누릴 수 있게 될 것입니다.

이는 기술 발전이 인간의 삶을 어떻게 더 나은 방향으로 이끌 수 있는지 보여주는 좋은 사례입니다.

출처: https://news.mit.edu/2026/enabling-privacy-preserving-ai-training-everyday-devices-0429