유튜브, AI 딥페이크 차단 나선다

최근 인공지능(AI) 기술의 발전은 우리 삶에 긍정적인 영향을 미치고 있지만, 동시에 심각한 부작용도 초래하고 있습니다.

특히 연예인이나 유명인의 얼굴을 무단으로 합성하여 가짜 영상을 만드는 ‘딥페이크’ 기술은 심각한 사회 문제로 대두되고 있습니다.

이러한 문제에 대응하여 유튜브가 AI 딥페이크로부터 유명인을 보호하기 위한 새로운 기능을 도입했습니다.

이는 단순히 기술적인 대응을 넘어, 디지털 세상에서의 개인의 권리와 이미지를 보호하려는 중요한 움직임으로 평가됩니다.

유튜브의 AI 딥페이크 대응 전략

유튜브는 AI를 이용해 유명인의 얼굴을 모방하는 콘텐츠를 탐지하고, 이를 제거 요청할 수 있는 기능을 확대 적용하고 있습니다.

이 기능은 ‘유사성 탐지 도구(Likeness Detection Tool)’라고 불리며, 플랫폼 전반에 걸쳐 AI로 생성된 가짜 영상이나 이미지를 식별합니다.

이 도구는 특히 정치인, 언론인에 이어 이제는 할리우드 유명 인사들까지 그 범위를 넓혀 적용됩니다.

참여를 원하는 유명인은 본인 인증을 위해 신분증과 셀피 영상 제출이 필요하며, 이를 통해 AI가 생성한 본인의 모습을 유튜브에서 추적하고 불법적인 사용 시 제거를 요청할 수 있습니다.

다만, 모든 요청이 승인되는 것은 아니며 패러디나 풍자와 같이 보호받는 사용 사례는 예외로 간주될 수 있습니다.

이 도구는 얼굴의 시각적 특징에 집중하여 AI 딥페이크를 탐지합니다.

목소리나 다른 식별 가능한 특징보다는 시각적인 유사성을 우선적으로 분석하는 방식입니다.

유튜브는 이 시스템을 저작권 침해 콘텐츠를 탐지하는 ‘콘텐츠 ID’ 시스템과 유사하다고 설명합니다.

다만, 콘텐츠 ID와 달리 현재 유사성 탐지 도구는 수익 창출 기능까지는 포함하지 않습니다.

하지만 업계의 전반적인 움직임을 볼 때, 향후 유사한 기능을 통해 AI 생성 콘텐츠의 상업적 활용 및 수익 분배까지도 논의될 가능성이 있습니다.

예를 들어, 일부 연예 기획사는 이미 소속 연예인의 생체 데이터를 활용하여 상업적 기회를 모색하고 있으며, 유명인의 디지털 복제본을 이용해 영상 콘텐츠를 제작하는 기술도 개발되고 있습니다.

AI 딥페이크는 단순한 재미를 넘어 명예훼손, 사생활 침해, 사기 등 심각한 범죄에 악용될 수 있는 잠재력을 가지고 있습니다.

특히 유명인의 경우, 그들의 이미지가 왜곡되거나 악의적으로 사용될 경우 막대한 피해를 입을 수 있습니다.

이러한 맥락에서 유튜브의 이번 조치는 디지털 환경에서의 표현의 자유와 개인의 권리 보호 사이에서 균형점을 찾으려는 시도로 볼 수 있습니다.

하지만 패러디나 풍자와 같이 예술적, 사회적 표현의 자유를 보장해야 하는 측면과의 충돌도 예상됩니다.

따라서 유튜브는 콘텐츠 제거 요청을 심사할 때, 이러한 보호받는 사용 사례들을 신중하게 고려할 것으로 보입니다.

유명인뿐만 아니라 일반 개인에게도 AI 딥페이크의 위협은 존재합니다.

자신의 얼굴이나 목소리가 허가 없이 사용되는 상황에 대비하여 사전에 디지털 자산을 보호하고, 문제 발생 시 신속하게 대처할 수 있는 방안을 마련해야 합니다.

또한, 기업들은 AI 기술을 활용할 때 윤리적인 가이드라인을 수립하고, 사용자들의 동의 없는 콘텐츠 생성을 방지하는 시스템을 구축해야 합니다.

AI 생성 콘텐츠를 활용하는 경우에도, 원본 콘텐츠 제작자의 권리를 존중하고 투명하게 운영하는 것이 중요합니다.

AI 딥페이크 기술은 계속해서 발전할 것이며, 이를 완벽하게 통제하는 것은 쉽지 않을 것입니다.

따라서 우리는 기술 발전과 함께 윤리적, 법적, 사회적 논의를 지속해야 합니다.

사용자는 AI로 생성된 콘텐츠를 비판적으로 수용하는 능력을 길러야 하며, 기업은 기술의 책임감 있는 사용을 위한 노력을 게을리하지 않아야 합니다.

유튜브의 이번 발표는 딥페이크 문제 해결을 위한 중요한 첫걸음이며, 앞으로 더 많은 플랫폼과 기술 기업들이 이러한 문제에 적극적으로 나서기를 기대합니다.

디지털 세상에서의 신뢰와 안전을 지키기 위한 모두의 노력이 필요한 시점입니다.

출처: https://www.theverge.com/ai-artificial-intelligence/915872/celebrities-will-be-able-to-find-and-request-removal-of-ai-deepfakes-on-youtube