AI 음악 판별기 ‘Quicksilver’ 등장과 윤리 운동

전문가 통찰 및 한줄평 (Insight)

“AI 생성 음악이 범람하는 시대, ‘Quicksilver’와 ETCH의 등장은 기술 윤리와 인간 창의성의 조화라는 중요한 질문을 던집니다.

이는 단순히 기술적 해결책을 넘어, 우리가 소비하는 콘텐츠의 본질과 창작자의 권리에 대한 근본적인 성찰을 요구합니다.”

2024년, 음악 산업은 전례 없는 변화를 맞이했습니다.

스트리밍 플랫폼에 AI 생성 곡이 폭발적으로 증가하며 전체 신규 업로드 트랙의 절반에 육박하고 있습니다.

이러한 상황 속에서 인간의 예술성과 알고리즘의 산물을 구분하기 어려워지면서, 청취자들은 자신이 즐기는 음악이 얼마나 사람의 손을 거쳤는지, 얼마나 기계의 결과물인지에 대한 새로운 질문에 직면하게 되었습니다.

시카고 대학교 SAND Lab은 이러한 시대적 요구에 부응하여 ‘Quicksilver’라는 혁신적인 브라우저 확장 프로그램을 선보이며, ETCH(Ethical Technology and Computing for Humanity)라는 비영리 단체와 함께 기술의 윤리적 발전과 인간 창의성에 대한 지지를 표명하고 나섰습니다.

AI 음악의 급증과 판별의 필요성

SAND Lab 연구팀은 스포티파이, 애플 뮤직 등 주요 음악 플랫폼에서 AI 생성 음악의 현황을 조사한 결과, 대부분의 플랫폼이 트랙이 AI에 의해 생성되었는지 여부를 명확히 공개하지 않는다는 사실을 발견했습니다.

더욱 놀라운 것은, 주간 신규 발매 곡의 약 50%가 AI로 생성되었으며, 이들 대부분은 낮은 수준의 참여율을 보이는 이른바 ‘AI 슬롭(AI slop)’으로 분류되었습니다.

이러한 AI 생성 곡들이 일반 사용자들에게 쉽게 식별되지 않으면서, SAND Lab은 청취자들이 AI 음악을 명확히 인지할 수 있도록 돕는 ‘Quicksilver’를 개발하게 되었습니다.

리드 개발자인 스탠리 우(Stanley Wu) 박사 과정생은 “시중에 AI 음악이 너무 많고 일반 사용자들이 그 차이를 구분하지 못한다는 점을 고려할 때, 사용자에게 이러한 AI 곡을 식별할 수 있는 도구를 제공하는 것은 매우 자연스러운 해결책이었다”고 설명했습니다.

그의 동료들과 함께 진행한 연구에 따르면, 전문 음악가들조차 AI 작곡과 인간 작곡을 구분하는 능력에서 무작위 선택보다 약간 나은 수준에 그쳤습니다.

이는 AI가 생성한 오디오에는 인간의 귀로는 감지하기 어려운 미묘한 ‘아티팩트(artifacts)’가 존재하며, ‘Quicksilver’와 같은 도구가 이러한 문제를 해결하는 데 중요한 역할을 할 수 있음을 시사합니다.

투명성과 개인 정보 보호를 최우선으로 한 도구

‘Quicksilver’는 기존의 여러 AI 음악 탐지 서비스와 달리, 사용자의 기기에서 로컬로 작동한다는 점이 가장 큰 특징입니다.

사용자가 어떤 스트리밍 플랫폼에서든 음악을 재생하면, ‘Quicksilver’가 실시간으로 오디오를 분석합니다.

‘Analyze’ 버튼을 누르는 것만으로 확장 프로그램은 AI 생성 트랙, 특히 Suno나 Udio와 같은 모델을 통해 생성된 곡에서 흔히 발견되는 미묘한 신호들을 탐지합니다.

중요한 점은, 이 과정에서 어떤 오디오 데이터도 외부 서버로 업로드되지 않으며, 탐지 과정이 매우 빠르고 가볍게 이루어진다는 것입니다.

이러한 투명성과 프라이버시 중심의 접근 방식은 많은 음악가들로부터 긍정적인 반응을 얻었으며, ‘Quicksilver’의 탐지 메커니즘 개발에 영감을 준 프랑스 스트리밍 플랫폼 Deezer로부터도 지지적인 피드백을 받았습니다.

이는 기술이 사용자의 편의와 안전을 동시에 고려해야 함을 보여주는 좋은 사례입니다.

윤리의 중심, ETCH의 등장

‘Quicksilver’의 개발은 SAND Lab의 수년간의 연구를 바탕으로 탄생한 비영리 단체 ETCH(Ethical Technology and Computing for Humanity)와 깊은 관련이 있습니다.

현재 501(c3) 공개 자선 단체로 운영되는 ETCH는 컴퓨터 과학, 법학, 의학, 경영학 등 시카고 대학교의 다양한 학문 분야 전문가들로 구성된 이사회와 자문단을 갖추고 있으며, 신기술의 윤리적 발전을 조사하고 이를 선도하는 것을 목표로 합니다.

ETCH의 철학은 명확합니다.

기술은 인류를 위해 봉사해야 한다는 것입니다.

ETCH 웹사이트는 “인간의 창의적인 작업은 인간 표현과 소통의 정수”라며, “인간 표현의 창의적인 형태는 기술을 통해 축하받고 보존되며 보호받아야 한다”고 강조합니다.

ETCH는 윤리적 연구에 자금을 지원하고 창작자들과 파트너십을 맺으며, 복잡한 연구 결과를 실행 가능한 가이드라인으로 전환하고, 창작 커뮤니티가 기술 변화에 적응할 수 있도록 돕는 자원을 구축하는 등 실질적이고 광범위한 접근 방식을 취하고 있습니다.

벤 조(Ben Zhao) 교수는 “우리 삶의 거의 모든 측면에 AI 시스템 개발, 배포, 수익화를 위해 수조 달러가 투입되는 상황에서, 인간의 목소리를 높이고, 윤리적이고 원칙적인 AI 접근 방식을 탐구하는 동시에 인간의 창의성과 독창성의 가치를 강조하는 것이 그 어느 때보다 중요하다”며, “ETCH의 목표는 AI 노력이 투명하고 책임감 있으며 공정하도록 보장하는 동시에 인간 창의성을 고양하고 이익보다 사회적 선을 우선시하는 것”이라고 밝혔습니다.

이러한 움직임은 빠르게 변화하는 기술 환경 속에서 인간 고유의 가치를 지키려는 중요한 노력입니다.

시장 파급 효과 및 전망

AI 생성 음악의 범람은 단순한 기술적 현상을 넘어, 아티스트의 진정성과 실제 음악가들에게 미치는 영향에 대한 시급한 질문을 제기합니다.

특히 아무런 인간적 개입 없이 생성된 AI 음악은 창작자들의 생계를 위협할 수 있다는 우려가 커지고 있습니다.

스탠리 우는 “이러한 규모에서는 ‘스팸성’ AI 음악의 물결이 인간 아티스트에게 부정적인 영향을 미치지 않도록 더 많은 보호 조치가 필요하다”고 경고합니다.

‘Quicksilver’와 ETCH는 이러한 과제에 대한 해결책을 제시하며, 청취자들이 정보에 입각한 선택을 할 수 있도록 돕고 업계 전반의 투명성을 증진시키는 것을 목표로 합니다.

현재 ‘Quicksilver’는 Chrome 및 Microsoft Edge 브라우저 확장 프로그램과 MacOS 앱으로 제공됩니다.

개발팀은 새로운 음악 생성 모델과 진화하는 딥페이크 기술에 발맞춰 지속적으로 업데이트를 진행하고 있으며, 오탐(false positive)을 최소화하고 새로운 도전에 적응하면서 정확성과 반응성을 유지하는 것을 최우선 과제로 삼고 있습니다.

향후 개발자들은 업계 관계자들이 ‘Quicksilver’와 같은 도구를 적극적으로 수용하여 AI 생성 음악 및 스트리밍 콘텐츠에 대한 투명성을 높여줄 것을 기대하고 있습니다.

벤 조 교수는 과학, 산업, 법률 전반의 발전을 창작 커뮤니티를 위한 실질적인 가이드라인으로 전환하는 신뢰할 수 있는 자원이 되겠다고 약속했습니다.

그는 “AI의 지속적인 발전은 우리 중 소수만이 예측할 수 있는 방식으로 사회를 변화시킬 준비가 되어 있다.

우리는 기술이 항상 인류에게 봉사해야 한다고 믿으며, AI가 소수를 위한 것이 아니라 다수를 위한 혜택이 되도록 보장하는 것은 우리 모두의 책임이다.

ETCH에서는 여러 창의적인 영역에서 이 목표를 향해 노력하는 동시에 생태계 전반의 이해 관계자들과 협력하고 있다”고 덧붙였습니다.

이는 AI 기술 발전의 혜택이 특정 집단에 국한되지 않고 사회 전체에 돌아가야 한다는 중요한 메시지를 전달합니다.

‘Quicksilver’와 ETCH의 등장은 AI 시대에 인간 창의성의 가치를 재조명하고, 기술 윤리에 대한 사회적 논의를 촉발하는 중요한 계기가 될 것입니다.

기존 AI 음악 탐지 기술과의 비교

| 기술/서비스 이름 | 개발 주체 | 주요 기능 | 작동 방식 | 투명성 | 사용자 친화성 | 긍정적/부정적 피드백 |
|—|—|—|—|—|—|—|—|
| Quicksilver | SAND Lab (University of Chicago) | AI 생성 음악 실시간 식별 | 로컬 분석, 오디오 스트리밍 분석 | 높음 (데이터 미전송) | 높음 (브라우저 확장/앱) | 음악가 및 플랫폼 (Deezer) 긍정적 피드백 |
| Suno AI | Suno | AI 음악 생성 | 텍스트-음악 생성 | – | – | – |
| Udio AI | Udio | AI 음악 생성 | 텍스트-음악 생성 | – | – | – |
| (기타 상용 AI 탐지 솔루션) | (다양한 기업) | AI 생성 콘텐츠 탐지 | 클라우드 기반 분석, 패턴 인식 | 낮음 (데이터 전송 가능성) | 중간 | 상이함 (성능 및 비용 고려) |

‘Quicksilver’는 단순히 AI 생성 여부를 탐지하는 것을 넘어, 사용자 데이터 보호와 윤리적 측면을 강조하며 다른 솔루션들과 차별화됩니다.

특히 ‘Suno’나 ‘Udio’와 같은 AI 음악 생성 도구들이 활발히 사용되는 상황에서, 이러한 생성된 결과물을 식별하는 ‘Quicksilver’의 역할은 더욱 중요해지고 있습니다.

자주 묻는 질문 (FAQ)

Q: ‘Quicksilver’는 어떤 기술을 사용하여 AI 음악을 탐지하나요?

A: ‘Quicksilver’는 AI 생성 오디오에서 흔히 발견되는 미묘한 ‘아티팩트’를 분석하여 AI 음악을 식별합니다.

이 과정은 사용자의 기기에서 로컬로 이루어져 개인 정보 보호를 강화합니다.

Q: ‘Quicksilver’는 한국에서도 사용할 수 있으며, 한국 음악에도 적용 가능한가요?

A: 현재 ‘Quicksilver’는 Chrome, Microsoft Edge 브라우저 확장 프로그램 및 MacOS 앱으로 제공됩니다.

기술적으로는 전 세계의 음악에 적용 가능하지만, 한국 음악 시장에서의 특정 AI 음악 탐지 정확도는 지속적인 업데이트와 추가적인 테스트가 필요할 수 있습니다.

Q: AI 생성 음악이 인간 아티스트에게 미치는 부정적인 영향은 무엇인가요?

A: AI 생성 음악의 대량 유통은 저작권 문제, 창작물의 가치 하락, 그리고 인간 아티스트의 생계 위협과 같은 심각한 문제들을 야기할 수 있습니다.

‘Quicksilver’는 이러한 문제 인식과 투명성 확보에 기여합니다.

Q: ETCH는 앞으로 어떤 활동을 할 예정인가요?

A: ETCH는 윤리적인 AI 기술 개발을 지원하고, 창작 커뮤니티를 위한 자원을 제공하며, 기술 발전이 사회 전체에 혜택이 되도록 하는 것을 목표로 다양한 연구 및 파트너십 활동을 이어갈 것입니다.

출처: https://www.newswise.com/articles/unmasking-ai-music-quicksilver-and-the-ethical-movement-behind-it