최근 온라인 공간에서 AI로 생성된 인물들을 활용한 새로운 유형의 사기가 등장하여 주목받고 있습니다.

특히 미국 정치 성향과 결합된 ‘MAGA 걸’ 콘셉트는 특정 남성층을 겨냥하며 빠르게 확산되고 있습니다.

오늘은 이 현상의 배경과 작동 방식, 그리고 우리가 주의해야 할 점들을 심층적으로 분석해 보겠습니다.

AI 시대, 새롭게 등장한 ‘가짜 인플루언서’

의대생 샘(가명)의 사례는 이러한 사기 수법의 단면을 보여줍니다.

그는 온라인으로 추가 수입을 얻기 위해 AI 이미지 생성 도구를 활용하여 ‘에밀리 하트’라는 인물을 만들었습니다.

에밀리 하트는 간호사라는 직업과 유명 연예인을 닮은 외모로 설정되었으며, 보수적인 정치 성향을 드러내는 게시물로 큰 인기를 얻었습니다.

놀랍게도 그의 계정은 짧은 기간 안에 수만 명의 팔로워를 확보했고, 유료 콘텐츠 플랫폼에서 상당한 수익을 창출했습니다.

이는 AI 기술이 어떻게 실제 인물처럼 보이게 하고, 특정 커뮤니티의 감성을 자극하여 금전적 이득을 취하는 데 사용될 수 있는지를 명확히 보여주는 사례입니다.

‘MAGA 걸’ 전략: 왜 효과적인가?

이러한 ‘MAGA 걸’ 인플루언서들이 성공하는 데는 몇 가지 복합적인 요인이 작용합니다.

첫째, 미국 보수 진영에서 젊은 여성 인플루언서의 상대적인 희소성입니다.

18세에서 29세 여성의 경우 진보 성향이 강한 편인데, 보수 성향의 젊은 여성 인물은 더욱 눈길을 끌 수 있습니다.

둘째, AI 기술의 발전으로 인한 현실감 증대입니다.

과거의 가짜 계정과 달리, AI로 생성된 인물들은 더욱 정교하고 설득력 있는 모습을 보여주며, 이를 통해 사용자의 신뢰를 얻기 용이합니다.

셋째, 특정 정치적 메시지와 결합된 ‘분노 유발 콘텐츠’ 전략입니다.

“AI 슬럽(slop)”이라는 표현처럼, 때로는 극단적이거나 논란의 여지가 있는 메시지를 통해 반감을 사는 진보층의 클릭까지 유도하며 알고리즘의 선택을 받게 되는 것입니다.

이는 결국 더 많은 노출과 참여를 이끌어내 viral 효과를 극대화합니다.

AI 생성 인플루언서의 구체적 활용 방식

샘은 에밀리 하트 계정을 운영하며 다음과 같은 전략을 사용했습니다.

그의 경험에 따르면, AI 챗봇은 ‘MAGA/보수 틈새시장’을 ‘치트 코드’로 제안하며, 이 특정 타겟층이 더 높은 가처분 소득을 가지며 더 충성스럽다는 분석을 제공했다고 합니다.

따라서 그의 게시물에는 다음과 같은 내용이 포함되었습니다.

  • 기독교, 수정헌법 제2조, 생명권, 낙태 반대, 반(反) woke, 이민 반대와 같은 보수적 가치를 담은 메시지.
  • 크리스천, 낙태는 살인, 불법 이민자 추방과 같은 직설적이고 공격적인 문구.
  • 미국 국기 비키니, MAGA 모자 착용 등 보수주의 상징물 활용.

이러한 콘텐츠는 소셜 미디어 알고리즘을 효과적으로 파고들어 높은 조회수를 기록했으며, 인스타그램 팔로워 증가와 함께 OnlyFans 경쟁 플랫폼인 Fanvue에서의 유료 구독으로 이어졌습니다.

또한, MAGA 테마 티셔츠 판매와 같은 부가적인 수익 창출도 이루어졌습니다.

샘은 하루에 30~50분만 투자하여 월 수천 달러를 벌어들였다고 밝히며, 이는 인도에서 전문직 종사자도 달성하기 어려운 수준이라고 말했습니다.

AI 생성 인플루언서의 확산과 플랫폼의 책임

이러한 현상은 샘뿐만 아니라 다수의 젊고 기술에 능숙한 남성들이 활용하면서 사회적인 문제가 되고 있습니다.

종종 이러한 AI 생성 인플루언서들은 긴급 구조대원(경찰, 소방관, EMT 등)이라는 설정을 가지며, 백인 금발 여성의 이미지로 만들어집니다.

미국 워싱턴 포스트 보도에서 화제가 되었던 ‘제시카 포스터’ 사례처럼, AI로 생성된 가짜 계정이 수백만 팔로워를 확보하고 개인적인 사진을 판매하는 형태로 이어지기도 했습니다.

대부분의 소셜 미디어 플랫폼은 AI 생성 콘텐츠임을 공개하도록 규정하고 있지만, 이러한 지침은 제대로 시행되지 않는 경우가 많습니다.

특히 OnlyFans와 같은 플랫폼은 AI 생성 콘텐츠 공개 및 계정 인증 정책을 운영하는 반면, Fanvue와 같은 경쟁 플랫폼은 AI 생성 콘텐츠를 허용하며 규제가 덜 엄격한 편입니다.

이로 인해 AI 생성 인플루언서들은 규제가 느슨한 플랫폼으로 몰려 수익을 창출하고 있습니다.

우리가 경계해야 할 점과 대비책

AI 생성 ‘MAGA 걸’ 사기는 기술의 발전이 어떻게 악용될 수 있는지를 보여주는 사례입니다.

이러한 현상을 막기 위해서는 다음과 같은 사항들을 인지하고 주의해야 합니다.

  • 콘텐츠의 출처를 의심하는 습관을 가져야 합니다. 특히 지나치게 완벽하거나 특정 정치적 메시지를 강하게 옹호하는 계정은 AI 생성 가능성을 염두에 두어야 합니다.
  • 온라인상의 모든 정보가 진실은 아님을 인지해야 합니다. AI가 생성한 이미지는 매우 현실적일 수 있으므로, 보이는 것만을 전부 믿어서는 안 됩니다.
  • 개인 정보 보호 및 금융 거래 시 각별한 주의가 필요합니다. AI 생성 인플루언서와의 관계에서 발생하는 금전적 요구는 항상 의심하고 신중하게 판단해야 합니다.
  • 플랫폼은 AI 생성 콘텐츠에 대한 규제를 강화하고, 투명한 공개를 의무화해야 합니다. 또한, 규제 위반 계정에 대한 신속하고 엄격한 조치가 필요합니다.

AI 기술의 발전은 우리 삶에 많은 긍정적인 변화를 가져올 잠재력을 지니고 있습니다.

하지만 동시에 이러한 기술이 어떻게 악용될 수 있는지에 대한 경각심을 잃지 않고, 비판적인 시각으로 온라인 정보를 분별하는 능력을 키우는 것이 그 어느 때보다 중요합니다.

출처: https://www.wired.com/story/ai-generated-maga-girls/