이렇게 젊은층에 스며들었다, 미·유럽 극우의 섬뜩한 ‘AI음악’

유럽과 미국에서 인공지능(AI)으로 제작된 극우·외국인 혐오 성향 음악이 주요 스트리밍 차트를 장악하고 있다.

대표적 사례는 네덜란드의 ‘We Say No, No, No to an Asylum Center’(우린 난민 시설에 반대한다)라는 제목의 곡이다. AI가 생성한 보컬을 사용한 이 곡은 지난달 스포티파이 글로벌 바이럴 차트 1위에 올랐다. 가사는 “모든 국경을 열어, 우리나라는 위험에 처해 있다”는 식의 반난민 정서를 강하게 드러낸다. 제작자인 JW ‘Broken Veteran’은 영국 매체 가디언과의 인터뷰에서 “AI는 ‘전통적 음악 훈련이 없는 사람들에게도 표현 수단을 주는 도구’이며, ‘음악 창작의 민주화’”라고 주장했다.

그러나 이 곡은 며칠 뒤 스포티파이와 유튜브에서 모두 삭제됐다. 스포티파이 측에선 ‘권리자의 요청 때문’이라는 설명만 내놨다고 네덜란드 공영방송 NOS가 전했다. 이에 제작자는 자신의 계정이 해킹됐다고 반발하며 새로운 반(反)난민 메시지의 노래를 곧 다시 공개하겠다고 예고했다.

이 곡뿐만 아니라 네덜란드 바이럴 차트 상위 10곡 중 8곡이 극우·외국인 혐오적 AI 생성곡이라고 독일의 대표적 주간지 슈피겔이 1일 전했다. 슈피겔은 “플랫폼 알고리즘의 취약성과 AI 탐지 시스템의 한계가 결합한 ‘거의 완벽한 폭풍’”이라고 지적했다. 스포티파이가 이미 1년 동안 7500만 곡의 ‘스팸성 트랙’을 삭제했다고 밝혔지만, 정치적 성향을 담은 AI 콘텐트는 아직 그대로인 셈이다.

다른 국가에서도 극우 성향의 AI 음악이 퍼졌다. 독일에선 이민자 비하적 표현을 담은 60년대풍 AI 슐라거 팝, 프랑스에선 선거 기간마다 등장하는 AI 생성 혐오송, 미국에선 극우 활동가를 추모하는 AI 보컬 버전의 곡 등이 확산했다고 슈피겔은 전했다. 가디언에 따르면 AI 성능 향상으로 “이제는 인간과 AI 음악을 97% 구분할 수 없다”는 조사 결과까지 나왔다고 한다.

문제는 단순히 스트리밍 플랫폼에 그치지 않는다. 틱톡의 ‘use-this-sound’(사용자가 직접 추가한 음악이나 인기 음원을 동영상 제작에 활용하는 기능)를 통한 확산 방식이 특히 악용되고 있다. 한 온라인 음악 전문매체는 “극우 오디오가 밈 형태로 위장해 젊은 층에 스며드는 ‘오디오 기반 극단주의 전략’이 강화되고 있다”고 분석했다. 겉만 보면 일반적인 춤·퀴즈·개그 영상 같아 보이지만, 배경음악에는 난민 혐오나 인종차별 메시지가 담긴 곡이 삽입돼 의도치 않은 극단주의 노출로 이어진다는 것이다.

스포티파이 또한 책임을 피할 순 없다. “즉각적 오프라인 위험을 초래하는 폭력 선동 콘텐트”만을 명시적으로 금지하는 플랫폼의 규칙 때문에 극우 메시지의 정치적 선전송은 규정의 사각지대에 놓여 있다는 것이다. 매일 5만 곡이 업로드되는 AI 음악 홍수 속 정치적 조작 가능성·자동 추천 시스템의 불투명성·검열 기준 부재 등 구조적 문제도 지적되고 있다.

한지혜 기자 han.jeehye@joongang.co.kr