"불체자들! 조용히 해!" 미국 달군 영상 충격…'정치적 도구' 된 AI

“불체자들! 조용히 해!” 미국 달군 영상 충격…’정치적 도구’ 된 AI

“자리에 앉아. 조용히 해! 너희들은 불법 체류자다.”

숨 막히는 공포 속 바닥에 죄인처럼 모여 앉은 월마트의 유색인종 직원들. 서슬 퍼런 눈의 이민세관단속국(ICE) 요원들이 소리를 지르자 어쩔 줄 몰라 한다. 그때 주변에서 “다 풀어줘라” “일하게 하라고” 소리치며 분위기는 점점 험악해진다.

최근 두 달 새 미국 소셜미디어에서 빠르게 퍼지며 논란을 일으킨 영상 속 모습이다. 그런데 이 영상이 인공지능(AI)으로 만든 ‘가짜’로 확인되며 논란은 더욱 커졌다. AI 기술의 급속한 발전이 허위정보를 빠르게 확산하고, 민주주의를 훼손할 수 있다는 우려다.

실제 AI로 생성된 바이럴 영상은 인종차별을 조장할 뿐 아니라 정치적 담론에도 큰 영향을 미치고 있다. 최근에도 한 흑인 여성이 스스로 “나는 SNAP(미국 저소득층 식품 지원) 혜택을 악용하고 있다”고 말하는 가짜 영상이 퍼지며 복지 제도 전반에 대한 비판 여론이 형성된 바 있다. 미 정치매체 악시오스에 따르면 “정치적 도구”가 된 셈이다.

지난해 10월에는 미국 민주당원들이 콧수염을 달고 솜브레로(멕시코 전통 모자)를 쓴 멕시코인의 모습으로 등장한 영상이 도널드 트럼프 대통령과 공화당 인사들 사이에서 공유되며 화제가 됐다. 공화당 지지 세력이 ‘민주당이 불법 이민자 의료비 지원을 하려 한다’고 주장하며 이들을 비난하기 위해 AI로 만든 영상이었다.

AI의 ‘정치적 도구화’에 대한 우려는 깊어지고 있다. 지난해 노벨물리학상을 받은 ‘AI의 대부’ 제프리 힌턴 전 구글 부사장은 지난달 28일(현지시간) CNN에 출연해 “2년 전보다 지금이 더 걱정된다”며 “AI는 내가 예상했던 것보다 훨씬 빠르게 발전했다”고 말했다. 그러면서 “특히 추론 능력과 사람을 속이는 능력이 눈에 띄게 향상됐다”고 강조했다.

지난 10월 테드 크루즈 공화당 소속 상원의원이 엑스(X)에 올린 영상. 정부 셧다운에 찬성표를 던진 민주당 상원의원 44명이 멕시코 전통 의상을 입은 모습이 담겼다. 사진 엑스

이런 가짜 영상의 확산은 ‘디지털 블랙페이스(digital blackface)’로도 불린다. 온라인에서 흑인이나 유색인종 가상 캐릭터를 만들어 악의적인 허위정보를 퍼뜨리며 이익을 얻는 행위를 뜻한다. 리애나 월컷 흑인 커뮤니케이션·기술 연구소(BCaT Lab) 부소장은 “정확하거나 흥미로울 필요 없이 조회 수만 나오면 되기 때문에, 여러 분노가 AI로 증폭되고 있다”고 지적했다.

미 정치전문매체 악시오스는 인권단체 관계자를 인용해 “사람들이 가짜라는 사실을 인식하더라도, 이미지는 무의식에 남는다”며 “이런 고정관념이 중간선거와 2028년 대선에까지 영향을 미칠 수 있다”고 경고했다.