“엑스 AI계정 수백개, 사람 행세하며 트럼프 지지 글 퍼뜨려”

외국공작 아닌듯…AI기술 확산 따른 정보지형 혼란 재확인

사회관계망서비스(SNS) 플랫폼인 엑스(X·옛 트위터)에서 인공지능(AI)을 이용한 가짜 계정 수백개가 조직적으로 ‘사람 행세’를 하며 도널드 트럼프 전 미국 대통령과 공화당을 지지하는 글을 퍼뜨렸다는 연구 결과가 나왔다고 NBC 뉴스가 17일 보도했다.

보도에 따르면 미국 클렘슨대 연구진은 최근 발간한 연구 보고서에서 엑스 계정 최소 686개로 이뤄진 이러한 조직적 네트워크를 확인했다고 밝혔다.

이 계정들이 지난 1월부터 엑스에 올린 글은 13만건이 넘는 것으로 확인됐다.

해당 계정이 올린 글은 주로 최근 미국에서 진행된 4건의 상원의원 경선과 대선후보 경선 등에 관한 것이었으며, 트럼프 전 대통령과 공화당을 지지하는 내용이었다.

클렘슨대 연구진은 이 계정들이 챗GPT와 같은 AI 챗봇에 사용되는 대형언어모델(LLM) 기술을 이용해 다른 이용자들과 소통을 이어갔다고 설명했다.

보고서에 따르면 해당 계정들은 극우 지지자들이 즐겨 쓰는 밈(meme·인터넷 유행 콘텐츠) 이미지나 십자가, 미국 국기 등을 프로필 사진으로 내걸고 정치적 이슈에 관한 다른 사람들의 게시글에 답글을 꾸준히 다는 식의 일관된 패턴을 보였다.

해당 계정들의 팔로워는 거의 없지만, 이미 사람들 사이에서 관심을 끌고 있는 게시글에 찾아가 답글을 다는 방식으로 이목을 끌었다.

클렘슨대 연구진들은 문제의 계정들이 올린 글 중 챗 GPT 등 AI 챗봇을 이용해 작성됐다는 것을 명시한 일종의 ‘오류’의 흔적을 발견하는 식으로 이를 확인했으며, 일부 계정들은 사람들이 거의 쓰지 않는 어색한 표현을 사용하기도 했다고 설명했다.

연구진은 이러한 AI 계정들로 이뤄진 조직적 네트워크를 운영하거나 자금을 대는 주체는 불분명하지만, 게시글의 내용이 미국 국내 정치에 집중돼 있으며 외국과 명확한 연관성이 없다는 점에서 외국 정부보다는 미국 내부 세력의 정치적 작전일 가능성을 시사한다고 짚었다.

최근 미국 대선이 가까워지고 AI 기술 확산 속도가 빨라짐에 따라 AI를 이용해 선거 여론에 영향을 미치려는 시도에 대한 경고는 꾸준히 제기되어 왔다.

NBC는 이번에 드러난 AI를 이용한 미국 내 작전 세력의 존재 가능성은 최근 빠르게 발전하고 있는 AI 기술과 그에 따른 혼란스러운 정보 지형에 또 하나의 우려를 추가한다고 짚었다.

더불어 이번 클렘슨대 연구에서 확인된 AI 계정들은 NBC가 엑스 측에 입장을 요청한 이후 대부분 삭제됐으며, 엑스 측은 이에 관한 질문에 답하지 않았다고 NBC는 전했다.

이번 연구의 수석 연구원인 대런 린빌 클렘슨대 미디어 허브 공동 국장은 “이번 캠페인이 보여준 (AI를 통한 여론 조작 시도의) 가능성이 우려된다”면서 “나쁜 행위자들은 이걸 어떻게 하는 건지 배우고 있다. 그들은 확실히 더 발전할 것”이라고 말했다. 연합뉴스