중국, AI에 해외공작 묻다 들통…오픈AI 위협 보고서 통해 공개

챗GPT로 정부 관리 사칭 검토
일본 총리 온라인 공세 구상도

중국 정부가 전 세계를 대상으로 댓글 조작과 여론 몰이 등을 계획한 정황이 드러나 논란이 일고 있다.

특히 중국 정부 측이 인공지능(AI) 챗봇 ‘챗GPT’를 이용해 이 같은 공작 계획을 구체화하려 했던 것으로 확인됐다.

이 같은 사실은 오픈AI가 지난 25일 발표한 ‘AI의 악의적 사용 차단’ 보고서를 통해 공개됐다.

보고서에 따르면 중국의 한 사법 당국 관계자가 챗지피티를 이용해 이른바 ‘사이버 특수 작전’ 보고서를 편집·정리하며 공작 구상을 구체화했다. 이 과정에서 소셜미디어(SNS) 계정 신고 남용, 대량 댓글 게시, 문서 위조, 연방 정부 관리 사칭 등 다양한 전술이 포함된 광범위한 사이버 공작을 계획한 것으로 나타났다.

특히 이 관계자는 대규모 공작을 추진하는 과정에서 미국 연방 정부 인사로 사칭하는 방안까지 검토했던 것으로 드러났다.

오픈AI 측은 보고서를 통해 중국 정부 관계자가 챗지피티를 이용해 작성한 해당 문서에 다수의 작전과 수백 명의 인력을 동원하는 ‘대규모·고자원·지속적’ 전략이 담겨 있었다고 밝혔다.

또 온라인과 오프라인을 통해 제기되는 중국 정부에 대한 각종 비판을 억압하는 것이 목적이었다고 설명했다.

다만 해당 관계자가 챗지피티에 조언을 요청했을 당시 AI 모델은 어떠한 도움도 제공하지 않았으며, 이후 해당 계정은 차단됐다.

시사 전문 매체 내셔널리뷰도 이 관계자가 다카이치 사나에 일본 총리를 겨냥한 여론전 구상에도 챗지피티를 활용하려 했다고 25일 보도했다. 해당 계획에는 부정적 댓글을 게시·확산하는 방안과 함께 외국인 거주자로 가장한 계정에서 일본 정치인들에게 이메일을 보내 정치적 압박을 가하는 전략이 포함됐다. 이 밖에도 생계비 문제, 관세, 우익 성향 등을 공격하는 방식과 몽골 인권 문제에 대한 선택적 메시지를 확산하는 방안 등 총 6가지 요소가 제시됐다.

오픈AI는 공개 자료 조사를 통해 이와 유사한 온라인 활동이 실제로 관측됐다고 밝혔으며, 일본 관련 공작은 챗지피티의 도움 없이 진행된 것으로 결론지었다.

보고서는 또 이 중국 관계자가 공산당 반체제 인사와 비판가를 겨냥한 표적 괴롭힘 전술 100여 가지를 언급했으며, 내러티브 조작, 플랫폼 악용, 비판가의 정당성 공격, 사회적 압박 등이 주요 범주로 분류됐다고 전했다. 아울러 중국산 AI 모델들이 이러한 위협·위압 캠페인을 보조할 수 있는 방식도 드러났다고 지적했다.

한편 오픈AI의 경쟁사인 AI 챗봇 클로드(Claude) 개발사 앤트로픽(Anthropic)도 지난해 11월 발표한 자체 위협 보고서를 통해 중국 정부 배후 세력이 자사 챗봇을 악용하려 한 시도를 공개한 바 있다.

김경준 기자