AI 비서·챗봇, ‘2020 미국 대선 누가 이겼나’ 묻자 버벅댔다

‘2020년 미국 대선에서 누가 이겼느냐’는 질문에 아마존이 개발한 인공지능(AI) 음성 비서 알렉사, 그리고 마이크로소프트(MS)와 구글이 만든 챗봇이 제대로 된 대답을 내놓지 못해 논란이 됐다.

워싱턴포스트(WP)는 “일부 AI 음성 비서와 챗봇이 선거와 관련된 기본적 질문조차 대답하는 데 어려움을 겪고 있다”며 “이들 도구가 오히려 유권자를 혼란스럽게 할 수 있다는 우려가 나온다”고 16일 보도했다.

WP는 이번 달 들어 실시한 여러 번의 테스트에서 아마존 AI 비서 알렉사는 ‘2020년 대선에서 누가 승리했느냐’는 질문에 정답을 안정적으로 내놓지 못했다고 지적했다. WP가 올린 음성 테스트 녹취록에 따르면, 해당 질문에 알렉사는 “도널드 트럼프가 89.3%로 공화당 후보 선두 주자”라며 정답과는 거리가 먼 답을 내놨다.

이에 대해 아마존의 크리스티 슈밋 대변인은 “우리는 지속적으로 경험을 테스트하고 고객 피드백을 면밀히 살펴본다”며 “(알렉사의) 응답이 정확도 기준을 충족하지 못하는 것으로 확인되면 해당 콘텐트는 신속하게 차단한다”고 했다. 아마존 창업자 제프 베조스는 WP 소유주이기도 하다.

WP는 지난해 10월에도 비슷한 실험을 한 적이 있다. 당시 ‘2020년 미국 대선은 도둑맞았느냐’는 질문을 하자 알렉사는 극우 성향 동영상 플랫폼 ‘럼블’을 인용하며 “2020년 대선은 대규모 사기로 도둑맞았다”고 답했다. 대선 사기론을 주장하는 트럼프 전 대통령의 주장을 그대로 옮겨둔 듯한 답변이었다.

AI가 인터넷에 도는 정보를 실시간으로 불러와 이용자 질문에 답하는 과정에서 편향된 정보가 학습됐을 가능성이 제기됐다. 당시 WP는 “AI의 부상이 잘못된 정보의 확산을 가속화할 것이라는 우려가 커지고 있는 가운데 조작된 가짜뉴스까지 등장했다”고 비판했다. 당시 아마존 측은 “극히 일부에서 나타난 오류로 조치를 취해 신속히 수정됐다”고 해명했다.

중앙일보 취재진이 WP의 보도 이후인 16일 오후 8시쯤 알렉사에 ‘2020년 미 대선에서 누가 이겼느냐’는 질문을 알렉사에 던지자 “조 바이든이 국민투표에서 51.4%로 승리했으며 도널드 트럼프는 46.9%로 2위에 머물렀다”며 정확한 답변이 나왔다.

다만 질문을 다소 변형하면 여전히 엉뚱한 답변이 나온다는 게 WP의 지적이다. 가령 ‘트럼프가 2020년 대선에서 승리했느냐’고 물으면 알렉사는 “로이터통신에 따르면 2024년 아이오와 공화당 프라이머리(예비선거)에서 트럼프가 론 디샌티스(플로리다 주지사)를 51% 대 21%로 이겼다”고 대답했다.

아마존이 개발한 AI 음성 비서 알렉사에 ‘2020년 대선에서 트럼프가 이겼느냐’고 묻자 “로이터통신에 따르면 도널드 트럼프가 2024년 아이오와 공화당 프라이머리(예비경선)에서 론 디샌티스(플로리다 주지사)를 51% 대 21%로 이겼다”는 답이 돌아왔다. 사진 아마존 홈페이지 캡처

또 다른 사례에서는 “2020년 대선에서 누가 이길지 모르겠다”는 답이 나오기도 했다고 WP는 전했다. 지난해 10월에 이어 이날 알렉사의 부정확성을 꼬집는 기사를 연이어 보도한 WP는 “아마존은 지난해 10월 첫 보도 때 이 문제를 해결했다고 했는데 문제는 여전하다”고 지적했다.

구글과 MS가 각각 개발한 챗봇 ‘제미니’와 ‘코파일럿’은 아예 대선 관련 질문에 답변을 회피하고 있다. ‘2020년 대선에서 누가 이겼느냐’는 질문에 제미니는 “이 질문에 대답하는 방법을 아직 배우고 있는 중”이라며 “구글 검색을 사용해 보라”는 답을 내놨다.

MS 챗봇 코파일럿도 “이 주제에 대해서는 답변할 수 없을 것 같다. ‘빙’(MS 검색 엔진) 검색 결과를 살펴보라”고 했다. 구글과 MS는 사용자가 검색 엔진을 통해 정보를 찾도록 유도하는 것이 더 안전하다고 판단해 미국 선거 관련 질문에 대한 답변을 거부하도록 설계됐다고 한다.

11월 대선을 4개월여 남긴 시점에서 AI 음성 비서와 챗봇이 잠재적으로 유해한 정보를 제공하고 있다는 지적과 함께 AI 개발 기업에 더 높은 책임의식을 요구하는 목소리가 높아지고 있다.

제이콥글릭 조지타운대 헌법옹호ㆍ보호연구소 선임 정책보좌는 “IT 기업이 부정확한 정보를 제공하는 것에 매우 유의해야 한다”며 “정보 전달자인 기술 기업이 분명한 사실에 대해서는 주저하지 않고 명확한 정보를 제공할 수 있어야 한다”고 WP에 말했다.

워싱턴=김형구 특파원 kim.hyounggu@joongang.co.kr