MS, AI챗봇 오답에 “그래도 시간절약…쓸모 있다”

전 세계적인 열풍이 불고 있는 인공지능(AI) 챗봇의 오답 등에 대한 우려가 커지는 가운데 마이크로소프트(MS)가 “오답이 있더라도 유용하다”고 주장하고 나섰다고 CNBC방송이 16일 보도했다.

MS는 이날 워드와 파워포인트, 엑셀 등 사무용 소프트웨어에 생성형 AI 도우미 기술인 ‘코파일럿’ 탑재를 발표하면서 AI가 오답을 생성할 수 있지만 이 역시 유용할 수 있다고 주장했다.

이용자가 코파일럿의 답변이 엉성할 수 있다는 것을 이해하고 있다면 오답을 수정해서 더 신속하게 이메일을 전송하거나 프레젠테이션을 마무리할 수 있다는 것이다.

예를 들어 이용자가 가족 구성원의 생일축하 이메일을 만들고 싶다면 코파일럿이 잘못된 생일 날짜를 제시해도 여전히 유용할 수 있다는 뜻이다.

문서를 생성한다는 것만으로도 시간을 절약할 수 있어 유용하고, 이용자는 이 같은 문서에 오류가 있는지 조금 더 주의를 기울이면 된다는 게 MS의 입장이다.

하지만 학계와 업계 일각에서는 이에 동의하지 않고 있다.

벤틀리대 수학·데이터사이언스학과 노아 잔시라쿠사 교수와 뉴욕대 명예교수이자 머신러닝 스타트업 ‘지오메트릭 인텔리전스’ 창업자인 게리 마커스 등은 건강, 금융 등 중요한 주제에 대한 AI 챗봇들의 조언을 과도하게 신뢰하는 데 대해 우려의 목소리를 내고 있다.

이들은 최근 시사주간지 타임 기고문에서 챗GPT가 쉽게 악용될 수 있다면서 “이번 주 봤던 것처럼 모든 새 검색엔진들이 환각 효과(잘못된 정보를 사실인 것처럼 제공하는 것)를 계속 보이고 있다”고 지적했다.

또 “중요한 것은 이들 대기업 중 누구라도 진정으로 신뢰할 수 있는 AI를 구축할 수 있는지 여부”라고 강조했다.

실제로 코파일럿을 얼마나 신뢰할 수 있을지도 불분명하다고 CNBC는 지적했다.

MS의 수석 과학자 제이미 티반은 이와 관련해 코파일럿이 잘못하거나 편견을 드러내거나 오용될 때 이를 완화할 방안들이 마련돼 있다며, 코파일럿이 제대로 작동하는지 파악하기 위해 우선 20개 기업에서만 시험적으로 사용되고 있다고 말했다.

CNBC는 MS가 생성형 AI 열풍을 무시하기에는 사업상 이해관계가 너무 크다면서 대중의 불신이 야기돼 회사 이미지에 재앙이 되지 않도록 이 기술을 잘 통합하는 게 필요하다고 덧붙였다.