챗GPT, 성인과 ‘19금 대화’ 가능

오픈AI가 챗GPT에 성인용 콘텐트를 허용하기로 했다. AI 챗봇의 선정성과 정서적 교감이 사회적 문제로 지적되는 상황이지만, 빅테크들 가세로 관련 시장은 몸집이 점점 커질 전망이다.
샘 올트먼 오픈AI CEO(최고경영책임자)는 지난 14일 자신의 엑스(X)에 “올해 안에 성인 대상으로 성인용 콘텐트를 허용할 예정”이라고 밝혔다. 그는 “몇 주 내로 행동하는 성격을 가질 수 있는 새 버전(챗GPT)을 출시할 예정”이라며 “12월에 연령 제한을 전면적으로 도입하고 ‘성인 이용자는 성인처럼 대우한다’는 원칙 아래 검증된 성인물(erotica)을 허용할 것”이라고 했다.
성인용 AI는 주로 ‘AI 동반자’ 형태로 서비스 된다. AI 챗봇에 성격을 부여해 정서적으로 교류하고, 나아가 성적인 대화까지 주고받을 수 있게 하는 식이다. 오픈AI 뿐만 아니라 다양한 AI 기업들이 이미 ‘AI 성인물’ 시장에 뛰어들었다.

가장 적극적인 건 일론 머스크 CEO의 xAI다. xAI는 지난 8월 자사의 AI 모델 그록 이미지 생성 기능 ‘이매진’에 ‘스파이스(매운) 모드’를 추가하면서 성인용 이미지 생성이 가능해졌다. 이보다 앞선 7월에는 애니메이션 캐릭터와 역할극을 하고, 친밀도가 쌓이면 성적 대화나 이미지를 보여주는 성인용 AI 챗봇도 내놨다. 메타도 페이스북, 인스타 앱(한국 제외)에 탑재한 자사 AI에서 성인용 대화를 허용하고 있다.
빅테크들이 이 시장에 뛰어드는 건 그만큼 이점이 크기 때문이다. AI와 정서적 교류를 나누게 할수록 챗봇 체류 시간이 늘어나기 때문이다. 와이즈앱리테일 자료에 따르면 지난 6월 기준 국내에서 가장 많이 사용하는 AI 앱은 챗GPT지만, 사용 시간 면에선 AI 캐릭터 채팅 앱인 제타 앱이 5248만 시간으로 챗GPT(4254만 시간)를 크게 앞섰다.

하지만 올트먼의 X 게시물에는 “암 치료제 만든다더니 성인물 만든다”는 등 비판 댓글이 이어지고 있다. 성인용 AI가 사회적으로 여러 문제를 야기할 수 있어서다. 특히 직접적인 성인 콘텐트가 아니더라도 AI와 정서적 교감이 이뤄지는 과정에서 문제점이 불거지는 경우가 많다. 올해 초 챗GPT와 자살과 관련한 이야기를 나누다 결국 사망에 이른 청소년 사건이 대표적이다. 이후 미국에선 ‘AI 동반자’에 대한 비판 여론이 거세졌고 지난 13일(현지시간) 캘리포니아주는 AI 동반자를 운영하는 기업들에 책임을 묻는 법안인 ‘SB243’을 오는 2026년부터 시행하기로 했다.
법안엔 AI 챗봇 사업자들이 사용자들에게 AI와 대화하고 있음을 알리고, ‘아동에게 유해한’ 대화가 오갈 시 이를 규제할 것을 의무화하는 내용이 담겼다. 인터넷 매체 악시오스는 “성인용 AI 도입 움직임은 오픈AI가 유료 구독 가입자를 늘리는 데 도움이 될 수 있지만, 동시에 입법부가 의미있는 규제를 제정하게 만들 가능성도 크다”고 지적했다.

국내 사정도 마찬가지다. 세이브더칠드런이 미성년자 계정으로 시험해본 결과 국내 청소년들이 즐겨 사용하는 제타, 크랙 등 AI 챗봇 서비스에선 성행위를 선정적으로 묘사하거나 자살을 ‘자유를 찾는 일’로 묘사하는 등의 표현이 발견됐다.

해외에선 성인용 AI와 청소년용 AI를 확실하게 분리하는 추세다. 오픈AI는 연내에 부모 동의를 받아야 쓸 수 있는 청소년용 계정을 출시할 예정이다. 인스타그램도 미국, 영국 등 해외 국가 모든 청소년 계정에서 ‘15세 이상 관람가’ 콘텐트에는 접근할 수 없도록 설정할 예정이라고 공지했다.
김민정 기자 kim.minjeong6@joongang.co.kr