AI 성인콘텐츠 금단의 문 열었다…'성인의 자유'가 부를 파장은 [글로벌포커스]

다음달부터 챗GPT에서 허용
'성인을 성인으로 대한다' 방침
유료 독차층 확보 전략적 행보

샘 올트먼 오픈AI 최고경영자(CEO)의 성인용 콘텐츠 허용 결정은 AI 산업이 답해야 할 질문을 던지고 있다. 오픈AI가 촉발한 이번 논란은 '성인 이용자에게 더 많은 선택권을 주겠다'는 논리와 '인간의 성적 영역까지 상업화했다'는 비판 사이에서 AI 기업이 취해야 할 태도에 대한 근본적인 물음을 제기하고 있다.

타임스오브인디아는 "성인 콘텐츠 허용에 대한 열정과 우려가 뒤섞인 상황은 오픈AI가 창작의 자유와 사용자 안전, 윤리적 책임 사이에서 균형을 맞추는 데 어려움을 겪고 있음을 보여준다"며 오픈AI가 도덕적·규제적 감시 속에서 신뢰를 유지할 수 있느냐가 성인 디지털 공간에서 AI의 역할에 대한 사회적 인식을 좌우할 것이라고 했다.

'성인을 성인으로 대한다'…12월부터 연령 인증하면 성적 대화 허용

오픈AI는 지난달 15일(현지시간) '성인을 성인으로 대한다(treat adult users like adults)'는 방침에 따라 자사 인기 챗봇 챗GPT에서 에로티카(Erotica·성애물) 등 성인용 콘텐츠를 허용할 계획이라고 밝혔다. 올트먼 CEO는 엑스(X·옛 트위터)에 "앞으로 출시될 버전의 챗GPT는 더욱 인간적인 방식으로 반응할 수 있을 것"이라며 "이는 사용량을 늘리기 위한 것이 아니라, 원할 경우에만 적용되는 기능"이라고 설명했다.

그는 또 "심각한 정신건강 문제를 완화할 수 있는 새로운 도구를 마련했고, 이제 대부분의 제한을 완화할 수 있다"며 12월부터 연령 제한(age-gating) 기능을 본격적으로 도입하겠다고 알렸다. 불과 두 달 전까지만 해도 "우리는 챗GPT에 성적 아바타(sexbot avatar)를 넣지 않았다는 점을 자랑스럽게 생각한다"고 말했던 그가 '성인의 선택권'을 내세우며 입장을 선회한 것이다.

AI 윤리학자인 스벤 뉘홀름(Sven Nyholm)은 "이번 발표는 텍스트 형태의 에로틱 콘텐츠에 한정된 것으로 보이지만, AI 기업이 성적 콘텐츠 시장으로 들어서는 상징적인 출발점"이라고 했다. 현재 구글 '제미나이(Gemini)', 앤트로픽 '클로드(Claude)', '퍼플렉시티(Perplexity)' 등 다른 챗봇은 모두 성적 대화를 허용하지 않는다.

◇유료 구독자 확보 등 수익 다각화 위한 돌파구…장삿속 논란도= 외신들은 이번 결정을 오픈AI가 유료 구독자층을 확대하기 위한 전략적 행보로 해석했다. 오픈AI는 이용자는 급증하고 있지만 아직 흑자 전환에는 실패한 상태다. 지난해에 50억달러의 적자를 기록했다. 이런 상황에서 급성장 중인 AI 동반자 시장이 오픈AI에 매력적인 돌파구가 될 수 있다는 분석이 나온다. 앱피겨스(Appfigures)에 따르면 올해 상반기 AI 동반자 모바일 앱 시장 매출은 약 8200만달러로 파악되며, 연말에는 1억2000만달러를 넘어설 전망이다.

롭 랄카 툴레인대(Tulane University) 교수는 BBC와의 인터뷰에서 "AI 기업들은 지금 시장 점유율 확보를 위한 경쟁의 한복판에 서 있다"며 "오픈AI는 그 성장 곡선을 이어가고, 가능한 한 시장 지배력을 확대하려 하고 있다"고 했다.

AI 전문가인 사이먼 손 카디프대 교수는 "이 결정은 명백한 마케팅 전략이며, 결국 수익화 모델로 연결될 가능성이 높다"며 "이용자들이 성적 대화를 원하면 프리미엄 서비스로 확대될 수 있고 이는 오픈AI의 새로운 수익원이 될 수 있다"고 했다.

오픈AI의 새로운 시도에 반대하는 목소리도 적지 않다. 조시 홀리(Josh Hawley) 미 공화당 상원의원은 미성년자 대상 AI 챗봇 동반자를 금지하는 법안 발의를 준비 중이다.

미 보수 성향 단체인 전미성착취방지센터(NCOSE) 역시 "적절한 안전장치 없이 형성되는 인위적인 친밀감은 실제 정신건강에 심각한 피해를 초래할 수 있다"며 오픈AI가 에로티카 콘텐츠 도입 계획을 철회해야 한다고 촉구했다.

거센 비판에 직면하자 올트먼 CEO는 지난달 16일 "챗GPT 변경 관련 트윗이 에로티카 부분만 지나치게 부각돼 놀랐다"면서 "이는 단지 성인 이용자의 자유를 확대하는 여러 예시 중 하나"라고 해명했다. 그는 10대 청소년 보호를 위해 프라이버시나 자유보다 안전을 우선시한다고 강조하면서도 "우리는 세상의 '도덕 경찰(moral police)'이 아니다. 사회가 영화의 등급제처럼 적절한 경계를 설정하듯, 오픈AI도 성인과 비성인을 구분하는 동일한 원칙을 적용할 것"이라고 했다.

샘 올트먼 오픈AI 최고경영자(CEO)가 지난 2월 일본 도쿄에서 열린 ‘기업을 위한 인공지능(AI)’ 홍보 행사에서 발언하고 있다. 로이터연합뉴스

성적 콘텐츠, 이미 AI 산업의 '핫 아이템'…AI 윤리 논란 불가피

오픈AI가 이 분야에 진출한 것은 처음이 아니다. AI 이미지 생성이 폭발적으로 성장한 2022년 이후 성적 콘텐츠는 AI 도구 이용자 유입을 이끄는 핵심 요인이었다. 미 매체 악시오스는 역사적으로 포르노그래피는 VCR, 디지털 비디오, 인터랙티브 게임 등 신기술 확산의 촉매 역할을 해왔다고 했다.

AI 분야에서 아직 성인 산업이 성장의 핵심 동력은 아니지만, 이미 AI 생성 포르노가 하나의 산업 영역으로 자리 잡고 있다는 게 악시오스의 설명이다. 가까운 예로 일론 머스크의 AI 회사 xAI가 내놓은 챗봇 '그록(Grok)'은 주요 대형 AI 모델 중 가장 관대한 성인 콘텐츠 정책을 보이며 성적 롤플레이를 위해 설계된 AI 동반자를 공개한 바 있다. 메타(Meta) 역시 일부 챗봇이 미성년자와 성적 농담(sexual banter)을 주고받은 사실이 드러나며 비판을 받았다. 이후 메타는 인스타그램의 18세 미만 이용자에게 표시되는 콘텐츠를 PG-13 영화 등급 이하로 제한하는 새로운 필터링 정책을 발표하기도 했다.

AI 챗봇이 인간관계와 정서적 상호작용의 영역으로 깊숙이 파고들면서, AI가 인간의 감정에 미치는 파장을 우려하는 목소리가 커지고 있다. 이미 챗봇과 감정적으로 교류하는 청소년 수가 빠르게 느는 추세다. 비영리단체 민주주의와 기술센터(CDT)가 이달 발표한 조사에 따르면 학생 5명 중 1명(약 19%)은 "자신 또는 주변인이 AI와 로맨틱한 관계를 맺은 적이 있다(had a romantic relationship with AI)"고 응답했다. CDT는 보고서에서 "AI가 학생들의 사회적 관계와 정서 발달에 새로운 영향을 미치고 있다"며 "AI를 친구나 정서적 피난처로 인식하는 청소년 비율이 늘고 있다"고 경고했다.

미성년자 인증 시스템 우회 우려…데이터 축적 위험성도 존재

미성년자가 연령 인증 시스템을 우회할 가능성도 제기된다. 오픈AI는 연령 예측(age-prediction) 기술을 개발 중이라며, 이용자의 대화 패턴과 행동 데이터를 통해 미성년자 여부를 식별할 수 있다고 밝혔다. 그러나 현재까지 구체적인 인증 방식은 공개되지 않았다. 회사는 12월부터 본격적인 연령 제한 기능을 도입하겠다고만 밝혔을 뿐, 인증 절차·식별 알고리즘·상담 지원 구조 등 핵심 정보는 여전히 베일에 싸여 있다.

비즈니스인사이더는 "올트먼은 생성이 금지될 수 있는 잠재적으로 유해한 콘텐츠의 예를 구체적으로 밝히지 않았다"면서 "또한 챗GPT가 사용자의 정신건강 위기 여부를 어떻게 판단하는지, 위기에 처한 사용자에게 제공하는 대응 방식의 차이에 대해서도 자세히 설명하지 않았다"고 전했다. 미국 타임지도 "신분증 업로드 등 별도의 인증 절차가 있더라도 미성년자가 이를 우회하거나 공동 계정을 사용하는 문제가 여전히 남아 있다"고 지적했다.

전문가들은 또 챗봇이 단순한 대화 도구를 넘어 정서적 연대의 대상으로 인식되거나, 이용자가 지나치게 챗봇에 정서적으로 의존할 경우 정신적으로 불안한 성인에게 부정적인 영향을 줄 수 있다고 경고한다. 케이트 데블린(Kate Devlin) 킹스칼리지런던 인공지능 사회학 교수는 "이른바 AI 섹스봇의 가장 큰 문제는 이미 취약한 사람들에게 심리적 영향을 심화시킬 수 있다는 점"이라고 지적했다.

민감한 성적 데이터가 특정 기업에 축적되는 점에 대한 위험성도 지적됐다. 손 교수는 "오픈AI가 이 시장을 선점한다면, 인류 역사상 가장 방대한 성적 취향 데이터베이스를 보유하게 될 것"이라고 했다.

김민영 기자 argus@asiae.co.kr