"AI 콘텐츠…인간처럼" 탐지 무력화 서비스 성행

AI 탐지 무력화 서비스 月9~57달러
빅테크도 진짜·가짜 구별 못해

인공지능(AI)이 생산한 콘텐츠를 사람이 만든 것처럼 위장해주는 서비스가 늘어나고 있다.

7일 정보기술(IT)업계에 따르면 미국 AI 업체 워드에이아이는 AI 탐지 회피 서비스를 월 9~57달러에 공급하고 있다.

오픈AI 로고. [사진=로이터] [이미지출처=로이터연합뉴스]

이 회사는 자사 서비스를 받은 AI 제작 콘텐츠는 오픈AI, 오리지널리티닷AI, 허깅페이스 등의 AI 탐지 기술로 걸러지지 않는다고 홍보했다. 에이아이에스이오, 프레이즐리닷에이아이 역시 비슷한 회피 서비스를 운영 중이다.

AI 탐지에서 벗어날 수 있도록 하는 서비스는 문체와 표현을 사람이 쓴 것처럼 자연스럽게 만든다는 뜻에서 '인간화'를 의미하는 'AI 휴머나이저(humanizer)'로도 불린다. 주로 스팸 메일과 구글 검색 등을 활용해 광고하려는 업체가 이 서비스의 고객이다.

인터넷에선 AI가 작성한 글을 사람이 쓴 것처럼 위장하는 방법도 쉽게 찾아볼 수 있다. 문장 길이를 다양하게 조정하거나 일상적 어휘를 섞어 쓰라는 조언부터, 일부러 문법적으로 틀린 표현을 넣어 사람이 할 만한 실수를 드러내라는 조언도 있다.

빅테크는 AI 콘텐츠 선별에 어려움을 겪고 있다. 메타는 지난 1일 인스타그램, 페이스북, 스레드 등 SNS에서 'AI로 제작(made with AI)' 표시를 일부 제작 과정에 AI 도움을 받은 것으로 추정된다는 뜻을 담은 'AI 정보(info)'로 대체하기로 했다. AI가 만든 이미지를 선별하는 과정에서 사진작가들이 실제 찍은 사진에 AI 제작 딱지가 붙어버려서다. 업계에선 어도비의 사진 편집 도구를 적용하면 AI 표식 오류가 생기는 것으로 추정 중이다.

AI 콘텐츠 판별이 사실상 어려워졌다는 분석도 나온다. 영국 레딩대 연구팀은 심리학 학사 학위 취득에 필요한 단답형·에세이 시험 5종에서 챗 GPT-4로 33명분의 답안을 만들어 제출한 연구 결과를 과학 매체 '플로스원'에 지난달 공개했다.

이 연구 결과 AI가 작성한 답안 중 94%가 채점자에게 적발되지 않았고, AI 답안을 실제 학생이 작성한 답변과 비교했을 때 AI 점수가 더 높을 확률은 83%에 달했다.

이소진 기자 adsurdism@asiae.co.kr