400만장의 이미지 98.1%의 높은 적중률향후 동영상 필터링 등 확대 적용 성인 이미지 등록시 실시간 감지 후 노출 방지
[아시아경제 황준호 기자] 네이버가 자체 개발한 인공지능(AI) 필터링을 통해 연중 24시간 음란물 필터링에 나섰다. 음란물 필터링 AI기술인 '네이버 X-eye'를 이미지 부분에 적용한다고 31일 밝혔다. 네이버 X-eye는 부적절한 내용을 담은 이미지(음란물)가 네이버에 등록될 경우 이를 실시간으로 감지해 검색 노출을 막아주는 기술이다. 네이버는 축적된 방대한 이미지를 형태별로 분류해 10개월 동안 AI를 학습시켰다. 네이버 X-eye 최근 버전의 경우 400만장의 이미지(정상+음란물) 필터링을 내부 실험한 결과 98.1%의 높은 적중률을 나타냈다.네이버는 연중 24시간 X-eye를 통한 성인 이미지 실시간 감지하고 걸러낸다. 네이버 측은 감지하지 못한 극히 일부 성인 이미지의 경우 AI가 학습을 통해 진화하면서 극복할 것이라고 예상했다. 네이버 X-eye는 네모난 돋보기로 그림을 보듯 이미지의 각 부분을 순차적으로 훑어, 이미지 조각으로부터 특징을 추출하는 '컨볼루션(convolution)'을 여러 레이어에 걸쳐 반복하면서 딥(deep) 러닝을 하게 되는 시스템을 갖추고 있다. 이를 통해 얻은 결과물은 기존 학습데이터의 카테고리로 분류해 음란성 여부를 판독한다. 네이버 X-eye에서 정한 성인 이미지 정의는 방송통신위원회의 세이프 넷(Safe Net) 등급에 따라 정해진다. 방통위 Safe Net 등급 기준은 ▲성기, 음모, 항문 노출 및 성행위 ▲어린이/유아를 성적 유희의 대상으로 묘사하는 경우 ▲그 외 법적으로 금지된 불법 음란물을 게재한 경우 등으로 나뉜다. 오경수 네이버 UGC운영정책 리더는 "이번 출시로 성인 이미지에 대한 연중무휴 실시간 대응이 가능해졌다"며 "향후 동영상 필터링에도 확대 적용할 방침이며, 건전한 인터넷 이용환경 조성을 위해 외부에도 손쉽게 사용할 수 있는 AI 필터링 프로그램 제공을 검토하고 있다"고 말했다.황준호 기자 rephwang@asiae.co.kr<ⓒ세계를 보는 창 경제를 보는 눈, 아시아경제(www.asiae.co.kr) 무단전재 배포금지>
산업2부 황준호 기자 rephwang@asiae.co.krⓒ 경제를 보는 눈, 세계를 보는 창 아시아경제
무단전재, 복사, 배포 등을 금지합니다.