네이버, AI 서비스에 선거 주의 안내…딥페이크 대책도 강화

총선을 앞두고 네이버는 생성형 인공지능(AI) 서비스 클로바 X와 '큐:(Cue:)'를 선거와 관련된 정보 요청이나 예측 등을 위해 사용할 경우 기술적 한계를 명확히 하고 제공이 어려움을 안내할 예정이라고 28일 밝혔다.

네이버는 또 다양한 형태의 질문이나 요청으로 인해 일부 관련 정보가 제공될 수 있는 점을 고려해 선거 기간 클로바 X와 큐 서비스 대화창 하단에 사용자 주의 안내 문구도 제공한다.

아울러 딥페이크 등 AI 기술로 인한 피해의 방지에도 힘쓴다. 네이버 측은 "이번 총선에서는 딥페이크 관련한 규정을 신설한 공직선거법이 시행됨에 따라 AI를 활용해 선거와 관련된 게시물이나 콘텐츠 제작할 때 주의가 필요하다"라며 "선거 기간은 물론, 이후로도 딥페이크로 인한 문제를 알리고 무심코 이를 사용하게 되는 사용자를 방지하기 위한 노력을 시작하고자 한다"라고 설명했다.

이를 위해 블로그, 카페 등에서 동영상 등을 이용한 게시물을 작성할 때 딥페이크 관련 안내 문구를 제공해 사용자가 관련 내용을 확인하고 주의할 수 있도록 할 예정이다.

또 검색을 통해 관련 정보나 콘텐츠가 유통되지 않도록 모니터링을 강화하는 한편, 관련 검색어를 입력하는 경우 검색 결과 상단에 딥페이크로 인한 문제와 주의를 환기하는 안내 문구를 노출하겠다는 방침이다. 피해 유형과 신고 방법 등을 확인할 수 있도록 도움말도 새롭게 구성한다.

한편 뉴스 서비스에서도 AI, 로봇이 자동으로 작성한 기사를 사용자가 잘 인지할 수 있도록 표기를 강화한다. 이와 함께 선거 기간 허위 정보를 신고할 수 있도록 네이버 신고센터 메인 페이지에 '선거 관련 허위 정보 신고' 채널을 개설한다. 뉴스 댓글 집중 모니터링 기간 전담 담당자를 확충하는 등 24시간 모니터링도 강화하고, 각 부서 핫라인을 구축해 이슈 발생 시 빠르게 대응할 계획이다.

이정윤 기자 leejuyoo@asiae.co.kr