네카오 AI 콘텐츠에 '꼬리표' 붙는다…정부 'AI생성물 표시제' 추진

정부·여당, 정보통신망법 개정 추진
플랫폼 기업 사회적 책임·의무 부과
업계 "준비할 시간 달라" 의견 밝혀

정부가 네이버(NAVER), 카카오 등 대형 온라인 플랫폼 기업을 상대로 인공지능(AI) 생성물 표시제를 추진한다. 이용자가 네이버 블로그나 카카오톡 대화창에 사진이나 영상을 올릴 때 인공지능(AI)으로 제작된 콘텐츠인지 확인하는 절차를 거치게 하겠다는 계획이다.

26일 정부와 IT업계에 따르면 방송통신위원회는 AI 생성물 표시제 도입을 위해 이런 내용이 담긴 법 개정을 추진 중이다. 김장겸 국민의힘 의원이 지난달 말 대표 발의한 정보통신망 이용촉진 및 정보보호 등에 관한 법률(정보통신망법) 개정안 입법을 통해 AI 생성물 표시제를 도입하겠다는 계획이다.

법안 내용을 보면 일정 규모의 정보통신서비스 제공자(플랫폼 사업자)는 플랫폼에서 유통되는 정보 중 AI 기술을 이용해 만든 글, 음향, 이미지, 영상 등의 경우 ‘가상의 정보’라는 사실을 표시해야 하는 의무를 부과했다. ‘AI 생성물’ 표시 방법을 마련하지 않은 플랫폼 사업자에는 과태료를 매기도록 했다.

이와 함께 플랫폼 사업자는 ▲가상 정보 표시를 하지 않은 AI 생성물을 삭제·접속차단 조치 등으로 유포되지 않도록 노력하고 ▲이를 위반한 이용자에 대해 경고, 수익제한 등 재발 방지 조치를 해야 한다고 명시했다. 또 정당한 사유 없이는 누구도 가상 정보 표시를 임의로 제거해선 안 된다고 규정했다. 단, AI 기술 사용 범위와 목적 등을 고려해 가상 정보 표시를 하지 않아도 되는 콘텐츠는 시행령에서 정하기로 했다.

이는 가짜뉴스, 딥페이크 영상 등 AI 기술을 활용한 가상의 정보가 진실로 둔갑해 사회적 파장을 일으키는 문제가 발생하는 것을 법과 제도로 막겠다는 취지다. 대량의 콘텐츠가 확산되는 창구인 거대 온라인 플랫폼의 사회적 책임이 커질 것으로 보인다.

페이스북, 인스타그램 등 사회관계망서비스(SNS)를 운영하는 메타는 AI 생성 게시물에 'AI 정보(AI info)'라는 표시를 하고 있다. [출처=메타 홈페이지]

이 법이 시행되면 이용자가 네이버 게시판이나 카카오톡 대화창에 콘텐츠를 올릴 때 ‘AI 기술로 생성한 게시물인가’라는 식으로 묻는 창이 뜨고 체크박스를 클릭하는 절차가 마련될 것으로 예상된다. AI 생성물일 경우 다른 이용자들에게 보여질 때 AI로 만들어졌다는 표시나 설명을 붙인다는 방침이다.

방통위 관계자는 "네이버, 카카오, 구글, 메타, 엑스, 틱톡 등 6개 주요 플랫폼 사업자들과 AI 생성물 표시제에 대한 논의를 진행했다"며 "업계는 ‘준비할 시간을 충분히 달라’는 의견을 전달해왔다"고 말했다. 그는 "AI 생성물 표시제가 표현의 자유를 침해하거나 AI 기술과 산업 진흥에 저해가 되지 않아야 한다는 부분을 고려하고 있다"고 덧붙였다.

해외에서는 이미 비슷한 제도가 도입됐다. 미국 바이든 행정부는 지난해 10월 AI로 만든 가짜 이미지 등 콘텐츠 식별을 위해 워터마크 적용을 의무화하는 방안을 마련했다. 유럽연합(EU) 역시 인공지능법에 AI를 활용해 만든 콘텐츠에 워터마크를 넣도록 하는 규정을 담았다. 페이스북, 인스타그램 등 사회관계망서비스(SNS)를 운영하는 메타의 경우 AI 생성물에 대해 ‘AI 정보(AI info)’라는 표시를 하고 있다.