"AI 생성물 표시 의무 강제할 제재 마련해야…재량권 부여도 필요"

한국음악저작권협회와 국회 문화체육관광위원회는 30일 국회 의원회관에서 'Made by AI 표기 의무화를 위한 국회 공청회'를 하고 있다. 사진제공=한국음악저작권협회

생성형 인공지능(AI)이 만들어낸 콘텐츠의 경우 AI 표기 의무를 강제할 제재가 필요하다는 주장이 나왔다.

한국음악저작권협회와 국회 문화체육관광위원회는 30일 국회 의원회관에서 'Made by AI 표기 의무화를 위한 국회 공청회'를 열었다. 앞서 이상헌 문화체육관광위원장은 지난해 5월 AI를 사용해 제작한 콘텐츠에는 관련 표기를 의무화하는 콘텐츠산업진흥법 개정안을 발의했다.

이날 이대희 고려대 법학전문대학원 교수는 '콘텐츠산업진흥법 제26조 제3항·제4항 개정의 필요성'을 주제로 발표를 진행했다. 콘텐츠산업진흥법 제26조 제3항과 제4항은 각각 콘텐츠 제작자는 인공지능 기술을 이용해 콘텐츠를 제작한 경우 인공지능 기술을 이용해 제작된 콘텐츠라는 사실을 표시하도록 규정하고 있다. 또 표시 내용과 방법은 대통령령으로 정하도록 했다.

이를 어길 경우 표기를 강제할 적절한 제재가 필요하다는 주장이다. 이 교수는 "표시의무 불이행, 표시의 조작·삭제·변경 등에 대한 적절한 제재를 마련하는 것이 바람직하다"라며 "생성형 AI 공급주기에 따른 수범자 및 위반자, 고의 또는 과실에 의한 위반, 기망·사기·부정경쟁 등을 고려한 제재가 필요하다"고 했다.

다만 표현의 자유와의 충돌 등 반대 의견이 있기 때문에 표시를 이행하는 것에 대한 많은 재량을 부여해야 한다는 설명이다. 이 교수는 "대체로 AI 생성물임을 표시하는 것에 대한 합의가 이뤄진 것으로 보이는데 표시와 관련된 세부적인 쟁점에 따른 해결책을 마련해야 한다"라며 "적절한 범위의 융통적인 표시 의무 부과가 필요하다"고 전했다.

이 교수는 또 "산업별, 매체별, 콘텐츠, 특정 생성물의 위험성에 따라 표시 의무, 정도, 방법의 차별성이 필요하다"라며 "표시의 목적, 전달하는 정보의 수준 및 정보 전달 방법, 정보가 제공됨으로써 혜택을 입는 주체 등의 측면을 고려해야 한다"고 했다.

이날 공청회에선 AI 학습 데이터에 대한 보호조치에 대한 필요성도 제기됐다. 권혁주 한국웹툰작가협회 협회장은 "국회에 계류 중인 'TDM(텍스트·데이터 마이닝) 면책규정'이 통과될 경우 AI가 원작자 허락 없이 웹툰 데이터를 학습할 수 있다는 것도 우려의 목소리가 크다"라며 "모든 인공지능은 학습 데이터의 출처를 명확히 밝혀야 하고 상업적 목적으로 개발되는 AI나 추후 상업적 용도로 변경을 목적으로 하는 AI에 웹툰 작품을 학습시킬 경우 사용 범위, 목적, 기간을 명시한 계약을 체결해야 한다"고 강조했다.

이어 "웹툰 데이터의 무단 사용이나 불법 유통 작품의 활용을 차단하고 이를 감시하며 대응할 수 있는 관리 체계를 구축해야 한다"라고 덧붙였다.

정부는 이와 같은 문제 제기에 공감하고 충분한 논의를 진행하겠다는 방침이다. 김경화 문화체육관광부 문화산업정책과장은 "AI 저작권 제도 워킹그룹을 따로 만들어서 올해부터 진행할 예정"이라며 "학습 데이터 출처 표시라든지 AI 산출물 표시 의무화 등은 많은 고려 사항과 여러 단계가 있기 때문에 따로 워킹 그룹을 만들고 결과물을 통해 법제도 개선 방안을 만들 것"이라고 설명했다.

이어 "3D의 경우 워터마크 표시 같은 부분이 없기 때문에 관련한 기술 개발 등을 지원할 예정"이라며 "표시 의무를 해야 한다는 점은 이제는 당연한 명제라고 생각하지만 어떠한 방법으로 어떻게 할 것인지에 대해서는 좀 더 많은 논의가 있어야 할 것이며 논의의 장을 만들어갈 예정"이라고 했다.