정부, AI 가짜의사 허위 광고 막는다…'AI 생성물 표시제' 도입

영상·사진 등 게시할 때 AI 활용 여부 '체크'
내년 초 법 개정 추진…여야 의원 발의
정부 공조해 차단…법 위반 시 엄벌 조치

정부가 생성형 인공지능(AI) 기술을 활용한 허위·과장 광고 피해를 막기 위해 'AI 생성물 표시제'를 도입한다. 내년 1분기 정보통신망법을 개정해 게시자가 콘텐츠를 올릴 때 AI 생성물 여부를 표시하도록 한다는 계획이다. 온라인 플랫폼사에는 표시 방법과 의무를 고지하는 등 책임이 부과된다. 악의적인 허위·조작정보 유통 행위에 대해선 손해액의 최대 5배에 달하는 징벌적 손해배상제를 도입하고, 과징금 수준도 대폭 상향하기로 했다.

AI 생성 전문가를 활용한 부당광고 예시(출처=방송미디어통신위원회)

콘텐츠 게시자·플랫폼사·이용자 모두 의무 부과

김민석 국무총리는 10일 정부서울청사에서 제7회 국가정책조정회의를 주재하고 AI를 활용한 허위·과장 광고에 대해 "정상적인 시장 질서를 교란하고 소비자를 속여 피해를 야기하는 중대한 범죄행위"라며 "과징금을 대폭 상향하고, 징벌적 손해배상을 도입하겠다"고 말했다. 이어 "AI 생성물 표시의무제를 도입하고, 허위 광고 시정에 필요한 심의 속도를 단축할 것"이라고 덧붙였다.

정부가 대책을 내놓은 건 AI 기술이 갈수록 정교해지면서 진위 구분이 어려운 AI 가짜 의사, 전문가를 활용한 광고가 사회관계망서비스(SNS)를 통해 빠르게 확산하고 있기 때문이다. 특히 식·의약품 분야에 집중돼있어 노년층 등 소비자에게 혼란과 피해가 우려되고 있다.

정부가 발표한 AI 생성물 표시제는 콘텐츠 게시자와 플랫폼사, 이용자 모두에게 의무가 각각 부과된다. 내년 1월부터 시행되는 AI 기본법에는 오픈AI, 앤스로픽과 같은 AI 생성물의 생산자에만 표시의무를 부과하고 있어 게시자 전반에 대한 규제가 어렵다는 판단에서 이를 보완한 것이다.

AI 생성물 표시제가 도입되면 AI 생성물을 게시하는 자는 해당 사진·영상 등을 AI로 만들었다는 사실을 표시해야 한다. 방송미디어통신위원회(방미통위) 관계자는 "게시물을 올릴 때 'AI로 생성된 콘텐츠인가'라고 묻는 단계를 추가·확인하는 '체크 박스' 형태가 될 것으로 보인다"고 말했다. 플랫폼사는 게시자에게 표시 방법을 알려주고 표시 의무를 고지하는 등의 관리 의무가 부여된다. 플랫폼 이용자는 AI 생성물 표시를 제거하거나 훼손하는 행위가 금지된다.

AI 생성물 표시 의무제를 담은 법안은 더불어민주당의 전용기 의원, 국민의힘의 김상훈·박정훈 의원 등이 대표 발의했다. 방미통위 관계자는 "내년 상반기 정보통신망법 개정을 목표로 하고 있다"며 "광고성 AI 생성물만을 타기팅해서 규율할지, 딥페이크 문제를 막기 위해 AI 생성물 전반으로 확대할지는 국회 논의 과정에 달려 있다"고 말했다.

허위 광고 신속 차단…징벌적 손해배상제 도입

AI 허위 과장 광고 유통 단계에서는 신속하게 차단조치가 이뤄질 수 있도록 정부 공조를 강화한다. 만약 플랫폼사가 방송미디어통신심의위원회의 시정요구에 불응할 경우 방미통위가 시정명령을 내리고, 시정명령에도 불응하면 형사 제재를 통해 강제력을 확보한다는 계획이다. 현재 마약류에만 적용하고 있는 식품의약품안전처와의 패스트트랙 시스템을 식·의약품, 화장품 등까지 확대 적용한다. 패스트트랙 시스템은 식약처가 방미심위에 전산상으로 심의를 신청하는 체계다. 이 과정에서 서면 전자 심의 도입을 통해 24시간 이내 신속하게 심의하기로 했다.

국민 재산·생명에 대한 피해가 우려되는 경우에는 관계 당국을 통해 방미통위가 플랫폼사에 긴급 시정요청할 수 있는 제도도 마련된다. 내년 하반기 정보통신망법을 개정하면 가능해진다.

플랫폼 업계의 자율 규제도 강화된다. 정부는 네이버, 메타(인스타그램), 틱톡 등 주요 온라인 플랫폼과 맺은 자율협약을 토대로 AI 딥페이크를 이용한 사칭 광고를 신속 탐지·차단하는 기술 도입과 운영 실태 점검을 확대할 계획이다.

AI 생성 전문가를 활용한 부당광고 예시(출처=방송미디어통신위원회)

공정위는 AI 생성 사실을 표시하지 않은 광고에 대한 위법성 판단 기준을 명확히 한다. AI가 생성한 가상 의사·교수가 제품을 추천하면서도 이를 가상 인물임을 밝히지 않는 광고는 부당 표시광고로 명확히 규정하고, 식품·의약품·화장품 분야에서 AI 전문가 추천 광고 자체를 금지하는 방향으로 관련 법을 손질한다. 또 가상 인물임을 알리지 않은 추천 광고를 기존 허위·과장광고와 동일한 제재 대상에 포함하기로 했다. 대중적 영향력이 있는 인플루언서가 허위·조작 정보를 고의로 유통한 경우에는 실제 손해액의 최대 5배까지 물릴 수 있도록 징벌적 손해배상제도 관련 법도 개정한다. 표시광고법상 불법광고와 관련된 매출액의 최대 2% 과징금 부과가 가능한데, 이러한 과징금 수준을 대폭 상향키로 했다.

유럽연합(EU)과 미국 중국 스페인 등 해외 주요국에선 생성형 AI 기술을 이용해 생성한 결과물에 표시 의무화를 추진하고 있다. 다만 범죄 목적이거나 선거와 관련해 대중의 혼란을 최소화하기 위한 목적에 한한다. 콘텐츠 분야 창작, 예술 등의 특정 전문 분야에서는 표현의 자유를 존중하는 예외 규정이 필요하다는 목소리도 나온다.

인터넷기업협회 관계자는 "법안 논의 과정에서 이용자가 AI 생성물 표시를 훼손·변조하는 부분에 대한 책임까지 플랫폼 사업자한테 물어선 안 된다"면서 "누구나 AI 영상임을 알 수 있는 창작 콘텐츠에 대해선 규제를 유예하는 등의 조치가 병행돼야 한다"고 말했다.

김보경 기자 bkly477@asiae.co.kr