과기정통부 "딥페이크 관련 생성형 AI 워터마크 제도 입법 추진"

'생성형 AI' 주제 국민생활과학기술포럼 개최
과기 "딥페이크 탐지·차단기술 R&D도 지속"

과학기술정보통신부는 딥페이크의 부작용에 대한 대안으로 생성형 인공지능(AI)을 사용해 콘텐츠를 만들 경우 워터마크를 표기하게끔 하는 내용을 AI 기본법에 담을 것이라고 밝혔다. AI 기본법은 AI 산업 육성과 규제의 내용이 담긴 법안이다.

28일 제57회 국민생활과학기술포럼에서 진행된 생성형 AI 관련 토론에서 김남철 과기정통부 정보통신정책총괄과장은 "가짜뉴스나 딥페이크와 관련해 워터마크 제도를 (AI 기본법에) 담으려고 준비하고 있다"며 "생성형 AI라는 것을 표기하도록 하는 규정을 담아 투명성을 높이려고 한다"고 했다. 이번 포럼은 '생성형 AI의 사회적 이슈와 대응'이라는 주제로 진행됐다.

김 과장은 이어 "고위험 AI에 대해서는 신뢰성을 보장할 수 있도록 AI 안전연구소와 관련한 조항도 반영해 입법 작업을 하고 있다"고 덧붙였다.

다만 워터마크 제도에도 법의 현실적 제약이 있기 때문에 생성형 AI에 대한 개인의 인식을 높이는 것도 중요하다고 했다. 김 과장은 "텔레그램은 국내에 서버가 없어 법 위반 사실을 알아도 접근이 어렵다"며 "대응에 최선을 다하고 있지만, 기술에 따라 법이 바뀌는 어려움도 있다"고 했다.

그러면서 "학교에서부터 개인의 윤리, 문화에 따라 불법적인 것들을 받아들이지 않는 교육이 함께 가야 한다"며 "공동체에서 위험성 인식과 함께 인식 제고 사업도 병행해야 할 것으로 보인다"고 덧붙였다.

과기정통부는 이 외에도 딥페이크에 대응하기 위해 2022년부터 탐지·차단 기술 연구개발(R&D)을 하고 있다고 덧붙였다.

9월 중 출범 예정인 국가인공지능위원회의 역할에 대해서도 강조했다. 김 과장은 "이달 (위원회의) 설치 근거 규정이 공포가 됐고 민간위원 위촉 작업을 하고 있다"며 "다음달 중 위원회가 출범하면서 정부, 민간 전문가·기업이 머리를 맞대고 긍정적인 면은 발전시키고 딥페이크 같은 부작용은 안전책을 만드는 기회가 될 것"이라고 전했다.

이날 토론에서는 정부가 바라보는 생성형 AI가 불러올 일자리 변화에 대한 의견과 대안도 들을 수 있었다. 김 과장은 "생성형 AI로 일자리 자체가 변화하는 경우도 있지만, 직무 자체의 변화가 있을 수 있다"며 "보조업무나 단순한 기술 업무는 취약할 수 있는데, 초등학교에서부터 대학원까지 AI 역량 육성 과정을 확대할 것"이라고 했다.

그는 "어르신 등 취약계층의 경우 키오스크 활용 역량을 키우기 위해 디지털 배움터 프로젝트를 진행하고 있다"며 "매년 개선해가며 새 기술·도구가 나왔을 때 (이들이) 뒤처지지 않도록 지원하는 노력도 하고 있다"고 전했다.

황서율 기자 chestnut@asiae.co.kr