노경조기자
김보경기자
22일 세계 최초로 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)'이 시행되면서 법에서 정한 AI 생성 결과물에 대한 워터마크 표시 의무를 준수하려는 기업들의 대응이 이어지고 있다. 정부가 1년 이상 유예기간을 뒀으나 법 시행 취지에 공감하는 만큼 선제적으로 대비하는 게 낫다는 판단이다.
카카오는 최근 새롭게 선보인 '카나나 템플릿'에 기본법에서 명시한 'AI 사용 표시 의무'를 반영했다. 카나나 템플릿으로 카카오톡 사진을 영상으로 만들면, AI 생성 결과물 우측 하단에 'kanana'라는 워터마크와 로고가 함께 붙는다. 워터마크는 AI 기본법에 대비한 것으로, 카카오는 '회사가 AI로 생성한 결과물을 제공할 경우 관련 법에 따라 고지·표시한다'는 내용을 약관에도 담았다. 카카오 관계자는 "카카오의 AI 기반 신규 기능, 서비스 도입 시 AI 기본법 시행을 고려해 필요한 내용을 통합서비스 약관에 명시했다"고 말했다.
워터마크는 사용자 시각을 기준으로 인지 가능 워터마크와 인지 불가능 워터마크로 분류된다. 삼성전자와 SK텔레콤도 AI를 통한 이미지 생성물에 인지 가능 워터마크를 반영했다. 반면 구글, 오픈AI, 메타 등 해외 주요 기업들은 국제 표준인 C2PA 또는 자사 알고리즘 개발을 통한 인지 불가능 워터마크를 활용하고 있다. AI 기술 표준을 구축한 C2PA는 2021년 어도비, BBC, 마이크로소프트(MS), 인텔 등을 주축으로 설립된 글로벌 연합체다. 국내에서는 네이버, 이스트소프트가 C2PA에 가입했다.
AI 기본법은 사업자에게 투명성·안전성 확보를 위한 의무를 부과하고 있다. 실제와 구분하기 어려운 딥페이크 생성물에는 사람이 명확히 인식할 수 있게 표시해야 한다. AI 생성 결과물을 서비스 외부로 반출하는 경우에도 워터마크를 넣어야 한다. 다만 AI 생성물이 챗봇, 게임, 메타버스 등 서비스 환경 내에서만 이용되는 경우 사용자 환경(UI) 안내, 로고 표출 등 비교적 유연하게 표시할 수 있다. 또 AI 생성 결과물을 콘텐츠 제작에 활용하거나 사회관계망서비스(SNS)에 올리는 이용자에게는 법적 의무를 부과하지 않는다.
일부 중소·스타트업도 워터마크 의무화를 인지하고는 있지만, 규제 변화에 대응할 인력·자원 여력이 있는 곳 중심으로만 움직임이 나타나고 있다. 앵커노드는 지난해 말부터 자사의 생성형 AI 기반 게임 제작 솔루션으로 생성한 이미지에 'gameAify' 워터마크가 노출되도록 했다. 구축 비용이 많이 들었지만, AI 생성 결과물의 오·남용을 방지하기 위한 정부 방침에 따르기로 했다. 딥브레인AI도 이달 초 눈에 보이지 않는 워터마크 솔루션을 공개하고 자사 플랫폼인 'AI 스튜디오'에 적용했다. 겉으로는 식별할 수 없지만, 파일에 AI 생성 여부와 출처 등 중요 정보 흔적이 남아 편집·복제되거나 녹화된 이후에도 추적이 가능하다.
정부는 이번 기본법이 AI 업계의 규제 강화에 초점 맞춰진 것이 아닌 산업 진흥을 위한 것이라고 강조한다. 현장 혼란을 줄이고 제도가 잘 안착할 수 있도록 1년간의 유예기간을 두고 지원한다는 계획이다. 유예기간에는 인명 사고·인권 훼손 등 사회적 문제를 야기하거나 국가적 피해를 초래한 경우에만 예외적으로 사실 조사를 실시하기로 했다.
과학기술정보통신부 관계자는 "AI 기본법은 사업자에게 필요 최소한의 의무를 부여해 안전성과 신뢰성을 제고하기 위한 것"이라며 "문의 사항에 대응할 플랫폼을 구성하고, 컨설팅 서비스를 제공, 사례집을 마련해 기업들의 이해와 도입을 도울 것이다"라고 말했다.