日NTT·요미우리 “AI 방치하면 사회질서 무너질 것”

일본 미디어 업계를 대표하는 통신사 NTT와 요미우리신문이 인공지능(AI)에 의한 사회질서 붕괴를 경고하며 규제 도입을 촉구하고 나섰다고 월스트리트저널(WSJ)이 7일(현지시간) 보도했다.

NTT와 요미우리신문은 8일 공개한 선언문에서 생성형 AI가 가져올 생산성 향상과 잠재적 이점을 인정하면서도 "AI는 도덕성이나 정확성을 전제하지 않은 채 이용자들의 관심을 끌기 위해 설계되기 때문에 인간의 존엄성을 훼손한다"고 주장했다.

[이미지출처=AFP연합뉴스]

또 이들은 "AI를 억제하지 않으면 최악의 경우 민주주의와 사회 질서가 붕괴해 전쟁이 일어날 수 있다"며 "일본이 생성형 AI의 남용으로부터 선거와 국가 안보를 보호하기 위한 법률 등 즉각 대응 조치에 나서야 한다"고 강조했다.

AI 남용 대응 조치의 모범 사례로는 유럽연합(EU)과 미국의 법률 규제를 꼽았다. 지난달 EU 의회는 세계 최초로 'AI 규제법(AI Act)'을 가결했다. 이를 통해 역내 AI를 활용한 생체 정보 수집과 더불어 개인의 특성 및 행동을 데이터화해 사회적 신용 점수를 매기는 '소셜 스코어링'을 금지했다. 앞서 바이든 정부 또한 국가 안보에 위험을 초래할 수 있는 AI 개발주체에 안전성 테스트를 부과해 결과를 미국 정부와 공유하도록 하는 행정명령을 도입한 바 있다.

WSJ은 이번 AI 위험성에 대한 공론화가 일본에서 정책적으로 가장 영향력 있는 기업들에 의해 주도됐다는 점을 조명했다. 민영화된 공기업인 NTT는 여전히 지분의 3분의 1을 일본 정부가 소유하고 있고, 요미우리신문은 세계 최대 발행 부수를 자랑하는 일본 유력 언론사다. 두 회사의 경영진은 지난해부터 일본 게이오 대학 연구진과 함께 생성형 AI가 사회에 끼칠 영향을 조사하는 등 AI에 지대한 관심을 보여 온 것으로 나타났다.

특히 요미우리신문의 경우 뉴스 페이지와 사설에서 AI에 대한 우려를 빈번하게 드러내 왔다. 지난해 12월의 한 사설에선 미국 기술 기업에서 쏟아져 나오는 새로운 AI 제품들을 언급하며 "AI 모델이 사람들에게 무기를 만드는 방법을 가르치거나 차별적인 사고방식을 퍼뜨릴 수 있다"고 비판했다. 또 유력 정치인의 연설 영상을 정교하게 조작한 딥페이크 영상을 소개하며 경종을 울리기도 했다.

지난해 대규모 언어모델(LLM) '츠즈미'를 공개하며 생성형 AI 시장에 합류한 NTT도 기업 고객을 위한 저가형 AI 모델 연구에 투자를 아끼지 않고 있는 것으로 전해졌다. NTT 대변인은 "생성형 AI가 가치 있는 용도로 사용될 수 있다고 믿는다"면서도 "이 기술이 여론 조작에 악의적으로 사용될 경우 위험성이 매우 크다"고 강조했다.

김진영 기자 camp@asiae.co.kr