임춘한기자
경찰이 독일 노르트라인베스트팔렌주 경찰과 공동으로 허위조작 콘텐츠 진위여부 판별 시스템 본격 개발에 착수했다.
경찰청 전경. 김현민 기자
경찰청은 26일 오전 10시 서울 서대문구 경찰청 어울림마당에서 '허위조작 콘텐츠 진위여부 판별 시스템 개발' 착수보고회를 개최했다고 밝혔다.
이번 연구는 한국·독일 과학치안 국제공동연구의 첫 사례이다. 이는 2023년 경찰청 미래치안정책국과 독일 노르트라인베스트팔렌주(NRW주) 내무부 범죄수사국 간 공동의향합의서 체결, 2024년 한-독 과학치안 협력센터 개소 및 경찰관 파견 등 협력의 결과물이다.
허위조작 콘텐츠 진위여부 판별 시스템 개발은 생성형 인공지능(AI)의 활용이 대중화됨에 따라 폭발적으로 증가하고 있는 조작된 가짜 콘텐츠를 탐지하기 위한 데이터셋 구축과 통합시스템 개발을 목표로 2027년까지 진행된다.
올해에는 인공지능 조작 영상(딥페이크), 딥보이스, 가짜뉴스 탐지용 데이터셋 구축과 탐지모델 고도화를 추진한다. 내년부터는 머신러닝 모델의 개발부터 배포·운영까지 과정을 자동화하여 관리하는 시스템 기반의 통합 탐지시스템의 성능 고도화 및 실증 테스트를 진행할 예정이다.
경찰 관계자는 "국가 간 연구개발의 단순한 협력을 넘어 미래치안 위협에 양국의 과학치안 역량을 결집한 공동대응을 시작하고 향후 다른 국가로 확대하기 위한 첫발을 내디딘 것에 큰 의미가 있다"며 "이번 연구가 다양성에 기반한 데이터셋과 공정한 알고리즘을 통해 허위조작 콘텐츠 문제의 해법을 제시해주길 바란다"고 말했다.