[시시비비] 뉴스 추천 알고리즘의 덫을 피하려면

영국 옥스퍼드대학이 올해의 단어로 ‘탈진실(post-truth)’을 꼽은 게 2016년이었다. 객관적인 사실보다 개인적 신념에 따른 주장이나 정보가 진실을 밀어내는 현상을 말한다. 지난 4·10 선거는 탈진실이 시대를 관통하는 보편정서라는 점을 확인시켜줬다. 각종 막말, 불법 대출 의혹, 부동산 투기 의혹 등은 비판의 대상이 아니라 ‘대안적 사실’로 받아들여졌다.

탈진실의 온실은 사회관계망서비스(SNS)와 각종 온라인 플랫폼이다. 매일 셀 수 없이 쏟아지는 뉴스 중에 어떤 뉴스를 보게 될까. 그건 알고리즘이 정한다. 알고리즘은 이용자의 나이, 위치, 성별, 검색·웹사이트 방문 이력 등을 추적해 맞춤형 뉴스를 내놓는다. 알고리즘에 기반한 뉴스 추천은 그 원리를 ‘독자에게 가장 도움이 되는 정보를 제공하기 위함’이라고 설명한다. 틀린 말은 아니지만 절반의 진실만 드러낸다. 뉴스 추천의 또 다른 목적은 이용자를 자사 플랫폼에 계속 묶어두기 위함이다. 알고리즘은 이용자가 어디서 ‘분노’하는지 알고 있다. 분노에 차 댓글을 달고, 다른 관련 기사를 읽고, 또 댓글을 달도록 유인한다.

무서운 점은 탈진실이 탈현실로 이어지기 쉽다는 점이다. 독일의 신경과학자이자 정신과 의사인 요아힘 바우어 최근 국내 번역 출간된 저서 ‘현실 없는 현실’에서 "저마다 다른 집단들이 SNS로 완전히 다른 뉴스를 먹고 산다"며 "이 기괴하기 짝이 없는 현실감 상실, 아니 현실 상실은 사회 내부의 공감대를 짓밟으며 극심한 분열을 조장한다"고 했다. 인공지능(AI) 기업 딥마인드의 공동창업자인 무스타파 술레이만 역시 비슷한 말을 했다. 그는 책 ‘더커밍웨이브’에서 네이처를 인용해 "디지털 미디어 사용 증가와 정치에 대한 불신 증가, 포퓰리즘 운동의 급증, 혐오의 확산, 양극화 심화 사이에 뚜렷한 상관관계가 있음을 확인했다"고 썼다.

가상현실(VR)기기를 쓴 인간 석고상 ＜이미지출처=DALL·E 3＞

AI와 결합해 더 진화할 알고리즘은 앞으로 개개인에게 더욱 최적화된 정보를 내어놓을 것이다. ‘필터 버블(플랫폼 사업자가 필터링한 정보만을 접하는 현상)’ 속에서 알고리즘의 노예를 면하려면 어떻게 해야 할까. 디지털 기기와 SNS를 물리적으로 멀리하는 ‘디지털 디톡스’가 일반적인 해법이다. SNS와 디지털 기기와 멀어지지 않고도 탈진실의 시대를 살아갈 방법은 없을까.

이 지점에서 ‘제로 트러스트(Zero Trust)’라는 개념을 참고할 만하다. 직관대로 ‘신뢰는 없다’는 의미다. 디지털 보안의 새로운 패러다임인데, 개인의 정신 건강을 지키는 도구로서도 유용해 보인다. 이 개념이 각광받는 건 탈중심화로 지켜야 할 대상과 방법이 달라졌기 때문이다. 기관·기업이 보관하던 데이터는 언제 어디서나 열려있는 클라우드에 보관된다. 사무실·학교에서만 사용되던 단말기는 모든 사람의 손에 주어졌다. 시간과 장소에 상관없이 망에 접속할 수 있다. 모든 곳이 입구이자 출구다. 전통적 보안모델로는 진화하는 사이버 테러를 감당할 수 없게 된 것이다. 그래서 등장한 개념이 바로 제로 트러스트다. 제로 트러스트 보안 패러다임하에서는 ‘신뢰할 수 있는 네트워크’라는 개념 자체가 배제된다. ‘절대 신뢰하지 말고, 항상 검증하라(Never Trust, Always Verify)’. 제로 트러스트의 요약이다. 뉴스로 위장한 허위정보·오정보의 쓰나미에서 스스로를 지키는 건 믿음이 아니라 의심이다.

김동표 콘텐츠편집2팀장 letmein@asiae.co.kr