"AI가 돈벌이 기회"…AI가 찍어내는 가짜뉴스 사이트 급증

"'인공지능(AI) 정크'가 인터넷을 오염시키고 있다"

AI를 비즈니스 기회로 활용하려는 움직임이 확산하면서 AI가 만들어내는 가짜뉴스 콘텐츠(AI 정크)가 기하급수적으로 증가하고 있다는 분석이 나왔다.

12일(현지시간) 미국의 가짜뉴스 추적 기관인 뉴스가드에 따르면, AI를 활용해 가짜뉴스 콘텐츠를 찍어내는 뉴스사이트가 6월 말 기준 277개에 달하는 것으로 나타났다. 챗GPT와 같이 문장과 영상을 만드는 생성형 AI를 활용해 뉴욕타임스(NYT)나 CNN 같은 언론 매체처럼 가짜뉴스를 양산해내고 이를 통해 광고 수익을 얻는 것이다. 지난 5월 미국 증시를 출렁이게 했던 미국 국방부 청사(펜타곤) 폭발 사진과 조 바이든 미국 대통령 사망설과 같은 가짜뉴스들이 이 같은 사이트를 통해 만들어지고 유포됐다.

뉴스가드의 공동설립자인 고든 크로비츠는 이들 사이트는 AI가 만든 자극적이고 선정적인 뉴스 콘텐츠로 조회수를 높여 쏠쏠한 광고 수익료를 챙기는 방식으로 AI를 새로운 비즈니스의 기회로 삼고 있다고 지적했다. 그러면서 "(이같이 AI를 악용하는 가짜뉴스사이트가) 기하급수적으로 증가하고 있다"고 경고했다.

유튜브에는 AI를 활용한 가짜뉴스로 돈을 버는 방법을 알려주는 영상들이 넘쳐난다. 월스트리트저널(WSJ)은 AI를 돈벌이 수단으로 삼으려는 이 같은 움직임을 개척시대의 골드러시에 비유하며 "유튜브에서 챗GPT 골드러시가 한창"이라고 지적했다. 현재 유튜브에는 오픈 AI 기술로 돈을 버는 방법을 조언하는 영상 콘텐츠 수십 개가 올라와 있고, 조회수는 수십만회에 달한다. '일주일에 수천달러를 벌 수 있는 방법'이라는 제목의 영상에는 AI가 생성한 콘텐츠로 채워진 블로그를 구글의 검색 결과 최상단에 노출시켜 광고 수익을 올리는 내용을 담고 있다.

이들 AI발(發) 가짜뉴스가 구글 검색엔진에서 전혀 걸러지지 않고 검색 결과로 그대로 노출된다는 비판이 일자 구글은 "AI가 생성한 콘텐츠를 사용해 검색 결과를 조작하는 것은 자사 규정을 위반하는 행위로, 스팸 행위와 조작된 콘텐츠 등으로부터 검색 결과를 보호하고 관리하기 위해 노력하고 있다"는 성명을 냈다.

[이미지출처=AP연합뉴스]

세계 각국과 주요 국제기구들도 AI 통제를 위한 움직임이 분주하다. 유엔 안전보장이사회는 AI가 인류 평화와 안보에 미칠 수 있는 위협을 논의하는 첫 회의를 오는 18일 열 예정이다. 오는 9월에는 안토니우 구테흐스 유엔 사무총장 주도로 'AI 자문위원회'를 만들어 AI 대응 계획을 구체화하겠다는 목표다. 앞서 유럽연합(EU) 입법기관인 유럽의회는 지난달 14일 AI에 대한 세계 최초의 포괄적 규정안을 의결했다. 이 규정안에는 AI를 활용한 안면 인식 등 생체 인식을 전면 금지하자는 방안이 포함됐다.

미국도 내년 대선을 앞두고 AI발 가짜뉴스에 대한 경각심이 커지자 의회와 행정부 차원에서 법제화 작업에 속도를 내고 있다. 미 백악관은 AI의 안전한 사용을 위한 정책 개발 회의를 정기적으로 열고 있으며, 미 상원도 AI 정책 논의에 최근 착수했다.

조유진 기자 tint@asiae.co.kr