''트럼프 지지' 글 퍼뜨린 정체…알고 보니 엑스 AI계정'

최소 686개로 이뤄진 계정, 조직적 활동
"사람들이 거의 쓰지 않는 어색한 표현 사용"

사회관계망서비스(SNS) 플랫폼 엑스(X·옛 트위터)에서 인공지능(AI)을 이용한 가짜 계정 수백개가 조직적으로 '사람 행세'를 하며 도널드 트럼프 전 미국 대통령과 공화당을 지지하는 글을 퍼뜨렸다는 연구 결과가 나왔다.

유세 중인 도널드 트럼프 전 미국 대통령. 사진=연합뉴스

미 NBC 뉴스는 17일(현지시간) 클렘슨대 연구진이 최근 발간한 연구 보고서를 인용해 이같이 보도했다. 연구진은 엑스 계정 최소 686개로 이뤄진 조직적인 네트워크를 확인했다. 이들 계정들이 지난 1월부터 엑스에 올린 글은 13만건이 넘는다. 게시글을 살펴보면 주로 최근 미국에서 진행된 4건의 상원의원 경선과 대선후보 경선 등에 관한 것이다. 또 트럼프 전 대통령과 공화당을 지지하는 내용이기도 했다.

클렘슨대 연구진은 해당 계정들이 챗GPT와 같은 AI 챗봇에 사용되는 거대언어모델(LLM) 기술을 이용해 다른 이용자들과 소통을 이어갔다고 짚었다. 보고서에 따르면 해당 계정들은 극우 지지자들이 즐겨 쓰는 밈(meme·인터넷 유행 콘텐츠) 이미지나 십자가, 미국 국기 등을 프로필 사진으로 설정하고 정치적 이슈에 관한 다른 사람들의 게시글에 답글을 꾸준히 다는 식의 일관된 패턴을 보였다.

NBC뉴스는 "해당 계정들의 팔로워는 거의 없다"면서 "사람들 사이에서 이미 관심을 끌고 있는 게시글에 찾아가 답글을 다는 방식"이라고 전했다. 클렘슨대 연구진들은 해당 계정들이 올린 글 중 챗 GPT 등 AI 챗봇을 이용해 작성됐다는 것을 명시한 일종의 '오류'의 흔적을 발견하는 식으로 이를 확인했다. 일부 계정들은 사람들이 거의 쓰지 않는 어색한 표현을 사용했다.

연구진은 이러한 AI 계정들로 이뤄진 조직적 네트워크를 운영하거나 자금을 대는 주체는 불분명하다고 봤다. 게시글의 내용이 미국 국내 정치에 집중돼 있으며 외국과 명확한 연관성이 없다는 점에서 외국 정부보다는 미국 내부 세력의 정치적 작전일 가능성을 시사한다고 짚었다.

최근 미국에서는 11월 대선이 가까워지고 AI 기술 확산 속도가 빨라짐에 따라 AI를 이용해 선거 여론에 영향을 미치려는 시도에 대한 경고는 꾸준히 제기돼 왔다.

NBC뉴스는 "AI를 이용한 미국 내 작전 세력의 존재 가능성은 최근 빠르게 발전하고 있는 AI 기술과 그에 따른 혼란스러운 정보 지형에 또 하나의 우려를 추가한다"고 전했다. 클렘슨대 연구에서 확인된 AI 계정들은 NBC가 엑스 측에 입장을 요청한 이후 대부분 삭제된 것으로 확인됐다. 엑스는 이에 대한 NBC뉴스의 논평 요청에 답하지 않았다.