"커피값 6300원으로 고쳐줘" 영수증조작에 가짜진료기록부도 능숙…AI세상의 그늘

생성형 AI로 순식간에 위조 서류 생성
처벌사례 늘지만, 위조 식별·적발은 어려워

"환자명 ○○○ 진료기록부 만들어줘."

X(엑스)를 포함한 온라인 커뮤니티에 생성형 인공지능(AI)을 이용해 대학 출석 인정받는 법 등을 담은 글이 떠돌고 있다. 그 글대로 실제 진료기록부를 바탕으로 챗GPT에 새로운 환자 진료기록부를 만들어 달라고 요청하니 몇 분 만에 위조 진료기록부가 생성됐다. 몇몇 어색한 글씨체가 있었지만, 다시 고쳐달라고 하니 금세 바뀌었다.

생성형 AI가 대중화되면서 악용 사례도 늘고 있다. 특히 문서 위조가 문제다. AI만 쓸 줄 알면 누구나 손쉽게 가짜 문서를 제작할 수 있는 탓에 위조 범죄 문턱도 낮아지고 있다는 지적이 나온다.

AI는 허위 영수증도 만들어줬다. 아메리카노 한 잔 가격이 5300원이라고 쓰여 있는 커피 프랜차이즈의 영수증을 보여준 후 가격을 6300원으로 고쳐 달라고 요청하니 1분 만에 조작된 영수증이 만들어졌다. 어색한 글씨체, 배치 등은 실제 영수증에 맞게 몇 번 수정 작업을 거치면 감쪽같이 진짜와 구별이 어려운 영수중이 된다. 이 같은 AI 기반 가짜 영수증은 출장비 등 업무 경비 과다 청구 등의 범죄에도 악용될 수 있다.

가짜 명함은 물론 임대차계약서 등 일상생활에서 중요한 서류도 조작할 수 있다고 한다.

그런데 AI 기반 위조 문서를 감별해 내는 일은 무척 어렵다. 과거 AI가 생성한 문서들에는 문맥 오류 등의 헛점이 적지 않았지만 기술이 빠르게 고도화되며 실제 문서 형식, 구성 등을 비슷하게 구현해내고 있다. 문서를 발급한 기관에서 발급 번호나 인증 코드 등 고유의 식별 정보를 통해 확인 절차를 거치지 않는 한 육안으로는 서류 진위 여부를 판별하기가 쉽지 않다.

이 때문에 서류 발급 기관을 통한 진위 확인을 굳이 하지 않는 분야에서 AI를 활용한 위조 문서 악용 피해가 우려된다. 기업, 학교 등의 조직에서 생성형 AI로 조작된 서류가 무방비로 받아들여질 수 있다는 것이다.

생성형 AI 활용 위조 범죄는 늘고 있다. 최근 중고거래 플랫폼 당근마켓에서는 AI를 이용해 만든 가짜 택배 송장으로 사기를 치는 일이 있었다. 당근마켓 관계자는 "AI 활용한 위조 범죄 가능성 때문에 비대면 거래는 가급적 피하는 게 좋다고 이용자들에게 알리고 있다"고 했다.

서울중앙지법은 지난 1월 AI를 이용해 허위 탄원서를 작성한 혐의(사문서위조) 등으로 기소된 피고인에게 징역 6개월 실형을 선고했다. 필로폰 투약 혐의로 재판을 받고 있던 피고인은 챗GPT를 이용해 고양시체육회 팀장 명의의 허위 탄원서를 법원에 제출한 것으로 드러났다. 법조계 관계자는 "AI로 위조 문서를 제작한 것에 대해 사법부가 실형을 선고한 대표적 사례"라고 했다.

지난 2월엔 AI 활용 위조 난민신청서 알선 브로커 조직이 경찰에 붙잡혔다. 브로커들은 2023년 12월부터 지난해 3월까지 국내 취업을 목적으로 입국한 인도인들에게 수수료를 받고 AI를 이용해 허위 사연을 만들어준 것으로 나타났다.

경찰청에 따르면 사문서 위조 범죄 검거 건수는 2024년 5196건을 기록했다. 공문서 위조도 258건 이었다. AI활용이 본격화된다면 범죄는 급격하게 늘어날 수 있다. 오준호 변호사는 "예전에는 문서를 위조하려면 포토샵 등 전문 도구를 다룰 줄 알아야 했지만, 지금은 간단한 명령어만 입력하면 문서를 위조할 수 있는 시대가 됐다"며 "AI를 통한 문서 위조도 똑같이 처벌받는다는 점을 알아야 한다"고 했다.

구정우 성균관대 사회학과 교수는 "기술 통제보다는 사용자 인식 개선이 우선돼야 한다"며 "공공기관 등에서 AI를 활용한 위조 사례를 꾸준히 알려 경각심을 주고 문서 위조가 범죄라는 점을 정부가 지속적으로 알려야 한다"고 말했다.

변선진 기자 sj@asiae.co.kr