챗GPT로 '진료영수증' 모방 요청하자 1분 만에 뚝딱

특별 기획 [허위 청구·가짜 사고…그 돈은 내 보험료였다]
<보험사기와의 전쟁>

③-⑶AI와 결합한 보험사기…우리는 준비됐나
현재의 기술력으로는 AI 결합한 보험사기 탐지 어려워
해외 AI 전문가 "이미지 기반 인증은 이제 완전히 무력화"

"날짜와 치료항목만 다르게 영수증 3장만 만들어줘."

오픈AI의 생성형 인공지능(AI) '챗GPT-4o' 이미지 생성 서비스에 과거 보험사에 제출한 이력이 있는 병원 진료영수증을 올려 이처럼 주문했다. 챗GPT는 1분 만에 비슷한 영수증 3개를 만들었다. 아직은 기술적 한계로 이미지에 한글깨짐 현상이 나타났지만 숫자·큐알코드·직인 등은 거의 완벽히 구현했다. 얼룩·구김 등 서류에 사용 흔적이 보이게 해 달라는 요구도 즉각 반영됐다.

본지 기자가 오픈AI의 생성형 인공지능(AI) '챗GPT-4o' 이미지 생성 서비스로 만든 가짜 병원진료 영수증. 아직 기술적 한계로 한글깨짐 현상이 나타나지만 큐알코드와 직인 등은 실물과 비슷할 정도로 동일하게 모방했다. 최동현 기자

보험사기 탐지·조사 관련 전문가들은 보험사기가 미래에 더 심각해질 것으로 우려했다. AI가 보험사기에 본격적으로 악용되기 시작하면 현재의 대응방식으로는 속수무책으로 당할 수밖에 없다는 것이다. AI를 활용한 보험사기 예방이 더 정교해지도록 데이터 접근 범위가 확대돼야 한다는 지적이 나온다.

현재 각 보험사는 자체 보험사기탐지시스템(IFDS)을 구축해 운영하고 있다. 여기엔 고객의 사고이력·유형·성별·나이 등의 정보가 집적돼 있다. 이를 바탕으로 한국신용정보원의 보험신용정보통합조회시스템(ICIS)과 연계하면 특정 계약자의 전체 보험사 계약내역과 보험금 청구이력, 치료이력 등을 확인할 수 있다. 여기에 보험사 나름의 AI 기술을 적용해 수상한 고객을 탐지한다.

예컨대 한 병원에서 특정 질병으로 보험금을 청구하는 환자가 단기간 급증하면 AI 탐지를 가동한다. AI로 정보 확인 결과 환자 상당수가 특정 지점 소속 설계사를 통해 보험에 가입했다면 의심군으로 분류한다. 해당 병원과 거리가 먼 지역에서 자주 찾아오거나 가족까지 동반해 반복적인 보험금 청구가 이뤄지면 사기 의심단계가 올라간다. 이런 필터링을 통해 이름이 자주 노출되는 병원·설계사·고객은 요주의 대상이 되는 식이다.

보험사들이 AI를 활용해 보험사기를 적발하는 데 공을 들이고 있지만 기술 수준은 아직 걸음마 단계였다. AI라는 이름으로 포장돼 있으나 실상은 빅데이터 스크리닝인 경우가 많았다. 2013년 도입된 금융권 망분리 규제로 챗GPT와 같은 외부 AI 프로그램을 즉각 도입할 수 없었던 탓이다. 그나마 규제 완화로 올해부터 외부 서비스 사용이 가능해졌지만 이마저도 금융위원회의 까다로운 혁신금융서비스 심사를 받아야 한다.

반면 민간 영역에서의 AI 기술은 하루가 다르게 발전하고 있다. 챗GPT와 달리(DALL·E)3 등 기본 학습언어가 영어인 경우 영문으로 허위 서류를 만드는 기술은 글자깨짐 없이 완벽했다. 실리콘밸리 소재 벤처캐피털 회사인 멘로벤처스 소속 AI 전문 투자자이자 인플루언서인 디디(Deedy)는 최근 미국 샌프란시스코에 위치한 스테이크하우스의 결제영수증과 로체스터 소재의 한 병원의 진료영수증을 자신의 사회관계망서비스(SNS)에 올렸다. 이는 모두 챗GPT로 생성한 허위 영수증이었다. 디디는 "현실세계의 많은 인증 절차들이 이미지를 증거로 삼고 있다"면서 "이미지 기반 인증은 이제 완전히 무력화됐다"고 말했다.

실리콘밸리 AI 전문 투자자이자 인플루언서인 디디(Deedy)가 최근 자신의 사회관계망서비스(SNS)에 올린 스테이크하우스(오른쪽)와 병원 영수증. 이는 모두 챗GPT로 생성한 허위 이미지다. 디디 SNS 캡처

보험업 종사자들은 한글에 기반한 AI 고도화가 일정 수준에 이르면 각종 서류·사진·영상 등을 조작한 보험사기가 쏟아질 것으로 봤다. 최유진 한화생명 데이터랩 파트장은 "생성형 AI가 더 고도화되면 보험사가 자체 보유한 기술로는 탐지 불가능할 정도의 상태가 될 것"이라며 "금융사가 여기에 대응하려면 여러 외부 서비스를 가져와 방어력을 수시로 테스트해봐야 하는데 현행 법·규제 절차상 그러지 못하는 게 가장 아쉽다"고 말했다.

현재의 공조 프로세스로는 AI가 조작한 서류를 즉각 발견하기 어렵다는 의견도 있다. 약 30년간 보험사기특별조사팀(SIU)에서 활동 중인 함용호 삼성화재 장기보험조사센터장은 "영수증이나 진단서 위변조 사기가 급증하고 있지만 개인정보 이슈로 서류가 허위라는 걸 적발하기 쉽지 않다"며 "금융감독원과 국민건강보험공단의 자료 제출 요구권 관련 공조가 더 활발해졌으면 한다"고 전했다. 지난해 8월14일 보험사기방지 특별법 개정안 시행으로 금융감독 당국에 자료요청 권한이 부여됐지만 건보공단의 자료 제출 제한조항에 막혀 원활한 정보 교류가 이뤄지지 않는다는 설명이다. 이기창 DB손해보험 SIU파트장은 "하루에도 수만 건이 접수·처리되는 보험시장에서 수많은 데이터를 하나하나 적재하고 정제하는 건 인력만으로는 불가능하다"면서 "보험사기가 갈수록 지능화하고 있어 AI 도입은 선택이 아닌 필수지만 아직 갈 길이 먼 게 사실"이라고 말했다.

편집자주"그들은 속였고, 내 보험료는 올랐다." 보험사기로 인한 피해액이 3년 연속 1조원을 넘겼고, 지난해에는 사상 최대치를 기록했다. 허위 진단서 한 장, 가짜 사고 몇 건, 과장된 치료비 청구 하나하나가 쌓여 결국 '1조1503억원'이라는 충격적인 숫자를 만들었다. 문제는 이 모든 비용이 고스란히 선량한 보험 가입자들에게 보험료 인상이라는 형태로 전가된다는 점이다. 본지는 수백 건의 판결문과 실제 사례를 전수 분석해 '보험사기'라는 범죄가 어떻게 작동하는지를 추적했다. 기술적 대응과 실효성 있는 제도 개선 방안을 함께 모색하며, 근절을 위한 해법을 짚어봤다.

최동현 기자 nell@asiae.co.kr