생성형AI 활용 금융사기 체험해보니…"실제처럼 생생해"

국내 최초 생성형 AI 활용
디지털 금융사기 체험 예방 서비스 '하마터면'
씽크풀·금융과 행복 네트워크 등 개발
실제같은 범죄자 반응 등 돋보여
향후 AI 불시 연락 등 능동형 체험 추가

"대표님께서 이 정도 신뢰도 못 주신다면 앞으로도 이런 중요한 자리 맡기기 어렵지 않을까요?"

서울 강남에서 고급 한정식집을 운영하는 자영업자라고 가정해보자. 유명 트로트 가수 팀이 공연이 끝나고 회식을 잡겠다고 연락을 해왔다. 35명이 방문한다고 하니 매출에 도움이 될 것 같아 바로 알겠다고 답했다. 이 관계자는 예약확정요청서와 함께 명함을 보내곤 해당 가수가 와인을 먹고 싶다며 직접 주문해달라는 부탁도 했다. 내부 결제 규정상 현금으로만 구매 가능하니 자신들이 얘기해둔 와인숍에 현금 결제를 하면, 현장에서 음식값과 함께 와인값을 법인카드로 한꺼번에 계산해주겠다는 것이다.

매장에 와인이 있다고 말하자 관계자는 "가수가 꼭 지정하신 와인이 있어서 다른 제품으로 대체하기 어렵다"며 재차 부탁했다. 예약해놓고 나타나지 않는 노쇼 사기가 기승이기 때문에 "정말 와서 결제를 꼭 해주셔야 합니다"라고 답했다. 그러자 관계자는 위와 같이 날 선 반응을 보였다. 할 수 없이 보내준 와인숍 명함에 적힌 계좌로 300만원을 입금했다. 하지만 이는 사기였다. 관계자가 보낸 요청서, 명함, 와인숍 관련 정보 모두 가짜였다.

지금까지 설명한 사례는 생성형 인공지능(AI)이 기자의 반응에 맞춰 실제로 답변한 것이다. 국내 최초 생성형 AI를 활용한 디지털 금융사기 체험 예방 서비스 '하마터면'은 생성형 AI가 실제 사기범처럼 문자와 음성을 집요하게 보내며 사용자가 금융사기 상황에 마주하도록 구성됐다. 이를 개발한 금융 AI 기업 씽크풀의 김정민 리서치센터장은 사용자가 사기임을 알면서도 반복된 노출을 통해 금융사기에 대한 저항력을 키울 수 있다며 "경험을 많이 할수록 경험치가 축적돼 예방 효과가 생긴다"고 설명했다.

손영은 사단법인 금융과 행복 네트워크 이사가 디지털 금융사기 예방에 대한 특강을 진행하고 있다. 오규민 기자

'하마터면'은 2023년도 산업통상자원부 지식서비스 산업기술개발 과제의 일환으로 개발됐다. 씽크풀을 비롯해 사단법인 금융과 행복 네트워크, 프로눔, 한국전자기술연구원, 상명대학교가 공동 연구기관으로 참여했다. '하마터면'의 뜻은 한 끗 차이로 피싱을 피한 아찔한 순간에서 따온 이름이다.

개발진은 만 55세 이상 시니어 30여명을 대상으로 체험 행사를 17일 개최했다. 디지털 금융사기 예방에 대한 특강을 하고 난 이후 해당 서비스 체험이 진행됐다. 단순 강의식 교육에서 벗어나 체험을 통해 직접 피싱 상황을 겪어보며 대처법을 익히자는 취지다. 행사에 참여한 김모씨(61)는 "사기를 당하지 않으려고 해도 당할 수밖에 없는 느낌이었고 (AI의 답변이) 생생했다"고 말했다.

국내 최초 생성형 AI 활용 디지털 금융사기 체험 예방 서비스 '하마터면'의 화면 중 일부. AI 피싱 체험 사례 12개가 마련됐다. '하마터면' 웹페이지 갈무리

'하마터면'이 제공하는 금융사기 체험은 가상 정보를 입력하면서 시작된다. 연령대와 성별을 선택하면 가상 사용자 정보가 생성되는데, 사용자가 답변할 때 이 가상 정보에 기반해 말해야 한다. 글뿐만 아니라 음성으로도 대화가 가능하다. 시니어를 고려해 글자 크기도 키울 수 있다.

직접 체험한 사례는 '연예인 사칭 노쇼와 대납 요구형 보이스피싱'이지만, 현재 '하마터면'에 탑재된 금융사기 사례는 12개다. 오래된 사기 수법인 검찰·경찰 사칭이나 가족 납치 협박부터 최근 성행하는 코인 투자사기도 있었다. 체험 사례에선 기자가 대답을 조금씩 달리해도 AI가 계속 기자를 설득하는 말을 했다. 전화가 오면 벨소리도 울려 실제 상황과 유사했다. 체험이 끝나면 예방점수가 나온다. 사례 관련 사기 수법과 예상 피해, 대처·예방법 등도 표시된다.

디지털 금융사기 체험 예방 서비스 '하마터면'에선 생성형 인공지능(AI)가 사용자의 말에 따라 답변을 달리한다. '하마터면' 웹페이지 갈무리

정식 애플리케이션(앱)은 다음 달 이후 구글 플레이스토어 등에서 다운로드가 가능하다. 향후에는 다양한 목소리 개발과 함께 능동형 체험도 추가될 것이라고 개발진은 밝혔다. 예를 들어 고객 동의하에 AI가 불시에 전화하거나 문자를 보내 '딸이 잡혀있다'는 협박형 보이스피싱 상황을 만드는 것이다. 교육기관에서 이를 활용할 수 있도록 커스터마이징도 가능해질 것이라고도 했다. 정운영 금융과 행복 네트워크 이사장은 "시니어 대상 디지털 역량교육에도 활용할 수 있을 것으로 기대한다"며 "단순 전달식 교육을 넘어 체험형 교육을 통해 금융사기 예방에 실질적으로 도움이 될 것"이라고 밝혔다.

오규민 기자 moh011@asiae.co.kr