"은행 AI 급속 확대에 리스크도 커져…감독 강화해야"

글로벌 금융사 AI도입 크게 확산
AI로 인해 편리해졌지만 그만큼 위험도 커져
각국 AI 관리감독도 강화하는 추세

은행을 비롯한 금융권에 인공지능(AI) 도입이 급속도로 퍼지면서 관련된 리스크(위험)도 커지고 있어 관리·감독을 강화해야 한다는 주장이 제기되고 있다.

금융분야 AI 시장 규모 10년새 10배 이상 증가 전망

2일 자본시장연구원과 국제금융센터 등에 따르면 최근 글로벌 금융사들이 고객서비스, 금전거래, 내부 운영 관리 감독 등 다양한 영역에서 AI를 광범위하게 활용하고 있다.

시장 조사기관 그랜드 뷰 리서치에 따르면 글로벌 금융 분야의 생성형 AI 시장 규모는 2023년 8억4750만달러에서 2024년에는 10억달러를 넘어섰고 계속 증가해 2033년에는 104억330만달러 규모에 다다를 것으로 전망된다. 금융기관들은 AI를 고객과의 커뮤니케이션에 가장 많이 활용하며, 알고리즘 트레이딩, 로보어드바이저, 감독, 거래 처리 순으로 적용하고 있는 것으로 조사됐다.

국내 은행도 AI 사용을 지속해서 늘리고 있다. 시중 은행들은 단순한 AI 챗봇 상담 서비스에서 벗어나 AI 은행원을 만들어 투자상품 판매부터, 계좌 입출금, 증명서 발급 등 다양한 은행 서비스 업무를 시작했다. 직원이 필요 없는 AI 무인점포까지 확산하는 분위기다.

해외 금융권의 AI 사용도 빠르다. 미국의 10대 상업은행은 모두 고객 서비스의 한 형태로 AI 챗봇을 운용 중이다. 생성형 AI를 사용해 보다 정교하고 대화 능력이 강화된 챗봇 서비스를 제공하는 데 중점을 두고 있다. 중국의 경우 작년부터 30여개 주요 은행들이 딥시크AI 기술을 도입해 내부 운영 효율성 향상 및 비용 절감, 고객 서비스 품질 개선 등을 추진 중이다.

글로벌 투자은행(IB)은 거래 전략 수립과 주문 실행 등 알고리즘 트레이딩 및 투자의사 결정에 AI를 적극적으로 활용하고 있다. 대출 심사에도 적극적으로 활용하면서 직원들의 업무 부담을 경감시키고 차주에 대한 정확한 신용위험 평가를 지원한다.

AI 사용 확산하면서 금융시장 신뢰 저해 우려도 커져

하지만 금융권 AI 활용이 급속히 확대되면서 그에 따르는 위험 요인도 부각된다. AI를 활용한 딥페이크나 해킹, 허위정보 등이 보안에 위협을 가하면서 금융시장의 신뢰를 저해할 수 있다. 금융회사들이 직접 AI를 개발하기보다 외부 기술에 의존하는 경향이 커지면서 소수 공급자에 대한 집중도 위험으로 금융 불안정성이 커질 가능성도 높다. AI 모델의 성능 저하 및 잘못된 결과 도출로 인해 금융사의 손실 및 평판 훼손을 초래할 소지도 있다.

이에 따라 각국의 금융당국은 AI 활용 확대에 따른 위험을 대비하기 위해 규율 체제 정비와 강화에 나섰다. 미국의 금융안정감독위원회(FSOC)는 생성형 AI의 정확성을 평가하기 위해서는 기존과는 다른 별도의 전문 분석이 필요할 수 있다며 관련 연구를 진행 중이다. 영국 금융감독청(FCA)도 AI 연구실을 설립하고 금융사, 이해관계자들이 참여해 AI 규제에 대해 논의 중이다. 유럽 및 일본, 싱가포르, 호주, 캐나다 등은 AI의 특수성 및 고위험성을 반영해 별도의 특화 된 가이드라인 마련하고 있다.

우리나라도 작년 말 금융위원회를 중심으로 금융권 생성형 AI 활용 지원 방안을 발표하며 AI 활용 확산에 따른 활용 상의 문제점을 파악하고 이를 해결하기 위한 지원 방안을 마련 중이다. 금융당국은 AI 관련 규제의 모호성을 보완하는 가이드라인을 마련할 계획이다.

홍지연 자본시장연구원 선임연구원은 "AI가 금융권에 확산하면서 해외 주요국들은 기존 금융 규제 적용을 기본으로 하되 AI 특화 가이드라인과 원칙을 보완하고 모니터링 역량을 강화하는 방향으로 대응하고 있다"며 "국내에서도 금융권 AI 플랫폼 구축 및 금융 분야 특화 데이터 지원, 관련 가이드라인 개정을 추진하고 있으며 이를 통해 금융 분야의 AI 활용에 따른 불확실성을 해소해 나가야 한다"고 밝혔다.

이창환 기자 goldfish@asiae.co.kr