AI 챗봇 '이루다' 논란…"AI 리스크 대응하는 '전용보험' 개발해야"

보험연구원
'AI 리스크와 전용보험의 필요성' 보고서

[아시아경제 기하영 기자]성차별·혐오 발언으로 논란이 된 인공지능(AI) 챗봇 '이루다'처럼 AI 오작동과 오류로 인한 사고가 발생하면서 기업들의 AI 리스크 대응을 위해 관련 보험 개발이 필요하다는 지적이 제기됐다.

17일 보험연구원 발표한 'AI 리스크와 전용보험의 필요성' 보고서에 따르면, 최근 여러 기업들이 AI 기술을 도입·활용하면서 AI 리스크에 특화된 AI 전용보험의 개발이 요구되고 있다.

미국 시장조사 기업 가트너가 전 세계 89개국 3000명의 최고정보관리책임자(CIO)를 대상으로 진행한 설문조사에 따르면 지난 4년간(2015~2019년) 'AI 기술을 활용하고 있다'고 응답한 기업의 수는 10%에서 37%로 증가했다. 구글·제너럴모터스(GM)·파이저 등 글로벌 기업 91.5%는 'AI 기술에 지속적으로 투자하고 있다'고 답했다.

그러나 AI 기술 도입이 단기간에 급격하게 증가함에 따라 AI 실패 우려가 제기되고 있다. 이전에는 예상할 수 없었던 AI 오작동과 오류로 인한 새로운 종류의 사고들이 발생하고 있어서다. 실제 최근 국내 스타트업이 개발한 챗봇 이루다가 잘못된 알고리즘 데이터 학습으로 인해 성차별, 사회적 약자 혐오 발언으로 논란이 돼 해당 회사는 서비스를 잠정 중단했다. 미국에서는 승차공유업체 우버(Uber)의 자율주행차 알고리즘 오작동으로 보행자가 신체상해를 입고 사망한 사건도 발생했다.

보고서는 글로벌 기업들의 AI 리스크 인식과 대응수준이 낮은 것으로 평가되는 만큼 기업들이 효율적으로 AI 리스크에 대응할 수 있도록 관련 보험을 개발하고 활용할 필요가 있다고 지적했다. 특히 현재 판매되는 사이버 보험은 AI 리스크 중 데이터·보안 관련 위험만 보장하고 있기때문에, AI 알고리즘 결함으로 인한 신체 상해, 브랜드 훼손 등의 물적 손실을 보장받을 수 없다.

동시에 보험사 자체적으로도 AI 리스크를 대비해야 한다는 지적도 나왔다. 현재 보험회사의 AI 기술 활용이 가장 활발한 분야는 AI 챗봇을 활용한 고객상담 서비스다. 보험계약 조회와 보험계약 유지관리, 보험료 납입 및 이체관리, 보험금 청구와 보험계약대출 안내, 고객지원 업무 등 보험가입자의 상담빈도가 높은 분야를 중심으로 서비스가 이뤄지고 있다.

보고서는 "우리나라 보험사들도 AI 챗봇을 고객상담에 활용하고, 보험사기 예방을 위해 AI 기술을 적용하는 등 AI 기술 도입이 증가하고 있다"며 "보험사도 자체적으로 AI 리스크에 대비해야 한다"고 조언했다.