한문철도 어려운 AI 자율주행차 사고…보험업계 대비해야

보험硏 '인공지능 시대 보험의 역할과 과제' 보고서
"AI 고도화…보험법·책임법·규제법 제대로 마련해야"

인공지능(AI)을 탑재한 자율주행차가 주행 중 사고를 내면 누구 책임일까. 자동차 제조사·통신사·AI 설계업체·운전자 등 책임 주체가 아직 불명확하다. 우리나라에선 2020년 자동차손해배상 보장법을 개정해 부분자율주행(레벨3)에 대한 책임을 법제화했지만 조건부완전자율주행(레벨4) 이상의 책임법제는 아직 걸음마 단계다. 단순 자율주행차의 기술수준뿐 아니라 생성형AI 등 AI 기술 발전 속도가 비약적으로 빠른데다 철학적 담론까지 복잡하게 얽혀있어 법제화가 쉽지 않다.

보험업계에서도 AI가 화두다. 보험은 인간의 불안이나 위험을 위탁·관리하는 게 본질이다. AI는 금융·의료·교통 등 산업 전반에서 인간에 편의를 제공하고 있지만 또 다른 불안을 야기한다는 점에서 보험사엔 하나의 새로운 시장인 셈이다. 5일 보험연구원이 펴낸 '인공지능 시대 보험의 역할과 과제' 보고서에서는 보험업계가 앞으로 AI 시대를 대비하기 위해 보험법·책임법·규제법을 제대로 마련해야 한다고 강조한다. AI 발전 수준이 높아지면 기존 보험론이나 관련 법리가 적용되지 않을 가능성이 높기 때문에 장단기적인 법적 쟁점을 사전에 검토해야 한다는 설명이다.

지난달 출범한 보험상품 비교·추천 플랫폼은 AI 기술로 고객에게 적합한 보험상품을 찾아주는 서비스다. 앞으로 AI가 더욱 고도화되면 초개인화된 보험상품을 제공할 수 있을 전망이다. 다만 이 경우 상품에 대해 단체성을 전제로 하는 기존의 보험 법리가 적용 가능한지가 문제 될 수 있다. 보험은 동일한 위험에 놓인 다수인이 공동으로 해당 위험에 대비하는 제도이기 때문이다. 황현아 보험연구원 연구위원은 "보험사가 계약자별 위험도를 고도로 세분화해 상품을 운용하면 보험 소외계층을 양산하거나 고객 차별을 야기할 우려도 있다"면서 "이는 보험제도의 근간에 영향을 미치기 때문에 충분한 논의와 검토가 필요하다"고 말했다.

AI가 보험 가입 고객을 모집할 때 불완전판매가 발생하거나 보험금 지급심사를 부당하게 할 경우 누가 책임을 부담할지도 쟁점이다. 현재 우리나라에선 AI 개발업자와 AI를 이용해 영업하는 사업자가 각각 어떤 책임을 져야 하는지 초기 논의를 진행 중이다. AI 자체에 법인격을 부여하는 방안도 검토 중이다. 황 연구위원은 "AI 책임법 분야에서 책임 배분에 관한 사항이 정해지면 그 내용이 보험산업에도 동일하게 적용될 것"이라며 "다만 임직원의 모집 관련 불법행위에 대해선 보험사가 손해배상책임을 부담해왔기 때문에 AI에 의한 모집 관련 불법행위가 발생한 경우 보험사가 책임을 부담할 가능성이 높다"고 전망했다.

현재 보험업법과 금융소비자보호법 등에서 정한 영업행위 규제는 인간의 행위를 전제로 한다. 앞으로 AI가 인간의 업무를 대체하는 수준에 이르면 영업행위 규제도 달라져야 할 것으로 보인다. AI 규제와 관련해 우리나라는 2021년 금융분야 AI 가이드라인을 마련해 AI윤리원칙·AI전담조직·위험관리정책수립 등 3중 내부통제장치를 마련했다. 이후 보안 가이드라인 마련과 데이터 라이브러리 운영 등 후속 조치도 취해졌다. 다만 생성형AI의 급격한 확산에 따른 대책은 아직 미비하다. 황 연구위원은 "현재 AI 관련 규제방안은 일반법 차원에서 마련되고 있다"며 "금융·보험의 특성을 충분히 반영한 별도 규제법을 만들 필요가 있다"고 전했다.

미국에서는 전미보험감독자협회(NAIC)가 지난해 12월 보험사의 AI 활용 관련 가이드라인을 발표했다. 가이드라인에서는 책임 있는 AI 활용을 위한 내부통제규정인 AIS(Artificial Intelligence System) 프로그램을 마련하도록 했다. AIS 프로그램은 소비자 권익 침해 발생 가능성을 최소화하는 방향으로 설계돼야 하고 고위 경영진에 AI 개발과 구현, 감독 등에 대한 책임을 부여해야 한다. 가이드라인은 또 보험사에 데이터와 AI 시스템을 제공하는 제3자에 대한 보험사의 관리 방안도 제시하고 있다. 중소 보험사가 AI 시스템 제공자인 제3자에 대해 실질적으로 관리를 하는 게 어려울 수 있는 점을 고려해 이를 보완할 수 있는 방안을 마련하자는 취지다. 황 연구위원은 "AI 시대 보험산업은 AI를 적극 활용해 서비스를 고도화하면서도 소비자 피해가 발생하지 않도록 해야 한다"며 "앞으로 일반법과 개별법 제정 과정에서 AI가 야기한 위험에 대한 관리방안과 책임 귀속방안, 보상방안 등을 충분히 검토해야 한다"고 말했다.

최동현 기자 nell@asiae.co.kr