[과학을 읽다]"AI 의료사고 누가 책임지나요"

의료 미래기술 부작용 고민해야

[사진=아시아경제DB]

[아시아경제 정종오 기자] 갈수록 영역 간 경계가 무너지고 있습니다. 융합시대를 맞았습니다. 과학과 의학도 별반 다르지 않습니다. 인공지능(AI) 로봇 의사인 '왓슨'이 인간 의사와 함께 협진을 하는 시대에 서 있습니다. IBM의 로봇의사 '왓슨'을 국내 병원에서 도입하고 있습니다.

새로운 시스템이 도입인 만큼 법적, 윤리적, 의학적 문제가 없겠느냐는 비판적 관점이 존재합니다. 새 시스템에 맞는 제도적 장치가 없다면 의료윤리 문제를 미리 논의하고 대비해야 된다는 목소리가 높습니다. 어떤 이슈를 다뤄야 하고 어떤 토론이 필요할까요.

◆"AI는 대세이다"=국내 병원에서 '왓슨'을 처음 도입한 곳은 가천대길병원입니다. 이언 가천대길병원 인공지능기반 정밀의료추진단장은 "왓슨을 통한 최고품질의 치료를 제공할 것"이라며 "진단 오류를 줄이고 검사 남용을 방지할 수 있는 최적의 시스템"이라고 추켜세웠습니다. 왓슨은 2011년 미국 제퍼디 퀴즈왕에 도전했고, 2012년부터 의료분야에 적용됐습니다.

이 단장은 "왓슨은 앞으로 빅데이터와 결합하면서 암 진료를 넘어 고혈압, 당뇨, 난치성 신경질환 등으로 영역을 확대할 것"이라며 "정치, 경제민주화와 함께 이젠 의료 민주화를 이루는데 중요한 역할을 할 것"이라고 설명했습니다. 가장 첨예한 문제가 되고 있는 개인정보 취급에 대해서 이 단장은 "IBM이 수집된 환자정보를 상업적 용도로 이용하지 않겠다고 계약에 명시했다"는 말로 대신했습니다.

◆"AI 진단 오류 책임은 누가?"=그럼에도 책임과 책무 문제는 짚고 넘어가야 한다는 지적이 많습니다.

이중원 서울시립대 철학과 교수는 "인간 의사가 왓슨의 도움을 받아 의학적 진단을 내렸는데 의학적 오판에 따라 손실이 발생할 경우 책임의 분배문제가 당연히 발생할 수밖에 없다"고 말했습니다. '로봇 의사 왓슨-인간 의사'는 일종의 다중 행위자 시스템이라는 설명입니다. 이 교수는 "이 경우 인간에 의해 완전하게 통제되지 못한 상황이기 때문에 인간에게만 도덕적 책임을 물을 수는 없다"고 주장했습니다.

이 교수는 "인간에 적용되는 책임 개념과 다른, 즉 왓슨과 같은 비인격적 행위자들(분석 알고리즘+네트워킹과 클라우드컴퓨팅+빅데이터 등)에 적용하기 위한 도덕적 책무 개념이 필요하다"고 강조했습니다. '왓슨'과 같은 비인격적 행위자들의 역할과 활동 영역 등에 대한 사회적 규범이 있어야 한다는 것으로 이어집니다.

단지 IBM이 환자정보를 상업적으로 이용하지 않겠다는 계약을 했다고 해서 개인정보가 안전한 것도 아니라고 이 교수는 분명히 했습니다. 이 교수는 "왓슨이 조력자로서 역할을 충실히 하기 위해서 빅데이터가 기본이 될 수밖에 없다"며 "왓슨이 이 같은 빅데이터를 수집·분석·처리하는 과정에서 개인 정보와 기밀유지가 보장돼야 하고 이러한 정보는 수집되거나 동의된 목적들 이외의 다른 목적에 사용되면 안 된다"고 못을 박았습니다. 이를 위반했을 때 어떻게 할 것인지 사회적 규범이 필요하다는 주장으로 연결됐습니다.

정채연 포항공대 인문사회학부 교수는 "왓슨의 오류로 인한 의료사고의 경우 제조물책임법에만 의존하는 데에는 한계가 있을 것"이라며 "실질적으로 의료사고책임보험을 통해 손해의 전부가 보상되도록 법 정책이 뒤따라 한다"고 주문했습니다.

◆"AI가 사람을 등급화 하는 것 아냐?"=왓슨의 활용으로 인간의 몸이 등급화하고 진료의 부익부빈익빈 현상이 더 커질 것이란 우려도 나왔습니다.

▲가천대길병원 전문의가 환자와 함께 왓슨으로 진단과정을 지켜보고 있다.[사진제공=가천대길병원]

박혜경 충남대학교 사회학과 교수는 "데이터에 기반을 둔 몸의 수치화는 몸의 품질에 대한 등급화, 나아가 사회적 차별로 이어질 수 있는 근거로 악용될 가능성이 없지 않다"고 했습니다. 이어 "'건강한 몸' '불건강한 몸' '병든 몸' 등으로 몸의 질서가 위계화화면 개인들에게 부여된 신체등급의 부정적 라벨(label)은 학업, 취업 과정에서 차별 근거로 활용되거나 보험료 할증과 같은 형태로 경제적 부담을 더 가중시킬 것"이라고 전망했습니다.

또 박 교수는 "인공지능 의료는 높은 정확·정밀도에 힘입어 건강수명을 연장하려는 사람들이 선호할 것으로 보인다"며 "이 같은 의료 기술적 수혜가 보편화되기는 어렵고 일반적으로 고가의 의료비를 지불해야 하는 상황에 직면하고 이를 감당할 수 있는 사람들이 이용할 것"이라고 진단했습니다.

박 교수는 "인공지능이 의료적으로 활용되는 과정에서 등장할 것으로 예상되는 가장 큰 기술적 문제는 오작동"이라며 "인간 의사와 인공지능 간의 판단 불일치, 인공지능의 오진과 오류가 발생한다면 이의 법적 책임을 둘러싼 공방을 피할 수 없는데 이에 대한 세밀한 법제도화의 필요성이 요구된다"고 진단했습니다.

◆"AI 시대, 준비해야 할 것은?"=이 같은 AI 기술 발전에 따른 의료계의 변화와 윤리 문제를 대비하기 위해 보건복지부는 제1회 국가생명윤리포럼을 지난 21일 개최했습니다. 정기적으로 관련 포럼을 열 예정입니다.

이를 통해 인공지능 등 미래기술이 의료계에 활용되면서 발생하는 변화와 부작용을 방지하기 위한 제도 개선을 고민한다는 전략입니다.

김강립 복지부 보건의료정책실장은 "이번 포럼을 계기로 우리나라가 4차 산업혁명의 미래 기술 발전을 능동적으로 주도해 나가는 계기를 조금씩 마련할 것"이라며 "정부도 윤리와 과학이 균형적으로 발전해 국민의 생활을 더욱 윤택하게 할 수 있도록 적극 협조하겠다"고 말했습니다.

정종오 기자 ikokid@asiae.co.kr