'3분 진료' 의사 따위 AI로 대체하자는 생각 [AI오답노트]

⑫ AI, 과업 단위 능력은 뛰어날 수 있지만
직업은 단순히 과업의 합계가 아닌 '시스템'
IBM, 과업 대체만 보고 뛰어들었다가 혼쭐

편집자주실패를 살펴보는 것은 성공으로 가는 지름길입니다. 'AI오답노트'는 AI와 관련한 제품과 서비스, 기업, 인물의 실패 사례를 탐구합니다.

AI는 의료계에서도 뜨거운 주제입니다. 게티이미지뱅크

"진료 꼴랑 3분 보고 돈 쓸어가는 의사 따위 이참에 인공지능(AI)으로 대체해 버리자!"

의료 개혁을 둘러싼 정부와 의료계 간 갈등은 끝을 알 수 없습니다. 진료 불편을 겪는 환자는 물론이고, 잠재적 환자인 시민들은 현 상황에 분노를 감추지 못하고 있습니다. 위 인용문은 의정 갈등을 다룬 한 기사에 달렸던 댓글입니다. 수많은 '좋아요'가 붙었죠.

국내 환자들은 의사들에게 불만이 많습니다. 지난해 5월 14일 국회에서 공청회가 열렸습니다. 주제는 '국민이 원하는 의료시스템 시나리오' 였습니다. 불만 접수 1위는 '3분 진료'로 대표되는 '짧은 소통'이었습니다. 이는 의대 증원 찬성 여론에도 영향을 미친 것으로 나타났습니다.

그렇다면, AI는 정말로 의사를 대체할 수 있을까요? 의사는 AI로 인한 직업적 위험에 얼마나 노출되어 있을까요?

AI의 대부 “방사선 의사 수련 중단해야…AI가 더 낫다”

노벨물리학상 수상자이자 AI 석학인 제프리 힌턴은 이런 말을 한 적이 있습니다.

"방사선 전문의가 되고자 한다면…이는 발아래 디딜 곳이 없다는 걸 모르는 것과 같다.
이제는 방사선 전문의 훈련을 중단해야 한다.
5년 이내에 딥러닝이 방사선 전문의를 앞설 것이라는 점은 거의 분명한 사실이다."

방사선 전문의는 영상을 판독해 의학적으로 문제가 될 만한 이상징후를 탐지합니다. AI 전문가인 힌턴이 보기에, 이는 분명 AI가 더 잘할 일이었죠. 머신러닝 기술은 시각 이미지와 영상에서 특이점을 찾아내고 판별하는 일을 탁월하게 해냅니다. 심지어 학습량이 늘수록 더욱 정확도가 높아지죠.

챗GPT 개발사 오픈AI의 공동창업자 겸 사장인 그렉 브록먼(Greg Brockman)은 지난해 11월 17일(현지시간) 본인의 X(옛 트위터) 계정에 "질병 진단의 정확성에 관한 흥미로운 소규모 연구결과가 나왔다"며 뉴욕타임스(NYT)의 기사 링크를 올렸습니다.

기사 내용은 챗GPT가 질병 진단에서 인간보다 더 뛰어난 결과를 보였다는 겁니다. 기사에 따르면, 인간 의사의 진단 정확도는 74%, 챗GPT를 사용한 의사는 76%였습니다. 챗GPT 단독으로 진단했을 때는 얼마였을까요. 놀랍게도, 90%였습니다.

AI를 활용한 암 발견율이 인간 의사보다 15% 더 높다는 연구 결과도 있습니다. 국내 의료AI 기업 루닛은 미국 시카고에서 열린 ‘2024 북미 영상의학회(RSNA 2024)’에서 자사의 유방암 진단 AI 솔루션인 ‘루닛 인사이트 MMG’가 지난 2일 밝힌 내용입니다.

연구는 스웨덴 최대규모 사립병원 ‘카피오 세인트괴란 병원’이 진행했습니다. AI 도입 전(2018년 7월~2019년 3월)까지의 환자 검진 데이터와 AI 도입 후(2023년 7월~ 2024년 3월)에 검진을 받은 5만 5000여명의 데이터를 비교 분석했죠.

AI 도입 전 수검자 1000명당 암 발견율(CDR)은 4.8명이었습니다. 도입 후는 5.5명이었습니다. 15% 증가한 수치죠. 이상 소견 이후 추가적인 검사를 위해 환자를 다시 소환하는 리콜률(Recall rate)은 2.8%에서 2.5%로 11% 낮아졌습니다.

인간 의사의 또 다른 약점 ‘인지적 편향’

인간 의사는 또한 인지적 편향이라는 약점을 갖고 있습니다. 심리학자로 노벨경제학상을 수상한 대니얼 카너먼은 책 ‘생각에 관한 생각’에서 인간의 인식이 얼마나 오류투성이인지 설명합니다.

폐암 환자와 의사에게 수술과 방사선 치료법이라는 두 선택지를 제시합니다. 수술은 생존율이 더 높지만, 방사선 치료와 달리 즉사할 위험이 있습니다.

이때 수술 성공률이 90%라 말하면 환자의 82%가 수술을 택했습니다.

그런데 사망률이 10%라고 말하면, 똑같은 확률을 달리 표현했을 뿐인데도, 환자의 54%만이 수술을 택했죠. 목숨이 달린 결정인데, 사람들은 확률 그 자체가 아니라 확률이 표현되는 방식에 영향을 받았던 거죠.

환자만이 아니라 의사도 마찬가지였습니다. 많은 외과의사는 환자에게 수술 사망률이 10%라고 말하기보다, 수술 생존율이 90%라 말했죠.

한국은행은 지난 7월 ‘AI와 노동시장 변화’ 보고서를 냈습니다. 공교롭게도, 의사는 AI에 의해 대체될 가능성이 큰 것으로 분석됐습니다. 한국은행이 근거로 삼은 AI 노출 지수는 현재 AI 기술로 수행할 수 있는 업무가 해당 직업의 업무에 얼마나 집중돼 있는지를 나타낸 수치로, 일반 의사와 한의사의 AI 노출 지수가 상위 1％ 이내에 들었죠.

AI 의사가 죽 쑤는 까닭 : 직업은 과업의 합이 아닌 ‘시스템’

수많은 기업들이 AI와 의료를 결합했고, 이러한 도전은 '의료 혁명'으로 많은 찬사를 받았습니다. 그러나 현실은 냉혹했습니다. 게티이미지뱅크

이런 연구결과, 보고서만 보면 AI가 진작에 의사를 대체했어야만 할 것 같습니다. 현실은 어떤가요.

네, 대체되지 않고 있습니다. 오히려 AI 의료에 뛰어든 기업이 휘청이는 사례까지 나오죠.

IBM이 2015년 출시한 왓슨(Watson)이 대표적입니다. 왓슨은 클라우드 기반 인공지능 플랫폼으로, 환자의 증상을 입력하면 과거 수십 년간 확보된 임상 사례는 물론 수십만 페이지에 달하는 전문 자료를 검색, 환자에게 가장 적합한 치료법을 제시했습니다. '의료 혁명', '의학의 미래' 등 찬사와 기대감이 넘쳐났죠.

IBM의 AI 의료 사업은 그러나, 좀처럼 상승 궤도에 올라서지 못했습니다.

2022년 1월, IBM은 결국 의료 AI사업부인 왓슨헬스를 미국계 사모펀드 프란시스코파트너스에 매각합니다. 2015년 IBM 연간 보고서에 따르면 IBM은 왓슨 관련 사업에 150억달러(약 17조9000억원) 이상 투자했습니다. 특히 의료 영상 분석 회사들을 인수하는 데만 40억달러(약 4조8000억원)가 넘는 자금을 썼죠. IBM 내부 관계자는 이렇게 말했습니다.

“우리는 그게 쉬울 것이라 생각했지만...너무도 어려운 일이었다.”

IBM의 원대한 계획 실현의 발목을 잡은 건 무엇이었을까요. 데이터 오류, 진단 오류, 윤리적 문제, 입법 부재, 규제 등 여러 문제가 있긴 하지만, 본질적인 답은 아닙니다. ‘AI로 무엇을 대체할 것인가’라는 질문에 대한 답이 틀렸기 때문입니다. 그간 의료용 AI는 ‘과업’을 대체하려고 해왔습니다. 그러나 과업은 직업과 다릅니다.

일반적으로 직업은 수십 개의 과업으로 구성돼 있죠. 방사선 전문의의 업무는 단순 영상 판독을 포함해 30여 개에 달한다고 합니다. AI를 통한 맞춤형 의료를 상상하는 건 쉬운 일일 수 있지만, 그걸 실현하려면 많은 인원과 조직의 역할이 바뀌어야 합니다.

환자와의 직접 소통과 상담, 타 의료진과의 협력적 논의, 복잡한 사례에 대한 임상적 판단, 치료 계획 수립 참여, 의료 윤리적 판단, 법적 책임과 의사결정, 의료 기록 관리와 보고서 작성, 신진 의료진 교육과 멘토링 등 복잡한 과업들을 포함하죠.

즉 직업이란 단순히 과업들의 집합이 아니라, 복잡하게 얽힌 책임과 역량의 네트워크입니다. AI가 특정 과업에서 인간보다 뛰어난 성능을 보인다고 하더라도, 그것이 곧바로 직업 전체의 대체로 이어지지는 않는 이유입니다.

AI는 단순화된 과업을 대체할 수 있지만, 과업과 과업, 과업과 직업을 잇는 시스템을 대체하진 못하고 있습니다. 게티이미지뱅크

AI로 직업을 바라볼 때, ‘과업 단위’의 사고는 혁신을 방해하는 오류입니다. 스탠퍼드대학교의 티머시 브레스나한 교수는 ‘시스템 중심적 사고’의 중요성을 강조합니다.

“AI 능력을 과업단위로 분할하면 과거 신기술의 급진적 수용을 이끌었던 동력, 즉 시스템 차원의 변화를 외면하게 될 것이다.”

1980년대 컴퓨터 도입 시기를 예로 들 수 있습니다. 단순히 타자기를 컴퓨터로 교체한 기업들은 제한적인 생산성 향상만을 달성한 반면, 업무 프로세스 전체를 재설계한 기업들은 훨씬 더 큰 성과를 거뒀죠.

IBM은 당시로선 분명 뛰어난 선구적인 AI 기술을 보유하고 있었죠. 그러나 의료 시스템 전체를 이해하고 혁신하는 데는 실패했습니다. 단순히 의료 데이터를 분석하고 질병을 진단하는 AI를 만드는 것만으로는 복잡한 의료 시스템을 혁신할 수 없었던 것이죠.

AI가 산업 현장에 성공적으로 안착하려면 직업의 의미와 조직·기업의 시스템적 변화가 뒤따라야 합니다. 게티이미지뱅크

이러한 실수는 다른 분야에서도 반복되고 있습니다. AI를 도입하려는 콜센터 현장을 볼까요. 어떤 기업들은 AI 챗봇이 단순문의 응대를 잘한다는 이유만으로 상담원을 줄입니다. 그러나 이는 브레스나한 교수의 통찰에 비추어 보면 근시안적인 접근입니다. AI와 상담원의 역할을 새롭게 정의하고, 더 나은 고객 경험을 만들어내는 시스템적 혁신의 가능성을 놓치고 있기 때문입니다.

예를 들어, AI가 1차 응대를 하면서 대부분의 단순 상담 업무를 대신합니다. 아울러 이 과정에서 수집한 데이터로 고객의 니즈를 더 깊이 이해하고 데이터베이스화할 수 있죠. 인간 상담원들은 2차 응대자로서 복잡한 문제해결과 감정적 지원에 집중하는 방식으로 응대할 수 있습니다. 새로운 고객을 확보하는 기회를 만들어낼 수도 있죠.

기업들은 방사선 전문의와 IBM, 그리고 이러한 사례들을 반면교사로 삼을 필요가 있습니다. AI 도입은 단순히 특정 과업을 대체하는 것이 아니라, 조직 전체의 업무 방식과 가치 창출 방식을 고민하는 기회가 되어야 합니다.

AI 시대의 진정한 혁신은 ‘과업의 대체’가 아닌 ‘시스템의 재구성’에서 시작됩니다. 이는 단순히 "AI가 어떤 일을 대체할 수 있는가?"라는 질문을 넘어, "AI를 활용해 어떻게 더 나은 시스템을 만들 수 있는가?"라는 본질적인 질문으로 나아가는 걸 뜻합니다.