감염률 11%→0%, 기적을 만든 메모 한장[AI오답노트]

(27) 체크리스트로 수 백만 달러 효과
최소한의 결과 보장하는 '규칙'의 힘
그러나 '혁신'엔 한계…AI 도입 장애물

편집자주실패를 살펴보는 것은 성공으로 가는 지름길입니다. 'AI오답노트'는 AI와 관련한 제품과 서비스, 기업, 인물의 실패 사례를 탐구합니다.

노트북 앞에 앉아있는 사람이 체크리스트 상자에 체크 표시를 하는 모습. 게티이미지뱅크

"미국에서만 매년 4만명이나 이런 감염병으로 사망한다고?"

존스홉킨스 병원 마취과 피터 프로노보스트(Peter Pronovost)는 교수는 매년 4만명이 정맥 주사관 감염으로 사망한다는 사실이 의아했습니다.

내부 자료를 보니, 병원 중환자실에서만 환자 10%가 감염으로 고통받고 있었죠. 치료를 위해 병원에 왔는데, 오히려 새로운 질병에 걸리는 아이러니한 상황인 셈입니다.

프로노보스트 교수는 해결책을 모색합니다. 그리고 놀랍게도 성공했죠. 혼자서 백신이라도 개발한 걸까요? 아니면 혁신적인 의료 장비를 만든 걸까요? 아닙니다. 메모지 한 장짜리, '체크리스트' 였습니다.

그는 다섯 가지를 체크리스트로 정리했습니다.

감염 가능성을 줄이기 위한 행동수칙

1. 비누로 손을 씻는다.
2. 소독제로 피부 닦기
3. 멸균 덮개 사용하기
4. 마스크와 장갑, 모자, 가운 착용하기
5. 시술 부위 멸균 드레싱 씌우기

의료진이면 당연히 기본적으로 아는 내용이죠. 하지만 분초를 다투며 돌아가는 매일의 상황에서, 가끔 하나둘 빼먹는 일이 있었습니다. 프로노보스트 교수는 체크리스트를 의료진에게 배포했고, 꼭 지켜달라고 했습니다.

놀랍게도, 체크리스트 도입 후 27개월 새 감염률이 11%에서 0%대로 떨어졌습니다. 이 기간 감염 사례는 단 두 건에 불과했죠. 병원은 체크리스트 덕분에 43건의 감염과 8명의 사망을 예방했고, 약 200만 달러를 절약했다고 추산했습니다.

보잉777의 체크리스트 예시. 보잉

체크리스트의 힘을 보여주는 놀라운 사례는 또 있습니다.

1935년 미 육군 항공대는 최첨단 폭격기 B-17을 도입하고자 했습니다. 그런데 추락 사고가 발생합니다. 최첨단 기술을 한데 모으다 보니 조작이 어려웠나 봅니다. 사고 원인 조사에서 '조종사가 기체를 다루기 너무 복잡하고 어렵다'는 결론이 나왔죠.

도입이 무산될 위기에 놓입니다. 대안은 '체크리스트' 였습니다. 조종사들이 기체를 다루며 지켜야 할 원칙을 정리한 체크리스트였죠. 그 이후 B-17은 단 한 번의 사고도 없이, 180만 마일을 비행합니다. 그리고 2차 세계대전에서 놀라운 전과를 올리죠.

규칙의 힘 : 최소한의 결과를 보장한다, 최악의 결과를 막는다

한 사람이 펜으로 체크리스트 박스에 체크 표시를 하고 있다. 픽사베이

기업, 조직은 규칙을 만듭니다. 체크리스트도 그 형태의 하나죠. 인간의 기억력과 주의력은 완벽하지 않습니다. 특히 스트레스 상황에서는 중요한 걸 놓치기 쉽습니다. 체크리스트는 바로 그런 인간의 약점을 보완합니다.

규칙과 체크리스트는 ▲중요한 단계를 놓치지 않게 합니다. ▲스트레스 상황에서도 집중할 수 있게 도와줍니다. ▲모든 사람이 일관된 방식으로 일하게 합니다. ▲그래서 사람에 따른 결과의 편차를 줄여줍니다.

이처럼 규칙·체크리스트는 오류를 최소화하고 일관된 결과를 얻는 데 도움을 줍니다. 항공 산업, 의료 현장, 원자력 발전소 등 실수가 치명적인 결과로 이어질 수 있는 분야에서는 특히 중요하죠.

체크리스트의 한계 : 혁신은 불가능하다

한 사람이 노트에 체크리스트를 기록하고 점검하고 있다. 픽사베이

이러한 장점에도 불구하고, 체크리스트와 규칙에는 치명적인 단점이 있습니다.

인간은 모두 다릅니다. 상황도 다양하죠.. 모든 경우에 똑같은 규칙을 적용하는 것은 비효율적일 수 있습니다. 규칙은 효율성을 희생한 대가죠. 규칙은 최악의 시나리오를 확실하게 막아주지만, 때론 불필요한 제약이 되기도 합니다.

규칙은 변화에 대한 적응력을 갉아먹습니다. 한번 만들어진 규칙은 바꾸기 쉽지 않죠. 새로운 상황에 맞게 업데이트되기까지 시간이 걸립니다.

그래서 더 나은 판단, 더 나은 의사결정의 가능성을 원천적으로 차단합니다. 규칙이 있는 곳에서는 판단할 필요 없어집니다. 그저 정해진 규칙을 따르면 되니까요. 그리고 그게 가장 안전하기도 합니다. 매뉴얼을 따랐다면, 결과가 나빠도 책임을 면할 수 있습니다.

그러나 이런 상황이 결코 최선은 아닐 겁니다. 각 상황의 특수성과 불확실성을 고려한, 더 나은 의사결정의 기회를 놓치게 된 셈이니까요.

AI의 핵심기능 '예측', 규칙에 발목이 잡히다

인간과 AI를 상징하는 이미지. 게티이미지뱅크

앞서 인공지능의 본질은 무엇일까요?

그것은 앞서 6번째 에피소드("우리도 그 AI로 뭐 좀 만들어 봐"라는 상무님)에서 살펴본 바대로, '예측'입니다.

AI는 패턴을 인식하고, 데이터를 분석하며, 미래 상황을 예측합니다. 이를 통해 더 나은 의사결정이라는 가치를 창출합니다.

이런 AI 시스템이 효과적으로 작동하려면 핵심적인 전제가 있습니다. 예측을 했다면, 그 예측을 바탕으로 실제 의사결정에 영향을 미칠 수 있어야 한다는 겁니다. 최고의 결과를 보장하는 예측을 내놨는데, 매뉴얼에 어긋나기 때문에 그 예측을 실현할 수 없다면, 그 예측은 무용지물이죠. 즉, 모든 것이 규칙으로 고정된 환경에서는 AI의 예측가치가 제한되는 것이죠.

AI 혁신의 가장 큰 장애물 중 하나는 바로 기존의 '규칙'입니다. AI를 도입하려는 기업들이 직면한 도전, 그리고 좌절하는 주요 단계가 바로 이 지점입니다.

코로나19 팬데믹 상황은 규칙과 예측 사이의 긴장 관계를 극명하게 보여주는 사례입니다.

팬데믹이 발생하자, 세계 각국은 '사회적 거리두기'라는 엄격한 규칙을 도입합니다. 이동에 제한이 걸리고, 학교, 직장, 상점 등이 모조리 폐쇄됐죠. 경제가, 사회가 완전히 멈춰 섰습니다. 이러한 규칙은 팬데믹의 확산을 늦추는 데 분명 도움이 되었습니다. 동시에 막대한 경제적, 사회적 비용을 초래했죠.

만약 AI 기반 예측 시스템이 더 활발히 활용되었다면 어땠을까요? 개인별, 지역별 위험도를 더 정확히 예측하여 차별화된 대응이 가능했을 겁니다. 전세계의 경제활동을 일시에 정지시키지 않고, 일부는 돌아가게 할 수 있었죠. 의료 자원을 효율적으로 배분하여 의료 시스템 과부하도 막을 수 있었을 것입니다. 그래서 방역과 경제 사이의 더 나은 균형을 찾을 수 있었을 겁니다.

'규칙'기반에서 '의사결정 기반'으로

사람들이 책상 위에서 태블릿PC를 보며 회의를 하고 있다. 게티이미지뱅크

체크리스트와 규칙은 불확실성을 관리하는 최선의 방법이었습니다. 여전히 여러 분야에서, 우리의 일상에서 중요한 역할을 합니다.

그러나 AI 시대에는 불확실성을 규칙으로 틀어막는 대신, 예측을 통해 더 효과적으로 관리할 수 있게 됩니다. 물론 모든 규칙을 폐기해야 한다는 뜻이 아닙니다. 도박을 할 필요는 없습니다. 사규, 계약, 조약, 각종 규칙은 분명 대체될 수 없는 그만의 가치가 있습니다.

대신, 규칙의 한계를 재확인하고, 그 역할과 범위를 재정의할 필요가 있습니다.

▲핵심 규칙 구별하기 : 모든 규칙이 동등하게 중요한 것은 아닙니다. 정말 필수적인 규칙과 조정 가능한 규칙을 선별할 수 있습니다.

▲규칙의 목적 이해 : 각 규칙이 달성하려는 목표가 무엇인지 파악해보세요. 목적을 달성하기 위한 더 효과적이고 분명한 방법이 있다면, 규칙을 우회해도 괜찮습니다. 규칙 지키기, 그 자체가 목적이 되어선 안 됩니다.

▲점진적 전환: 모든 규칙을 한 번에 없애는 것은 위험합니다. 낮은 위험의 영역부터 AI 의사결정을 시험하면서, AI의 영역을 확대해나가야 합니다.

▲결과 측정과 비교 : 규칙 기반 접근법과 AI 기반 접근법의 결과를 객관적으로 비교하고 평가할 수 있습니다. AI 접근법이 오히려 더 나쁜 결과를 낼 가능성도 충분히 있습니다.

기업이 AI 혁신을 진정으로 맞이하려면, 기존의 규칙과 의사결정 과정을 재검토하는 과정은 필수적입니다. 규칙이 AI의 예측 가치를 제한하고 있는지, 또는 예측을 통해 더 나은 의사결정을 내릴 수 있는 기회를 놓치고 있는지 살펴봐야 합니다.

미래는 규칙에 기반을 두기보다는, 더 자주 예측하고 더 정확히 예측하는 기업의 시대가 될 가능성이 높습니다. 이러한 변화에 적응하는 기업은 AI 혁명의 과실을 더 많이 차지하게 되겠죠.

김동표 기자 letmein@asiae.co.kr