조코비치도 대부분 진다…그러나 결국 이긴다 [AI오답노트]

포인트 승률, 하위권 선수 비슷한 50%대
그러나 매치 승률은 90%로 압도적 차이
2~3%의 적은 차이가 누적되며 큰 차이로
AI 현장도 실패 속 작은 성공 누적으로 혁명
성공-실패 이분법이 아닌 '확률적 사고'로

편집자주실패를 살펴보는 것은 성공으로 가는 지름길입니다. 'AI 오답노트'는 AI와 관련한 제품과 서비스, 기업, 인물의 실패 사례를 탐구합니다.

AI의 역사와 현장은 '실패의 무덤'

노박 조코비치. AP연합뉴스

지금까지(1회~39회) 살펴본 인공지능(AI)의 역사는 실패의 연속이었습니다. AI 관련 제품과 서비스, 기업들의 화려한 성공은 그 자체로 박수를 받아야 합니다. 그러나 동시에 AI 역사에선 작은 부분에 불과합니다. 오늘날 우리가 누리는 AI 혁신은 사실 무수한 시행착오와 좌절을 딛고 일어선 결과물입니다.

AI 역사의 아이러니 중 하나는, 천재들조차 AI의 미래를 예측하지 못했다는 점입니다. AI라는 용어를 만든 존 매카시(John McCarthy), 그리고 마빈 민스키(Marvin Minsky)는 당시 기호주의에 매몰되어, 당대 AI 연구의 두 축 중 하나이던 연결주의를 사실상 질식시켰습니다. 일명 'AI의 겨울'을 불러왔죠. 당대 주류 연구 방향과는 다른 길을 택했던 얀 르쿤(Yann LeCun)은 'AI의 겨울' 시대에 냉대를 받으며 수십 년을 버텨야 했습니다.

AI 제품과 서비스 영역에서도 실패는 끊이지 않았습니다. 마이크로소프트(MS)의 챗봇 '테이'는 인종차별 논란에 휩싸여 16시간 만에 서비스를 중단해야 했습니다. 아마존의 AI 채용 시스템은 성차별, 인종차별 논란을 일으켰죠. 자율주행차는 치명적 사고를 일으켰고, 의료 AI는 잘못된 진단을 내렸습니다.

구글의 '플루 트렌드'는 빅데이터로 독감을 예측한다며 야심차게 출발했지만, 상관관계와 인과관계를 혼동하여 결국 폐기됐죠. 부동산, 금융, 증권 등 각 분야에서 AI 혁명의 기대를 모았으나, 용두사미로 끝난 사례는 수없이 많습니다.

AI의 역사를 돌아보면, 오류와 실패는 필연적이고 불가피한 일로 보입니다. 인간이 만든 기술인 이상, 인간의 한계와 편견을 반영할 수밖에 없죠. 복잡한 현실 세계를 완벽하게 예측하거나 통제하는 것은 애초에 불가능한 일에 가깝습니다.

오류와 실패는 성공의 토양 : 다양성의 힘

오류와 실패는 두렵습니다. 그러나 성공을 위해서는 반드시 필요합니다.

이는 생물학적으로도 참입니다. 세포가 복제되는 과정에서 DNA 복사 오류가 전혀 발생하지 않는다면, 그 완벽함이 오히려 멸종을 초래합니다.

유전자 복제의 완벽함은 변이를 차단합니다. 변이가 없으면 유전적 다양성이 사라지고, 다양성이 없으면 환경 변화에 대응할 수 없습니다. 빙하기가 올 때, 전염병이 창궐할 때, 기후가 급변할 때, 똑같은 유전자를 가진 개체들만 있다면 순식간에 무너질 수밖에 없습니다. 즉, 완벽한 복제는 완벽한 멸종으로 이어지는 것이죠.

오류가 돌연변이를 만들고, 그 중 극히 일부가 생존에 유리한 특성이 되어 자연선택을 통과합니다. 그게 오늘 우리가 존재하는 이유입니다. 그런 점에서 생명체의 존재 자체가 오류와 실패를 전제로 하는 것입니다.

AI 기술 발전에도 똑같은 원리가 적용될 수 있습니다. 완벽을 추구하려는 시도들이 오히려 혁신을 막을 때가 많습니다. 시행착오와 실패를 허용하는 환경에서만 진정한 돌파구가 나오는 것이죠. 오류는 혁신의 동력입니다.

우연과 사회적 환경의 힘

성공과 실패를 결정짓는 것이 요인이 오직 '노력'이었다면, 실패와 오류에 관대해지긴 어려울 겁니다. 노력은 중요합니다만, 모든 것은 아닙니다.

AI를 둘러싼 성공 스토리의 뒤에는 수많은 우연과 사회적 요소가 숨어있습니다. 후쿠시마 구니히코(Kunihiko Fukushima)는 1980년에 이미 합성곱신경망(CNN)의 핵심 구조를 제안했습니다. CNN은 머신러닝과 딥러닝의 효시 격이죠.

하지만 당시에는 그런 모델을 구현할 컴퓨팅 파워가 없었습니다. 30년 후 제프리 힌턴(Geoffrey Hinton)과 같은 후학자들이 비슷한 아이디어로 성공을 거둘 수 있었던 것은 '때'를 만났기 때문입니다. CNN 구조를 실험하고 구현해볼 수 있는 시기였던 것이죠. 즉, 아무리 뛰어난 아이디어라도 사회적 인프라가 뒷받침되지 않으면 묻힐 수밖에 없습니다.

'AI의 대모'라 불리는 페이페이 리(Fei-Fei Li)의 이미지넷 구축 과정도 흥미롭습니다. 그는 이미지 분류 작업의 한계에 부딪혔지만, 아마존 메커니컬 터크라는 크라우드소싱 플랫폼을 통해 돌파구를 찾았습니다. 전 세계 저임금 노동자들이 수백만 장의 이미지를 분류해준 덕분에, 이미지넷이라는 AI 혁신의 기초가 완성될 수 있었습니다. 지구 반대편 저임금 노동력이라는 사회적 조건과 만나 비로소 가능해진 일입니다.

AI의 원료인 '데이터' 또한 마찬가지입니다. 딥러닝의 기본 설계도는 이미 수십 년 전부터 존재했습니다. 하지만 인터넷의 확산, 스마트폰이라는 초개인화 데이터 수집 장치의 확산, 소셜미디어의 등장 등 데이터 파이프라인이라는 사회적 인프라가 갖춰진 후에야 빛을 발할 수 있었습니다. 우리 모두가 AI에 데이터라는 연료를 공급하는 사회가 되면서 비로소 가능해진 혁신입니다.

혁신은 진공상태에서 탄생하지 않습니다. 아이디어는 사회적 조건과 만나 세상을 바꾸는 힘을 갖게 됩니다. AI의 역사는, 혁신이 천재적 개인의 업적만이 아니라 사회적 환경과 시대적 조건이 만들어낸 복합적 산물임을 보여줍니다.

그렇다고 모든 것을 '운'으로 설명하려고 해서도 안 됩니다. 모든 것이 사회적 조건, 배경 때문이라면 노력과 끈기, 창의성이 무의미하다는 소리니까요.

그것 역시 사실이 아닙니다. 혁신과 성공은, 개인의 창의성과 탁월함이 사회적 조건과 상호작용하며 이뤄지는 복합적인 산물이라고 보는 것이 좀 더 균형 잡힌 시각일 겁니다.

중요한 건 완벽이 아니라 완성

사무실에서 회의를 하고 있는 사람들. 게티이미지뱅크

디지털 세계는 0과 1이라는 이진법의 세계입니다. 명확하고 단순한 이분법의 세계죠. 하지만 그간 살펴본 AI의 세계는 그렇지 않다는 걸 보여줍니다. 성공과 실패, 완벽함과 불완전함은 동전의 양면입니다. AI는 애매함과 불확실성 속에서 점진적으로 발전해온 기술입니다.

제품 개발과 프로젝트 진행에는 크게 두 가지 접근 방식이 있습니다. 첫째는 모든 단계에서 완벽함을 추구하는 '폭포수(waterfall) 모델'입니다. 기획부터 설계, 개발, 테스트까지 각 단계를 완벽하게 마무리한 후 다음 단계로 넘어가는 방식이죠.

나머지 하나는 반복 수정을 통해 완성도를 높여가는 애자일(Agile) 모델입니다. 불완전하더라도 만들어보고, 테스트하고, 피드백을 받아가며 지속적으로 개선해나가는 방식이죠.

오늘날 AI 발전은 전형적인 애자일 모델을 따르고 있습니다. 초기 AI 시스템은 단순하고 한계가 많을 수밖에 없습니다. 하지만 AI 시장의 선두주자들은 완벽한 시스템을 기다리지 않고 불완전한 버전을 계속 시장에 내놓습니다. 그리고 시행착오와 반복적 개선을 거쳐 정교한 AI를 완성해나갑니다. 오픈AI의 '챗GPT'가 그렇습니다.

2018년 출시한 GPT-1은 1억1700만개의 매개변수로 출발했습니다. GPT-2에서는 15억 개, GPT-3에서는 1750억개로 늘어나죠. GPT-4는 정확한 수치가 공개되지 않았으나, 1조개가 넘는다는 이야기가 있습니다.

각 버전은 불완전했지만, 사용자 피드백을 받아 지속해서 발전해갔습니다. 화제가 될 때마다 더 많은 사람이 몰려들었고, 더 많은 데이터, 더 나은 피드백을 얻었습니다. 만약 처음부터 완벽한 AI를 만들려고 했다면 챗GPT는 아직도 연구실에 갇혀 있을지 모릅니다.

"수학에서 실패는 부분적 성공이다.
거의 성공했던 방법을 수정하면 성공하는 방법이 되곤 한다"

'이 시대 최고의 수학자'로 꼽히는 테렌스 타오의 말입니다.

AI의 학문적 기초가 되는 수학에서는 실패도 성공입니다. 수학자들은 대부분의 문제를 한 번에 완벽하게 풀지 않습니다. 대신 가설을 세우고, 시도해보고, 피드백을 받고, 수정하는 과정을 반복하죠. 타오의 말대로, 수학적 사고는 완벽이 아닌 점진적 진화의 과정에 가깝습니다.

앞서 살펴본 AI 역사의 교훈들은 여기서도 빛을 발합니다. 실패가 보편적이고 성공의 토대가 되며, 우연과 환경이 결과를 좌우한다면, 우리는 완벽을 기다릴 이유가 전혀 없습니다.

중요한 것은 불완전해도 일단 완성해서 세상에 내놓는 것입니다. 구글, IBM, 아마존 등 그들이 초기에 내놓은 서비스들은 그 무엇 하나 완벽하지 않았습니다. 하지만 그들이 완성해서 공개했기 때문에 후속 연구의 디딤돌이 될 수 있었습니다. 완벽주의는 진전을 가로막는 장애물입니다. AI의 역사와 세계는, 중요한 건 완벽이 아니라 완성이라는 점을 이렇게 강조하고 있습니다.

작은 차이가 승패를 결정한다 : 조코비치와 확률적 우위의 힘

그렇다면 '완성'은 대단한 것이어야 할까요? 아닙니다. 아주 작은 완성, 아주 작은 차이면 충분합니다. 거대한 성취를 만드는 건, 아주 작은 차이입니다. 테니스에서도 그렇습니다.

우리는 '최고'라는 단어에서 압도적인 무언가를 기대하곤 합니다. 노박 조코비치, 라파엘 나달, 로저 페더러 같은 이름을 들으면 상대를 압도하고 코트 위를 지배하는 이미지를 떠올립니다. 그들이 고개 숙이고 눈물 흘리는 모습보다, 승리 후 포효하는 모습에 익숙합니다. 하지만 경기 데이터는 전혀 다른 이야기를 들려줍니다.

테니스 남자 메이저 단식에서 점수는 포인트→게임→세트→매치 순으로 계산됩니다. 매치, 즉 경기에서 승리를 거두려면 5세트 중 3세트를 이겨야 합니다. 1세트를 따내려면 6게임을 이겨야 하죠. 그리고 1게임을 이기려면 4포인트를 얻어야 합니다.

조코비치, 나달, 페더러 같은 최상위권 선수들의 포인트 승률은 어느 정도일까요? 약 54%입니다. 절반을 겨우 넘기는 수준이죠. 하위권 선수들은 평균 51%, 중위권 선수들은 52%입니다. 큰 차이가 아니죠. 최고의 선수들도 수없이 많은 랠리에서 졌고, 포인트를 잃었습니다. 경기 중 '작은 패배'는 그들에게도 익숙한 일입니다.

그러나 매치 승률은 어마어마한 차이가 납니다. 하위권 선수들은 55%인데, 최상위권 선수들은 90%에 달합니다. 포인트 수준에서는 이렇게 중하위권 선수들과 단 2~3% 차이밖에 나지 않지만, 최종 결과는 압도적인 겁니다.

이는 작은 확률적 우위가 경기 전체에 걸쳐 누적되며 큰 차이를 만든다는 걸 보여줍니다. 이 원리를 설명하는 것이 '큰수의 법칙'이죠. 수많은 포인트와 게임이 반복되는 가운데, 단 몇 퍼센트의 우위라도 꾸준히 유지하면 결국 승리로 수렴하게 됩니다.

처음부터 끝까지 이어지는 완벽한 승리, 압도적인 퍼포먼스는 없습니다. 중요한 건 매 순간 조금만이라도 더 나아가는 것, 작은 승리와 작은 확률의 우위입니다.

결정론적 세계관에서 확률론적 세계관으로

지금까지 써 내려온 AI오답노트는, 실패와 성공이라는 이분법적 사고, 완벽한 해답을 추구하는 결정론적 세계관에는 분명한 한계가 있다는 것을 보여줍니다. 딥러닝의 성공도 수십 년간의 '실패'들이 축적된 결과였고, 혁신은 예측 가능한 계획이 아닌 다양성과 시행착오에서 나왔습니다.

AI는 우리에게 완전히 새로운 사고방식을 제시합니다. 확률론적 사고방식이죠.

AI의 작동 원리 자체가 확률론적 세계관의 구현체입니다. 챗GPT에 같은 질문을 해도 매번 조금씩 다른 답변이 나옵니다. 미리 정해진 결과값이 아닌 실시간 맥락과 상호작용에 따라 확률을 계산하죠.

'확률적 경사하강법'은 AI가 학습할 때 사용하는 핵심 방법 중 한 가지 입니다. 안개가 너무 짙게 끼어 한 치 앞도 내다볼 수 없는 산에서, 한발 한발 더듬어 아래로 내려가는 것과 같습니다.

여기서 '확률적'이란 매번 무작위로 선택된 일부 데이터만 보고 판단한다는 말입니다. 전체 데이터를 다 보지 않고 일부 샘플만 뽑아서 방향을 정하죠.

이 방법이 의미심장한 이유는, 완벽한 답을 찾으려 하지 않기 때문입니다. '완벽한 다음 스텝'을 찾는 것이 아니라 '충분히 좋은 지점'을 확률적으로 탐색해 나갑니다. 이런 '불완전한' 방식이 오히려 더 나은 결과를 만들어낼 수 있습니다.

자율주행차의 시스템은 이러한 확률적 사고방식을 극명하게 보여주는 사례입니다.

교통사고가 나면, 보통 운전자에게 "보행자를 봤나요?"라고 묻습니다. 그러면 대답은 "봤다" 또는 "못 봤다"가 되겠죠. 1 아니면 0입니다. 만약 다음과 같은 식의 대답이 나오면 매우 이상할 겁니다. "어느 정도 봤다", "거의 못 봤다", "대략 봤다", "약간 봤다".

그런데 바로 AI의 대답 방식이 그렇습니다. AI는 "30%" "3.5%", "55%", "25%" 등 확률로 답합니다. AI를 도입한다는 것은 결정론적 방식에서 확률론적 방식으로 전환한다는 뜻입니다.

AI와 주식시장 차트를 섞은 이미지. 게티이미지뱅크

AI 혁명은 더 나은 확률적 가능성을 찾아 헤매는 여정이며, 0.1%, 0.2%, 3% 수준의 확률 상승도 유의미한 변화를 가져올 수 있습니다. 성공확률 49.9%와 50.1%는 단 0.2% 차이지만, AI는 50.1%의 확률을 독려합니다. 0.2%의 작은 우위는 누적되어 결정적 차이를 만들 겁니다. 그렇기 때문에 사소할지라도 작은 도전은 언제나 충분히 의미 있는 일이 됩니다. 최종 결과는 우리가 정할 수 없지만, 결과가 발생할 확률은 우리가 바꿔나갈 수 있는 겁니다.

또 한 가지 중요한 점은, 이 확률적 시스템에서 인간의 역할입니다. AI는 홀로 작동하지 않습니다. 인간의 입력과 피드백이 확률 계산에 결정적 영향을 미치죠. 의료AI를 둘러싼 여러 연구 결과가 쏟아지고 있습니다. AI의 진단 정확도가 높다는 결과가 많지만, 인간과 AI가 조합될 경우 더 나은 성과를 낸다는 연구에 주목해야 합니다. 이는 AI 시대에 인간이 수동적인 존재가 아니라, 확률의 방향을 바꿀 수 있는 능동적 참여자임을 의미합니다.

AI가 보여주는 세상은 정해진 운명이 아닌 가능성의 공간입니다. 오류와 오답, 실패는 성공의 반대가 아니라 다른 경로이며, 다양성과 불확실성은 제거해야 할 노이즈가 아니라 혁신의 원동력입니다. 우리는 결정론적 세계가 아닌, 확률론적 세계에 살고 있습니다. 그 확률은 50.1%입니다.

김동표 기자 letmein@asiae.co.kr