[테크토크]AI 시대, 수학 중요하다 vs 쓸모없다

수십년 전부터 컴퓨터 도움 기댄 수학
단순 계산기 역할 넘어 '동업자' 진화
AI가 풀어낸 수학 증명, 믿어야 하나?

인공지능(AI)의 발전은 여러 직업을 대체할 거라고들 합니다. 하지만 유독 논란의 대상이 되는 학문 영역이 있습니다. 바로 '수학'이지요. 혹자는 AI 시대에 대비하려면 수학 교육을 더 강화해야 한다고 주장합니다. 반면 AI가 수학 전공자를 완전히 대체할 수 있다는 암울한 전망도 나옵니다. 진실은 무엇일까요. 인간의 수학 지식은 점점 더 중요해지고 있을까요, 혹은 언젠가 대체될 운명일까요.

"AI 시대, 수학이 더 중요하다" vs "수학이 쓸모없어질 거다"

모의고사에서 수학 문제를 푸는 고등학생. 사진은 기사 중 특정 표현과 관련 없음 [이미지출처=연합뉴스]

최근 미국 테크 및 교육업계 유명 인사들은 정부에 '수학 공교육 강화'를 주문하는 온라인 서명 운동을 추진 중입니다. 해당 서명엔 샘 올트먼 오픈AI CEO, 일론 머스크 테슬라 창업자 등 기라성같은 인물들이 참여했습니다. 이들은 "AI의 핵심은 대수, 미적분, 확률 등 수학의 주요 개념"이라며 "다음 세대가 AI 기술 개발에 참여하려면 엄격한 수학적 기초를 다져야 한다"고 주장합니다.

한편, 정반대의 주장도 있습니다. AI로 인해 수학 연구의 상당 부분이 '자동화'될 것이며, 이 때문에 순수 수학의 입지가 흔들릴 수 있다는 걱정입니다. 이런 우려는 가볍게 여길만한 게 아닙니다. 구글 딥마인드는 지난 1월 스스로 수학 문제를 푸는 AI '알파 기하학'을 공개했습니다. 국제 수학 올림피아드에 출제된 문제 30개 중 25개를 해결할 만큼 높은 수리 추론 능력을 보유한 AI입니다.

수십년 전부터 수학자와 컴퓨터는 '원 팀', 그러나…

'4가지 색으로 닿는 면이 겹치지 않게 색칠할 수 있다'는 명제를 증명한 4색 정리. 1976년 증명된 이 문제는 인간의 손으론 처리할 수 없는 방대한 양의 계산 작업 수행을 위해 컴퓨터 2대를 도입해 해결했다. 인류가 컴퓨터의 힘을 빌려 수학적 난제를 해결한 최초의 사례이자 '보조 증명기'가 도입된 계기이다. [이미지출처=인터넷 아카이브]

사실 수학자는 오래전부터 컴퓨터와 협업해 왔습니다. 현대 수학 증명은 엄청나게 복잡하고 방대한 과정입니다. 때로는 간단해 보이는 문제의 증명 과정이 수백, 수천 페이지에 달하기도 합니다. 그 모든 걸 인간이 일일이 검증하는 건 불가능하지요. 대략 1970년대부터 수학계는 이론 증명을 자동화하는 계산 도구를 만들어 왔으며, 이를 '보조 증명기(Proof assistant)' 소프트웨어라 합니다.

당시 수학자들은 '기계에 대체될 미래'에 대해 그다지 걱정하진 않았습니다. 컴퓨터는 방대한 증명 데이터를 체크하거나 엄청나게 많은 양의 계산을 한 번에 처리할 땐 유용하지만, 문제 해결의 핵심인 논리적 추론 능력은 없었거든요. 과거의 컴퓨터는 아무리 똑똑한들 편리한 계산기 역할일 뿐이었습니다.

하지만 AI를 도입한 보조 증명기가 등장하면서, 점점 많은 수학자가 생각을 바꾸고 있다고 합니다. 최신 AI는 과거에서부터 축적된 문제 해결 과정 데이터를 통해 스스로 패턴을 학습하고, 때로는 인간을 능가하는 창의성을 발휘하기도 합니다. 과거의 보조 증명기가 단순한 자동 계산기였다면, 지금은 수학자와 아이디어를 주고받는 '동료'에 점점 더 가까워지고 있습니다.

인간과 기계, 균형추가 후자로 기울어 버린다면?

즉 이론 수학자와 보조 증명기의 수학 연구 기여분이 점차 '공평'해지고 있는 셈입니다. 만약 AI를 탑재한 보조 증명기가 더욱 고도화한다면 어떻게 될까요. 인간 수학자와 컴퓨터 수학자 사이의 균형추가 후자로 확 기울어 버린다면?

슈퍼컴퓨터 [이미지출처=유튜브]

현대 수학은 우리 같은 일반인이 접하기엔 너무 전문화된 지식이지만, 여전히 산업·과학의 발전에 핵심적인 원료입니다. 화학, 물리학, 천문학, 기계공학, 열처리, 컴퓨터공학 등 수많은 분야에 고등 수학이 스며들어 있습니다. 따라서 기계가 인간 대신 순수 수학을 연구하는 날이 온다면, 과학기술 발전 전체에서 인간이 차지하는 비중은 급격히 줄어들 수밖에 없습니다.

일부 수학자들은 지금이라도 AI가 인류의 수학에 미칠 영향을 의논해야 한다고 주장합니다. 호주 시드니대의 수학자인 조르디 윌리엄슨은 최근 '뉴욕타임스'를 통해 "우리가 앞으로 5년간 AI에 받을 영향을 고려하면, 지금 수학자들은 딥러닝에 대해 충분히 논의하고 있지 않다"고 경고했습니다.

AI가 수학 문제를 풀었다면, 우리는 그걸 '믿어야' 할까

하지만 수학자들이 정말로 우려하는 부분은 단순히 일자리에 대한 전망이 아닙니다. 핵심은 훗날 인간 대신 AI가 수학 연구를 시행하는 날이 온다면, 과연 인간은 AI가 풀어내는 증명을 그대로 받아들여야 하느냐는 겁니다.

이에 대해선 2021년 케임브리지대에 등재된 에세이 'AI가 수학자를 쓸모없게 만들 것인가'의 결론을 발췌해 대신하겠습니다.

"AI가 이식된 보조 증명기가 풀어낸 수학 이론은 오늘날 항공기 제어, 핵탄두 개발, 증권거래소 운영에 활용할 수 있다. 그렇다면 만약 보조 증명기에 버그가 있다면 어떻게 할까? 범인공지능 증명기는 우리의 삶을 풍요롭게 만들까? 혹은 우리 모두를 완전히 대체할까? 지금은 그 어느 때보다도 과학 발전에 대한 윤리적, 실증적 딜레마를 고려해야 할 때다"

임주형 기자 skepped@asiae.co.kr