“인간 뇌처럼” KAIST, 가설 세워 검증하는 AI 모델 고안

국내 연구진이 인간과 동물처럼 스스로 가설을 세워 검증할 수 있는 새로운 개념의 인공지능 모델을 고안했다. 이는 인간과 동물이 가설을 세워 일관된 행동 전략을 유지하고, 스스로 가설을 의심·검증해 상황에 적응하는 과정을 밝혀내면서 가능해진 결과물이다.

KAIST는 뇌인지과학과 이상완 교수, 정민환 교수 공동연구팀이 새로운 강화학습 이론을 제시, 뇌 과학적 원리를 규명했다고 27일 밝혔다.

(왼쪽부터) KAIST 뇌인지과학과 이상완 교수, 양민수 박사과정. KAIST 제공

공동연구팀에 따르면 현재 상황에 맞게 행동의 일관성과 유동성 사이의 적절한 균형점을 찾아가는 문제를 ‘안정성-유동성의 딜레마(Stability-flexibility dilemma)’라고 한다.

딜레마 해결을 위해선 현재 본인의 판단이 맞는지를 계속 검증·수정할 수 있어야 한다. 뇌 과학 및 인공지능 분야에서는 이와 관련된 다양한 연구가 진행됐지만, 그간 완벽한 해법을 밝혀내지 못했다.

공동연구팀은 전통적인 강화학습 이론과 최신 인공지능 알고리즘 모두 동물의 행동을 제대로 설명하지 못하는 점에 착안해 스스로 세운 가설을 바탕으로 다음 상황을 예측해 확인하는 행동 패턴을 동역학적으로 프로파일링할 수 있는 새로운 방식을 고안했다.

또 동물의 현재 상황에 대한 가설을 세우고, 가설의 예측 오류를 바탕으로 행동전략을 비대칭적으로 업데이트하는 새로운 적응형 강화학습 이론과 모델을 제안했다.

최신 인공지능 모델은 대개 효율적 문제해결에 집중, 인간이나 동물의 행동을 제대로 설명하지 못하는 경우가 많다. 반면 제안 모델은 예상하지 못한 사건에 대한 동물의 행동을 최신 인공지능 모델 대비 평균 15%(최대 31%) 정확하게 예측하는 것이 가능했다.

이러한 결과는 기존 연구에서 발표된 네 가지 서로 다른 동물 실험 데이터(two-step task, two-armed bandit task, T-maze task, two-armed bandit task with MSN inactivation) 분석에서 일관성 있게 재현됐다.

연구 과정에서 공동연구팀은 중뇌 기저핵(운동 조절 및 학습 기능을 담당하는 뇌 부위) 선조체(기저핵의 일부로 가치평가 및 강화학습 능력과 관련된 부위) 속 중간 크기의 가시뉴런(선조체의 90%를 차지하는 대표적 신경세포로 신경활동 억제하는 특징)이 가설 기반의 적응형 강화학습 과정에 관여하는 것도 밝혀냈다.

공동연구팀의 연구 결과는 뇌의 맥락 추론 방식이 대규모 인공지능 모델과 근본적으로 다르다는 것을 보여준다.

가령 챗 GPT, 딥시크 등 인공지능 모델은 사용자 입력으로부터 맥락 정보를 추정하고, 이를 바탕으로 필요한 전문가 시스템에 매칭(딥시크 모델은 강화학습을 사용해 매칭)해 새로운 정보가 들어올 때까지는 이것이 맞다고 가정한다.

하지만 뇌는 스스로 추정한 맥락(가설)을 의심하고, 의심이 확인되는 즉시 새로운 맥락을 적극적으로 받아들인다. 이는 과도한 자신감을 보이는 인공지능의 할루시네이션(Hallucination) 현상을 완화하거나 인간과 유사한 추론엔진을 구성할 수 있는 새로운 방향성을 제시한다고 공동연구팀은 강조했다.

공동연구팀은 이번 연구 결과가 뇌 과학-인공지능 융합연구로, 실제 분야에 널리 활용될 수 있다고 내다본다.

예컨대 인간의 동역학적 행동 프로파일링 기술을 이용하면 개개인의 가설 수립, 검증 학습 능력 분석이 가능해 맞춤형 교육 커리큘럼 디자인과 인사 및 인력관리 시스템, 인간-컴퓨터 상호작용 분야에 바로 적용할 수 있다는 것이다.

또 제안된 적응형 강화학습 모델은 ‘뇌처럼 생각하는 인공지능’ 기술로서 인간-인공지능의 가치 정렬 (Value alignment) 문제 해결에 활용될 수 있을 것으로 보인다.

이상완 교수는 "이번 연구는 기존에 인공지능의 강화학습 이론만으로 설명하기 어렵던 뇌의 가설 기반 적응학습 원리를 밝혀낸 사례?라며 “스스로 의심하고 검증하는 뇌 과학 이론을 대규모 인공지능 시스템 설계와 학습 과정에 반영하면 신뢰성을 높일 수 있을 것?이라고 말했다.

한편 이번 연구는 과학기술정보통신부 정보통신기획평가원 SW스타랩, 한계도전 연구개발(R&D) 프로젝트, 한국연구재단 중견연구자 및 KAIST 김재철AI대학원 사업 지원을 받아 수행됐다.

대전=정일웅 기자 jiw3061@asiae.co.kr