사진 한 장이 움직인다?… UNIST, 3D 캐릭터에 ‘움직임’ 구현 AI 개발

형태 왜곡 없이 사진 속 동작 그대로 3D 캐릭터 자세 바꿔주는 AI 모델 개발

메타버스 문턱 낮춰 누구나 쉽게 3D 콘텐츠 제작… SIGGRAPH ASIA 주목

정지된 사진이 걷고, 팔을 흔들고, 춤을 춘다?

사진 속 2D 캐릭터의 동작을 화면 속 3D 캐릭터가 그대로 따라 움직일 수 있게 만드는 인공지능 기술이 개발됐다.

UNIST 인공지능대학원 주경돈 교수팀은 3D 가우시안 모델이 생성한 3D 캐릭터의 자세를 형태 왜곡 없이 바꿔주는 AI 기술인 디폼스플랫(DeformSplat, Rigidity-aware 3D Gaussian Deformation)을 개발했다고 25일 전했다.

연구진, (좌측부터) 주경돈 교수, 김진혁 연구원(제1저자), 방재훈 연구원, 서승현 연구원. UNIST 제공

3D 가우시안 스플래팅(3D Gaussian Splatting)은 사진과 같은 2D 데이터를 입력받아 화면에 3D 객체를 재구성해 주는 AI 모델이다. 하지만 이 가우시안 스플래팅이 재구성한 3D 캐릭터를 만화나 게임에서처럼 움직이게 하려면, 여전히 여러 각도에서 촬영한 영상 데이터나 연속 촬영된 비디오 데이터가 필요했다. 이러한 데이터가 부족하면 팔, 다리 등이 움직일 때 엿가락처럼 휘어지는 형태 왜곡이 생기기 쉽기 때문이다.

연구진이 개발한 디폼스플랫은 사진 한 장만 입력해주면 형태 왜곡 없이 3D 캐릭터의 자세를 사진 속 자세와 똑같이 움직이게 바꿔준다.

실제 실험 결과, 이 모델이 움직인 3D 캐릭터는 각도를 바꿔 옆이나 뒤에서 보아도 형태 왜곡이 적고 자연스러운 자세를 유지하는 것으로 나타났다. 예를 들어 팔을 드는 동작을 입력했을 경우, 정면뿐 아니라 측면이나 뒤쪽 시점에서도 팔과 몸통의 비율이 흐트러지지 않았고, 관절이 고무처럼 늘어나는 현상도 거의 나타나지 않았다.

연구팀은 가우시안-픽셀 매칭(Gaussian-to-Pixel Matching)과 강체 부위 분할(Rigid Part Segmentation) 기술을 이용해 이 같은 모델을 개발했다. 가우시안?픽셀 매칭은 3D 캐릭터를 구성하는 가우시안 점들과 2D 사진 속 픽셀을 연결해, 사진에 담긴 자세 정보를 3D 캐릭터로 전달하는 기술이다. 또 자세 변형 시 함께 움직여야 하는 단단한 부위를 스스로 찾아 그룹으로 묶어내는 강체 부위 분할 기술 덕분에 로봇이나 인형의 형태가 찌그러지지 않고 자연스럽게 움직일 수 있다.

주경돈 교수는 "기존 기술은 사진 한 장만을 입력데이터로 활용해 3D 물체를 움직이려 하면 형태가 심각하게 훼손되는 한계가 있었다"며 "개발된 AI는 물체의 구조적 특성을 고려해 스스로 뼈대 역할을 하는 영역을 구분하고 움직임을 생성하는 기술로, 전문 인력과 고가의 장비에 의존하던 메타버스·게임·애니메이션 등 3D 콘텐츠 제작 분야의 진입 장벽을 낮출 수 있을 것으로 기대된다"라고 말했다.

개발된 AI 모델의 기능. 3D 캐릭터의 자세를 빨간박스 안의 캐릭터의 자세로 바꿀 수 있다.

연구 결과는 SIGGRAPH ASIA 2025(The 18th ACM SIGGRAPH Conference and Exhibition on Computer Graphics and Interactive Techniques in Asia)에 채택됐다.

SIGGRAPH ASIA는 컴퓨터과학 분야 세계 최대 국제 학회 단체인 ACM이 주관하는 학회로, 그래픽스와 인터랙티브 기술 분야에서는 가장 영향력 있는 학회로 꼽힌다. 올해 학회는 지난 15일부터 18일까지 홍콩에서 열렸다.

이번 연구는 과학기술정보통신부 정보통신기획평가원, UNIST 인공지능대학원의 지원을 받아 이뤄졌다.

영남취재본부 김철우 기자 sooro97@asiae.co.kr