기괴한 손가락 6개…"단 한순간도 존재한 적 없는 사람들"

'사진 같은 이미지' 만드는 AI 등장
손·팔 등 인체 정밀 부분 묘사 미흡
약점 보완 시간문제…"대책 필요"

어둑한 방 안에 두 명의 여성이 카메라를 들고 있다. 복장, 조명, 특유의 빛바랜 느낌으로 판단컨대 1990년대에 찍힌 아날로그 필름 카메라 사진으로 보인다.

놀랍게도 이 사진은 과거에 찍힌 사진이 아니다. 사실 '사진' 자체가 아니다. 북적이는 방 안의 사람들도 실제 사람이 아니다. 인공지능(AI) 이미지 생성기 '미드저니'로 만들어낸 컴퓨터 그래픽(CG)이다. 이 이미지를 만들어낸 누리꾼은 "미드저니는 엄청나게 강력해지고 있다"라며 "여기 있는 이 사진은 진짜 사진이 아니다. 여기 찍힌 사람들은 단 한 순간도 존재했던 적이 없다"라고 말했다.

지난 1월 사회관계망서비스(SNS) '트위터'를 통해 공개된 이 그래픽은 조회 수 3185만회, 리트윗 1만3000개를 돌파할 만큼 주목받았다. 대부분의 누리꾼은 우려하는 반응을 보였다. "AI가 만들 미래가 너무 걱정된다", "누구라도 현실을 조작할 수 있을 것" 등 걱정 섞인 목소리가 나왔다. 인간의 지각력과 사실 검증 능력이 AI 시대를 맞이해 위기에 직면한 걸까.

'사진 같은 그림' 창조하는 AI들

AI는 아직 손, 팔 등 인체의 정밀한 부분을 완벽히 생성하지 못하는 것으로 알려져 있다.

생성 AI는 특정한 글, 이미지를 새롭게 만들어낼 수 있는 AI를 뜻한다. 오픈AI의 언어 학습 모델(LLM) '챗GPT'가 글 생성 AI로 가장 유명하다. 이미지 분야에서도 이미 뜨거운 경쟁이 벌어지고 있다. 미드저니 연구소의 미드저니, 오픈AI의 'DALL-E', 영국계 스타트업 스태빌리티AI의 '스테이블 디퓨전' 등이 그 사례다.

이미지 생성 AI들은 과거 주로 CG나 만화 이미지 등을 교보재 삼아 훈련해 왔다. 하지만 최근에는 AI 학습용 데이터 세트가 늘어나면서 현실에 가까운 이미지도 생성 가능한 수준으로 발달했다. 그뿐만 아니라 필름 사진 느낌을 주는 특유의 필터, 과거 유행했던 복식이나 헤어 스타일까지 묘사 가능해졌다. 무분별한 AI 사용에 대한 경각심이 대두되는 이유다.

이미 AI를 이용한 사기 행각이 벌어지고 있다. 최근 튀르키예·시리아 대지진 피해자를 위한 모금 활동 관련 이미지가 여러 SNS에 공유된 바 있다. 수천 명의 누리꾼이 이 이미지를 보고 국제 송금으로 기부금을 전달했으나, 얼마 뒤 이 이미지는 AI로 생성한 가짜였음이 드러났다.

손·팔…AI가 정복 못 한 취약점

그렇다면 우리는 AI를 이용한 가짜 정보에 속수무책으로 당할 수밖에 없는 걸까. 그렇지만은 않다. 약간의 '주의력'만 기울이면 AI가 만든 이미지를 쉽게 간파할 수 있다.

이미지 생성 AI는 전체 그림을 생성하는 능력은 탁월하지만, 정밀한 부분을 만들기 어렵다. 이 때문에 AI 생성 이미지는 과도한 블러(blur·이미지의 흐린 부분) 처리로 세부 사항을 덮어씌우는 경우가 많다.

특히 세심한 비율 처리가 중요한 팔 길이, 주름과 손톱 등 복잡한 구조를 지닌 손은 AI가 아직 정복하지 못한 영역이다. 다시 '미드저니'가 생성한 이미지를 유심히 보면, 물건을 든 사람의 손가락 수가 다섯 개를 넘거나 구부린 팔의 길이가 비정상적으로 길다는 사실을 알 수 있다.

美 브루킹스 "정부 개입 필요할 수도"

그러나 이런 AI 검증 방법이 언제까지 유효할지는 미지수다. 어색한 인체 비율이나 손가락 개수를 조정하는 기법인 '컨트롤넷(Controlnet)'이 개발되면서 AI 생성 이미지의 '치명적 약점'도 빠른 속도로 보완되고 있다.

결국 AI의 이용에 대한 국가적인 규제가 필요하다는 목소리가 나오고 있다. 미국 최대 정책 싱크탱크 중 하나인 '브루킹스 연구소'는 지난 21일(현지시간) 게재한 글에서 "현재 생성 AI의 주요 위험은 상업적 이용, 악의적 이용이라는 두 행위에서 나온다"라며 "따라서 두 행위에 대한 별도의 고려, 그리고 뚜렷한 정부의 정책적 개입이 필요할 것으로 보인다"라고 내다봤다.

임주형 기자 skepped@asiae.co.kr