[MZ칼럼]생성형 AI의 시대, 핵심은 인간과 신뢰

챗GPT 등 생성형 인공지능(AI)의 발전으로, 누구나 쉽게 다양한 정보와 지식에 접근하게 되었다는 이야기가 이루어지고 있다.

그러나 동시에 이런 시대에는 수많은 가짜 정보나 지식, 뉴스들이 폭발하듯 넘쳐날 우려 또한 존재한다. 이미 웹상에는 양질의 정보와 지식이 아닌, AI로 적당히 짜집기한 얄팍한 지식이나 가짜 정보들이 흘러나오고 있다.

AI 복제 영상으로 채워지기 시작한 영상 플랫폼이나, AI가 적당히 조합한 포스팅들로 넘쳐나는 웹은 일종의 ‘가짜의 무덤’이 되어버릴 수 있다. 이미 업자들은 무조건 조회수만 올리고 수익만 창출하면 그만이라는 태도로, AI를 이용해 정확한 지식이나 진실에 대한 확인 없이 온갖 블로그 포스팅이나 저품질 영상을 양산하며 웹생태계를 파괴시키고 있다.

생성AI는 온갖 ‘환각(할루시네이션)을 생성하는데, 대표적인 게 역사적 사실에 대한 거짓 지식이다. 가령, 세종대왕이 최초로 만든 일본어에 대해 알려줘, 라고 하면 챗GPT는 질문에 맞게 그럴싸한 거짓말을 만들어내는데 이를 ’환각‘이라고 한다. 이렇게 만들어진 환각이 오로지 조회수만 목적으로 웹상에 넘쳐나기 시작하면, 이제 우리는 무엇이 진실인지 알기 어려워진다.

AI가 만들어내는 가짜 지식(환각)도 문제지만, 가짜 지식을 만들어내게 하는 인간도 문제가 될 것이다. 가령, AI는 정치나 종교적 목적으로 쓰일 가능성도 매우 높다. 상대방 정치인에 대한 음모론이나 허위사실을 매우 정교하게 만들어달라고 하면 수많은 사람들이 그것을 믿게 될 것이다. 사이비 종교를 체계적으로 만들기는 더 쉬워질 것이다. 그럴싸한 영상, 포스팅, 칼럼, 책 등을 양산하여 악용하는 건 시간 문제일 수 있다.

그렇기 때문에 점점 더 우리가 신뢰할 수 있는 진짜 사람에 대한 관심이 대두될 것이다. 우리가 역사적 사실을 정확하게 알고자 한다면, 이제는 제대로 역사를 공부한 역사학자의 책에 기대지 않으면 진짜 역사를 알 수 없는 시대가 올 수 있다. 적당히 짜집기한 자기계발의 방법이 아니라 누군가의 진짜 경험을 들으려면, 이제 그 사람을 직접 알아야만 신뢰할 수 있는 시대가 오는 것이다. AI로 만든 가짜 자기소개서가 넘쳐나는 시대에는 오히려 사람을 통한 소개 같은 과거의 구인 방식이 되살아날 수 있다.

그래서 아이러니하게도 기술의 정점, 일종의 특이점이 왔다고 하는 시대에, 사람들은 가장 더 ’인간‘과 ’신뢰‘라는 전통적인 가치에 따라 움직일 가능성이 높다. 단순히 ’추천 도서 목록‘을 얻고 싶을 때도, 웹상에 AI가 양산해낸 신뢰하기 어려운 추천 도서 목록이 아니라, 내가 진짜 신뢰하는 사람이 직접 경험으로 들려주는 진짜 추천 도서 목록을 듣는 것이 더 귀중해지고, 더 드물어지며, 더 가치를 지니는 시대가 오는 것이다.

무엇이든 대량 생산되기 시작하면, 그것의 가치는 떨어지고 사람들은 그와는 다른 진짜 신뢰할 수 있는 무엇을 찾기 시작한다. 새로운 시대에 그 신뢰할 수 있는 대상, 그 기준은 오히려 ’사람‘이 될 수 있다. 그래서 행여나 또 뒤처질까 지금 새로운 기술들을 허겁지겁 쫓는 것보다는, 이럴 때일수록 진짜 경험과 지식을 추구하고, 사람 간의 유대에 집중하는 것이 더 현명한 대답이 될 수도 있다. 우리 손 안의 스마트폰처럼, 기술은 언젠가 모두의 것이 된다. 그러나 그때에도 진짜 신뢰할 수 있는 사람은 소수에 불과할 것이다.

정지우 문화평론가