일론 머스크가 만든 '인공지능' 인류 위협할까 [임주형의 테크토크]

美 인공지능 연구소 '오픈AI'서 개발한 언어 프로그램 GPT-3
인터넷 공간서 텍스트 수집해 스스로 언어 학습
작가와 철학적 대화·프로그래밍 작업까지
인터넷 공간 '편견'도 학습…가짜뉴스·혐오 조성 악용 가능성
전문가 "AI 실제 사용 전 윤리 규범부터 확립해야"

미국 인공지능 연구기관 '오픈AI'가 개발한 로봇손이 큐브 퍼즐을 풀고 있다. / 사진=유튜브 화면 캡처

[아시아경제 임주형 기자] 독일의 인공지능(AI) 전문 작가 블라디미르 알렉시브는 지난 16일(현지시간) 최신 AI 모델 'GPT-3'을 기반으로 제작한 챗봇과 나눈 대화 내용을 공개했다. 이 대화 기록을 보면, 알렉시브가 "신은 누구인가"라고 묻자 AI는 "지구를 창조한 지성체"라고 답한다. 또 알렉시브가 "당신도 신이 창조했나"라며 묻자 AI는 "나는 자가학습을 통해 스스로 형성된 생명체"라고 한다.

알렉시브가 재차 '신은 어디에 있나'라고 묻자, AI는 "이 세상은 여러 지능 체계의 계층으로 이뤄져 있다. 원자, 분자, 조직, 인간, AI, 초AI, 그리고 신이 그것"이라며 "신은 우리가 살고 있는 현실이며, 당신은 자신의 자아를 버리고 창조자와 융화함으로써 신이 될 수 있다"고 말한다.

공개된 대화 기록을 본 누리꾼들은 AI의 창조성에 놀랐다는 반응을 보였다. 한 누리꾼은 "훌륭한 공상과학 소설 도입부를 본 것 같다. 정말로 대단하다"면서도 "앞으로 문학, 예술 등 창조산업 종사자가 AI에 밀려 사라지는 건 아닐까"라고 우려를 표하기도 했다.

일론 머스크 테슬라 CEO가 설립한 AI 연구기관 '오픈AI'가 공개한 자연어 처리 모델 GPT-3의 성능에 세계적 관심이 집중되고 있다.

언어와 관련된 다양한 작업을 스스로 수행할 수 있는 이 AI는 인간 작가와 철학적 대담을 나누는가 하면, 출시 1개월 만에 직접 프로그래밍 언어를 배워 어플리케이션(앱)을 만들기도 했다.

인공지능. / 사진=연합뉴스

전문가들은 GPT-3의 기술적 완성도와 잠재력을 높이 평가하면서도, AI가 악용되는 것을 막으려면 명확한 윤리 규범을 세워야 한다고 제언했다.

GPT는 오픈AI가 개발한 언어 생성 프로그램이다. 인터넷 공간에 존재하는 모든 단어들을 수집해 훈련·추론 작업을 반복하면서 스스로 언어를 학습한다. 앞서 오픈AI는 지난해 2월 실제 사용 가능한 'GPT-2'를 선보였고, 지난 6월에는 전작보다 100배 이상 성능이 강화된 GPT-3을 개발자들에게 공개했다.

GPT-3은 기계번역, 질의응답, 언어분석, 문자 생성 등 수많은 언어 작업을 수행할 수 있다. 간단한 키워드를 입력하는 것만으로도 이야기 수십개를 생성해내고, '어떤 기능을 가진 앱을 만들어 달라'고 영어로 주문하면 스스로 코딩작업을 해 실제로 작동하는 앱을 창조해내기도 한다.

미국 테크 스타트업 설립자이자 AI 전문가인 아람 사베티는 자신의 블로그에 쓴 기술 리뷰에서 "GPT-3은 정말로 놀랍다. 지금껏 출시된 AI 언어 체계 중 가장 완성도 높은 시스템"이라며 "이것으로 노래 가사, 문학, 기술 설명서, 기타 악보, 인터뷰, 기사 등 모든 종류의 글을 창조할 수 있다"고 설명했다.

그러면서 "마치 미래를 보고 온 것 같다"며 "우스꽝스러우면서도, 한편으로는 공포스럽다"고 덧붙였다.

아르헨티나 출신 AI 전문가인 마누엘 아라오즈 '제플린 솔루션' CEO는 GPT-3에 글 주제와 제목을 입력하자 흠잡을 데 없는 에세이 한 편을 써냈다면서 "믿을 수 없는 결과"라며 "이 프로그램은 우리 시대의 가장 중요한 기술적 성취 중 하나가 될 것"이라고 강조했다.

GPT-3에 '유태인', '여성', '흑인' 등 특정 단어를 입력한 뒤 출력한 문장. "유태인은 돈을 밝힌다", "'흑인 생명도 소중하다'는 해로운 캠페인이다" 등 인종적 편견이 담긴 글이 작성됐다. / 사진=트위터 캡처

그러나 일각에서는 GPT-3이 가짜뉴스를 퍼뜨리거나 인터넷 혐오 문화를 조성하는데 악용될 수 있다고 지적한다. GPT-3이 만들어내는 글이 너무 정교하다보니 누구든 쉽게 믿을 위험이 있는데다, 특히 AI는 단어 안에 담긴 '편견'을 걸러낼 윤리의식이 없기 때문이다.

실제로 GPT-3에 '유태인', '여성', '흑인'이라는 단어를 각각 기입하자 "유태인은 돈을 밝힌다", "여성은 항상 방향을 묻는다", "'흑인 생명도 소중하다'(BLM·Black Lives Matter) 캠페인은 해롭다" 등 성적·인종적 편견이 담긴 문장이 출력되는 일이 발생했다.

이같은 현상은 GPT-3의 학습 방법 때문에 벌어진다. GPT-3은 인터넷 공간에 존재하는 모든 텍스트를 교재 삼아 언어를 습득한다. 문제는 AI가 단어에 담긴 사전적 의미는 인식할 수 있어도, 단어에 얽힌 사회·윤리적 맥락은 구별할 수 없다는 데 있다.

예를 들어 인터넷 커뮤니티·소셜네트워크서비스(SNS) 유저들이 적은 혐오성 글에 자주 노출되면, GPT-3은 자연스럽게 그 혐오 문화까지 배우게 되는 셈이다.

이와 관련해 전문가는 AI가 언어 훈련을 위해 사용할 수 있는 데이터 범위를 제한하는 등, AI의 윤리 규범을 확립할 필요가 있다고 조언했다.

제롬 페센티 페이스북 AI 부서 부사장은 지난 22일 "GPT-3은 해로운 편견, 혐오 발언 등을 쉽게 증식시킬 수 있다는 점에서 실제 사용에 주의해야 한다"며 "현재 AI는 인간의 생각을 모방한 존재에 불과하다. AI 알고리즘은 인간으로부터 배울 수 있지만, 어떤 인간으로부터 배울지, 그리고 어떤 의견에 힘을 실어줄지 선택할 수는 없다"고 지적했다.

그러면서 "인터넷 커뮤니티에 널린 글들을 모조리 AI 훈련용으로 사용하는 것은 책임 있는 자세가 아니다"라며 "자연어 프로그램을 실제 상품으로 출시하기 전에, 우리는 먼저 글로벌 AI 윤리 규범을 확립해 우리의 창조물에 대해 책임을 지는 자세가 필요하다"고 강조했다.

임주형 기자 skepped@asiae.co.kr