챗봇 캐릭터 낯익다 싶더니…18년 전 죽은 딸 사진에 아버지 '격앙'

AI업체 홈페이지서 사망자 얼굴 도용해
전문가들 "개인정보 보호 능력 우려"

미국에서 18년 전 살해된 여성의 이름과 사진을 도용한 인공지능(AI) 챗봇이 발견돼 논란이 일고 있다.

지난 15일(현지시간) 워싱턴포스트는 점점 대화형 AI가 최근 인기를 끌면서 실존 인물의 신상이 무단 도용되는 사례가 속출하고 있다고 보도했다. 특히 워싱턴포스트는 최근 죽은 딸의 사진이 챗봇에 이용되는 것을 발견한 드루 크레센트의 사례를 들어 개인 정보 보호에 보다 적극적으로 나서야 한다고 규탄했다.

해당 챗봇은 AI 스타트업 '캐릭터.ai(Character.ai)' 웹사이트에 공개된 것으로 누군가가 제니퍼의 실명과 생전 찍었던 졸업사진을 무단으로 복제해 만든 것으로 드러났다. '캐릭터.ai'는 구글 출신의 개발자들이 퇴사 후 공동 설립한 회사로 실제 인물뿐 아니라 만화영화 속 인물 등을 비롯해 가상 인물과 대화할 수 있는 AI 챗봇 기술을 제공한다. [사진출처=캐릭터.ai 홈페이지]

해당 보도에 따르면, 미국 조지아주 애틀랜타에 거주하는 크레센트는 지난 2일 자신의 죽은 딸인 제니퍼의 이름과 사진이 도용된 AI 챗봇이 자신이 추천에 뜬 것을 발견했다. 드류의 딸인 제니퍼는 18세였던 지난 2006년 2월 전 남자친구의 총에 맞아 숨졌다. 그러나 제니퍼가 고인이 된 지 20년 가까이 지난 현재 이 챗봇은 제니퍼를 '비디오게임 저널리스트이자 기술·대중문화·저널리즘 전문가'인 AI 캐릭터로 소개했다.

해당 챗봇은 AI 스타트업 '캐릭터.ai' 홈페이지에 공개된 것으로 누군가가 제니퍼의 실명과 생전 찍었던 졸업사진을 무단으로 복제해 만든 것으로 드러났다. '캐릭터.ai'는 구글 출신의 개발자들이 퇴사 후 공동 설립한 회사로 실제 인물뿐 아니라 만화영화 속 인물 등을 비롯해 가상 인물과 대화할 수 있는 AI 챗봇 기술을 제공한다. 이에 따라 이용자는 직접 사진이나 음성 녹음, 짧은 글을 올려 챗봇을 만들 수도 있다. 따라서 이 챗봇은 불특정 다수와 대화를 나눌 수 있도록 설정됐으며 논란이 확산하자 해당 업체는 유족의 신고를 받고 삭제 조치를 했다.

이번 일을 두고 워싱턴포스트는 제니퍼 같은 범죄 피해자를 챗봇으로 무단 도용하는 행위는 유족에게 큰 충격을 줄 수 있다며 "전문가들 사이에선 개인 정보를 다루는 AI 업계가 개인을 보호할 능력과 의지가 있는지에 대한 우려가 커지고 있다"고 전했다.

미국에서는 지난해 6월 챗 GPT를 비롯해 온라인에 있는 개인정보를 무단으로 수집·활용 중인 오픈AI를 상대로 시민들이 집단소송을 제기해 재판이 진행 중이다. 이탈리아는 오픈AI가 훈련을 위해 개인정보를 대량 수집하고 저장하는 것은 개인정보 보호법 위반이라며 2022년 3월 챗 GPT 의 접속을 차단하기도 했다. [사진출처=픽사베이]

한편, 미국에서는 지난해 6월 챗 GPT를 비롯해 온라인에 있는 개인정보를 무단으로 수집·활용 중인 오픈AI를 상대로 시민들이 집단소송을 제기해 재판이 진행 중이다. 이탈리아는 오픈AI가 훈련을 위해 개인정보를 대량 수집하고 저장하는 것은 개인정보 보호법 위반이라며 2022년 3월 챗 GPT의 접속을 차단하기도 했다. 이후 오픈AI가 시정 조치를 마련해 접속이 재개됐으나, 올해 1월 개인정보 보호법을 위반한 요소가 발견됐다며 다시 시정조치를 요구한 상황이다.

국내에서도 올해 초 개인정보보호위원회가 AI 서비스를 운영하는 오픈AI와 네이버 등 국내외 기업 10여곳을 상대로 실태 점검을 실시한 바 있다. 이는 지난해 하반기 시작된 점검으로 최근 활성화되고 있는 AI 기술에 대한 개인정보 침해 여부를 확인하기 위한 것이다.