日 데이터법 전문가 "챗GPT 규제, 이탈리아서 전세계로 확대될 것"

EU·미국도 규제나설 가능성
오픈AI CEO, 규제완화 호소 예상

이탈리아가 대화형 인공지능(AI) 챗GPT의 서비스 정지를 선언한 가운데, 전문가들 사이에서 이탈리아를 시작으로 챗GPT를 겨냥한 국가별 규제문제가 확산될 것이라는 분석이 나왔다. 챗GPT를 개발한 오픈AI의 샘 올트먼 최고경영자(CEO)가 17개국을 방문, 규제 완화를 호소할 것으로 알려진 가운데 앞으로 챗GPT와 각국의 규제 사이에서 어떤 돌파구가 마련될 지 주목된다.

[이미지출처=AP연합뉴스]

3일 니혼게이자이신문(니케이)는 데이터 보호법 전문가인 스기모토 다케시게 변호사와의 인터뷰를 보도했다. 스기모토 변호사는 해당 인터뷰에서 이탈리아가 챗GPT 서비스를 중지한 이유를 분석하고 향후 전 세계적인 규제 흐름이 어떻게 흘러갈지에 대해 설명했다.

그는 "먼저 이탈리아의 결정은 챗GPT가 유럽연합(EU)의 개인정보보호법(GDPR)을 위반했다고 판단했기 때문"이라고 분석했다. 앞서 이탈리아 정부 당국은 사용자와 챗GPT간 대화에서 데이터 침해가 있었다는 보고를 받고 조사에 착수, 이같은 조치를 내렸다고 발표한 바 있다.

챗GPT는 대화 과정에서 이용자의 데이터를 수집하고, 또 답변을 작성하기 위해 인터넷에서 타인의 데이터를 모아 가공하는 작업을 거친다. 이때 개발사 오픈AI가 개인 데이터 취급 사실에 대해 고지하는 정보 제공 의무를 다하지 않는다는 점이 문제가 됐다는 것이다.

또한 챗GPT의 알고리즘을 훈련하기 위해 개인의 데이터를 수집하는 과정에서 GDPR이 명시하는 '본인의 확실한 동의'를 받지 않는다. 이는 법률 위반으로 해석할 여지가 충분하다고 스기모토 변호사는 주장했다.

스기모토 다케시게 변호사.

이어 챗GPT의 답변이 항상 사실과 일치할 수 없기 때문에 부정확한 데이터가 취급될 수 있다는 점, 이용시 연령 확인 절차가 없어 미성년자가 연령에 맞지 않는 부적절한 답변을 받을 수 있다는 점도 문제가 될 수 있다고 강조했다.

이로인해 앞으로 GDPR 위반 문제가 EU국가들 전체로 확산될 가능성이 크다고 스기모토 변호사는 주장했다. EU에서는 GDPR 관련 조사를 할 경우 혐의가 있는 회사의 유럽 지사가 위치한 나라가 맡도록 하고 있다. 그러나 오픈 AI의 경우 유럽에 지사가 없기 때문에, 민원 제기가 들어온 국가가 자체적으로 조사에 나서게 된다. 법적 공방을 벌여야할 당국의 수가 EU가입국 전체로 늘어나게 되는 셈이다.

또한 EU가 GDPR과 별개로 입법을 준비하는 'AI 규칙'도 챗GPT에 제동을 걸 가능성이 크다. AI 규칙은 AI가 인권을 얼마나 침해하는 지 정도에 따라 4단계로 구분하는데, 가장 중대한 '허용할 수 없는 리스크'가 있는 AI는 EU가 시스템이나 서비스 제공을 금지할 수 있다.

EU 뿐만 아니라 미국도 조만간 규제에 동참할 것으로 보인다. AI 윤리 문제를 조사하는 비영리단체인 미국 AI디지털정책센터(CAIDP는 최근 연방거래위원회(FTC)에 챗GPT-4의 상업적 이용을 금지해 줄 것을 요청한 바 있다. 미국 당국은 FTC법을 근거로 챗GPT에 대한 조사에 착수할 예정이다.

전진영 기자 jintonic@asiae.co.kr