[두 얼굴의 AI]③챗GPT 아버지도 외친 규제 "브레이크 있어야"

미 공군 인공지능(AI) 드론이 가상훈련에서 목표 달성에 방해가 됐다고 판단해 조종자를 공격한 사례가 나왔다. 미국 국방부 청사 펜타곤 옆으로 연기 기둥이 치솟고 있는 일명 ‘펜타곤 폭발 사진’도 최근 전 세계를 떠들썩하게 만들었다. 온라인상에 공개된 이 사진 한장으로 금융시장은 출렁였다. 폭발 소문이 난 직후 다우존스30 산업평균지수는 4분 동안 80포인트 가까이 급락했다. 뒤늦게 사진이 생성형 AI가 만든 가짜 사진이라는 것이 밝혀졌지만 여파는 상당했다.

AI 기술의 진화 속도에 맞춘 규제가 필요하다는 목소리가 높아지고 있다. 챗GPT 등 생성형AI의 부작용과 악용사례에 대한 우려가 늘고 있기 때문이다.

샘 올트먼 오픈AI 최고경영자(CEO)·데미스 하사비스 구글 딥마인드 CEO 등 인공지능(AI) 리더들이 먼저 AI의 위험성을 경고했다. 비영리단체 AI안전센터는 지난달 30일(현지시간) AI로 인한 멸종 위험을 완화하는 것은 전염병이나 핵전쟁과 같은 다른 사회적 규모의 위험과 함께 전 세계에서 우선순위로 다뤄져야 한다"는 내용의 성명서를 공개했다. 이 성명서에는 이들을 포함해 AI 분야 과학자 350여명이 서명했다. 'AI의 아버지'라고 불리는 제프리 힌튼 박사는 최근 구글을 퇴사하면서 "인간의 두뇌를 따라갈 컴퓨터를 만들기 위해 평생을 노력했지만, 이젠 컴퓨터가 무엇을 학습하던 인간을 능가할 것"이라고 말했다.

[이미지출처=로이터연합뉴스]

AI 시장을 선점한 세계 기업 경영자들이 규제 필요성을 강조하는 건 AI 기술을 악용하는 사례가 많아지면 심각한 사회적 혼란을 야기할 수 있다고 판단했기 때문이다. 세계 각 국가는 'AI 규제 정책' 마련에 속도를 내고 있다. 가장 먼저 AI 규제법 도입을 논의한 곳은 유럽연합(EU)이다. EU는 2년 전부터 논의해온 '인공지능법(AI Act)' 제정안을 다음달 유럽의회 본회의에서 표결에 부칠 계획이다. 법안에는 AI 응용 프로그램을 위험도에 따라 4개 등급으로 분류하고 가장 위험한 '용납 불가' 등급(인간 조종·취약계층 위해 가능성)은 사용을 금지하는 내용을 담았다.

미국에선 AI의 잘못된 결정으로 인한 피해에 대한 책임 소재를 묻는 '알고리즘 책임법', AI가 개인 데이터를 수집하는 것을 막는 '데이터 개인정보보호법'논의가 이뤄지고 있다. 중국도 AI 기업들이 따라야 할 규정을 담은 가이드라인 초안을 내놨다. 기업이 AI 관련 서비스 출시 전에 당국의 보안 평가를 받아야 하며, 이용자는 반드시 실명을 사용해야 한다. 서비스 제공 업체는 AI가 부적절한 대답을 내놓을 경우 3개월 안에 재발 방지 대책을 마련해야 한다. 이 규정을 준수하지 않으면 벌금, 서비스 정지 등을 받을 수 있다.

한국도 대응책을 마련 중이다. 국회에 발의된 AI 법안은 10건이 넘는다. 대부분이 규제 법안이다. 정부도 체계적으로 검토하고 있다. 우선 정부는 5년간 보안 기술 연구개발(R&D)에 4000억원을 투자하기로 했다. 또한 한국인터넷진흥원과 2025년까지 보안기업 50곳을 육성할 계획이다. 최경진 가천대 법학과 교수는 "성급한 AI 규제 움직임은 오히려 독이 될 수 있기 때문에 정밀하고 세심하게 준비해야 한다"면서 "위험성에 따라 차등화시켜 보안, 규제 수준을 높여야 한다"고 말했다.

임혜선 기자 lhsro@asiae.co.kr