MS, 러·中의 가짜 콘텐츠 AI로 막아야…'비상 브레이크' 장착 의무화

인공지능(AI) 위험성을 둘러싼 규제 담론이 확장되는 가운데 마이크로소프트(MS)가 열차의 비상 브레이크와 같이 유사시 AI를 끄거나 감속할 수 있는 '비상 브레이크' 장착 의무화를 제안했다.

25일(현지시간) 주요 외신에 따르면 브래드 스미스 MS 부회장 겸 총괄사장은 이날 워싱턴주 시애틀 본사 연설에서 "AI 관련 가장 큰 우려는 AI 기술을 이용해 콘텐츠나 영상 등을 조작하는 '딥페이크'와 관련한 문제를 해결하는 것"이라고 경고했다.

그는 특히 러시아와 중국, 이란 정부가 사이버 공간에서 벌이고 있는 영향력 행사와 관련해 "AI를 이용해 사람들을 속이거나 범죄를 저지르려는 의도로 가짜 콘텐츠를 생산하는 것을 막기 위한 조치에 나서야 한다"고 역설했다.

그러면서 챗GPT와 같은 생성형 AI 열풍으로 널리 퍼진 AI를 규제하는 방법에 있어 사람들이 콘텐츠나 영상, 이미지 등이 실제인지, AI가 악의적인 목적으로 생성한 것인지에 대해 알 수 있도록 조치를 취해야 한다고 강조했다.

MS는 이날 블로그를 통해 이같은 'AI 규제를 위해 고려돼야 할 5가지 원칙'을 제시했다. 그 중 첫 번째 원칙으로 중요 인프라에 사용되는 특정 AI 시스템에 안전 브레이크를 의무적으로 장착할 것을 제안했다.

전력망, 상수도를 비롯한 중요 인프라를 제어하는 데 사용되는 AI에 안전 제동을 걸어 인간이 통제권을 유지할 수 있도록 해야 한다고 미 의회에 촉구했다. 이는 열차 비상 브레이크와 유사한 것으로, 유사시에 대비해 중요 인프라 시설에 사용되는 AI를 완전히 끄거나 감속할 수 있도록 해야 한다는 것이다.

이어 이런 브레이크 장치는 오랫동안 엘리베이터나 스쿨버스, 고속 열차와 같은 다른 기술에도 내장돼 왔다고 덧붙였다. MS는 또 정부 주도의 AI 기술 사용에 대한 가드레일 구축을 제안하며, 상무부 산하 미국표준기술연구소(NIST) 등이 마련할 수 있다고 설명했다.

아울러 앱이나 고급 기초 모델 및 AI 인프라에 대한 법적인 틀 구축, AI에 대한 학술 및 비영리 연구에 대한 자금 지원도 강조했다.

브래드 스미스 MS 부회장. [이미지출처=AFP연합뉴스]

AI가 사회에 미칠 영향을 해결하기 위해 민관 협력 관계 구축도 제안했다. MS는 발전된 AI 시스템을 만들거나 사용하는 모든 조직은 자체 거버넌스 시스템을 개발하고 구현해야 한다며 MS는 지난 6년간 이를 구축했다고 설명했다.

MS는 오픈AI에 100억달러 이상을 투자하며 전 세계 AI 기술 경쟁 열풍을 불러일으켰다. 검색 엔진 빙과 문서 도구 등 모든 자사 제품에 AI 챗봇을 탑재하며 오픈AI와 함께 이 경쟁에서 가장 앞서 있다는 평가를 받고 있다.

한편, MS 창업자인 빌 게이츠는 지난 22일 "미래 최고 기업은 개인 디지털 에이전트(personal digital agent), 즉 AI 개인 비서를 만드는 회사가 될 것"이라며 "구글 같은 빅테크 중 미래 AI 승자는 누가 될지 알 수 없다"고 말했다.

그는 AI가 신약 개발의 혁신을 가속화하면서 10년 안에 인간 실험이 이뤄질 것"으로 봤다. 또 AI 기술을 화이트칼라 근로자에게 큰 영향을 미칠 ‘게임 체인저’로 비유하며 "추후 등장할 휴머노이드 로봇은 블루칼라 근로자에게도 큰 영향을 미칠 것"으로 내다봤다.

조유진 기자 tint@asiae.co.kr