[AI 한입뉴스]가장 강력한 규제가 온다...'SB1047' 뭐길래

AI 규제 캘리포니아주 의회 통과
AI 사전 테스트·킬 스위치 의무화
실리콘밸리 빅테크 '발등의 불'

인공지능(AI)을 포함해 글로벌 기술 기업의 터전인 실리콘밸리가 가장 강력한 AI 규제 앞에 떨고 있습니다. 실리콘밸리가 있는 미국 캘리포니아주에서 '첨단 AI 모델을 위한 안전·보안 혁신법(SB1047)'을 통과시켰기 때문인데요.

지난 29일(현지시간) SB1047은 캘리포니아주 의회 상원 문턱을 넘었습니다. 하원에서 찬성 41표, 반대 9표로 통과된 것에 이은 것이죠.

이 법안은 AI 모델을 개발하는 기업이 기술을 공개하기 전에 안전성 테스트를 거치도록 의무화했어요. AI가 위험한 무기를 개발하는 등 위험한 일을 벌일 가능성은 없는지 사전에 검증하라는 것이죠. 아울러 개발사는 AI 모델이 문제를 일으킬 경우 셧다운시킬 수 있는 '킬 스위치(Kill Switch)' 기능을 넣어야 합니다. AI 문제를 고발하려는 내부 직원을 보호하는 조치도 마련해야 하죠. 뿐만 아니라 주 법무부 장관은 AI가 인명 사망이나 5억달러(약 6700억원)에 이르는 재산 피해를 일으키면 개발사를 고소할 수 있도록 했습니다.

당장 모든 AI 기업이 해당하는 것은 아닙니다. 개발 비용이 1억달러(약 1300억원) 이상이거나 일정 규모 이상의 전력이 필요한 AI 모델만 사전 테스트를 의무화한다고 하네요. 구체적인 산출 기준에 따라 달라지겠지만 거대언어모델(LLM)을 개발한 빅테크 대부분이 해당할 것으로 보입니다.

앞서 유럽연합(EU)에서 세계 최초로 AI 기업과 기술을 포괄적으로 규제하는 AI법을 통과시킨 바 있는데요. 의료·교육·금융 등 공공 서비스와 국가 시스템과 연관된 AI는 '고위험' 단계에 해당해 관리자 감독을 받는 게 골자입니다. AI 규제 주도권을 확보해 미국과 벌어진 기술 격차를 좁히겠다는 의도로 보이는데요. AI 기술을 선도하던 미국, 그것도 혁신의 도시 실리콘밸리에서 규제 움직임에 나섰다는 게 눈에 띕니다. 미국 뉴욕주 등 다른 지역에서 AI 규제 법안을 추진하거나 도입한 적이 있지만 이렇게 강력하지는 않았죠.

실리콘밸리에선 찬반 의견이 팽팽합니다. 오픈AI는 법이 통과되면 기업이 캘리포니아를 떠날 수 있다며 반대했어요. 구글, 애플, 아마존 등이 소속된 업계 대표 단체 '챔버 오브 프로그레스(Chamber of Progress)'도 "캘리포니아 경제의 주요 부문을 억제해서는 안 된다"며 주지사가 법안을 거부할 것을 요구했죠. 과도한 규제로 기술 발전과 혁신을 억제할 것이라는 우려를 전했습니다.

반면 일론 머스크가 설립한 xAI, 오픈AI 대항마로 꼽히는 앤스로픽 등은 찬성하는 쪽입니다. 일론 머스크 테슬라 최고경영자(CEO)는 자신의 'X' 계정에 "공공의 잠재적인 위험이 되는 모든 제품과 기술을 규제하는 것"이라고 법안을 옹호했어요. AI 분야에서 후발주자인 머스크는 이전에도 AI 기술의 위험성을 경고하며 규제론자 편에 섰었죠. 안전한 AI를 내세운 앤스로픽은 공개서한을 통해 "법안은 AI의 재앙적 위험을 다루고 있다"며 "소규모 기업은 대상에서 제외되기 때문에 혁신을 저해할 수 있는 문제는 크게 줄었다"고 평가했죠.

남은 단계는 개빈 뉴섬 캘리포니아 주지사의 서명뿐. 뉴섬 주지사는 다음 달 30일까지 법안 서명 여부를 결정해야 합니다. 민감한 이슈인 만큼 그는 아직 찬반 입장을 밝히지 않고 있습니다. 법안에 서명할 경우 사실상 주요 AI 기업들이 영향권 안에 드는 만큼 파장에 이목이 쏠립니다.

최유리 기자 yrchoi@asiae.co.kr