美캘리포니아주, AI 규제법안에 거부권…한시름 놓은 빅테크

투자금 1억달러 이상 대형모델에 치중 지적

첨단 기술 개발의 중심지인 미국 캘리포니아주가 인공지능(AI) 규제 법안에 제동을 걸었다.

개빈 뉴섬 캘리포니아주 주지사는 29일(현지시간) AI 개발 업체의 책임을 강화하는 규제법안 'SB 1047'에 대해 거부권을 행사했다고 밝혔다. 이는 주 의회가 해당 법안을 통과시킨 지 한 달여만으로, 서명 시한을 하루 앞두고 거부권이 행사됐다.

[이미지출처=EPA연합뉴스]

앞서 민주당 스콧 위너 주 상원의원은 "AI가 통제할 수 없게 되기 전에 대중을 보호하기 위한 법률을 만들 필요가 있다"며 최소 1억달러(약 1300억원) 이상 투입된 대형언어모델(LLM)을 대상으로 안정성 테스트 의무화와 통제를 벗어난 AI를 강제 종료하는 '킬 스위치'를 도입하는 법안을 발의했다. 회사가 규정을 지키지 않을 경우 주 법무부 장관이 소송을 제기할 수 있도록 하는 조항도 담았다.

그러나 이날 뉴섬 주지사는 "(법안의) 규제가 가장 크고 비싼 AI 모델에만 치중돼 있다"며 "AI 모델의 크기와 비용만을 기준으로 규제하려 했을 뿐 실제 그 모델이 위험한 상황에 사용되는지 여부를 고려하지 않았다"고 거부권 행사의 이유를 밝혔다. 작은 AI 모델들도 전력망이나 의료 기록과 같은 민감한 데이터를 다루는 위험한 상황을 초래할 수 있으며, 대형 모델들이 오히려 고객 서비스와 같은 비교적 위험이 낮은 작업에 사용되기도 한다는 지적이다.

뉴섬 주지사는 생성형 AI가 캘리포니아 내 주요 인프라에 미칠 잠재적 위협을 조사하도록 주 정부에 요구하는 한편 'AI계 대모'로 불리는 페이페이 리 스탠퍼드대 교수 주도로 주요 AI 모델의 위험성과 역량 분석을 실시할 계획이라고 발표했다.

뉴섬 주지사의 거부권 행사로 빅테크(대형 정보기술 기업)들은 한시름 놓을 수 있게 됐다. 구글, 메타플랫폼, 마이크로소프트(MS), 오픈AI 등은 해당 법안이 안전이라는 미명하에 모호한 기준을 부과하려 한다며 반발해왔다. 많은 중소기업도 해당 법안 때문에 빅테크들이 AI 모델을 대중에 개방하는 것을 꺼려, 혁신을 저해하고 스타트업 생태계를 파괴할 수 있다고 우려를 해온 것으로 전해졌다.

한편 뉴섬 주지사는 지난 28일 사람들의 두뇌 정보가 신경 기술 회사에 의해 오남용되지 않도록 하는 내용의 개인정보 보호법 개정안에 서명해 공포했다. 최근 명상이나 집중력 향상, 우울증 해결 등을 위한 기기 개발이 가속하면서 개인의 두뇌 정보가 오용될 가능성을 우려한 것이다. 해당 법에 따라 개인은 기업이 수집하는 자신의 신경 관련 데이터의 삭제, 수정 등을 요구할 수 있게 된다.

김진영 기자 camp@asiae.co.kr