노경조기자
개인이 인공지능(AI) 솔루션을 개발해 이미지를 생성할 경우 'AI 기본법'이 정하는 AI 사업자로서 워터마크 표기 등의 의무를 다해야 할까.
정부는 목적성에 차이가 있다고 했다. 단순 취미나 단발성으로 이미지를 생성했다면 대상이 아니지만, 홍보·영리 목적으로 솔루션을 계속 활용하고 업데이트하면 AI 사업자에 속한다는 것이다. AI 사업자는 이용자가 이미지를 생성할 때 (비)가시적 워터마크가 표기되도록 해야 한다. 이 과정만 잘 지켜지면, 이후 AI가 만든 이미지를 웹툰 제작에 활용하는 이용자는 워터마크를 삭제해도 문제가 없다.
심지섭 과학기술정보통신부 인공지능안전신뢰정책과 사무관이 20일 AI 기본법' 관련 기자 설명회에서 발표하고 있다. 노경조 기자
심지섭 과학기술정보통신부 인공지능안전신뢰정책과 사무관은 20일 진행한 'AI 기본법' 관련 기자 설명회에서 "AI 서비스나 제품을 제공하는 행위가 있어야 AI 사업자로 본다"며 이같이 말했다.
이어 "AI 기본법은 사업자에게 필요 최소한의 의무를 부여해 안전성과 신뢰성을 제고하기 위한 것"이라며 "생성형 AI를 통해 사진, 영상 등 결과물을 추출하는 이용자들은 법 적용 대상이 아니다"고 덧붙였다.
즉 결과물을 가지고 방송에 노출하는 언론, 사회관계망서비스(SNS)나 유튜브에 올리는 크리에이터 등은 이용자로서 법적 의무가 없는 것이다. 대신 AI 사업자는 국내외를 구분하지 않고 규제 대상에 포함한다. 해외 빅테크 중 전년도 글로벌 매출액 1조원 이상, 국내 AI 서비스 매출 100억원 이상, 국내 일평균 이용자 100만명 이상 조건을 충족할 경우 국내 대리인을 지정해야 한다. 현재까지 구글, 오픈AI 두 곳이 해당한다.
고영향 AI의 판단 기준이 모호하다는 지적에는 "사람의 기본권에 중대한 영향을 주거나 위험한 업무에 활용되는 AI를 전제로 하고, 이때 사람이 개입해 컨트롤하는 경우에는 해당하지 않는다"고 설명했다.
예컨대 은행에서 대출 심사를 할 때 AI가 평가한 결과로 인해 신청자가 재산상의 피해를 볼 수 있다면 위험한 업무라고 판단한다. 하지만 은행 직원이 결과물을 참고해 최종 대출을 승인하면 최종적으로 고영향 AI에서 제외된다. 교통 분야에서는 차량이 특정 조건 내에서 운전자 개입 없이 완전히 자율적으로 주행할 수 있는 '자율주행 레벨 4 이상' 수준이 돼야 고영향 AI 규제 대상에 들어간다.
다만, 안전성 확보가 필수인 전자동 수준의 AI 시스템은 누적 연산량이 10의 26제곱 부동소수점 연산(FLOPs) 이상이어야 가능한데, 당장은 조건울 충족하는 대상이 없다. 이에 대해 김경만 인공지능정책실장은 "AI 기술 발전으로 인해 예상되는 부작용들을 예방하려는 취지"라며 "미래에 문제가 생겼을 때 사후적으로 대응하기란 쉽지 않기 때문"이라고 전했다.
AI 기본법은 오는 22일 세계 최초로 시행된다. 정부는 '산업 진흥을 위한 기반'이라고 강조하며, AI기본법 관련 기업 문의 사항에 대응할 플랫폼(AI기본법지원데스크)을 구성하고, 컨설팅 서비스를 제공하는 동시에 사례집을 마련할 계획이다. 규제 유예기간도 최소 1년 이상 둔다. 이 기간에는 인명 사고·인권 훼손 등 사회적 문제를 야기하거나 국가적 피해를 초래한 경우에만 예외적으로 사실 조사를 실시하기로 했다.
김 실장은 "(AI 기본법은) 세계 최초를 자랑하는 게 아니다. 가보지 않은 길을 가면서 규제의 명과 암 중 암을 최소화해 AI에 신뢰를 가지고 접근할 수 있도록 하려는 것"이라며 "우리 기업들이 해외 진출할 때 글로벌 기준에 부합하도록 하고, 정부가 어떤 지원을 할 수 있는지 보는 관점으로 접근하겠다"고 말했다.