PwC컨설팅 "AI 리스크, 관리방식·거버넌스 재설계해야"

韓·EU 등 국내외 규제 강화 속
'기업 AI 기본법 대응전략' 세미나

인공지능(AI) 기술 발전에 따른 윤리적·법적 리스크 우려가 커지며 각국이 규제를 강화하는 가운데, 국내 기업이 AI 리스크를 기존 리스크와 다른 차원에서 관리하고 새로운 거버넌스를 구축해야 한다는 제언이 나왔다.

문홍기 PwC 컨설팅 대표가 지난 29일 서울 용산구 아모레홀에서 열린'인공지능(AI) 기본법, 그리고 기업들의 생존을 위한 AI 리스크 대응 전략' 세미나에서 개회사를 하고 있다. 삼일PwC

PwC컨설팅은 지난 29일 서울 용산구 아모레홀에서 '인공지능(AI) 기본법, 그리고 기업들의 생존을 위한 AI 리스크 대응 전략'을 주제로 이 같은 내용의 세미나를 개최했다고 30일 밝혔다. 이번 세미나는 내년 1월 21일부터 시행 예정인 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 AI 기본법)'에 대한 이해도를 높이고, 이에 따른 대응 전략을 제시하기 위해 마련됐다. AI 기본법은 미국과 중국에 이은 'AI 3대 강국'을 목표로 제정돼 지난해 12월 국회를 통과했다. ▲국가 차원의 AI 거버넌스 구축 ▲AI 산업 육성 지원 ▲윤리 확립과 투명성 제고 등의 내용이 담겼다.

첫 번째 세션에서는 김선희 법무법인 율촌 변호사가 'AI 기본법, 법률적 이해 및 고려사항'을 주제로 AI 기본법의 주요 취지, 규제 대상, 인공지능사업자의 주요 의무, 위반 시 제재 등을 짚었다. 그는 "기업은 자사가 도입한 인공지능이 고영향, 생성형, 고성능 AI 가운데 무엇인지부터 1차적으로 판단해야 할 것"이라며 "아직 시행령이 확정되지 않았지만, 규제가 바람직한 방향으로 나아갈 수 있도록 적극적으로 의견을 제기하고 철저하게 사전 준비해야 한다"고 조언했다.

두 번째 세션에서는 박현출 리스크앤레귤러토리 플랫폼 리더가 'AI 리스크, 기업은 어떻게 바라보고 무엇을 준비해야 하는가'를 주제로 글로벌 AI 규제 동향을 소개했다. 특히 오는 8월 2일부터 전면 시행되는 유럽연합(EU) 인공지능법(AI Act)과 관련해 향후 글로벌 AI 규제 방향에 큰 영향을 끼칠 것으로 전망했다.

박 리더는 규제에 선제 대응해 AI 리스크를 관리한 기업 사례로 영국 스탠다드차타드, 로이즈뱅킹그룹, 독일 지멘스, 영국의 소프트웨어 업체 세이지 등을 언급했다. 이어 ▲조직적 거버넌스 재수립 ▲설계 개발, 배포, 운영, 적용 및 폐기 등 새로운 AI 라이프사이클에 따른 운영 모델 확립 ▲현장의 AI 관련 모니터링 및 피드백 체계 운영 등 AI 리스크 관리 핵심 원칙 세 가지를 제시했다. 박 리더는 "AI 리스크는 기존의 기업 리스크와는 전혀 다른 범주로 다뤄야 한다"며 "AI를 통해 단순히 효율을 개선하는 것이 아닌, 리스크 관리 방식과 의사결정 패러다임을 재설계해야 한다"고 강조했다.

세 번째 세션에서는 윤여현·이성호 리스크앤레귤러토리 플랫폼 파트너가 'AI 리스크, 통제와 보안 관점의 접근 방안'을 공유했다. 먼저 윤 파트너는 '내부통제 관점에서 AI 리스크'를 주제로 데이터, 모델, 운영, 윤리적 리스크에 대한 각각의 대응 사례를 설명했다. 그는 "기업은 AI 보안이나 지적재산권(IP) 침해 가능성을 큰 위협 요인으로 보고 있지만, 사람마다 AI 리스크에 대한 인식이 다르고 전문성과 역량이 불충분한 점이 가장 큰 리스크가 될 수 있다"며 "어설픈 개입보다 전문성을 가진 관여와 모니터링이 필요하다"고 말했다.

이어 이 파트너는 '보안 관점에서 AI 리스크'를 주제로 AI 공격에 따른 비정상 동작, 판단·응답 오류, 개인정보 유출 등의 영향과 AI 구성 요소에 따른 공격 유형을 상세히 설명했다. 그는 이런 공격에 대비해 테스팅 시나리오를 정의하고 AI 테스팅을 수행해 취약점을 분석하고 조치를 취하는 'AI 레드팀'의 개념을 언급했다. 또한 악의적인 공격에 대한 안전한 응답을 제공하는 'AI 가드'를 국내 최초로 구축해 일부 기업에 적용한 사례를 소개했다.

문홍기 PwC 컨설팅 대표는 "기업은 단순한 기술 도입을 넘어 AI 전반에 걸친 거버넌스 체계를 수립하고 사전 리스크 대응 전략을 마련해야 한다"며 "이번 세미나가 규제를 둘러싼 여러 이해관계자의 목소리를 수렴할 수 있는 기회가 되길 바란다"고 말했다.

한편 삼일PwC와 PwC컨설팅의 전문가로 구성된 리스크앤레귤러토리 플랫폼은 기업을 대상으로 기술 발전에 따른 윤리적, 법적 리스크 및 보안 관련 컨설팅을 수행하고 있다.

권현지 기자 hjk@asiae.co.kr