오픈AI "'프라이버시 필터' 오픈소스 공개…AI 면책 특권 필요"

제이슨 권 오픈AI CSO, 17일 GPA 기조연설
사생활 보호 위한 기술적, 법적 장치 필요성 밝혀
인간 역량 강화, 민주적 경제 성장 기여 뜻 드러내

챗GPT 개발사 오픈AI의 고위급 임원은 "인공지능(AI)과 인간 간의 대화에 대해 보호 조치를 강화하는 'AI 면책 특권'이 필요하다"고 밝혔다. 의사와 환자, 변호사와 의뢰인이 나누는 대화가 비밀 유지 의무로 보호받는 것처럼, 인간과 AI 간의 대화도 법적으로 보호해야 한다는 주장이다.

제이슨 권 오픈AI 최고전략책임자(CSO) 연합뉴스

제이슨 권 오픈AI 최고전략책임자(CSO)는 17일 그랜드 하얏트 서울에서 열린 글로벌 프라이버시 총회(GPA) 기조연설에서 "점점 더 많은 사람이 AI와 개인적인 대화를 나누고 있다. 복잡한 결정을 고민하고, 어려움을 공유하며, 조언을 구하고 있다"면서 이같이 말했다.

다만 그는 "우리의 법적 체계는 이러한 상황을 반영하지 못하고 있다"면서 "우리는 AI 시대에 맞는 법과 기준을 새롭게 정립해야 한다. 사용자의 AI 대화가 소송이나 광범위한 정부 감시에 쉽게 노출되지 않도록 해야 한다"고 했다.

그러면서 "AI 면책특권이란 AI와 인간 간의 대화에 대해 보호 조치를 어떻게 강화할 것인가에 대한 새로운 기준을 제시하는 것"이라고 설명했다.

아울러 권 CSO는 이날 자사의 '프라이버시 필터' 오픈소스 공개도 예고했다. 프라이버시 필터는 AI 모델 학습 과정에서 개인정보의 처리를 줄이기 위해 오픈AI 내부적으로 사용하던 AI 도구다.

그는 "오픈AI 개발자들이 기존 시장에 있던 것보다 더 나은 솔루션을 만들 수 있다고 믿었기에 개발됐고, 실제로 그들은 성공했다"며 "프라이버시 필터는 현재 상업적으로 제공되는 어떤 도구보다도 개인 데이터 감소 측면에서 더 높은 점수를 기록한다"고 자부했다.

그는 "전 세계 개발자들이 이를 기반으로 구축하고 프라이버시 기준을 글로벌하게 높일 수 있도록 하기 위해 내년부터 개발자 커뮤니티에 제공될 예정"이라며 "피드백을 반영해 더욱 개선해 나갈 것"이라고 밝혔다.

연합뉴스

이날 권 CSO는 AI 기술이 인간의 역량을 강화할 뿐만 아니라 고른 경제 성장에 기여할 것으로 전망했다. 그는 "AI 에이전트는 인간의 능력을 강화하고, 개별 인간으로서 삶에 집중할 수 있도록 돕고 있다"면서 "사람들이 AI 에이전트가 정보를 보호한다는 신뢰를 가져야 하고, 프라이버시는 그 신뢰의 핵심"이라고 했다.

그는 "오픈AI는 사용자에게 통제권을 부여하고, 데이터를 보호하며, 보안과 책임성을 기반부터 설계하는 에이전트를 만드는 것을 목표로 하고 있다"고 덧붙였다.

이어 "AI는 이미 경제 성장에 기여하고 있으며, 연간 국내총생산(GDP)을 0.2~2%포인트 증가시킬 것으로 예측된다"며 "제약, 과학 연구, 기후 등 핵심 분야에서 AI가 지닌 변혁적 잠재력이 존재한다"고 했다.

권 CSO는 최근 서울대와 업무협약(MOU)을 체결하고 국내 최초 AI 네이티브 캠퍼스를 구축하기 위한 협력을 시작했다는 소식을 전하며, "우리는 정부와 기관들이 민주 사회에 도움이 되는 방식으로 AI 도구를 채택하는 모습을 보고 있다"고 했다.

그는 "AI는 정부가 국민을 더 잘 섬기면서도 투명성과 데이터 보호라는 가치를 지킬 수 있도록 돕는 도구가 될 수 있다"며 "우리는 더 많은 규제 기관과 정책 입안자들이 AI 기술을 활용해 시민들에게 효율적이고 유용한 서비스를 제공하길 바란다"고 말했다.

끝으로 한국계 미국인인 권 CSO는 개인사와 민주주의의 가치를 언급하며 오픈AI가 인권을 보호하고 건강한 사회를 만드는 데 기여하겠다는 의지를 밝혔다.

그는 "서울은 제 가족의 고향이다. 그들은 군사 독재 아래에서 자라며 살아갔다. 이들의 정신과 헌신 덕분에 나는 민주주의 속에서 태어났다"며 "민주주의는 번영하며 시민들을 이 시대까지 이끌었다"고 했다.

이어 "오픈AI는 이러한 권리를 존중하는 기술을 구축하는 데 헌신하고 있다"며 "우리의 책임이자 기회는 AI가 사람들을 더 강하게 만들고, 권리를 보호하며, 사회를 더욱 튼튼하게 만드는 방식으로 작동하도록 하는 것"이라는 말로 맺음했다.

김보경 기자 bkly477@asiae.co.kr