'싸다' 싶었다면…개인정보 헌납한 겁니다[AI오답노트]

(19) 자동차 보험의 '걸음 수 할인' 이유
건강 정보 통해 다른 리스크까지 예측
'데이터는 새로운 원유'라는 이념의 위험

편집자주실패를 살펴보는 것은 성공으로 가는 지름길입니다. 'AI오답노트'는 AI와 관련한 제품과 서비스, 기업, 인물의 실패 사례를 탐구합니다.

자동차 보험료를 갱신하라는 알림을 받았습니다. 매년 하던 수준으로 보험을 설계했습니다. 안전운전 점수 할인, 블랙박스 설치 차량 할인, 이메일 고지서 할인 등 각종 할인 혜택을 챙겼습니다. 한 푼이라도 아끼려고 용을 쓰던 중, 새로운 할인 항목이 눈에 들어왔습니다. 지난해에는 할인 혜택이 없었던 항목입니다. ‘걸음 수 할인’ 이었습니다.

자동차 보험사에서 걸음 수 할인을 해주는 이유

걷는 사람의 뒷모습. 게티이미지뱅크

보자마자 ‘자동차 보험사에서 왜 걸음 수 할인을 해주지?’라는 생각이 반사적으로 튀어나왔습니다. 그러나 이내 깨달았죠. ‘아, 내 건강정보 값이구나.’

국내 몇몇 자동차 보험사들은 가입자의 걸음 수에 따라 보험료를 할인해줍니다. 자동차보험과 무관해 보이는 걸음 수 데이터 수집에는 보험사의 전략적 의도가 담겨있습니다.

먼저, 규칙적으로 운동하는 사람이 안전운전 성향이 높을 것이라는 가설을 바탕으로 운전자의 위험도를 평가하는 데 활용할 수 있습니다. 자주 걷는 사람, 자주 걸으려는 사람은 ‘건강하고자’ 하는 욕구가 높은 사람일 겁니다. 당연히 위험 회피 성향이 강하겠죠. 그렇다면 교통사고 가능성이 낮은 사람일 확률이 높겠네요. 보험사는 향후 적정 보험료 산정에 경쟁사보다 유리한 입장에 서게 됩니다.

둘째, 보험사가 받아간 저의 걸음 데이터는 향후 건강보험이나 생명보험 상품의 교차판매를 위한 기반이 됩니다. 자동차보험 상품만 판매하는 보험사는 없죠. 이들은 걸음 수와 같은 일상적인 건강 지표를 바탕으로 다양한 서비스와 상품을 추천할 수 있게 될 겁니다.

경제적 이익 외에 이미지 개선이라는 부수 효과도 누릴 수 있습니다. ‘고객님의 건강을 챙겨드리는 회사’라는 이미지죠. 결국 걸음 수 데이터 수집은 보험사의 경쟁력 향상을 위한 종합적인 전략의 일환으로 볼 수 있습니다.

디지털이 일상 깊숙이 스며들면서 우리의 각종 행위는 기록으로 남게 됐습니다. 그 기록을 ‘데이터’라 부르죠. 언제, 어디서, 무엇을, 어떻게 했는지 다 기록이 됩니다. 뭘 샀는지, 뭘 봤는지, 뭘 했는지 등 모든 게 우리 눈에 보이지 않는 서버 어딘가에 저장이 되죠. 픽사베이

‘데이터는 새로운 원유다. Data is the new oil.’

꽤 오래전부터 회자된 말이지만, 이제는 데이터를 바라보는 지배적인 관점이 되었습니다. 제 걸음 수 데이터 역시 보험사엔 원유와 같았습니다. 비록 단 한 방울도 안 되는 아주 극소량이긴 했지만요.

원유는 정제와 가공을 거쳐야 가치가 커집니다. 보험사의 걸음 수 데이터 수집과 활용은, 석유 산업에 비유할 수 있습니다. 걸음 수라는 원초적 형태의 데이터는, 생활패턴 분석과 위험도 평가를 거치면서 점차 정제됩니다. 이렇게 정제된 데이터는 새로운 보험상품 개발이나 맞춤형 서비스로 재탄생하며 높은 더 부가가치를 만들어내죠.

데이터라는 원유를 확보하기 위한 전쟁은 사실 보험산업에서만 벌어지는 일이 아닙니다. 마트, 온라인쇼핑몰, 페이스북·인스타그램, 구글 검색, 병원, 심지어 정부도 참전합니다.

모두가 데이터 확보에 혈안이 되어 있습니다. “AI 기술은 더 많은 데이터를 통해 발전하고, 이는 다시 더 나은 서비스로 이어진다”는 명분으로요. 자율주행차의 안전성을 높이고, 의료 AI의 정확도를 개선하며, 맞춤형 서비스를 제공하기 위해서는 방대한 데이터가 필요하다고 주장합니다. 개인의 일거수일투족이 수집과 분석의 대상입니다. 걸음 수, 이동 경로, 소비 패턴, SNS 활동까지, 우리의 모든 행위는 AI 발전을 위한 연료처럼 취급됩니다.

몇 년 새 개인정보 보호에 관한 공감대가 형성되고 규제도 서서히 확립되긴 했습니다. 개인정보 수집 동의를 받는 모양새도 갖춰지고 있죠. 그러나 수십 장짜리 약관 설명서에 아주 작은 글씨로, 또는 지겹게 반복되는 서명의 번잡함 속에 숨어있습니다. 기업의 이익, 국가의 이익이라는 명분 앞에서, ‘나의 데이터, 나의 개인정보’의 가치는 매우 작고 초라합니다.

데이터가 천연자원이라는 생각, 선점하면 ‘장땡’이라는 착각

석유 시추 공장의 모습. 게티이미지뱅크

그러나 ‘데이터는 새로운 원유다’라는 말을 AI혁명 시대의 절대진리처럼 전제해선 안 됩니다. 이러한 논리의 무한한 확장은 윤리와 도덕의 마비를 불러올 수 있습니다. 다음의 사례를 보시죠.

미국 콜로라도 대학교 스프링스 캠퍼스에서 벌어진 일입니다. 이 대학교의 한 교수는 캠퍼스 한가운데에 카메라를 설치했습니다. 1700여명의 학생과 교직원, 캠퍼스를 드나드는 시민들의 얼굴이 비밀리에 찍었죠. 2012년~2013년 사이에 1만장이 넘는 사진이 수집됐고, 이 자료는 오직 교수가 개발 중이던 얼굴 인식 시스템을 훈련시키기 위해 이용됐습니다.

마이크로소프트(MS)의 ‘MS-셀럽(Celeb)’ 의 사례도 있습니다. MS-셀럽은 약 1000만장의 얼굴 데이터가 수집된, 2016년 당시 세계 최대의 얼굴 인식 데이터 모음이었습니다. 어디서 수집했을까요? 유명인 10만명의 사진을 인터넷에서 무작정 긁어모은 것이었습니다. 사전 동의나 고지가 되었을 리가 없었죠.

이 데이터 모음에 포함된 유명인 일부를 알고 나면, 데이터 수집이 얼마나 ‘무분별’하게 이뤄지는지 알 수 있습니다. 평소 개인정보 보호의 중요성을 강조하고, 얼굴인식 시스템의 프라이버시 침해를 우려하던 인권운동가, 작가들의 사진마저 수집돼 있었던 겁니다. 문자 그대로, 물불 안 가리고 수집한 결과이자, 희대의 아이러니였던 셈이죠.

'데이터는 석유다'라는 말의 함의

스마트폰은 데이터가 매순간 솟아나오는 원천입니다. 픽사베이

무차별적 데이터 수집의 논리가 세상을 지배하고 있는 이 순간, 우리는 중요한 것을 놓치고 있습니다. 우리의 기록인 데이터는, 단순한 수치나 기록이 아니라는 점입니다. 개개인의 삶과 경험이 담긴 발자국입니다. 누군가의 위치 정보에는 그 사람의 여러 관계, 삶의 동선이 담겨있습니다. 소비 데이터에는 개인의 취향과 경제적 상황, 삶의 방식이 녹아있죠.

데이터는 무색무취한 추상적 개념이 아니라, 개개인의 생생한 조각들입니다. 개인의 일상이, AI 발전을 위한 인프라로, 산업의 원료로 환원될 때, 그 속에 담긴 인간적 맥락과 의미는 사라지고 맙니다.

물론 AI 혁명의 흐름을 거스를 수는 없습니다. 데이터의 중요성은 앞으로 더욱 커질 것입니다. 이것이 개인정보의 가치를 무시하거나, 개인을 기만하는 방식으로 이루어져서는 안 됩니다. 우리에게 필요한 것은 기술 발전과 인간 가치 사이의 균형이니까요. 데이터 수집과 활용의 과정에서 개인의 자율성과 프라이버시를 보호하고, 데이터에 담긴 인간적 맥락을 존중하는 새로운 패러다임을 요구할 수 있습니다.

데이터 제국주의 그리고 애플

애플은 '프라이버시'를 핵심 마케팅 요소로 활용합니다. 애플 홈페이지 캡쳐

데이터를 원유, 천연자원에 빗대는 은유는 무지막지한 데이터 수집의 흐름을 주도해왔습니다. 그러한 흐름의 반대편에 한 기업이 있습니다. 애플(Apple) 입니다.

애플은 “프라이버시는 인권이자 시민권”이라는 철학을 바탕으로, 다른 빅테크(대형 정보기술 기업)들과 차별화된 행보를 보여왔습니다. 2021년 애플은 ‘앱 추적 투명성'(App Tracking Transparency)’이란 정책을 발표했습니다. 모든 앱이 사용자 데이터를 추적하기 전, 명시적 동의를 받도록 한 것입니다. 이는 페이스북·구글 등 광고 기반 기업들의 강력한 반발을 사기도 했죠.

애플의 AI 시스템 ‘애플 인텔리전스’ 또한 타 AI 서비스와 달리 개인정보 보호를 강조합니다. 애플은 “사생활을 보장받을 권리는 모두가 누려야 할 기본적 인권인 동시에, 우리의 핵심적인 가치 중 하나”라고 소개합니다.

실제로 애플 인텔리전스는 인터넷과 연결되지 않고, 온전히 온디바이스로 실행됩니다. 기기 외부로 데이터가 이동하지 않고도 작업을 완료할 수 있죠. 자체적으로 처리할 수 없는 복잡한 연산의 경우에만 외부(비공개 클라우드 컴퓨팅)와 연결해 이용자의 요청을 처리하죠.

물론 이 과정에서도 개인정보 보호는 핵심입니다. 애플은 “전송된 데이터는 이용자의 요청을 위해서만 사용되며, 이 데이터는 절대 저장되지 않고, 그 누구도 접근할 수 없다”고 강조합니다.

‘애플은 AI 경쟁의 후발주자’라는 주장까지 나오는 상황에서, 애플의 이러한 전략은 언뜻 보면 ‘실책’으로 보이기도 합니다. 개인정보 보호는 데이터 수집 및 AI 발전과 배치되거든요. 개인정보에 치중하면, 데이터 수집에 차질이 빚어지고, 그만큼 AI 고도화도 더뎌질 가능성이 큽니다.

그럼에도 애플은 개인정보 보호를 마케팅 포인트로 삼았습니다. 이는 역설적으로, 개인정보 보호 역시 비즈니스가 될 수 있다는 점을 보여줍니다. 단기적으로는 광고 수익 등을 놓칠 수 있지만, 장기적으로는 브랜드 가치 상승과 충성 고객층 확보라는 이점을 누릴 수 있죠. 개인정보 보호 관련 규제가 갈수록 강화되는 추세 속에서, 애플의 이러한 선제적 대응은 미래 시장에서 독보적인 경쟁력을 갖는 전략일 수 있는 겁니다.

데이터는 중요하지만, 개인정보도 중요합니다. ‘데이터는 새로운 원유다’라는 주장에만 갇힐 필요는 없습니다. 이와 함께, 우리는 스스로 개인정보의 가치를 더 높게 매겨야 합니다. 우리의 개인정보는 ‘추출’을 앞둔 수동적 기록 따위가 아닙니다. 개개인의 사적 기록이자, 소유물이자, 가치입니다. 제가 걸음 수 데이터를 제공하고 자동차 보험료 할인을 받은 건, 결코 공짜가 아니었습니다. 팀 쿡 애플 최고경영자(CEO)가 2018년 언론 인터뷰에서 했던 말은 지금도 유효합니다.

“인터넷에서 어떤 제품이 무료라면, 당신은 고객이 아닙니다. 당신이 바로 제품입니다.”
(When an online service is free, you’re not the customer. You’re the product.”)

다음 연재 예고 (매주 토요일)

(20) K인공지능이 ‘국뽕’이라는 생각(03.01)
(21) 유전병에 고통받는 AI (03.08)

김동표 기자 letmein@asiae.co.kr